-
【丹摩智算实战】手把手教你Llama 3.1 8B部署：开启自然语言处理新篇章
前言 在自然语言处理（NLP）领域，大模型（LLM）的发展日新月异，为各种应用场景带来了前所未有的能力。近日，Meta公司宣布推出了其最新的开源模型——Llama 3.1，这一消息在行业内引起了广泛关注。本文将详细介绍Llama 3.1的背景、特点、部...
-
AI一键批量生成各类短视频,自动批量混剪短视频,自动把视频发布到抖音,快手,小红书,视频号上,赚钱从来没有这么容易过! 支持本地语音模型chatTTS,fasterwhisper,支持云语音
最近MoneyPrinterPlus比较火，可以自动生成视频，剪辑视频，而且还可以直接上传到多媒体平台上！！！ 赶紧自己动手实操一下吧。 1、首先安装好需要的环境。 Python 3.10+，安装地址：直接跳转到下载页面 ffmpeg 6.0+，123网盘...
-
丹摩智算平台部署 Llama 3.1：实践与体验
文章目录 前言 部署前的准备 创建实例 部署与配置 Llama 3.1 使用心得 总结 前言 在最近的开发工作中，我有机会体验了丹摩智算平台，部署并使用了 Llama 3.1 模型。在人工智能和大模型领域，Meta 推出的 Lla...
-
探索Llama 3.1：开源模型的本地部署与创新应用实践
文章目录 1 Llama 3.1模型的突破性进展 2 Llama 3.1模型在业务场景中的实践案例 3 使用教程 4 Llama 3.1在客户服务中的运用 1 Llama 3.1模型的突破性进展 在数字化转型的浪潮中，大型语言模型...
-
Whisper-CPP：CPU-AI语音识别的天才，CosyVoice - 阿里最新开源语音克隆、文本转语音项目 一键整合包下载，GPT-4o实时语音方案Livekit开源voice agent音视频
Whisper-CPP：CPU-AI语音识别的天才，CosyVoice - 阿里最新开源语音克隆、文本转语音项目 一键整合包下载，GPT-4o实时语音方案Livekit开源voice agent音视频。 使用Streamlit和wheaster.CP...
-
使用本地 LLM 构建 Llama 3.1 8b Streamlit 聊天应用程序：使用 Ollama 的分
介绍 大型语言模型（LLMs）彻底改变了人工智能领域，提供了令人印象深刻的语言理解和生成能力。 本文将指导您构建一个使用本地LLM的Streamlit聊天应用程序，特别是来自Meta的Llama 3.1 8b模型，通过Ollama库进行集成。...
-
从零到一，打造顶尖RAG应用！揭秘RAG技术构建全流程！
通过本文你可以了解到： 什么是RAG？ 如何搭建一个RAG应用？ 目前开源的RAG应用有哪些？ RAG简介 检索增强生成（Retrieval Augmented Generation，RAG）是一种强大的工具，整合了从庞大知识库中检索到...
-
本地化LLM应用：Local_Llama——离线文档聊天的未来
本地化LLM应用：Local_Llama——离线文档聊天的未来 local_llama This repo is to showcase how you can run a model locally and offline, free of Op...
-
在AutoDL平台上运行Meta-Llama-3-8B-Instruct模型
一、背景介绍 1. AutoDL平台（AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL）：算力平台，类似阿里云，它主要提供GPU算力。通常按小时收费，显卡（RTX 3090 - 24GB显存）+ CPU（14核）+ 内存（45GB）的配...
-
使用 Llama-Agents、Qdrant 和 Kafka 进行高级实时 RAG
简介 在当今数据驱动的世界中，实时处理和检索信息的能力至关重要。本文深入探讨了使用Llama-Agents、Qdrant 和 Kafka 的高级实时检索增强生成 (RAG 。通过集成这些强大的工具，我们创建了一个可以有效管理数据提取、处理和检索的代理系...
-
【实战】Llama3.1-部署与使用
大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。 百模大战正值火热，开源 LLM 层出不穷。如今国内外已经涌现了众多优秀...
-
利用Streamlit前端框架开发Stable Diffusion模型图像生成网页应用（下篇）
今天介绍亚马逊云科技推出的国际前沿人工智能模型平台Amazon Bedrock上的Stability Diffusion模型开发生成式AI图像生成应用！本系列共有3篇，在上篇中我们学习了如何在亚马逊云科技控制台上体验该模型的每个特色功能，如文生图、图生图、...
-
【技术前沿】Flux.1部署教程入门--Stable Diffusion团队最前沿、免费的开源AI图像生成器
项目简介 FLUX.1 是一种新的开源图像生成模型。它由 Stable Diffusion 背后的团队 Black Forest Labs 开发。 官网中有以下功能开源供大家参考： FLUX.1 擅长在图像中准确再现文字，因此非常适合需要清晰文字或...
-
Whisper-TikTok 使用指南
Whisper-TikTok 使用指南 Whisper-TikTokFrom AI tools to TikTok video creation using FFMPEG, Microsoft Edge read aloud and OpenAI Wh...
-
16 使用Llama Index提取术语和定义的指南
使用Llama Index提取术语和定义的指南 Llama Index有许多用例（如语义搜索、总结等），这些用例都有很好的文档记录。然而，这并不意味着我们不能将Llama Index应用于非常特定的用例！ 在本教程中，我们将介绍使用Llama Ind...
-
在亚马逊云科技上部署Llama大模型并开发负责任的AI生活智能助手
项目简介： 小李哥将继续每天介绍一个基于亚马逊云科技AWS云计算平台的全球前沿AI技术解决方案，帮助大家快速了解国际上最热门的云计算平台亚马逊云科技AWS AI最佳实践，并应用到自己的日常工作里。 本次介绍的是如何在亚马逊云科技上利用SageMaker...
-
LangChain +Streamlit+ Llama ：将对话式人工智能引入您的本地设备成为可能（上篇）
?️ LangChain +Streamlit?+ Llama ?：将对话式人工智能引入您的本地设备? 将开源LLMs和LangChain集成以进行免费生成式问答（不需要API密钥） 在过去的几个月中，大型语言模型(LLMs 得到了广...
-
本地部署私人知识库的大模型！Llama 3 + RAG！
在今天的的教程中，我们将打造更加个性化的大模型，可以定制搭载私人知识库的本地大模型！ 我们探讨Meta AI 的尖端 Llama 3 语言模型构建强大的检索增强生成 （RAG） 来实现。通过利用 Llama 3 和 RAG 技术的功能，我们将创建一个应用...
-
本地运行 Llama 3.1 模型：综合指南,使用 Llama 3.1 Ollama 和 LM Studio构建应用程序(教程含程序)
简介 Llama 3.1 是 Meta 大型语言模型系列的最新版本，它已席卷 AI 界。凭借其出色的性能和开源特性，许多人都渴望在本地机器上利用其强大功能。本指南将引导您使用 Ollama 和 LM Studio 等流行工具在本地运行 Llama 3....
-
AI多模态实战教程：面壁智能MiniCPM-V多模态大模型问答交互、llama.cpp模型量化和推理
一、项目简介 MiniCPM-V 系列是专为视觉-语⾔理解设计的多模态⼤型语⾔模型（MLLMs），提供⾼质量的⽂本输出，已发布4个版本。 1.1 主要模型及特性 （1）MiniCPM-Llama3-V 2.5： 参数规模: 8B 性能: 超越...
-
手把手教你在autodl上部署llama模型
文章目录 一、注册AutoDL账号、租用GPU 二、创建conda环境 三、下载llama模型 四、启动模型 一、注册AutoDL账号、租用GPU 进入 AutoDL官网链接 注册账号，需要先充点钱，如下创建新实例。 随便选...
-
基于Llama Index构建RAG应用(Datawhale AI 夏令营)
前言 Hello，大家好，我是GISer Liu?，一名热爱AI技术的GIS开发者，本文参与活动是2024 DataWhale AI夏令营；? 在本文中作者将通过： Gradio、Streamlit和LlamaIndex介绍 Ll...
-
本地私有化部署开源大模型完整教程：LangChain + Streamlit+ Llama 【LLM大模型】
在过去的几个月里，大型语言模型(llm 获得了极大的关注，这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。 大型语言模型(llm 是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使...
-
Llama 3 超级课堂 作业
1.web demo部署 环境配置 conda create -n llama3 python=3.10 conda activate llama3 conda install pytorch==2.1.2 torchvision==0.16.2...
-
超简单！用AWS的Bedrock对Llama进行微调
哎，微调？听起来超难的！ 对吧。不过，用Amazon Bedrock的话，其实挺简单的。 Customize models in Amazon Bedrock with your own data using fine-tuning and conti...
-
在Windows下搭建Stable Diffusion环境中途出错咋弄？
在Windows下搭建Stable Diffusion环境需要以下几个步骤： 安装Git和Anaconda 首先，确保你的计算机上已经安装了Git和Anaconda。如果没有安装，可以分别访问官方网站进行下载和安装： Git: https://git...
-
LLM记录：五一 Llama 3 超级课堂
LLM记录：五一 Llama 3 超级课堂 想玩大模型，自己又没那个环境，参加五一 Llama 3 超级课堂，简单记录一下llama3-8b的相关体验，实在是邀请不到人，还好后面开放了24G显存，好歹模型能跑起来了，只能说感谢大佬！ Llama 3...
-
diffusers flask streamlit或gradio 简洁可视化AIGC文生图页面
参考： https://python-bloggers.com/2022/12/stable-diffusion-application-with-streamlit/ https://github.com/LowinLi/stable-diffusion...
-
照片特定风格变换Stylar AI；GPT-4V开源替代方案InternVL；纯C/C++实现的Stable Diffusion库；基于AI的数据爬取
✨ 1: AI Photo Filter Stylar AI是一款功能强大的AI图像编辑与设计工具，提供无与伦比的图片组合和风格控制。 AI Photo Filter，简言之，就是使用人工智能技术来改善或改变图片的风格、质量和元素组合的一种...
-
Llama 3 五一超级课堂中实践llama3的部署，微调，量化优化部署学习总结：第一部分llama3部署
本次学习分享基于Llama3-Tutorial（Llama 3 超级课堂）分享，git地址如下 GitHub - SmartFlowAI/Llama3-Tutorial: Llama3-Tutorial（XTuner、LMDeploy、OpenCompa...
-
Llama 3 Agent 能力体验+微调
Llama 3 Agent 能力体验+微调（Lagent 版） 微调过程 本次实验基于AutoDL平台使用A40显卡做的实验，使用 XTuner 在 Agent-FLAN 数据集上微调 Llama3-8B-Instruct，以让 Llama3-8B...
-
【LLama】Llama3 的本地部署与lora微调(基于xturn)
系列课程代码+文档（前2节课可跳过）：https://github.com/SmartFlowAI/Llama3-Tutorial 课程视频：https://space.bilibili.com/3546636263360696/channel/serie...
-
GPT-4o：实现跨越文本与视觉的智能交互 原创
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 摘要 OpenAI最新发布的GPT-4o模型及其在多模态处理上的卓越能力，标志着人机交互迈向新的高度。GPT-4o能够处理文本、音频、...
-
如何利用OpenAI、NATS和Streamlight彻底改变实时警报
本文将介绍如何使用Streamlight、NATS和OpenAI这些非常酷的工具，在Python中构建一个全栈事件驱动的天气警报聊天应用程序。该应用程序可以实时收集天气信息，使用人工智能了解警报标准，并将这些警报发送到用户界面。 这段内容和代码示例对于那...
-
用云服务器构建gpt和stable-diffusion大模型
用云服务器构建gpt和stable-diffusion大模型 一、前置知识 二、用云端属于自己的聊天chatGLM3 step1、项目配置 step2、环境配置 1、前置知识 2、环境配置流程 step3、创建镜像 1、前置知识 2、创...
-
大模型学习笔记（一）：部署ChatGLM模型以及stable-diffusion模型
大模型学习笔记（一）：部署ChatGLM模型以及stable-diffusion模型 注册算力平台（驱动云平台） 1.平台注册 2.查看算力 3.进入平台中心 部署ChatGLM3-6B模型 1.创建项目 2.配置环境 设置镜像源、克隆...
-
使用LlamaIndex和ChatGPT的无代码检索增强生成（RAG）
检索增强生成(RAG 是使用大型语言模型(LLM 的关键工具。RAG使LLM能够将外部文档合并到它们的响应中，从而更紧密地与用户需求保持一致。这个功能在传统上使用LLM犹豫不决的领域尤其有益，尤其是在事实很重要的时候。 自从ChatGPT和类似的LLM推...
-
元壤教育“AIGC大模型应用开发工程师”课纲，学习这套课程就够了
元壤教育（公众号ID：yuanrang_edu）：专注于AIGC大模型应用开发工程师和AIGC+数字人全栈运营师就业培训，帮助3000万大学生和职业人士构建AIGC新职场的高速公路。 人工智能是新电力。正如大约 100 年前电力改变了许多行业一...
-
AIGC｜LangChain新手入门指南，5分钟速读版！
如果你用大语言模型来构建AI应用，那你一定不可能绕过LangChain,LangChain是现在最热门的AI应用框架之一，去年年底才刚刚发布，它在github上已经有了4.6万颗星的点赞了，在github社区上，每天都有众多大佬，用它创造一些很新很酷的应用...
-
如何使用OpenAI的whisper
文章目录 一、安装ffmpeg 二、安装torch等相关组件 三、安装Whisper 四、下载模型 五、测试效果 六、cpu与gpu解码的耗时对比 参考文献 一、安装ffmpeg yum localinstall --nogpgc...
-
如何使用单个指令微调GPT-3.5或Llama 2
由于在各种任务中的通用性，像ChatGPT和Llama 2这样的大型语言模型(LLM 广受欢迎。然而，有些应用程序需要使用自定义数据对这些模型进行微调，以获得更好的性能。 不幸的是，针对特定应用程序对大型语言模型(LLM 进行微调通常是复杂和令人沮丧的...
-
技术融合下的虚拟角色创建与实践
作者 | 崔皓 审校 | 重楼 摘要 文章详细介绍了百川大模型在创建个性化虚拟角色方面的创新技术和应用。这项技术结合了LangChain和Qianfan微调的Llama2-Chinese大模型，提供了高度个性化的角色定制功能。 作者通过实际体验和技术模...
-
Windows使用Stable Diffusion时遇到的各种问题和知识点整理（更新中...）
Stable Diffusion安装完成后，在使用过程中会出现卡死、文件不存在等问题，在本文中将把遇到的问题陆续记录下来，有兴趣的朋友可以参考。 安装及其问题解决参考：《Windows安装Stable Diffusion WebUI及问题解决记录》；...
-
AIGC：【LLM（七）】——Baichuan2：真开源可商用的中文大模型
文章目录 一.模型介绍 二.模型部署 2.1 CPU部署 2.2 GPU部署 三.模型推理 3.1 Chat 模型推理 3.2 Base 模型推理 四.模型量化 4.1 量化方法 4.2 在线量化 4.3 离线量化 4.4 量化效果...
-
LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用)的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embe
LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用 的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embedding模型m3e等+多种TextSplitter分词...
-
构建优秀LLM应用的四大要点，你找到哪点？
这些建议可提高LLM应用的准确率，还包含如何选择合适LLM的注意事项。 译自4 Key Tips for Building Better LLM-Powered Apps，作者 Adrien Treuille 是 Snowflake 的产品管理总监和 S...
-
检测脸部情绪有多难？10行代码就可以搞定！
面部表情展示人类内心的情感。它们帮助我们识别一个人是愤怒、悲伤、快乐还是正常。医学研究人员也使用面部情绪来检测和了解一个人的心理健康。 人工智能在识别一个人的情绪方面可以发挥很大的作用。在卷积神经网络的帮助下，我们可以根据一个人的图像或实时视频来识别他...
-
Stable diffusion环境部署搭建
1、安装Nvidia驱动、cuda版本等 略 2、安装anaconda环境 略 3、安装git #git工具的安装参考下面命令 apt-get update -y a pt-get upgrade -y apt install git 4、...
-
苹果M1芯片上运行Stable Diffusion(文字作画)
1 源码下载 git clone -b apple-silicon-mps-support https://github.com/bfirsh/stable-diffusion.git cd stable-diffusion 2 修改gitee国内...
-
构建更好的基于LLM的应用程序的四大秘诀
作者 | Adrien Treuille 译者 | 布加迪 审校 | 重楼 出品 | 51CTO技术栈（微信号：blog51cto） 自从OpenAI发布首个ChatGPT模型以来，人们对生成式AI的兴趣激增。基于大语言模型（LLM）的应用程序现处于企业...