-
【AIGC】本地部署 ollama(gguf) 与项目整合
首先,先跟各位小伙伴说一句 Sorry 。上一篇文章《【AIGC】本地部署通义千问 1.5 (PyTorch 》并没有考虑企业成本问题,虽然代码可以跑通,但是中小型企业想通过该代码实现项目落地还是比较困难的。为此,本文将采用 GGUF 预量化大模型结合 O...
-
原来这才是生成式AI!
随着ChatGPT、文心一言等AI产品的火爆,生成式AI已经成为了大家茶余饭后热议的话题。 可是,为什么要在AI前面加上“生成式”这三个字呢? 难道还有别的AI吗? 且听文档君慢慢道来~ 1.生成式AI究竟是个啥? 如果将人工智能按照用途进行简单分类的话...
-
AI日报:SD 3宣布开源;中文语音AI天花板ChatTTS官网上线;Veo支持单图生成视频;ElevenLabs推多样化AI音频模型
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、抖音:将打击使用AI技术P图侮...
-
沙特阿美投资中国AI初创企业智谱AI 估值达30亿美元
据国外媒体报道,沙特阿拉伯国有石油集团沙特阿美的风险投资部门Prosperity7近日参与了中国生成式人工智能初创企业智谱AI的新一轮融资,投资金额约为4亿美元,使得智谱AI的估值达到了约30亿美元。 图源备注:图片由AI生成,图片授权服务商Midjou...
-
OpenAI声称挫败了俄罗斯、以色列等国的“舆论黑客”
近日,因安全团队核心人员离职而深陷信任危机的OpenAI发布了最新的安全报告,宣称在过去三个月中挫败了五个利用ChatGPT操控舆论的黑客组织APT行动(舆论黑客)。 OpenAI将操控舆论的影响力活动(IO)定义为“试图以欺骗的方式操纵舆论或影响政治...
-
AIGC | AI提示词构建
文章目录 📚BARD提示词构建法 🐇前言 🐇第一步:阐述背景Background 🐇第二步:定义目标Aim 🐇第三步:设定角色Role 🐇第四步:设置要求Demand 📚测试与迭代思路 本文提到的BARD方法来自艾文公开...
-
生成式人工智能(AIGC),到底对企业、对商业有何影响,我们个体未来如何把握发展机会?
一、中国生成式人工智能行业整体发展现状 中国生成式人工智能行业进入爆发式增长阶段,2023年以来各类入局企业近500家,整体产业热度上呈现出“应用层 > 模型层 > 数据层 > 算力层”的发展轨迹。其中,应用层直面下游用户,有望...
-
英伟达新研究:上下文长度虚标严重,32K性能合格的都不多
无情戳穿“长上下文”大模型的虚标现象—— 英伟达新研究发现,包括GPT-4在内的10个大模型,生成达到128k甚至1M上下文长度的都有。 但一番考验下来,在新指标“有效上下文”上缩水严重,能达到32K的都不多。 新基准名为RULER,包含检索、多跳追踪、...
-
一上线就爆火出圈!中文语音AI天花板ChatTTS官网上线
还记得之前给大家推荐的中文语音AI天花板ChatTTS吗?这个可平替 GPT-4o的文本转语音项目一上线就爆火出圈,短短几天就在GitHub上斩获了16.9K的Star 量。 而现在,ChatTTS正式上线了官网,所有用户都可以直接在线体验了。 主要功能...
-
知识图谱检索增强的GraphRAG(基于Neo4j代码实现)
图检索增强生成(Graph RAG)正逐渐流行起来,成为传统向量搜索方法的有力补充。这种方法利用图数据库的结构化特性,将数据以节点和关系的形式组织起来,从而增强检索信息的深度和上下文关联性。图在表示和存储多样化且相互关联的信息方面具有天然优势,能够轻松捕...
-
基于llama.cpp的GGUF量化与基于llama-cpp-python的部署
前言:笔者在做GGUF量化和后续部署的过程中踩到了一些坑,这里记录一下。 1.量化 项目地址:llama.cpp 1.1 环境搭建 笔者之前构建了一个用于实施大模型相关任务的docker镜像,这次依然是在这个镜像的基础上完成的,这里给出Dock...
-
llama_factory微调QWen1.5
GitHub - hiyouga/LLaMA-Factory: Unify Efficient Fine-Tuning of 100+ LLMsUnify Efficient Fine-Tuning of 100+ LLMs. Contribute to...
-
使用LLaMA Factory来训练智谱ChatGLM3-6B模型
使用LLaMA Factory来训练智谱ChatGLM3-6B模型时,以下是一个训练过程: 1. 环境搭建 a. 安装Python和Anaconda 下载并安装适合你操作系统的Python版本(推荐Python 3.10或更高版本)。 安装Anac...
-
一键部署!QQ AI 聊天机器人!支持ChatGPT、文心一言、讯飞星火、Bing、Bard、ChatGLM、POE,多账号,人设调教
随着人工智能技术的不断发展,智能聊天机器人已经成为我们日常生活中不可或缺的一部分。ChatGPT作为一款强大的人工智能聊天模型,能够为我们提供高效、便捷的聊天体验。那么,如何将ChatGPT接入QQ,实现智能聊天新体验呢?本文将为你详细介绍。无需太多的要求...
-
基于Wechaty实现微信接入文心一言
引言与效果 上篇文章写了怎么用Wechaty接入ChatGPT,这篇写一下怎么接入文心一言的模型。国内的模型用起来会更方便一些,而且也不用科学上网。最终实现效果如下: Wechaty机器人介绍与部署 在上一篇中已详细展开说,这一篇就不再说明...
-
【独家】万字长文带你梳理Llama开源家族:从Llama-1到Llama-3
Datawhale干货 作者:张帆,陈安东,Datawhale成员 引言 在AI领域,大模型的发展正以前所未有的速度推进技术的边界。 北京时间4月19日凌晨,Meta在官网上官宣了Llama-3,作为继Llama-1、Llama-...
-
GitHub Copilot 简单使用
因为公司安全原因,并不允许在工作中使用GitHub Copilot,所以,一直没怎么使用。最近因为有一些其它任务,所以,试用了一下,感觉还是很不错的。(主要是C++和Python编程) 一:常用功能 1.1:代码的智能提示和代码补全。 也就是Copi...
-
快速评测已有的中文llama-3开源模型(4月25日更新)
Llama-3刚出来不到一周,就有一些中文微调模型了。 我快速的对这些模型进行了基准测试,时间仓促,没有办法面面俱到,仅供参考。 中文评测数据集选择的是C-Eval(valid),英文选择的是MMLU(valid),评测指标是准确率, 越高越好。 中...
-
浅说文心一言
文心一言(ERNIE Bot)是一个基于Transformer结构的知识增强大语言模型,它可以根据用户的指令和输入,生成相应的回答或文本。以下是一些常见的指令示例,你可以根据需要进行调整: 问答指令: "请问什么是文心一言?" "文心一言和C...
-
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流
Llama 3 Web Demo 部署 && XTuner 小助手认知微调 && LMDeploy 部署 Llama 3 模型 && 五一作业 && 机智流 1、 Llama 3...
-
llama-factory学习个人记录
框架、模型、数据集准备 1.llama-factory部署 # 克隆仓库 git clone https://github.com/hiyouga/LLaMA-Factory.git # 创建虚拟环境 conda create --name llama...
-
【AIGC调研系列】Dify平台是什么
Dify平台是一个专为大型语言模型(LLM)开发和运营设计的LLMOps(Large Language Model Operations)平台。它旨在简化AI应用的创建、部署和管理过程,使开发者能够更快速、更轻松地构建和运营基于GPT等模型的AI应用。...
-
欢迎 Llama 3:Meta 的新一代开源大语言模型
介绍 Meta 公司的 Llama 3 是开放获取的 Llama 系列的最新版本,现已在 Hugging Face 平台发布。看到 Meta 持续致力于开放 AI 领域的发展令人振奋,我们也非常高兴地全力支持此次发布,并实现了与 Hugging Fac...
-
微信公众号来到AI推荐时代
作为有能力打通整个腾讯内容生态的大模型产品,腾讯元宝的低调出手,已然在行业内引起广泛关注。 5月30日,腾讯混元大模型首个App“腾讯元宝”正式上线,定位为面向C端用户的全能AI助手,目前已登陆各大主流官方应用商店,网页端和小程序端也可以同步体验。 腾讯...
-
百度文心一言api Python调用ERNIE-Lite-8K-0922具体教程
ERNIE Lite是百度自研的轻量级大语言模型,兼顾优异的模型效果与推理性能,适合低算力AI加速卡推理使用。ERNIE-Lite-8K-0922(原ERNIE-Bot-turbo-0922)是模型的一个模版,本文介绍了相关API及应用。 创建chat...
-
一键 input 苹果 OpenELM,零门槛 Llama 3 教程,40+ 优质模型/数据集/教程,建议收藏!...
现在 AI 行业什么最火? 「大模型」一定仍然排在前三甲的位置。 自从 2022 年底 ChatGPT 面世以来,大模型在各行各业已经带来了太多的惊喜,应用场景愈发丰富,同时也带动了相关底层技术的普及与普适化。尤其是在开源模型繁荣发展之下,无...
-
“文心一言”的使用
介绍 官方定义它是有用、有趣、有温度的智能伙伴。和ChatGPT一样,它既能写文案、读文档,又能脑洞大开、答疑解惑。还能倾听你的故事、感受你的心声。 它既是ai人工智能,又是工作助理,能够自动处理生活和工作中的各种问题,是问题的解决者。 可以把它看成一...
-
基于 Llama-Index、Llama 3 和 Qdrant,构建一个 RAG 问答系统!
构建一个使用Llama-Index、Llama 3和Qdrant的高级重排-RAG系统 尽管大型语言模型(LLMs)有能力生成有意义且语法正确的文本,但它们面临的一个挑战是幻觉。 在LLMs中,幻觉指的是它们倾向于自信地生成错误答案,制造出看似令人信...
-
彻底火了!《AIGC 面试宝典》圈粉无数!
2022 年下半年以来,文本生成图像快速出圈,多款应用持续火爆。 国外文生图代表:Midjourney、Stable Diffusion、OpenAI 的 DALL-E: 海外模型SD开源,进一步促进了国内大厂的研究热情和应用落地: 随着多模态技术迭...
-
“全网最全”LLM推理框架集结营 | 看似微不足道,却决定着AIGC项目的成本、效率与性能!
00-前序 随着ChatGPT、GPT-4等大语言模型的出现,彻底点燃了国内外的学者们与企业家们研发LLM的热情。国内外的大语言模型如雨后春笋一般的出现,这些大语言模型有一部分是开源的,有一部分是闭源的。 伴随着大语言模型的出现,国...
-
玩转AI,笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日,Meta开源了 Llama 3 大模型,把 AI 的门槛降低到了最低,这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了,这简直就是给个人开发者发了个大红包!Llama 3 模型有不同的参数版本,本文主要分享我在个人...
-
AI智能体研发之路-模型篇(一):大模型训练框架LLaMA-Factory在国内网络环境下的安装、部署及使用
博客导读: 《AI—工程篇》 AI智能体研发之路-工程篇(一):Docker助力AI智能体开发提效 AI智能体研发之路-工程篇(二):Dify智能体开发平台一键部署 AI智能体研发之路-工程篇(三):大模型推理服务框架Ollama...
-
【AIGC调研系列】通义千问、文心一言、抖音云雀、智谱清言、讯飞星火的特点分析
通义千问、文心一言、抖音云雀、智谱清言、讯飞星火这五款AI大模型各有特色,它们在市场上的定位和竞争策略也有所不同。 通义千问:由阿里巴巴推出,被认为是最接近ChatGPT水平的国产AI模型[7]。它不仅提供了长文档处理功能,还能够进行市场调研、竞品分...
-
AIGC 技术及应用初探
ChatGPT 相关话题近一年多来被刷爆,利用 AI 技术生成内容,引起了各行各业的关注。其实,自2022 年 4 月起,OpenAI、Google、Microsoft 相继发布了文生图模型,视觉创作就已经开始持续火热了。国内 AIGC 相关的技术和应用也...
-
LLaMA-Factory 微调训练
LLaMA-Factory 微调训练 该框架功能,标注-微调-导出-合并-部署,一整条流程都有,而且训练时消耗的gpu算力也会小一些 一,安装(推荐在linux中训练,win可以用wsl+docker) git clone https:...
-
ai写作哪个好?如何用八款软件化解写作困境
你们是不是有时脑子会突然卡壳,面对空白的文档,只能干瞪眼? 在日常的工作和学习中,我们难免会出现灵感匮乏,一时写不出精美文案的情况。比如当我们需要在短时间内写出一篇总结汇报方案,或者需要快速改写我们的毕业论文时,一款好用的Ai 写作软件是多么重要! 今...
-
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 (一)
基于LlaMA 3 + LangGraph 在windows本地部署大模型 (一) RAG 是未来人工智能应用的基石。大家并不是在寻求仅仅产生无意义反应的人工智能。而目标是人工智能能够从特定文档集中检索答案,理解查询的上下文,指导自己搜索其嵌入内容...
-
Datawhale |【独家】万字长文带你梳理Llama开源家族:从Llama-1到Llama-3
本文来源公众号“Datawhale”,仅用于学术分享,侵权删,干货满满。 原文链接:【独家】万字长文带你梳理Llama开源家族:从Llama-1到Llama-3 0. 引言 在AI领域,大模型的发展正以前所未有的速度推进技术的边界。 北京时间4月1...
-
AI助手对决:ChatGPT vs 文心一言
背景介绍 在当今人工智能技术飞速发展的时代,AI助手已经成为我们日常生活中不可或缺的一部分。而在众多AI助手中,ChatGPT和文心一言可以说是备受瞩目的两大代表,它们在智能回复、语言准确性、知识库丰富度等方面都有着自己的...
-
最新一站式AI创作系统(ChatGPT+Midjourney)网站源码+系统部署+支持AI对话、AI绘画、AI音乐、文档分析等大模型
一、系统简介 本文将介绍最新的一站式AI创作系统(集成ChatGPT+Midjourney)——星河易创AI系统,该系统基于ChatGPT的核心技术,融合了自然语言问答、绘画、音乐、文档分享、图片识别等创作功能,并兼容官方GPT全模型和国内各大模型。该系...
-
AI、AGI、AIGC、AI Agent、Prompt、LLM 名词解释
啊!ChatGPT 最近很火呀,你们说的 AGI、AIGC、AI Agent、Prompt、LLM … 到底是什么意思啊?还有 Midjourney、Lensa、Sora、DALL-E、Llama … 又是什么鬼? AI(Artificial Int...
-
OpenAI API - 使用Whisper和GPT-4模型开发一个自动化会议记录生成器
前言 本文章结合官方教程给大家介绍如何利用OpenAI的Whisper和GPT-4模型来开发一个自动化会议记录生成器。这个应用程序可以转录会议音频 一 应用程序基本介绍 Whisper和GPT-4模型:Whisper是一个用于音频转录的模型,而G...
-
Kimichat的浏览器插件Kimi Copilot:一键总结网页内容
在阅读网页的时候,如果需要总结网页内容要点,可以把链接丢进Kimichat,让它总结。但是,这样稍微有些麻烦。Chrome浏览器现在已经有一个非官方的Kimichat插件: Kimi Copilot - 网页总结助手,可以用Kimi AI一键总结网页内容。...
-
小白编程神器!秒杀Copilot!
在当今的数字时代,编码已成为各个行业必不可少的技能。从应用程序开发到网页设计,编码是许多技术进步的核心。然而,不是每个人都有时间从头开始学习编码。 关注智言AI,即可免费体验无魔法版本的DALL·E3(画图)、GPT实时联网和4V功能(看图)! 电脑...
-
肝了三天,完成了AIGC工具网站大全,建议收藏再看
说是肝了三天,其实远远不止,前前后后,从资料搜集到最后整理成文,有近一个月了,大家看在整理不易的份上,给点个赞吧,不要光顾着收藏呀! 国内网站 AIGC 导航 https://www.aigc.cn 网站很全面,而且可以看出商业化也比...
-
OpenAI推出大学教育版本ChatGPT Edu 数据将不用于训练模型
OpenAI宣布推出ChatGPT Edu ,ChatGPT Edu是为大学而设计的版本,旨在负责地向学生、教职员工、研究人员和校园运营部署人工智能。 搭载 GPT-4o,ChatGPT Edu 可以跨文本和视觉进行推理,使用先进工具如数据分析。这一新产品...
-
【史上最全之 ChatGPT 和文心一言对比】
ChatGPT 和文心一言哪个更好用? 在当今的AI助手领域中,ChatGPT与文心一言无疑是备受瞩目的两位选手。两者分别由美国OpenAI公司和中国百度研发,均致力于提供卓越的人工智能对话体验。接下来,我们将从智能回复、语言准确性以及知识库丰富度等核...
-
OpenAI要和苹果合作:投资数百亿美元的微软不高兴了
快科技5月31日消息,据国外媒体报道,苹果与OpenAI的合作谈判已持续一年之久,并且双方计划在即将到来的苹果WWDC 2024开发者大会上正式宣布合作事宜。 据悉,合作内容可能涉及将ChatGPT集成到iOS 18系统中,这将大幅提升Siri的智能处理能...
-
OpenAI推出ChatGPT大学教育版:数据不用于训练模型
快科技5月31日消息,据媒体报道,OpenAI近期发布了ChatGPT Edu版本,这是一款专为大学教育环境打造的AI工具,旨在服务学生、教职员工、研究人员以及校园运营人员。值得一提的是,ChatGPT Edu的用户交互数据不会用于OpenAI其他模型的训...
-
苹果OpenAI曝出「数十亿美元」合作,微软急了!纳德拉紧急约谈奥特曼
OpenAI和苹果已经确定联手,微软急了! 根据外媒The Information的报道,OpenAI和苹果的交易已经完成。而苹果将在多大程度上使用OpenAI的技术,目前尚不清楚。 业界猜测,这项交易,可能价值数十亿美元! 不过,微软对此就没那么高兴了...