-
最新本地大模型进展#Chinese-LLaMA-2支持16k长上下文
这些模型的发布对于本地部署的私有化应用场景来说是一个重要的进展。现在，你可以在个人电脑上快速进行大模型量化和部署体验，无需依赖云服务。这为开发者和研究人员提供了更大的灵活性和自主性。 另外，这...
-
【类ChatGPT】本地CPU部署中文羊驼大模型LLaMA和Alpaca
昨天在github上看到一个在本地部署中文大模型的项目，和大家分享一下。先把地址po出来。 项目名称：中文LLaMA&Alpaca大语言模型+本地部署 (Chinese LLaMA &...
-
国产AI大模型：智谱清言 vs. 文心一言
今年以来，国产AI大模型如雨后春笋般涌现，呈现出“百模齐出”的盛况。其中智谱清言在百模大战中脱颖而出。智谱清言基于智谱AI自主研发的中英双语对话模型ChatGLM2，通过万亿字符的文本与代码预训练，结...
-
[算法前沿]--000-大模型LLaMA在docker环境搭建以及运行教程（含模型压缩）
章目录 LLaMA 论文 步骤 搭建步骤 运行7B模型 运行13B模型 未来已来,大模型依据压缩模型的方式,可以在普通的PC上运行. LLaMA Facebook的LLaM...
-
基于LLaMA却改张量名，李开复公司大模型引争议，官方回应来了
前段时间，开源大模型领域迎来了一个新的模型 —— 上下文窗口大小突破 200k，能一次处理 40 万汉字的「Yi」。 这个大模型由创新工场董事长兼 CE0 李开复创立的大模型公司「零一万物」构建，包...
-
被谷歌收购后，我终于知道为什么大模型竞争落后于OpenAI了
被谷歌收购后，我终于知道为什么大模型竞争落后于OpenAI了...
-
阿里发布自研夸克大模型：整体能力已超GPT-3.5
快科技11月14日消息，阿里巴巴智能信息事业群今日正式发布全栈自研、千亿级参数夸克大模型。 据介绍，在CMMLU权威大模型性能评测中，夸克大模型成绩位列榜首，根据评测显示，夸克大模型整体能力已经超过G...
-
大模型幻觉率排行：GPT-4 3%最低，谷歌Palm竟然高达27.2%
AI 新出的 GPT 视觉 API 前脚让人感叹效果极好，后脚又因幻觉问题令人不禁吐槽。 幻觉一直是大模型的致命缺陷。由于数据集庞杂，其中难免会有过时、错误的信息，导致输出质量面临着严峻的考验。过多重...
-
手把手教你搭建微信聊天机器人系列（一）：文心一言（百度千帆ERNIE-Bot大模型）API测试
作为程序猿的我们，想接入文心一言的能力，比如开发一个聊天机器人，要怎么做呢？百度在其开发者平台开放了大模型服务，下面就跟我一起来对接API吧。 下面我先放出几张图，是我对接完的效果图...
-
最强大模型训练芯片H200发布！141G大内存，AI推理最高提升90%，还兼容H100
用了英伟达的NVLink和NVSwitch高速互联技术，可以以最高性能运行各种应用负载，包括175B大模型的训练和推理。 HGX板的独立性质使其能够插入合适的主机系统，从而允许使用者定制其高端服务器的...