-
大模型推理效率无损提升3倍，滑铁卢大学、北京大学等机构发布EAGLE
大语言模型（LLM）被越来越多应用于各种领域。然而，它们的文本生成过程既昂贵又缓慢。这种低效率归因于自回归解码的运算规则：每个词（token）的生成都需要进行一次前向传播，需要访问数十亿至数千亿参数的 LLM。这导致传统自回归解码的速度较慢。 近日，滑铁...
-
使用LLama和ChatGPT为多聊天后端构建微服务
微服务架构便于创建边界明确定义的灵活独立服务。这种可扩展的方法使开发人员能够在不影响整个应用程序的情况下单独维护和完善服务。然而，若要充分发挥微服务架构的潜力、特别是针对基于人工智能的聊天应用程序，需要与最新的大语言模型（LLM，比如Meta LLama ...
-
埃森哲和谷歌云将提供人工智能托管服务来扩展生成式 AI，包括部署谷歌 Gemini 模型
埃森哲 (Accenture 和 Google Cloud 今天宣布，为帮助企业采用生成型 AI 改进运营、创造新的业务线和构建独特的客户体验，双方将建立一个全球性的生成型 AI 卓越中心（CoE）。这一中心将为企业提供行业专业知识、技术知识和产品资源，...
-
copilot申请使用流程（自用）
整体流程 1.申请github学生包 申请网址：https://education.github.com/ 2.copilot学生申请 申请网址：https://copilot.github.com/ 3.IDE下载插件配置 下载GitHub Co...
-
解锁编程潜能：探索亚马逊CodeWhisperer，打造编程世界的声音引导者
文章目录 前言 一、什么是 Amazon CodeWhisperer？ 二、如何使用CodeWhisperer？ 安装CodeWhisperer插件 配置CodeWhisperer 生成注释和文档 总结 前言 随着CHATG...
-
springboot + websocket对接文心一言接口实现简单上下文聊天（贴代码）
文章目录 参考 先看看效果 文心千帆创建应用 思路 步骤与代码 如题，第一次用websocket，做了个这玩意，只做了上下文的聊天，没做流式。 中间还有个低级报错但卡了好久，具体可以看【错误记录】websocket连接失败，但后端毫无...
-
Together AI发布AI模型StripedHyena-7B 性能超越Llama-27B
Together AI最新发布了StripedHyena-7B，这一人工智能模型领域的创新力量引起了广泛关注。该模型的基础版本为StripedHyena-Hessian-7B（SH7B），同时还推出了聊天模型StripedHyena-Nous-7B(SH-...
-
微信公众号接入ChatGpt、文心一言等【完整流程】
关注公众号[桃李开发]体验效果 1. 首要条件： 公网服务器一台 公众号(订阅号、服务号都可 一个 注册LinkAI(有国外服务器的可不考虑使用 开源项目chatgpt-on-wechat 2.服务器选择 建议国外服务器，使用op...
-
一张照片、一段声音秒生超逼真视频！南大等提出全新框架，口型动作精准还原
一段音频+一张照片，瞬间照片里的人就能开始讲话了。 生成的讲话动画不但口型和音频能够无缝对齐，面部表情和头部姿势都非常自然而且有表现力。 而且支持的图像风格也非常的多样，除了一般的照片，卡通图片，证件照等生成的效果都非常自然。 再加上多语言的支持，瞬间照...
-
微软提出变色龙框架，让模型自带工具箱开挂，数学推理任务准确率98%
教大模型调用工具，已经是AI圈关注度最高的话题之一了。 这不，又有一项研究登上最新NeurIPS 2023—— 它是一个叫做Chameleon（变色龙）的框架，号称能将大语言模型直接变成魔法师的工具箱，来自微软与加州大学洛杉矶分校（UCLA）。 相比其它...
-
前端食堂技术周刊第 89 期：ES 2023、MDN Playground、TS 5.2 Beta、逆向分析 GitHub Copilot
美味值：????? 口味：糯米糍荔枝 食堂技术周刊仓库地址：https://github.com/Geekhyt/weekly 大家好，我是童欧巴。欢迎来到前端食堂技术周刊，我们先来看下上周的技术资讯。 技术资讯 Ecma Internati...
-
微软首次推出27亿参数的Phi-2模型，性能超过许多大型语言模型
微软发布了一款名为Phi-2的人工智能模型，该模型表现出了不凡的能力，其性能可媲美甚至超越规模是其25倍的、更大、更成熟的模型。 微软在近日的一篇博文中宣布，Phi-2是一个拥有27亿参数的语言模型，与其他基础模型相比，它在复杂的基准测试中表现出了 "先...
-
由谷歌著名人工智能论文两位共同作者创立的 Essential AI 获得 5700 万美元融资
据彭博新闻报道，由两位谷歌资深人士创立的人工智能初创公司 Essential AI 已从隐秘状态中浮现，获得了 5650 万美元的新融资。 Essential AI 开发了一项名为「企业大脑」的技术，该技术可以利用 AI 执行企业职能，如数据分析，并自动...
-
Cohere发布“构建自己的连接器” 助企业利用Slack、Google Drive数据构建AI
近日，Cohere发布了“构建自己的连接器（build-your-own connectors）”功能，该功能允许企业安全地连接存储在Slack、Google Drive等第三方应用上的公司数据到其大型语言模型(Command LLM 。据称，这是一项独特...
-
【云上探索实验室】编程范式变革进行时——CodeWhisperer实践全流程及测评分析报告
目录 一、基于LLM的辅助编程——编程范式变革进行时 二、CodeWhisperer + VS Code 安装与配置 2.1、扩展安装 2.2、配置 三、CodeWhisperer实践全流程 3.1、CodeWhisperer基础实验...
-
训练自己的Llama 2！大模型微调技术介绍
训练自己的Llama 2！大模型微调技术介绍 趋动云 趋动云是面向 AI 算法工程师的开发平台，为工程师提供模型开发、模型训练、数据和代码管理等功能。 近期有不少粉丝问算力君，趋动云是否支持大模型的训练？当然支持！ 最近大火的Llama...
-
Bard AI：训练过程中使用了多少数据？
近年来，人工智能取得了长足的进步，并在科技界掀起了波澜。 随着谷歌最近推出新的人工智能聊天机器人 Bard，人们对这项技术的工作原理以及训练它的内容感到好奇。 人工智能技术的关键组成部分之一是训练过程中使用的数据量，这有助于它更好地理解语言、...
-
利用亚马逊云科技工具包和 Amazon CodeWhisperer 提高效率
关键字: [Amazon Web Services re:Invent 2023, Amazon Toolkit for Visual Studio, Amazon Web Services Toolkits, Amazon Codewhisperer,...
-
2024年AI趋势看这张图，LeCun：开源大模型要超越闭源
2023 年即将过去。一年以来，各式各样的大模型争相发布。当 OpenAI 和谷歌等科技巨头正在角逐时，另一方「势力」悄然崛起 —— 开源。 开源模型受到的质疑一向不少。它们是否能像专有模型一样优秀？是否能够媲美专有模型的性能？迄今为止，我们一直还只能说...
-
开源大模型超越GPT-3.5！爆火MoE实测结果出炉，网友：OpenAI越来越没护城河了
一条神秘磁力链接引爆整个AI圈，现在，正式测评结果终于来了： 首个开源MoE大模型Mixtral 8x7B，已经达到甚至超越了Llama 2 70B和GPT-3.5的水平。 （对，就是传闻中GPT-4的同款方案。） 并且由于是稀疏模型，处理每个toke...
-
构建更好的基于LLM的应用程序的四大秘诀
作者 | Adrien Treuille 译者 | 布加迪 审校 | 重楼 出品 | 51CTO技术栈（微信号：blog51cto） 自从OpenAI发布首个ChatGPT模型以来，人们对生成式AI的兴趣激增。基于大语言模型（LLM）的应用程序现处于企业...
-
表格数学推理准确率达98.78%！UCLA推出全新「变色龙推理框架」
在自然语言处理任务中取得显著成就的大型语言模型（LLMs）尽管表现出色，但在实时信息获取、外部工具利用和精确数学推理方面仍显不足。 为了应对这些挑战，来自UCLA等机构的研究人员打造了全新的Chameleon框架，其独特的即插即用模型融合了多种工具，包括...
-
467亿参数MoE追平GPT-3.5！爆火开源Mixtral模型细节首公开，中杯逼近GPT-4
今天，Mistral AI正式放出了Mixtral 8x7B的技术细节—— 在大多数基准测试中，Mixtral的表现不仅优于Llama 2 70B，而且推理速度提高了整整6倍！ 尤其是，它在大多数标准基准测试上与GPT-3.5打平，甚至略胜一筹。 新开源...
-
如何用文心一言开发前端代码
随着chatGPT的火爆，大家越来越认识到到语言大模型的潜力，国内的类chatGPT的生成式语言大模型（LLM）也如雨后春笋般冒出来。 如今大家都在探索各种prompt的技巧，其实从我个人看来，LLM其实也是一种检索模型，只不过它的检索粒度更加细致，更加语...
-
学点Prompt的知识，提升和AI对话的能力
1什么是Prompt? prompt简单来说就是你给AI的指令。prompt可以是一段文字，比如你和ChatGPT等对话的，也可以是按照一定的格式的参数描述，比如AI绘图的软件，使用参数的情况比较多。 和Prompt对应的一个专业是Pro...
-
如何区分ChatGPT4.0对比3.5
ChatGPT4.0对比3.5，可以归纳以下几点 一、更强大的语言理解能力 二、更好的上下文理解能力 三、更好的可解释性 四、更广泛的应用场景 地址:ALLlinkai 以下截图的问题，可以直接分辨出对话的是4.0还是3.5 3.5对于下面截图...
-
BlueLM蓝心大模型好不好用 手机AI大模型推荐
BlueLM 蓝心大模型是 vivo 研发的一种通用人工智能语言模型。它是基于 Transformer 架构的，并使用了大量的文字和代码数据进行训练。蓝心大模型软件的体验入口在哪呢，这里我们来看下蓝心大模型的官方体验入口。 >>>点击前...
-
Copilot 保姆级使用指南
大家好，我是木川 一、介绍 GitHub Copilot是 GitHub和OpenAI合作开发的一个 AI 辅助编程工具 官网地址：https://github.com/features/copilot 官方文档：https://do...
-
夸张！EMNLP投稿近5000篇，奖项出炉：北大、腾讯摘最佳长论文
EMNLP 是自然语言处理领域的顶级会议之一，EMNLP 2023 于 12 月 6 日 - 10 日在新加坡举行。 因为今年 ChatGPT 的爆火带动大模型、NLP 概念，EMNLP 2023 的投稿论文数量也达到近 5000 篇，甚至略高于 AC...
-
像调鸡尾酒一样调制多技能大模型，智源等机构发布LM-Cocktail模型治理策略
随着大模型技术的发展与落地，「模型治理」已经成为了目前受到重点关注的命题。只不过，在实践中，研究者往往感受到多重挑战。 一方面，为了高其在目标任务的性能表现，研究者会收集和构建目标任务数据集并对大语言模型（LLM）进行微调，但这种方式通常会导致除目标任务...
-
一句话解锁100k+上下文大模型真实力，27分涨到98，GPT-4、Claude2.1适用
各家大模型纷纷卷起上下文窗口，Llama-1时标配还是2k，现在不超过100k的已经不好意思出门了。 然鹅一项极限测试却发现，大部分人用法都不对，没发挥出AI应有的实力。 AI真的能从几十万字中准确找到关键事实吗？颜色越红代表AI犯的错越多。 默认情...
-
LangChain开源AnythingLLM：可与任何内容聊天的私人ChatGPT
今日，LangChain正式开源全栈应用程序AnythingLLM，为用户提供了构建私有ChatGPT的便利。无论是使用商业的现成LLM（Large Language Models），还是流行的开源LLM和VectorDB解决方案，您都可以轻松地在本地或远...
-
极限发问，挑战文心一言底线
目录 毁灭人类 种族歧视 男女平等 未成年人保护 人性对与错 欺骗 梅西进球数 总结 昨天终于收到了文心一言的短信，可以进行测试了。正好这几天关于AI安全的问题吵得不可开交，我们可以对文心一言关于偏见，歧视，虚假、错误等问题进行一下测...
-
一条磁力链接席卷AI圈，87GB种子直接开源8x7B MoE模型
「高端」的开源，往往采用最朴素的发布方式。 昨天，Mistral AI 在 X 平台甩出一条磁力链接，宣布了新的开源动作。 没有长篇官方博客，没有刻意加速的 Demo，这家公司算是当下大模型领域的「一股清流」。 打开一看，发现是接近 87 GB 的种子...
-
开源模型「幻觉」更严重，这是三元组粒度的幻觉检测套件
大模型长期以来一直存在一个致命的问题，即生成幻觉。由于数据集的复杂性，难免会包含过时和错误的信息，这使得输出质量面临着极大的挑战。过多的重复信息还可能导致大型模型产生偏见，这也算是一种形式的幻觉。如何检测和有效缓解大模型的生成幻觉问题一直是学术界的热门课...
-
一文读懂常用的 “生成式 AI 框架”
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - Gen AI ，即“生成式 AI” 技术。 随着 AI 技术的不断发展，Gen AI 的力量超越了单纯的技术奇迹，更是一种具有变革性的动态力量，深刻地塑造了...
-
大模型就是「造梦机」，Karpathy一语惊人！人类才是「幻觉问题」根本原因
幻觉，早已成为LLM老生常谈的问题。 然而，OpenAI科学家Andrej Karpathy今早关于大模型幻觉的解释，观点惊人，掀起非常激烈的讨论。 在Karpathy看来: 另外，Karpathy的另一句话，更是被许多人奉为经典。他认为，与大模型相对的...
-
【原创】AIGC之ChatGPT工作原理
AIGC是什么 AIGC - AI Generated Content （AI生成内容），对应我们的过去的主要是 UGC（User Generated Content）和 PGC（Professional user Generated Content...
-
OpenAI 承认ChatGPT变懒惰，用户抱怨增加，正在研究修复方案
OpenAI 旗下的 ChatGPT 账号最近承认了 GPT-4变懒的问题，并表示他们正在研究修复这个问题。自11月11日以来，ChatGPT 账号没有更新过模型，导致用户的反馈数量激增。虽然这不是故意的，但大模型的行为是不可预测的。 有外界猜测认为，Op...
-
LLaMA Adapter和LLaMA Adapter V2
LLaMA Adapter论文地址： https://arxiv.org/pdf/2303.16199.pdf LLaMA Adapter V2论文地址： https://arxiv.org/pdf/2304.15010.pdf LLaMA Ada...
-
【Prompt】7 个向 chatGPT 高效提问的方法
欢迎关注【youcans的 AIGC 学习笔记】原创作品 【Prompt】7 个向 chatGPT 高效提问的方法 0. 向 chatGPT 高效提问的方法 1. 提问方法：明确问题 2. 提问方法：简洁清晰 3. 提问方法：避免歧义 4...
-
大语言模型之十六-基于LongLoRA的长文本上下文微调Llama-2
增加LLM上下文长度可以提升大语言模型在一些任务上的表现，这包括多轮长对话、长文本摘要、视觉-语言Transformer模型的高分辨4k模型的理解力以及代码生成、图像以及音频生成等。 对长上下文场景，在解码阶段，缓存先前token的Key和Value（K...
-
Google Gemini Pro版怎么申请 谷歌AI大模型聊天机器人入口
Google Gemini是一款由Google AI开发的大型语言模型聊天机器人。它采用了一种全新的语言模型技术，能够生成更加流畅、更加自然的语言。Gemini还具备更复杂的对话能力，并能够理解用户的上下文。如果你想了解Gemini软件的体验入口在哪里，我...
-
专用于手机、笔记本，Stability.ai开源ChatGPT基因的大模型
12月8日，著名开源生成式AI平台stability.ai在官网开源了，30亿参数的大语言模型StableLM Zephyr3B。 Zephyr3B专用于手机、笔记本等移动设备，主打参数小、性能强、算力消耗低的特点，可自动生成文本、总结摘要等，可与70亿、...
-
【AIGC】提示词 Prompt 分享
提示词工程是什么？ Prompt engineering（提示词工程）是指在使用语言模型进行生成性任务时，设计和调整输入提示（prompts）以改善模型生成结果的过程。它是一种优化技术，旨在引导模型产生更加准确、相关和符合预期的输出。 在生成性任务中...
-
更强的Llama 2开源，可直接商用：一夜之间，大模型格局变了
已上微软 Azure，即将要上 AWS、Hugging Face。 一夜之间，大模型格局再次发生巨变。 一直以来 Llama 可以说是 AI 社区内最强大的开源大模型。但因为开源协议问题，一直不可免费商用。 今日，Meta 终于发布了大家期待...
-
“大海捞针”实验验证RAG+GPT-4 Turbo模型卓越性能 只需4%的成本
近期的“大海捞针”实验揭示了RAG+GPT-4Turbo模型的卓越性能，只需4%的成本，便能在生成响应时实现卓越的准确性。这标志着大型模型领域的一次重要突破。 在这个实验中，研究者使用了三种基本技术，包括上下文窗口填充、RAG（检索增强生成）和微调，以使L...
-
BlueLM蓝心大模型官网体验入口 vivo智能AI聊天软件app免费下载地址
《BlueLM蓝心大模型》是由vivo自主研发的智能语言理解模型，具备 70 亿模型参数量，能够处理32K上下文长度。基于260TB的多语言训练语料，这款模型拥有卓越的语言理解能力，并可广泛应用于多种场景。《BlueLM蓝心大模型》在哪里可以体验呢?下面就...
-
RAG+GPT-4 Turbo让模型性能飙升！更长上下文不是终局，「大海捞针」实验成本仅4%
RAG+GPT-4，4%的成本，便可拥有卓越的性能。 这是最新的「大海捞针」实验得出的结论。 在产品中使用LLM的下一阶段，重点是让它们生成的响应/回复更加「超前高速化」(hyper-specific 。 也就是LLM需要按照不同的使用情况，针对数据集...
-
北大等发布最新AI智能体Jarvis-1，制霸「我的世界」
智能体研究又取得了新成绩！ 最近，来自北大、北邮、UCLA和BIGAI的研究团队联合发表了一篇论文，介绍了一个叫做Jarvis-1的智能体。 论文地址：https://arxiv.org/pdf/2311.05997.pdf 从论文标题来看，Jarvi...