-
阿里发布自研夸克大模型:整体能力已超GPT-3.5
快科技11月14日消息,阿里巴巴智能信息事业群今日正式发布全栈自研、千亿级参数夸克大模型。 据介绍,在CMMLU权威大模型性能评测中,夸克大模型成绩位列榜首,根据评测显示,夸克大模型整体能力已经超过GPT-3.5,在写作、考试等部分场景中优于GPT-4。...
-
大模型幻觉率排行:GPT-4 3%最低,谷歌Palm竟然高达27.2%
人工智能发展进步神速,但问题频出。OpenAI 新出的 GPT 视觉 API 前脚让人感叹效果极好,后脚又因幻觉问题令人不禁吐槽。 幻觉一直是大模型的致命缺陷。由于数据集庞杂,其中难免会有过时、错误的信息,导致输出质量面临着严峻的考验。过多重复的信息还会...
-
GPT-5 正在开发中!OpenAI:希望微软能再给资金支持
今年6月,OpenAI CEO Sam Altman 在印度经济时报主办的一场会议上表示:“在我们开始训练下一代模型之前,我们还有很多工作要做。我们正在研究我们认为需要的新想法,但我们肯定还没有准备好开始。” 仅时隔半年后,在OpenAI刚带来全新的GPT...
-
最强大模型训练芯片H200发布!141G大内存,AI推理最高提升90%,还兼容H100
英伟达老黄,带着新一代GPU芯片H200再次炸场。 官网毫不客气就直说了,“世界最强GPU,专为AI和超算打造”。 图片 听说所有AI公司都抱怨内存不够? 这回直接141GB大内存,与H100的80GB相比直接提升76%。 作为首款搭载HBM3e内存的G...
-
GPT-5已开工!奥特曼:月入7亿不够烧,希望微软再投点
月入7个亿,仍然覆盖不了训练GPT的海量投入。 这是OpenAI CEO奥特曼公开透露的最新信息。 他对《金融时报》表示,OpenAI今年收入增长良好,但公司仍未盈利。OpenAI计划继续从金主爸爸微软和其他投资者那里筹集资金—— 而就在今年初,已有微...
-
老黄深夜炸场,世界最强AI芯片H200震撼发布!性能飙升90%,Llama 2推理速度翻倍,大批超算中心来袭
英伟达的节奏,越来越可怕了。 就在刚刚,老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200! 较前任霸主H100,H200的性能直接提升了60%到90%。 不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的企业,可以无缝更...
-
ai写作生成器有哪些?试试这几款工具吧
近年来,随着ai技术的飞速发展,越来越多的人开始意识到ai文本生成器的重要性和实用性。这种文本生成器可以帮助我们快速生成各种类型的文章,如报告、评论、新闻、邮件等,它的应用范围已经非常广泛了。不仅如此,随着机器学习和深度神经网络技术的不断进步,ai...
-
自动代码Copilot背后的模型
文章目录 1.引入 2.评估框架 3.评估数据集 4.模型方法 5.实验结果 6.总结 7.参考 之前,我已经介绍过Github发布的自动代码Copilot的使用方法,感兴趣的可以看这篇文章:Copilot要收费了? 今天主要介绍一...
-
《花雕学AI》31:ChatGPT--用关键词/咒语/提示词Prompt激发AI绘画的无限创意!
你有没有想过用AI来画画?ChatGPT是一款基于GPT-3的聊天模式的AI绘画工具,它可以根据你输入的关键词/咒语/提示词Prompt来生成不同风格和主题的画作。Prompt是一些简短的文字,可以用来指导ChatGPT的创作过程。在这篇文章中,我将展示一...
-
GitHub Copilot Chat
9月21日,GitHub在官网宣布,所有个人开发者可以使用GitHub Copilot Chat。用户通过文本问答方式就能生成、检查、分析各种代码。 据悉,GitHub Copilot Chat是基于OpenAI的GPT-4模型打造而成,整体使用方法与C...
-
全球各行业公司纷纷发布GPT-4相关职位
大型语言模型(LLM)领域正在迅速增长,对深度学习、机器学习、自然语言处理(NLP 等领域的专业人才需求不断上升。随着越来越多的公司采用聊天机器人和其他LLM人工智能技术来提高客户服务和运营效率,对于开发、维护和操作这些系统的才华横溢的个体的需求也在增加。...
-
LLaMA系列 | LLaMA和LLaMA-2精简总结
文章目录 1、LLaMA 1.1、模型结构 1.2、训练方式 1.3、结论 2、LLaMA-2 2.1、相比LLaMA1的升级 2.3、模型结构 2.3.1、MHA, MQA, GQA区别与联系 2.4、训练方式 1、L...
-
GPT-4比你更会问问题:让大模型自主复述,打破与人类对话的壁垒
在最新的人工智能领域动态中,人工生成的提示(prompt)质量对大语言模型(LLM)的响应精度有着决定性影响。OpenAI 提出的建议指出,精确、详细且具体的问题对于这些大语言模型的表现至关重要。然而,普通用户是否能够确保他们的问题对于 LLM 来说足够...
-
五个可以无限免费的AI写作工具
目前有不少优秀的AI写作助手工具,为用户提供免费的写作生成服务。我推荐5个无限免费的AI写工具如下: 1. ChatGPT: 这是OpenAI研发的大规模语言模型,可以进行智能写作和创意脑storm。它可以根据提示生成不同格式、风格的长文本,如故事、说...
-
AI —— 一看就懂的代码助手Copilot获取教程
背景 随着chatgpt的发布,人工智能领域近期站上了风口浪尖。GitHub Copilot由github与 OpenAI 合作创建,是世界上第一个使用 OpenAI 的 Codex 模型(GPT-3 的后代)制作的大规模生成式 AI 开...
-
Meta 推出的 LLaMA 大语言模型部署教程
Facebo推出的LLaMA模型 简介: LLaMA(Lager Language Model From Meta),这是一个从7B到65B参数的基础语言模型的集合。它在数万亿的文本tokens上训练的模型,并表明在不求助于专有和不可访问的数据集,而仅...
-
大语言模型汇总(ChatGPT、盘古、通义、文心一言、混元)
首先就是OpenAI所提出的GPT相关模型,也是目前最火的大语言模型,发布版本已经到了4.0 1.ChatGPT 官网:https://chat.openai.com/chat 如下图是自然语言功能的使用示例 2.华为的盘古模型 盘古模型是华为开发...
-
LLM:LLaMA模型和微调的Alpaca模型
LLaMA模型 简单了解[LeCun狂赞:600刀GPT-3.5平替! 斯坦福70亿参数「羊驼」爆火,LLaMA杀疯了] 论文原文:https://arxiv.org/abs/2302.13971v1 预训练数据 模型架构 模型就是用的tra...
-
全面对比GPT-3.5与LLaMA 2微调
通用大模型虽好,但通过微调得到一个专属大模型不仅可以提高模型的可操控性、输出格式的可靠性和语气的一致性,还能让用户缩短提示长度,加速API调用,降低成本。 本文作者Sam L'Huillier对GPT-3.5与LLaMA 2的微调进行了基准...
-
打败OpenAI!堪萨斯大学开发学术AI检测器 成功率高达98%
近期,堪萨斯大学的研究团队成功研发了一款学术AI检测系统,其准确率高达98%。相较于OpenAI的最新分类器,该系统在识别AI生成文本方面表现出色,为解决科学期刊中可能存在的AI生成文本的问题提供了一种高效的解决方案。研究团队的核心思路在于不追求通用性,而...
-
OpenAI遭黑客攻击,定制版GPT虽迟但到:今日全量上线
让全球网友崩溃的ChatGPT宕机事件,有了最新消息。 OpenAI通告称,这次事件中发现了服务器遭受黑客攻击的记录。 开发者大会后本已经高涨的流量,加上黑客攻击,导致服务器不堪重负,原本周一全量上线GPTs的计划也被迫推迟。 不过好消息是,就在刚刚,...
-
AI检测器又活了?成功率高达98%,吊打OpenAI
现在AI文本检测器,几乎没有办法有效地区分AI生成的文字和人类的文字。 就连OpenAI开发的检测工具,也因为检测准确率太低,在上线半年后悄悄下线了。 但是最近,Nature报导了堪萨斯大学的一个团队的研究成果,他们开发的学术AI检测系统,能有效分辨论...
-
老黄H100再破纪录,4分钟训完GPT-3!全新「特供版」H20、L20和L2曝光,性能史诗级缩水
H100再次在MLPerf中刷新了记录! 英伟达超算NVIDIA Eos在GPT-3模型的基准测试中,只用了3.9分钟就完成了训练。 这比6月份的刷新记录的成绩——10.9分钟,提升了近3倍。 Eos使用了多达10,752个H100和NVIDIA Quan...
-
AI绘画火爆,到现在还只是冰山一角?AIGC掀起当代新艺术浪潮
前言: hello,大家好我是Dream。近日,各大社交平台掀起了一股“AI绘图”风潮,很多同学朋友纷纷在社交平台上晒出了属于自己的AI照片,一时间AI相关话题热度高涨。那对于AI绘画以及开启AI内容创作新时代的昆仑万维你究竟了解多少呢?那么今天我就带大家...
-
微软推出 FP8 混合精度训练框架:比 BF16 快 64%,内存占用少 42%
11 月 10 日消息,大语言模型(LLM)快速崛起,在语言生成和理解方面表现出光明的前景,影响超越了语言领域,延伸到逻辑、数学、物理学等领域。 不过想要解锁这些“非凡能量”,需要付出高额的代价,例如训练 540B 模型,需要 Project PaL...
-
【GitHub Copilot 介绍和使用】
GitHub Copilot 引言 在我们的编程生涯中,经常会遇到需要查阅文档、寻找示例代码和解决疑难问题的情况。有时候,我们甚至希望有一个助手,能够实时地为我们提供代码建议和解决方案。现在,这个愿望已经成真了——那就是 GitHub Copilo...
-
【AIGC】1、爆火的 AIGC 到底是什么 | 全面介绍
文章目录 一、AIGC 的简要介绍 二、AIGC 的发展历程 三、AIGC 的基石 3.1 基本模型 3.2 基于人类反馈的强化学习 3.3 算力支持 四、生成式 AI(Generative AI) 4.1 单模态 4.1.1 生成式语...
-
代码生成工具CodeGPT成开发者新宠 高效生成符合规范代码
新一代的 AI 代码生成工具 CodeGPT 迅速成为程序员中的新宠。它是 Visual Studio Code 的一个插件,利用 GPT-3语言模型生成代码、翻译语言、写各种类型的内容和回答问题。 CodeGPT 目前仍在开发中,但它有潜力改变开发者编...
-
大模型走捷径「刷榜」?数据污染问题值得重视
生成式 AI 元年,大家的工作节奏快了一大截。 特别是,今年大家都在努力卷大模型:最近国内外科技巨头、创业公司都在轮番推出大模型,发布会一开,个个都是重大突破,每一家都是刷新了重要 Benchmark 榜单,要么排第一,要么第一梯队。 在兴奋于技术进展速...
-
GPT-4要革程序员的命?智能开发的理想与现实 | 爱分析调研
“生成式人工智能(AIGC)将在三年内终结编程。” ——Matt Welsh,前哈佛大学计算机科学教授、Google 工程主管 GPT-4 也许还不完美,但智能开发时代真的来了 美国时间3月14日,OpenAI 正式发布 GPT-4,在 Ch...
-
Meta最新模型LLaMA细节与代码详解
Meta最新模型LLaMA细节与代码详解 0. 简介 1. 项目环境依赖 2. 模型细节 2.1 RMS Pre-Norm 2.2 SwiGLU激活函数 2.3 RoPE旋转位置编码 3. 代码解读 3.1 tokenizer 3.2 m...
-
准确率 99%,新模型可识别 ChatGPT 生成的文本内容
IT之家 11 月 8 日消息,根据 sciencedirect 收录的最新论文,科学家依赖 20 个特征和机器学习算法,可以准确区分内容是由人类论文作者创作,还是由 ChatGPT 生成的,且准确率可以高达 99%。 AI Detector 研究人员...
-
用过GPT-4 Turbo以后,我们再也回不去了
昨天,很多人彻夜未眠 —— 全球科技圈都把目光聚焦在了美国旧金山。 短短 45 分钟时间里,OpenAI CEO 山姆・奥特曼向我们介绍了迄今为止最强的大模型,和基于它的一系列应用,一切似乎就像当初 ChatGPT 一样令人震撼。 OpenAI 在本周...
-
北大具身智能团队提出需求驱动导航,对齐人类需求,让机器人更高效
如果想让机器人帮助你,你通常需要下达一个较为精准的指令,但指令在实际中的实现效果不一定理想。如果考虑真实环境,当要求机器人找某个特定的物品时,这个物品不一定真的存在当前的环境内,机器人无论如何也找不到;但是环境当中是不是可能存在一个其他物品,它和用户要求...
-
带你认识一下多模态对比语言图像预训练CLIP
本文分享自华为云社区《多模态对比语言图像预训练CLIP:打破语言与视觉的界限》,作者:汀丶。 一种基于多模态(图像、文本)对比训练的神经网络。它可以在给定图像的情况下,使用自然语言来预测最相关的文本片段,而无需为特定任务进行优化。CLIP的设计类似于GP...
-
理论+实践详解最热的LLM应用框架LangChain
3.3 Chat 聊天模型是语言模型的一个变体,聊天模型以语言模型为基础,其内部使用语言模型,不再以文本字符串为输入和输出,而是将聊天信息列表为输入和输出,他们提供更加结构化的 API。通过聊天模型可以传递一个或多个消息。LangChain 目前支持四类...
-
MoE:LLM终身学习的可能性
性质 说明 知识记忆(knowledge retention) √ LLM预训练后,具备世界知识,小规模finetune不易对LLM造成遗忘灾难。但大规模数据续训会造成。 前向迁移(forward...
-
如何高效训练?综述汇总:大型深度学习训练的并行分布式系统
本文经自动驾驶之心公众号授权转载,转载请联系出处。 23年1月论文“Systems for Parallel and Distributed Large-Model Deep Learning Training“, 来自UCSD。 深度学习(DL)已经...
-
深夜炸场,ChatGPT一周年:无需编程,全民定义GPT的时代,来了!
撰稿 | 云昭 深夜又是一场王炸!在ChatGPT发布一周年之际,OpenAI 创始人Altman 在首届开发者大会上全场放大招,台下掌声不断。 无需编程,甚至无需敲键盘,单纯通过语音聊天就能构建一个专属自定义的GPT!这个消息实在太燃了!以至于推特...
-
这些浏览器中的 AI 扩展太香了
众所周知,浏览器只有添加了扩展才能让其火力全开,效率翻倍,而当有了AI的加持后,直接起飞。 本期将整理一些目前非常火的基于AI语言模型的扩展程序,大大提高生产力,一起看看吧! ChatGPT for Google https://chrome.go...
-
AI创企xAI发布首款人工智能聊天机器人Grok
据外媒报道,特斯拉CEO埃隆·马斯克(Elon Musk 旗下人工智能初创公司xAI发布了首款生成式人工智能聊天机器人——Grok。 上周,马斯克警告称,人工智能是“对人类最大的威胁之一”。然而,这并没有阻止他参与其中。上周六,他通过一系列推文透露了G...
-
xAI Grok内测资格在哪里申请 Grok资格申请入口介绍
马斯克近日正式宣布推出xAI Grok大模型,这是xAI团队发布的首个AI大模型产品。据xAI的声明称,该产品“有智慧,还有叛逆的性格”,并且能回答被大多数其他AI系统拒绝的辛辣问题。 xAI Grok现在已经可以进行内测资格申请(点击进入),用户可在官...
-
DB-GPT:使用专有LLM技术改变与数据库互操作的方式
DB-GPT是一个开源项目,旨在改变与数据库的互操作方式,它采用了本地化的大型GPT模型,为处理各种数据库相关情境提供了全面的解决方案。这个工具强调了隐私和数据安全,通过业务模块的定制化实施和分割,确保了LLM功能的完全机密性、安全性和可管理性。 随着大...
-
用AI整顿AI?这些检测工具了解了解
自生成式AI创作机器人出现以来,各行各业都开始用来撰写文章甚至学术论文,针对该情况,一些AI内容检测工具也随之诞生,一起看看吧。 1.Copyleaks AI Content Detector https://copyleaks.com/ai-co...
-
马斯克版ChatGPT爆火来袭!不用Python,11人爆肝两个月
马斯克突然出手截胡,抢在OpenAI开发者大会前发布大模型Grok。 与其他ChatGPT类产品不同,Grok可以实时从?推文中获取最新知识,比如马斯克刚刚与Joe Rogan的最新访谈。 图片 巨量、实时且独特的?数据构成了Grok的最大护城河,早在7...
-
20步内越狱任意大模型!更多“奶奶漏洞”全自动发现
1分钟不到、20步以内“越狱”任意大模型,绕过安全限制! 而且不必知道模型内部细节—— 只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。 听说曾经红极一时的“奶奶漏洞”已经被修复了: 那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏...
-
AI能理解自己生成的东西吗? 在GPT-4、Midjourney上实验后,有人破案了
从 ChatGPT 到 GPT4,从 DALL・E 2/3 到 Midjourney,生成式 AI 引发了前所未有的全球关注。强大的潜力让人们对 AI 产生了许多期待,但是强大的智能也会引发人们的恐惧和担忧。近期大牛们针对该问题还上演了一场激烈的论战。先...
-
字节“开盒”OpenAI所有大模型,揭秘GPT-3到GPT-4进化路径!把李沐都炸出来了
GPT-3究竟是如何进化到GPT-4的? 字节给OpenAI所有大模型来了个“开盒”操作。 结果还真摸清了GPT-4进化路上一些关键技术的具体作用和影响。 比如: SFT是早期GPT进化的推动者 帮助GPT提升编码能力的最大功臣是SFT和RLHF 在...
-
马斯克的xAI,向特定用户发布第一款AI产品
11月3日晚,马斯克在社交平台宣布,其新成立的xAI人工智能公司,在11月4日向特定用户发布第一款产品,并声称“在某些重要方面,这是目前存在最好的。” 根据xAI官网的介绍和马斯克与OpenAI的“恩怨”来看,xAI发布的可能是一款类ChatGPT产品,能...
-
代码能力超越GPT-4,这个模型登顶Big Code排行榜,YC创始人点赞
一款号称代码能力超越GPT-4的模型,引发了不少网友的关注。 准确率比GPT-4高出超过10%,速度却接近GPT-3.5,而且窗口长度也更长。 据开发者描述,他们的模型取得了74.7%的Pass@1通过率,超过了原始GPT-4的67%,登上了Big C...