-
Together AI发布RedPajama v2：包内30万亿token数据集，用于训练大型语言模型
Together AI最近发布了RedPajama v2，这是一个庞大的在线数据集，包含了30万亿token，成为目前公开可用的最大数据集之一，专门用于学习型机器学习系统的培训。 对于像Llama、Mistral、Falcon、MPT和RedPajama等...
-
全球首发！总结七十余种开源数据集，一览自动驾驶开源数据体系
本文经自动驾驶之心公众号授权转载，转载请联系出处。 基于数据驱动的各类深度学习模型任务，近年来随着数据集规模的不断扩大，性能逐渐被提升，国内外各大自动驾驶公司都在不断建立自己的数据库，以及数据闭环系统，期待数据的丰富能够解决下半场自动驾驶问题，那么如何...
-
20步内越狱任意大模型！更多“奶奶漏洞”全自动发现
1分钟不到、20步以内“越狱”任意大模型，绕过安全限制！ 而且不必知道模型内部细节—— 只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。 听说曾经红极一时的“奶奶漏洞”已经被修复了: 那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏...
-
给大模型评分的基准靠谱吗？Anthropic来了次大评估
现阶段，大多数围绕人工智能 （AI）对社会影响的讨论可归结为 AI 系统的某些属性，例如真实性、公平性、滥用的可能性等。但现在面临的问题是，许多研究人员并没有完全意识到建立稳健可靠的模型评估是多么困难。当今许多现有的评估套件在各个方面的表现都很有限。 A...
-
AI「脑补」画面太强了！李飞飞团队新作ZeroNVS，单个视图360度全场景生成
近来，利用3D感知扩散模型训练模型，然后对单个物体进行SDS蒸馏的研究数不胜数。 但是，能够真正做到「场景级」的画面生成，从未实现。 现如今，斯坦福李飞飞和谷歌团队打破了这个记录！ 比如，输入一张从某个角度拍摄的客厅图片，整个客厅的样貌就出来了。 再来...
-
字节“开盒”OpenAI所有大模型，揭秘GPT-3到GPT-4进化路径！把李沐都炸出来了
GPT-3究竟是如何进化到GPT-4的？ 字节给OpenAI所有大模型来了个“开盒”操作。 结果还真摸清了GPT-4进化路上一些关键技术的具体作用和影响。 比如： SFT是早期GPT进化的推动者 帮助GPT提升编码能力的最大功臣是SFT和RLHF 在...
-
谷歌推出“先进天气预报 AI”MetNet-3，号称预测结果超过传统物理模型
11 月 3 日消息，谷歌研究院与 DeepMind 合作开发了最新的天气模型 MetNet-3，该模型以之前的 MetNet 和 MetNet-2 为基础，能够提前 24 小时，能够对全球天气情况进行高解析度预测，包括降水、表面温度、风速、风向和体感...
-
马里兰&NYU合力解剖神经网络 模型反转用于解释AI生成图像
马里兰&NYU合力解剖神经网络，推出一种新的类反转方法，称为"Plug-In Inversion （PII）"，用于生成神经网络模型的可解释图像。 在神经网络训练中，一些神经元可能永远输出0，被称为"死节点"，而这些节点可以通过优化算法生成诡异和恐...
-
ChatGPT 和 GPT-4 均无法通过成为 CFA 所需的所有级别的考试
根据最近的一项研究，ChatGPT 未能通过特许金融分析师（CFA）考试——这是许多华尔街金融专业人士的基准资格。这项研究由摩根大通的 AI 研究团队和大学学者联合进行，他们使用 CFA 风格的问题测试了 ChatGPT 和 GPT-4（两款由 OpenA...
-
AI 模型的开源定义需要改变
你认为开源许可证应当进行演变吗？ 2023 年，我们以人工智能（AI）崭露头角开始了新的一年，同时也见证了众多公司全力以赴投身于 AI。 比如说 Mozilla，它在 2023 年初制定了 开源 AI 计划，以开发各种 AI 驱动的解决方案。而 Hug...
-
AI生图太诡异？马里兰&NYU合力解剖神经网络，CLIP模型神经元形似骷髅头
AI黑盒如何才能解？ 神经网络模型在训练的时，会有些ReLU节点「死亡」，也就是永远输出0，不再有用。 它们往往会被被删除或者忽略。 恰好赶上了模糊了生与死的界限的节日——万圣节，所以这是探索那些「死节点」的好时机。 对于大多数图像生成模型来说，会输出正...
-
SAP 让每位开发者都成为生成式人工智能开发人员：旨在推动 AI 时代的业务转型
在 2023 年的 SAP TechEd 活动中，SAP SE 宣布了一系列全面的生成式人工智能（AI）能力和进步，旨在赋予所有技能水平的开发者，在 AI 时代为其业务注入强大动力。 SAP 揭示了生成式 AI 应用开发和向量数据库能力的创新，以及为开发...
-
科普神文，一次性讲透AI大模型的核心概念
图片 令牌，向量，嵌入，注意力，这些AI大模型名词是否一直让你感觉熟悉又陌生，如果答案肯定的话，那么朋友，今天这篇科普神文不容错过。我将结合大量示例及可视化的图形手段，为你由浅入深一次性讲透AI大模型的核心概念。 引言 随着科技公司及国际竞争的不断推进，...
-
美国公布人工智能总统行政命令
人工智能具有巨大的潜力，既有希望，也有危险。负责任地使用人工智能可以帮助解决全球一些最具挑战性的问题，但它也可以用于危害社会和大规模破坏。由于其巨大的好与坏潜力，像人工智能这样强大的技术受到监管只是时间问题。 美国总统拜登公布了一项人工智能政令，该政令...
-
Jina AI 推出“jina-embeddings-v2”:全球首个8k 开源文本嵌入模型
Jina AI 公布了其第二代文本嵌入模型的最新进展:jina-embeddings-v2。这个最先进的模型是唯一支持8K（8192个token）上下文长度的开源解决方案。这一成就使其在功能和在大规模文本嵌入基准 (MTEB 排行榜上的性能方面与 Ope...
-
英国拟投资 2.25 亿英镑研发超级计算机，用于 AI 大模型领域
11 月 2 日消息，英国政府日前宣布，为了进一步提高该国人工智能能力，对人工智能研究资源的投资从 2023 年 3 月宣布的 1 亿英镑（IT之家备注：当前约 8.9 亿元人民币）增加两倍，达到 3 亿英镑（当前约 26.7 亿元人民币）。 据介绍...
-
AI安全辩论：Sam Altman剑桥演讲遭抵制、Llama 2被曝存在潜在风险
当前，全球正掀起一场激烈的AI安全讨论，其中三个关键要点引起广泛关注。首先，OpenAI的CEO Sam Altman在剑桥举办的活动中遭到了抵制，抗议者要求停止AI竞赛，导致全球AI安全讨论再次升级。 不仅如此，AI巨头分为两派，一派是「开源派」，包括L...
-
OpenAI首席科学家：ChatGPT已经出现意识，人类未来将与AI融合
昨晚，「ChatGPT可能已经有了意识」的话题就上了微博热搜。 OpenAI的联合创始人兼首席科学家Ilya Sutskever在接受采访时表示，现在的首要任务已经不是制作下一个GPT或DALL·E，而是研究如何阻止超级AI的失控！ 他认为，ChatG...
-
全球最强长文本大模型，一次可读35万汉字：Baichuan2-192K上线
国内大模型创业公司，正在技术前沿创造新的记录。 10 月 30 日，百川智能正式发布 Baichuan2-192K 长窗口大模型，将大语言模型（LLM）上下文窗口的长度一举提升到了 192K token。 这相当于让大模型一次处理约 35 万个汉字，长度...
-
AI视野：英伟达发布大模型ChipNeMo；百度推出文心一言会员；OpenAI潜入黑客群聊；微软AI助手Copilot上线
????大模型动态 英伟达发布430亿参数大模型ChipNeMo 英伟达发布了拥有430亿参数的大语言模型ChipNeMo，专注于辅助芯片设计，提高工程师的工作效率，支持问答、EDA脚本生成和Bug总结等任务。 vivo发布AI蓝心大模型并宣布开源7B...
-
DeepMind曝新一代AlphaFold，预测准确率暴涨近10%！DNA和RNA的AlphaFold时刻来了
就在今天，DeepMind公布了AlphaFold最新进展——「AlphaFold-latest」。 根据DeepMind最新发布的技术报告，新一代的AlphaFold不仅仅能够以更高的准确性处理和预测蛋白质的结构。 ，时长01:32 它还能将相似的能力...
-
DeepMind 联合创始人：AI 行业不应盲目追求「快速行动，打破常规」的发展模式
：DeepMind 的联合创始人 Demis Hassabis 最近在接受 BBC 采访时表达了对 AI 行业发展的担忧，他警告说，与传统科技巨头不同的是，AI 行业不应盲目追求「快速行动，打破常规」的发展模式。 这一口号最初由 Meta（前 Faceb...
-
研究:人类参与提升了公众对AI的接受度
一项新研究表明，增加人类参与对公共服务中使用的人工智能（AI）可以提高对该技术的接受度。 这项研究发现，市民不仅关心AI的公平性，还担忧潜在的人类偏见。当市民认为行政裁量权过大时，他们支持在公共服务中使用AI。此外，研究人员还发现，市民对AI的知识水平并不...
-
OpenAI 联合创始人警告未来 AI 可能超越人类智慧：人类可能成为人工智能的一部分
OpenAI 联合创始人 Ilya Sutskever 表示，当未来超级智能机器崛起时，人类可能会选择与人工智能融合。他甚至可能是第一个这样做的人。 OpenAI 联合创始人 Ilya Sutskever 最近提出了一个引人注目的理论，他认为未来超智能机...
-
GPT-4V搞不明白勾股定理！最新基准测试错误率竟高达90%
近日，马里兰大学发布了一项重要研究，针对GPT-4V视觉模型进行了首个专为其设计的基准测试，名为HallusionBench。这项研究揭示了令人震惊的发现，即GPT-4V的错误率高达90%。这一错误率包括对基本数学原理的误用，比如将勾股定理错误应用于非直角...
-
AI玩推理桌游一眼识破骗局！清华通院联合推出心智理论新框架，六个指标评估表现均明显优于思维链
清华自动化系团队联合北京通用人工智能研究院，让几个AI智能体玩起了桌游！ 游戏名叫阿瓦隆，是一个策略性的社交推理游戏，玩家被隐秘地分为“正义”与“邪恶”两派，通过任务投票、互相猜测与欺骗来完成或阻止任务，最终确定胜负。 为了能让AI智能体成功识别并应...
-
GPT-4V连小学生都不如？最新基准测试错误率竟高达90%：红绿灯认错、勾股定理也不会
GPT-4被吹的神乎其神，作为具备视觉能力的GPT-4版本——GPT-4V，也被大众寄于了厚望。 但如果告诉你，初中生都知道的勾股定理，只适用于直角三角形。 然而GPT-4V却自信将其用于钝角三角形中计算斜边长度。还有更离谱的，GPT-4V直接犯了致命的...
-
用于科学数据研究的人工智能助理MATA获得专利
南卫理公会大学(SMU 和美国国家航空航天局(NASA 的研究人员宣布MATA获得了专利，MATA是一种人工智能研究助理，可以回答科学数据问题。 消费者已经习惯于向由亚马逊和苹果开发的Alexa和Siri等对话式人工智能助理提问。这些聊天机器人接受了关...
-
谷歌 DeepMind 联合创始人：到 2028 年人类有 50% 的可能实现 AGI
10 月 31 日消息，据科技播客 Dwarkesh Patel 报道，谷歌 DeepMind 人工智能实验室的联合创始人 Shane Legg 在近日的一次采访中表示，他仍然认为，到 2028 年，研究人员有 50% 的可能实现人类水平的人工智能...
-
八张3090，1天压缩万亿参数大模型！3.2TB骤降至160GB，压缩率高达20倍
随着GPT-4的架构被知名业内大佬「开源」，混合专家架构（MoE）再次成为了研究的重点。 GPT-4拥有16个专家模型，总共包含1.8万亿个参数。每生成一个token需要使用大约2800亿参数和560TFLOPs 然而，模型更快、更准确的代价，则是巨大...
-
Meta AI研究负责人倡导开源许可制度变革
Meta公司最近发布的大型语言模型Llama2备受争议，因其并未完全满足开源倡议的要求。尽管Llama2相对较为开放和免费，但在开源软件领域，一些人仍对该公司的开放性持有异议。 具体来说，Meta公司的许可协议使Llama2对许多人免费，但它仍然是有限的，...
-
ChatGPT、Llama-2等大模型，能推算出你的隐私数据！
ChatGPT等大语言模型的推理能力有多强大?通过你发过的帖子或部分隐私数据，就能推算出你的住址、年龄、性别、职业、收入等隐私数据。 瑞士联邦理工学院通过搜集并手工标注了包含520个Reddit（知名论坛）用户的个人资料真实数据集PersonalReddi...
-
图灵奖得主吵起来了，LeCun：Bengio、Hinton等的AI灭绝论是荒谬的
关于 AI 风险的问题，各路大佬们也是意见不统一。有人带头签署联名信，呼吁 AI 实验室应立即暂停研究，深度学习三巨头 Geoffrey Hinton、Yoshua Bengio 等都支持这一观点。 就在近几日，Bengio、Hinton 等再发联名信《...
-
MLCommons宣布成立人工智能安全工作组
人工智能基准组织MLCommons宣布成立人工智能安全（AIS：AI Safety）工作组。AIS将开发一个平台和来自许多贡献者的测试库，以支持不同用例的人工智能安全基准。 人工智能系统为社会提供了巨大利益的潜力，但它们并非没有风险，如有害性、错误信息...
-
AI视野：百川发布Baichuan2-192K大模型；DALL·E3新增种子功能；ChatGPT Plus会员可上传和分析文件；谷歌Bard支持实时生成回复
????大模型动态 百川智能发布Baichuan2-192K大模型，可处理35万汉字 百川智能发布了Baichuan2-192K大模型，拥有全球最长的上下文窗口，处理约35万个汉字，超越了Claude2。 百川大模型官网:https://top.aibas...
-
为何GPT-4P容易受到多模态提示注入图像攻击？
OpenAI新的GPT-4V版本支持图像上传后，带来了一条全新的攻击途径，使大型语言模型（LLM）容易受到多模态注入图像攻击。攻击者可以在图像中嵌入命令、恶意脚本和代码，随后模型会遵从行事。 多模态提示注入图像攻击可以泄露数据、重定向查询、生成错误信息，...
-
如何应对人工智能幻觉？
人工智能现在可以对看似怪异的人类问题做出回应。但有时，人工智能会给出答案。这些虚构的反应是真实的幻觉，还是别的什么? 要点： 研究发现，93%的受访者认为，人工智能幻觉可能会以某种方式导致实际伤害。 虽然ChatGPT可能是一种快捷工作方式，但更多人与...
-
AI智能超越人类终解开！李飞飞高徒新作破圈，5万个合成数据碾压人类示例，备咖啡动作超丝滑
AI巨佬Geoffrey Hinton称，「科技公司们正在未来18个月内，要使用比现在GPT-4多100倍的算力训练新模型」。 更大参数的模型，对算力需求巨大的同时，对数据也提出了更高的要求。 但是，更多的高质量数据该从何来？ 英伟达高级科学家Jim F...
-
全世界1/3博士后每天使用ChatGPT，不用AI工具影响找工作
在《Nature》对全球的博士后进行的调查表明，有三分之一的的受访者正在使用AI聊天机器人来帮助自己修改文字、生成或编辑代码、整理相关领域的文献等工作。 最近《Nature》刊发了一篇文章，从来自世界各地的博士后科研工作者的角度，描述了ChatGPT如何...
-
首个人体动捕基模型面世！SMPLer-X：横扫七大榜单
人体全身姿态与体型估计（EHPS, Expressive Human Pose and Shape estimation）虽然目前已经取得了非常大研究进展，但当下最先进的方法仍然受限于有限的训练数据集。 最近，来自南洋理工大学S-Lab、商汤科技、上海人...
-
最好7B模型再易主！打败700亿LLaMA2，苹果电脑就能跑
花500刀“调教”的70亿参数模型，打败700亿参数的Llama 2！ 且笔记本就能轻松跑，效果媲美ChatGPT。 重点：免费、不要钱。 HuggingFace H4团队打造的开源模型Zephyr-7B，鲨疯了。 其底层模型是前段时间爆火、由有着“欧...
-
GPT4教机器人盘转笔，那叫一个丝滑！
那个在聊天中给数学家陶哲轩带来启发的GPT-4，最近又开始教机器人转笔了。 项目叫Agent Eureka，是由英伟达、宾州大学、加州理工学院和得克萨斯大学奥斯汀分校联手研发的。他们的研究结合了 GPT-4 结构的能力和强化学习的优势，让 Eureka...
-
新研究：鸽子解决问题的方式类似于人工智能
一项由美国俄亥俄州立大学和爱荷华大学的研究人员进行的研究发现，鸽子在解决问题时使用了一种类似于人工智能的“暴力算法”方法。 俄亥俄州立大学的心理学教授布兰登・特纳说，研究人员发现“有非常强的证据表明，鸽子的学习机制与现代机器学习和人工智能技术的原理相似...
-
英国消费者组织警告：AI 聊天机器人使网络诈骗文案愈发专业化
10 月 28 日消息，根据英国消费者组织 Which? 当地时间周五公布的最新发现，不法分子会利用 ChatGPT 和 Bard 等 AI 聊天机器人制造出更有说服力的骗局，对公众构成威胁，且上述聊天机器人缺乏有效的防御措施。 据介绍，当地消费者通...
-
生成的分子几乎 100% 有效，用于逆向分子设计的引导扩散模型
「从头分子设计」是材料科学的「圣杯」。生成深度学习的引入极大地推进了这一方向，但分子发现仍然具有挑战性，而且往往效率低下。 以色列理工学院（Technion-Israel Institute of Technology）和意大利威尼斯大学（Univers...
-
AI视野：OpenAI成全球第三最有价值初创公司；SDXL推精简版本；小米14将搭载WPS AI功能；Bing AI拒绝生成女性逼真图像
???AI应用 SDXL推精简版本SSD-1B 推理速度提升60% Segmind Stable Diffusion1B（SSD-1B）是一款高效、高速的文本生成图像AI模型，为图像生成提供广泛可能性，它是稳定扩散XL的精简版本，体积减小50%，但速度提升...
-
OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险
10月27日消息，据外媒报道，当地时间周四，美国人工智能研究公司OpenAI宣布，它将组建一个名为Preparedness的新团队，以评估和减轻与人工智能（AI）相关的“灾难性风险”。 OpenAI表示，该团队将由麻省理工学院可部署机器学习中心主任亚历山大...
-
波士顿动力机器狗能开口聊天了！ChatGPT加持，对话机智妙语连珠
好家伙，波士顿动力机器狗，现在能直接开口说话了。 并且不同于Siri的“人工智障”，ChatGPT加持的狗，聊起天来那叫一个妙语连珠。 比如随口说一句：“我口渴了。” 它会直接给你领到咖啡柜台前，并回答： 我们这里有小吃店和咖啡机。这是我们的人类同事寻找...
-
吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室
现在，大模型也学会“吃一堑，长一智”了。 来自香港科技大学和华为诺亚方舟实验室的最新研究发现： 相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。 具体...
-
OpenAI、谷歌微软等设立 1000 万美元 AI 安全基金
谷歌、微软、OpenAI 和 Anthropic 发布联合声明，任命美国智库学会高管 Chris Meserole 为前沿模型论坛 (Frontier Model Forum 首任执行董事。并宣布设立 1000 万美元的 AI 安全基金，“以推动正在进...