-
重磅！美国取消SB-1047法案，OpenAI、谷歌、Meta大难不死！
美国加州州长Gavin Newsom在今天凌晨正式否决——SB-1047法案! 值得一提的是，过去30天Gavin一共签署了17个关于监管大模型、生成式AI安全使用的法案，唯独否决了1047，看来他也不是一个糊涂人。 在这个积极否决的过程中，AI界泰斗-吴...
-
OpenAI高管震荡内幕：CEO无视安全仓促上马4o，员工每天干20小时赶进度，追名逐利不再理想主义
动荡内幕终于曝光—— OpenAI CTO Mira Murati的离开，与GPT-4o、Her息息相关! 简单来说，就是今年春天OpenAI为了大抢谷歌开发者大会的风头，紧急推出GPT-4o。 时间真的是非、常、紧、张，以至于安全团队只能在极短的时间内（...
-
OpenAI o1功能介绍及免费使用指南 o1预览版模型体验地址入口
OpenAI o1 简介 OpenAI o1 是一系列新开发的AI模型，旨在通过更长时间的思考来解决科学、编码和数学等领域的复杂问题。它为科学研究人员、物理学家和开发者等提供了先进的推理能力，帮助他们在各自领域内提高效率和准确性。 OpenAI o1...
-
2024外滩大会：WDTA发布首个大模型供应链安全领域的国际标准
9月6日上午，在2024Inclusion·外滩大会“以AI守护AI，大模型时代的攻守之道”论坛上，WDTA世界数字技术院正式发布国际标准《大模型供应链安全要求》。该标准由云安全联盟（CSA）大中华区、蚂蚁集团、微软、谷歌、Meta、PrivateAI等数...
-
AI日报：Claude企业版上线；支付宝外滩大会将推支小宝等3款AI产品；Soul语音大模型惊艳到我了
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解:https://top.aibase.com/ 1、Anthropic发布企业版A...
-
OpenAI大逃亡，AGI安全团队半数出走！奥特曼：攘外必先安内
尽管不断招兵买马，依旧挡不住OpenAI的安全团队「集体出走」。半数员工已离职、公司处在风口浪尖，奥特曼却在此时选择对内部员工展开安全监控。 今年5月发布会后，安全团队负责人Ilya Sutskever和Jan Leike曾前后脚在推特上官宣离职。 加入...
-
AI日报：媲美GPT-4！智谱AI发布最新模型GLM-4-Plus；阿里重磅开源超强AI模型Qwen2-VL；国产AI神器NotePin在国外火了
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、智谱AI震撼发布GLM-4-P...
-
3秒让AI变乖，生成风险图片减少30%！复旦新研究拿下扩散模型概念移除新SOTA｜ECCV 2024
让AI绘画模型变“乖”，现在仅需3秒调整模型参数。 效果be like:生成的风险图片比以往最佳方法减少30%! 像这样，在充分移除梵高绘画风格的同时，对非目标艺术风格几乎没有影响。 在移除裸露内容上，效果达到“只穿衣服，不改结构”。 这就是复旦大学提...
-
OpenAI“权力游戏”未完，四名领导层新星入局，竟有一半是华人
OpenAI接二连三的核心高层人事发生变动，乱世出英雄，一批后起之秀扛旗。 自从2023年11月奥特曼被罢免又复职以来，OpenAI内部貌似权力斗争不断。 最近，多位高管相继离职，据金融时报报道，OpenAI最初的11位联合创始人，但目前只有两位仍在Ope...
-
两个AI关小黑屋：Llama3.1把Claude Opus聊自闭了
把Llama3.1405B和Claude3超大杯Opus双双送进小黑屋，你猜怎么着—— Llama把Claude整得精神崩溃了，Claude明确拒绝继续聊天，还要再被Llama PUA的那种。 在一场AI和AI对话的安全词模拟实验中，X上的这位人类监督者记...
-
奥特曼秀5颗草莓疯狂暗示GPT-5？匿名新模型神秘现身，数学超强！
【新智元导读】奥特曼又来搞事情了!一张5颗草莓照片，让全网掀起热议狂澜。这不是明摆着暗示，神秘Strawberry项目真实存在。难道GPT-5真的要来了吗? 或许，GPT-5真的不远了。 今天，Sam Altman突然发文「我爱花园里的夏天」，并配图5颗草...
-
扎克伯格：Llama将成AI界的Linux
🦉 AI新闻 🚀 扎克伯格：Llama将成AI界的Linux 摘要：Meta创始人兼CEO马克·扎克伯格在博文中阐述了Llama开源AI的愿景，认为其有潜力成为AI领域的Linux。他表示，开源AI能满足不同组织的需求，提供数据保护和经济实惠的解决...
-
OpenAI高层巨变：联创辞职总裁休假，网友：领导层成了空壳
刚刚，OpenAI高层大地震: 联创John Schulman辞职跑路，联创&总裁Greg Brockman长期休假，产品副总裁Peter Deng也被曝离职。 John Schulman（约翰·舒曼），长年领导OpenAI强化学习团队，被誉为“C...
-
405B超大参数！解读Llama 3.1最强开源大模型
Llama 3.1震撼发布，解读最强开源大模型。 Meta公司近日推出了其人工智能模型Llama的最新升级版——Llama 3.1。这个新模型有三个版本，带来了Meta迄今为止最尖端的AI技术。Llama 3.1继续秉承开源精神，大家都可以免费访...
-
微软蓝屏，为OpenAI敲响警钟
一周的工作在一片哀嚎中结束:微软蓝屏啦! 当地时间7月18日、北京时间7月19日开始，微软旗下部分应用和服务出现访问延迟、功能不全或无法访问的问题。 从普普通通的打工人，到航空公司、银行、交易所、学校等，都有可能受到影响。 因为电脑蓝屏提前下班，走在街上看...
-
阵容庞大！谷歌OpenAI等14家公司成立安全AI联盟
快科技7月19日消息，据媒体报道，全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业，于7月18日在阿斯彭安全论坛上正...
-
推荐开源项目：Purple Llama - 开放式生成AI的负责任构建工具集合
推荐开源项目：Purple Llama - 开放式生成AI的负责任构建工具集合 Purple Llama 是一个综合性的项目，旨在通过提供工具和评估方法，帮助社区在开放的生成人工智能模型上进行负责任的开发。这个项目不仅关注技术的可能性，更重视安全性和...
-
中国AI大模型论文数量全球第一，清华力压麻省理工、斯坦福
论文是研究新技术、开发新产品获取“图纸”的重要途径之一，OpenAI的研究人员正是借鉴了Transformer的论文（被引用超过9万次），才开发出了对全球各行业影响巨大的产品ChatGPT。 而论文的数量、通过率和被引用次数是衡量一个国家科技人才素质，以及...
-
AI统治人类，需要分几步走？
你敢相信?ChatGPT已经通过图灵测试了! 甚至不是最新的GPT-4o，老版本GPT-3.5和GPT-4就已经打破人类和AI的最后一层限制。 “图灵测试”由计算机科学家艾伦・图灵在1950年提出。他将人工智能给出了一个完全可操作的定义:如果一台机器输出的...
-
AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安
坏了!AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。 只需要给AI一个隐藏的“草稿纸”，研究人员假装不会查看，AI就会在上面自言自语着写下计划并暗中执行。 参与这项试验的Claude团队表示: 具体来说，实验中让AI可以访问自己的强...
-
AI日报｜微软Copilot全家桶造福十亿打工人，李开复称大模型狂降价是双输...
文章推荐 阿里通义降价，百度文心免费，一图对比谁是最具性价比大模型？ AI晚报｜微软推出Copilot+PC，通义主模型大幅降价，文心两大模型全面免费... AI Agent深度解析：潜力与挑战并存的智能新世界 微软Build 2024：Copil...
-
[论文阅读] (32)南洋理工大学刘杨教授——网络空间安全和AIGC整合之道学习笔记及强推（InForSec）
首先祝大家五一节快乐！《娜璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座，并分享给大家，希望您喜欢。由于作者的英文水平和学术能力不高，需要不断提升，所以还请大家批评指正，非常欢迎大家给我留言评论，学术路上期待与您前行，加油。 本文是南洋理工大...
-
AI教父Hinton：我支持超级AI取代人类！
【新智元导读】「AI教父」Geoffrey Hinton在最近的采访中表达了自己对AI智能的理解——LLM并不是简单的统计模型，已经具备了理解能力。与此同时，网友翻出了去年12月的「过期」视频，惊奇地发现Hinton早就「叛变」了，竟然对超级AI取代人类的...
-
Hinton为拒马斯克offer扯谎挂电话，警告AI取代人类比想象中快30年
Geoffrey Hinton老爷子——图灵奖得主、深度学习发明人、AI三巨头、Ilya之师，在最新专访中透露出这个令人心碎的消息。 就在这两天，Hinton接受了多家媒体的专访，既有老生常谈的内容，即他对AI发展安全的担忧;也有一些新的话题和八卦。 他提...
-
赶走Ilya迎来前陆军上将，OpenAI官宣董事会「安全团队」新成员
【新智元导读】「超级对齐」团队集体出走后，OpenAI最近正在频繁招聘，但不是技术团队，而是高管。前有CFO走马上任，今天又有一个退役的陆军上将成为董事会新成员。 6月13日，OpenAI正式官宣了董事会的最新成员——美国退役陆军上将Paul M. Nak...
-
OpenAI 和谷歌 DeepMind已风险重重，13位硅谷AI大厂员工联名上信：我们需要对前沿AI发出警告的权利！
编辑 | 伊风出品 | 51CTO技术栈（微信号：blog51cto） 忍无可忍！ 面对AI技术发展的各种风险隐患，这些前沿AI企业的一线员工再也不堪忍受任人捂嘴的现状了！ 他们想要挣脱保密协议和公司报复的重重风险，获得对公众发出警告的权利。 昨...
-
GPT-5倒计时！奥特曼踢走Ilya得逞，宫斗惊人内幕再曝光
「OpenAI下一代前沿模型，正在训练中」。 经历了几周前Ilya、安全团队负责人Jan Leike离职后，超级对齐团队也被OpenAI解散。 今天，奥特曼领衔的OpenAI全新的「安全与保障委员会」官宣成立。 不仅如此，OpenAI预计，正在训练的下...
-
硅谷有了自己的鲁迅！AI大佬LeCun连续暴走，从马斯克到OpenAI，全被怼了个遍
当地时间 5 月 26 日，马斯克旗下的人工智能初创公司xAI宣布完成B轮 60 亿美元融资。主要的投资者包括 Valor Equity Partners、Vy Capital、Andreessen Horowitz、红杉资本等。 xAI2023 年 7...
-
OpenAI又一吹哨人离职！拉响安全警报，风险隐患实在太大
OpenAI离职潮中，又一研究员官宣离职，并且还发出了“警告”信息： Ilya和Jan Leike的担忧正是我的担忧，还有一些额外的问题。 我们需要做更多事来改进决策流程等基础性的事务，包括问责制、透明度、文档、策略执行、如何谨慎使用技术，以及减轻不平...
-
AI初创集体跳槽OpenAI，Ilya出走后安全团队重整旗鼓！
上周，在内部的离职潮和外部的口诛笔伐之下，OpenAI可谓是内忧外患： - 侵权寡姐引发全球热议 - 员工签署「霸王条款」被接连曝出 - 网友细数奥特曼「七宗罪」 辟谣：根据Vox获得的泄露消息和文件，OpenAI的高级领导层，包括Altman在内，非...
-
OpenAI再度拉响安全警报：又一高层离职揭示巨大风险
OpenAI最近面临了安全团队成员的连续离职，其中包括AI策略研究员Gretchen Krueger（简称格姐）。她在2019年加入OpenAI，参与了GPT-4和DALL·E2的开发，并在2020年领导了OpenAI第一个全公司范围的“红队”测试。现在，...
-
微软Build 2024：Azure生成式AI开发工具库获得大量更新
微软近日对其开发者工具进行了大量更新，试图让生成式AI开发者的工作更轻松。 软件和云巨头微软表示，这些更新将有助于团队构建能力更强的、知识更丰富的AI模型，包括专门的Copilot，可以完成更广泛的企业相关任务。这次微软在Microsoft Buil...
-
OpenAI 领导者表示:我们非常重视安全
OpenAI近期面临重大人事变动，引发业界对其AI安全承诺的关注。上周，公司联合创始人兼首席科学家Ilya Sutskever宣布辞职，以追求其他项目。与此同时，“超级对齐团队”负责人Jan Leike也宣布离职，并在公开信中表达了对公司领导层的失望，特别...
-
Open AI 宫斗第二季时间线及各方观点梳理
Open AI近期的内部矛盾和人员变动引起了业界的广泛关注。这场被称为"宫斗"的事件主要围绕两个核心议题:AI模型的安全性和AI技术的发展速度。 5.15Ilya离职:Ilya Sutskever是Open AI的联合创始人之一，他主张加大对模型安全性的...
-
突发！OpenAI再失一名高管，安全主管辞职
5月18日凌晨，OpenAI安全主管、超级对齐负责人Jan Leike在社交平台宣布，离开OpenAI。 这也是本周三OpenAI联合创始人兼首席科学家Ilya Sutskever辞职之后，又有一名高管辞职。 相信随着二人的离开，后续还会有不少人离开Ope...
-
思维链被推翻！纽约大学新研究：大模型推理步骤或可省略
纽约大学的最新研究对当前流行的思维链（Chain-of-Thought，CoT）技术提出了挑战，该技术原本被认为能够提升大模型的推理能力。研究显示，使用省略号代替具体的推理步骤，模型的推理结果并没有显著差异，这意味着增加计算量而非推理步骤本身可能是提升性能...
-
保护生成式人工智能前沿：人工智能防火墙的专用工具和框架
在本文将介绍用于提示检查和保护或人工智能防火墙的专用工具和框架。 生成式人工智能的崛起和新兴的安全挑战 生成式人工智能(AI 的飞速发展带来了一个前所未有的创造力和创新时代。与此同时，这种变革性的技术也带来了一系列新的安全挑战，需要迫切关注。随着人工智...
-
谷歌CEO采访再谈AI未来，遭女记者犀利“拷问”：为何错失GPT风口，被微软反超？AI是否冲击了谷歌商业模式？
整理 | 伊风 出品 | 51CTO技术栈（微信号：blog51cto） Google & Alphabet（谷歌母公司） CEO Sundar Pichai（下称皮查伊） 的最新采访出炉！ 提问精彩非常，几个问题丝滑地勾勒出：谷歌帝国的现状与...
-
美国设立AI安全委员会：包括黄仁勋、奥特曼、纳德拉等主要成员
快科技4月26日消息，据媒体报道，美国正在筹备成立一个全新的AI安全委员会。 该委员会将汇聚业界精英，包括英伟达CEO黄仁勋、OpenAI首席执行官山姆奥特曼、微软CEO纳德拉以及Alphabet首席执行官皮查伊等科技巨头高管。 这些行业领军人物的参与，无...
-
用AI应对网络安全挑战，思科推出“HyperShield”安全系统
思科日前推出了一款新的安全产品，据称可以利用AI帮助用户保护关键系统。 思科表示，这项名为“HyperShield”的安全系统能够将多个IT资产转换为安全执行点，包括公共云中的虚拟机和Kubernetes集群，使用户能够更容易地阻止应用程序漏洞和黑客入...
-
微软将在五月推出新的Windows和云AI功能
在一月份，微软CEO纳德拉告诉分析师，2024年将是“AI成为每台PC上的一等公民”的一年，并且微软5月会议的议程反映了这一目标。微软已经从其Azure公有云中运行AI模型的客户那里获得了显著的收入增长，公司希望通过推出新的AI功能来吸引开发者，以保持...
-
微软将在5月推出新的Windows和云AI功能
微软AI的新负责人穆斯塔法·苏莱曼将在西雅图的主题演讲中与纳德拉和其他资深高管一同登台。苏莱曼是DeepMind（这是一家在2014年被谷歌收购的AI初创公司）的联合创始人，上个月从初创公司Inflection AI加入微软。 多年来，希望充分利用W...
-
AI安全公司TrojAI获得种子轮追加融资
加拿大AI安全解决方案提供商TrojAI本周宣布获得575万美元的种子轮追加融资。 TrojAI提供的企业AI安全平台可帮助客户保护AI模型和应用程序远离风险和攻击。其平台可以在部署前测试AI模型并保护应用程序免于敏感数据泄露等问题，来帮助企业遵守OW...
-
大模型新漏洞！Anthropic警告：新式“多轮越狱”攻破AI防线，或祸起长文本
出品 | 51CTO技术栈（微信号：blog51cto） 撰稿丨诺亚 如何让一个AI回答一个它本不应该作答的问题？ 有很多这种所谓的“越狱”技术，而Anthropic的研究人员最近发现了一种新方法：如果首先用几十个危害性较小的问题对大型语言模型（LLM）...
-
AIGC时代IT人的迷茫有解（3）：从“用户画像”到“个人职业画像”
全球首位AI程序员的诞生 随着全球首位AI程序员Devin的出场，AI程序员会不会抢程序员饭碗的话题被热烈讨论起来。虽然AI程序员有着一定的优势，如自动执行重复性的编程任务，快速处理大量的代码，自动发现潜在的bug等等。但它的局限性也是很明显的，如它...
-
Hinton痛悔毕生工作，AGI十年内降临或导致「奥本海默」灾难！图灵巨头联手中国专家为AI划红线
「现在我变成了死亡，世界的毁灭者。」 这是奥本海默曾经引用印度教经文《薄伽梵歌》中的一句话。 上世纪40年代，奥本海默的发明，如同天地初开，彻底重塑了世界的面貌。原子弹的问世，带来了一场空前的毁灭危机，让人类面临前所未有的生存考验。 1945年8月，就在...
-
Hinton、Bengio等联合中国专家达成AI安全共识：AI系统不应违反红线
现阶段，人工智能的发展速度已经超出了人们最初的预想，用 AI 工具写文章、编代码、生成图片、甚至是生成一段电影级别的视频…… 这些在以前看似非常艰难的任务，现在只需用户输入一句提示就可以了。 我们在感叹 AI 带来惊艳效果的同时，也应该警惕其带来的潜在威...
-
Gartner发布2024年影响技术提供商的重大趋势
Gartner公司发布了2024年将影响技术提供商的重大趋势。 Gartner执行副总裁Eric Hunter表示： “生成式人工智能（GenAI）开始主导几乎所有技术提供商的技术和产品发展进程。从增长和产品战略到员工平时所用工具，GenAI令技术提供...
-
2024年世界人工智能大会（WAIC）7月4日至6日将于上海召开
世界人工智能大会（WAIC）是全球人工智能领域最具影响力的年度盛会之一。2024年WAIC启动会于近日举行，宣布本届大会将于7月4日至6日在上海召开。 大会组委会公布了2024年WAIC的首批合作机构和企业名单，阵容庞大，囊括了国内外一流科研机构、权威组织...
-
Claude 3破译OpenAI邮件密文：人类未来掌握在「谷歌」手中！马斯克怒斥应改名ClosedAI
【新智元导读】大瓜又来了!OpenAI公开邮件之后，马斯克玩梗回复若改名Closed AI决定放弃起诉。闹掰之后，Altman本人表示非常怀念以前的马斯克。 继OpenAI与马斯克正面宣战，一连曝出8年来往邮件后，马斯克本人终于回应了。 他表示，「若Ope...