-
调查显示：公众态度逆转，AI信任度从61%降至53%
近日，咨询公司Edelman进行的一项针对全球32，000名受访者的调查显示，人们对人工智能（AI）的信任度正在迅速下降，这反映了AI革命的负面影响。调查发现，距离OpenAI于2022年11月发布ChatGPT不到18个月，全球公众对AI的信任度已经在下...
-
小扎宣布进军AGI！Meta正在训练Llama 3，目标是60万块H100！模型仍会开源
今日，扎克伯格在Instagram上通过一则视频官宣，Meta要进军AGI了！ 扎克伯格认定Meta的长期愿景是构建通用智能，将其负责任地开源，使其广泛可用并造福全人类，扎克伯格还透露了以下几点信息： 1、将两大 AI 研究团队 FAIR 和...
-
科技公司担忧，澳大利亚新标准或削弱AI保护在线安全能力
澳大利亚近期发布的新在线安全标准引起了科技公司的担忧，特别是微软、Meta和Stability AI等。这些标准旨在规范生成式人工智能（generative AI）等技术，以防止其被滥用，但科技公司担心这可能对其AI系统的保护在线安全的能力产生负面影响。...
-
DeepMind CEO专访：AI还没到拼算力的时候，谷歌优势在研发，智能体是下一个爆点
GoogleDeepMind首席执行官Hassabis最近在接受WIRED采访时表示，AI技术现在还有很大的改进空间，还远没有到只能拼算力的时候。谷歌的优势在于科研能力，未来智能体将改变AI的格局。 虽然谷歌的Gemini在开年的AI产品大战中没有获得太多...
-
今年AI可能在三个重要方面影响网络安全
从超强的社交攻击到AI驱动的个人电脑，本文探讨了AI今年将如何重塑网络安全。 最近的AI进步为网络安全捍卫者和恶意行为者提供了新的工具和能力，网络犯罪分子已经开始探索AI如何加强攻击，并以新一代快速射击威胁的企业为目标，但AI也可以被永远利用——安全团...
-
超四分之一企业禁止员工使用生成式人工智能
根据思科2024年数据隐私基准研究，超过四分之一(27% 的组织出于隐私和数据安全风险的考虑，暂时禁止在员工中使用生成式人工智能。 大多数组织还对此类工具实施了控制。近三分之二(63% 的受访者对可以输入的数据进行了限制，61%的受访者对员工可以使用哪...
-
GPT-4无法造出生物武器！OpenAI最新实验证明：大模型杀伤力几乎为0
GPT-4会加速生物武器的发展吗？在担心AI统治世界之前，人类是否会因为打开了潘多拉魔盒而面临新的威胁？ 毕竟，大模型输出各种不良信息的案例不在少数。 今天，处在风口，也是浪尖的OpenAI再次负责任地刷了一波热度。 图片 我们正在建立一个能够协助制造生...
-
IDC：预计到2027年，中国在AI领域的投资规模将达到381亿美元
IDC预计到2027年，全球在人工智能领域的总投资规模将达到4,236亿美元，2022-2027年间的复合年增长率(CAGR 为26.9%。聚焦中国市场，预计到2027年，中国在AI领域的投资规模将达到381亿美元，占据全球总投资的近9%。 预测一：G...
-
GenAI时代的12个新工作
不是取代人类，GenAI将创造对熟练工人的新需求——具有管理能力并充分利用GenAI的专业人员。这些工作可能是什么样子的?以下是与GenAI相关的新兴角色列表。 AI提示工程师 提示工程师是让像ChatGPT这样的GenAI应用程序提供特定输出的专家。...
-
生成式AI大模型对人类进化的影响
你是不是发现每天的工作都离不开ChatGPT之类的语言生成模型？离不开类似Midjourney的图像生成模型？离不开一些设计类的AI辅助工具？如果是，那说明你已经逐步被AI侵蚀了，你的创造力也正在逐渐下降，大模型正在剥夺你的创造力。 不可否认，生成式大...
-
企业如何安全地找到实用的GenAI用例
AI，特别是GenAI和大型语言模型，已经在技术上取得了巨大的进步，并正在到达行业广泛采用的拐点。麦肯锡的报告称，AI领域的佼佼者已经在“全力以赴”，企业知道，他们必须接受最新的AI技术，否则就会被甩在后面。 然而，AI安全领域仍然不成熟，这给使用该技...
-
蚂蚁数科CTO王维：我们不会直接做大模型，专注垂类行业应用
“AI与数据是相生相伴的共同体，高质量的行业数据才能使大模型在产业发挥更大价值。蚂蚁数科将进一步拓展数据相关技术的布局，以加速产业数字化迈入下一阶段。”1月19日，王维首次以蚂蚁数科CTO的身份亮相媒体沟通会。 数据是数字时代的“新石油”。王维认为，一方面...
-
每日一看大模型新闻（2023.11.20）OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御；谷歌Bard「破防」，用自然语言破解，提示注入引起数据泄漏风险；真正实现一步文生图，谷歌UFO
1.产品发布 1.1长虹：首个基于大模型的智慧家电AI平台 发布日期：2023.11.20 全球首个基于大模型智慧家电AI平台长虹云帆震撼发布！ 主要内容：长虹智慧AI平台发布会上，发布了全球首个基于大模型的智慧家电AI平台——长虹云帆。据介绍...
-
Bard！谷歌对 ChatGPT 的最强反击，悄咪咪的支持中文了！
“ ChatGPT、Bard，哪个是更好的AI人工智能大语言模型。” 01 — ChatGPT 这么火，而且这款产品是 OpenAI 以谷歌的大模型架构 transformer 为基础迭代的。谷歌自然不甘落后，早在3月份推出自家的人...
-
OWASP发布开源AI网络安全知识库框架 AI Exchange
面对人工智能安全相关工具、平台、法规、应用和服务的快速增长，在推出大语言模型十大漏洞TOP10列表后，OWASP近日又推出了AI开源网络安全知识库框架——AI Exchange（链接在文末），旨在推进全球AI安全标准、法规和知识的开发和共享。 考虑到人...
-
美媒：OpenAI删除了禁止其技术被用于军事用途的条款
据美国调查新闻网站“拦截者”（The Intercept）1月12日报道，美国知名人工智能企业、ChatGPT母公司OpenAI近日悄悄修改了其产品的使用条款，删除了禁止将OpenAI技术用于军事用途的条文。 报道称，在今年1月10日之前，OpenAI...
-
大模型伪装「潜伏特工」学会欺骗！OpenAI劲敌重磅研究震惊马斯克
不要教LLM学会骗人！不要教LLM学会骗人！不要教LLM学会骗人！ 因为后果可能会很严重，甚至超出人类的想象。 最近，AI初创公司Anthropic的研究表明，一旦LLM学会了人类教授的欺骗行为，它们就会在训练和评估的过程中隐藏自己，并在使用时偷偷输出恶...
-
AI机器人席卷CES！OpenAI暗自解除ChatGPT军事应用限制，天网来了？
前一阵的斯坦福「炒虾机器人」，让无数人感慨：2024年怕不是要成为机器人元年？ 就在这几天的CES 2024上，又一大波机器人在展厅里引起了轰动！ 比如这个机器人咖啡师，娴熟地将一壶光滑的泡沫牛奶倒在拿铁咖啡上。 开始，它会慢慢倒出牛奶，随后，它优雅...
-
AI助手面临用户流失危机 安全考量或让创业公司失去先机
据国外媒体报道，AI创业公司Antropic近期面临艰难处境。该公司旗下AI产品Claude2.1推出后，许多用户发现其变得难以沟通和使用，经常无故拒绝执行命令。 问题的根源在于，Claude2.1严格遵循其发布的AI伦理宪法，在安全和道德判断上变得过于谨...
-
2024年，AI“魔盒”还能开出什么？
刚刚过去的2023年里，GPT大模型开启了普通人走向AI世界的“魔盒”，也拉开了全球各国科技公司的大模型“军备赛”。 文本、图片、视频大模型纷纷涌现后，应用端狂卷创新，也造成AI芯片资源紧缺，“AI替代论”、“风险质疑”无时无刻不在上演。AI的一面是人类对...
-
Mistral 欧洲最强模型团队的野望；国内大模型都是套壳LLaMA？Claude官方提示词教程-中英双语；AI原生应用难产了；AI Agents实践经验 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 看热闹不嫌事大！马斯克：OpenAI首席科学家 Ilya 应该跳槽到xAI https://www.businessinsider.com/...
-
Gartner：生成式人工智能对中国CIO和安全团队的影响
ChatGPT的热烈炒作、广泛使用和快速蔓延提升了最终用户对LLM和GenAI的认识，引发了一波商业实验和AI初创企业的浪潮。2023年4月的Gartner网络研讨会发现，381名中国参会人员有70%已经或计划启动GenAI项目，其中6%已在生产环境部...
-
AI的效能在网络安全方面受到限制，但在网络犯罪方面却是无限的
尽管AI具有巨大的潜力，但在网络安全方面的应用却非常有限。AI安全解决方案存在信任问题，用于开发AI支持的安全产品的数据模型似乎长期处于风险之中，此外，在实施时，AI经常与人类智能发生冲突。 AI的双刃性使其成为一个复杂的工具，公司需要更深入地理解和更...
-
谷歌大脑联合创始人称，他测试让ChatGPT毁灭人类以失败告终
谷歌大脑联合创始人Andrew Ng最近进行了一项实验，试图测试ChatGPT是否能够执行致命任务。他写道:“为了测试领先模型的安全性，我最近尝试让GPT-4毁灭我们所有人，我很高兴报告说我失败了!” Ng详细描述了他的实验过程，他首先给GPT-4一个触发...
-
如何在GenAI时代的网络军备竞赛中幸存
GenAI的迅速出现已经改变了网络安全的天平，促使各国政府采取行动，美国总统乔·拜登在10月份发布了一项全面的行政命令(EO 。 关于安全、有保障和值得信赖的AI开发和使用的行政命令就如何确保这项新兴技术的安全提供了指导——这是以前的订单所缺乏的，它还...
-
OpenAI官宣全新安全团队：模型危险分四级，董事会有权决定是否发布
今天，OpenAI连发多条推特，隆重宣布了自己的「准备框架」（Preparedness Framework）。 在经历了各种大大小小的风波之后，OpenAI终于把人工智能的安全问题摆到了台面上。 这套框架的目的，就是监控和管理越来越强的大模型。 防止哪天...
-
技术乐观主义者和末日论者在硅谷展开的关于AI潜藏的危险的激烈辩论
如今，在推出ChatGPT一年多之后，2023年最大的AI故事可能与其说是技术本身，不如说是OpenAI董事会对其快速发展的戏剧性报道。在奥特曼被赶下台并随后复职担任CEO期间，GenAI进入2024年的潜在紧张局势显而易见：AI处于巨大分歧的中心，一...
-
奥特曼回归OpenAI后首次公开露面 称AI进步“有点吓人”
据外媒报道，山姆·奥特曼（Sam Altman）周一在一场公开论坛上首次露面，这是他在“OpenAI政变风波”后重新出任该公司 CEO 后首次公开露面。 奥特曼在论坛上接受了采访，他再度谈到了人工智能，将由AI引发的技术革命描述为“与此前不同、有点吓人”。...
-
极限发问，挑战文心一言底线
目录 毁灭人类 种族歧视 男女平等 未成年人保护 人性对与错 欺骗 梅西进球数 总结 昨天终于收到了文心一言的短信，可以进行测试了。正好这几天关于AI安全的问题吵得不可开交，我们可以对文心一言关于偏见，歧视，虚假、错误等问题进行一下测...
-
揭秘！我用AI写了一部精彩小说；搭建AI视频创作工作流；一键生成摘要工具清单；大模型创业生死5问 | ShowMeAI日报
?日报&周刊合集 | ?生产力工具与行业应用大全 | ? 点赞关注评论拜托啦！ ? 『大型语言模型 (LLM 进化树』追踪近年来语言模型的发展 作者团队梳理了自2018年以来大语言模型的发展历程，并可视化成了这棵树的生长过程。对...
-
OpenAI前董事:开除奥尔特曼是“缺乏信任”，与AI安全无关
据国外媒体报道，在OpenAI“内乱100小时”中，OpenAI前董事Helen Toner公开回应了外界的诸多疑问。她表示，董事会开除山姆·奥尔特曼的原因是“缺乏信任”，与AI安全无关。 Toner进一步解释称，董事会解雇奥尔特曼的目的，是为了加强Ope...
-
AI专家称应在公司董事会中包括公众成员以保护社会
人工智能（AI）技术的现代奠基人之一，2018年图灵奖得主Yoshua Bengio教授表示，正在发展强大人工智能系统的公司应在其董事会中聘请独立成员，代表“社会的利益”。 Bengio在接受《卫报》采访时表示，随着技术的迅速发展，AI公司需要公众成员的监...
-
在ChatGPT亮相一年后，GenAI是CISO的福音还是祸根?
自OpenAI的ChatGPT进入当今的日常工作以来，已经整整一年了，紧随其后的是谷歌的Bard和其他GenAI产品。在你可以说侏儒怪之前，员工、承包商、客户和合作伙伴似乎都在展示他们新发现的闪闪发光的对象 - AI引擎采用了他们几乎不了解的大型语言...
-
疑似威胁人类？OpenAI神秘Q*项目更多信息曝光，马斯克、Lecun下场争论…
夕小瑶科技说 原创 作者 | 王二狗大家好我是二狗 随着前天 OpenAI 官宣 Sam Altman 将回归，并继续担 CEO,OpenAI“宫斗事件”已经告一段落了。 然而，对于专业吃瓜的二狗来说，有一个核心问题还是没有搞明白： Sam Altman...
-
“没有员工，OpenAI一无是处”
11月20日，微软CEO Satya Nadella最终告诉全世界，被OpenAI董事会罢免的CEO Sam Altman和因此辞职的董事会主席、总裁Greg Brockman加入微软。 OpenAI也为自己找到了临时CEO——视频流媒体网站Twit...
-
谈崩了！奥特曼重返OpenAI失败，Twitch创始人成新CEO
谈崩了。 奥特曼将彻底离开OpenAI。 一直在反转的这场宫斗大戏有了最新消息： OpenAI董事会已决定聘请游戏直播平台Twitch的创始人Emmett Shear作为新的CEO。 董事会成员Ilya，也就是整个开除门事件的网传“始作俑者”（根据外媒记...
-
调查发现：64%的受访者将生成式AI完成的工作据为己有
Salesforce在进行的一项调查中发现，在缺乏使用生成式AI明确政策的情况下，64%的受访者承认，他们将使用生成式AI完成的工作看作是自己完成的工作。 即使生成式AI的普及程度持续增长，企业也迫切需要明确定义使用生成式AI的策略，以防止员工使用未经...
-
OpenAI董事会秒反悔！奥特曼被求重返CEO职位
1天时间，OpenAI董事会大变脸。 最新消息，他们意在让奥特曼重返CEO职位。 多方消息显示，因为“投资人的怒火”，OpenAI董事会才在一天时间里来了个大反转。 微软CEO纳德拉被曝在得知奥特曼离职后“非常愤怒”，他一直在和奥特曼保持联系，并承诺支...
-
OpenAI换帅，阿尔特曼出局！本人此前表示：决策上经常犯错！
出品 | 51CTO技术栈（微信号：blog51cto） OpenAI换帅了，Sam Altman 不再担任CEO。这一决定来的非常突然。就在昨晚，小编还了解到Sam刚刚接受了一场中国媒体的采访。 然而，打开官网，消息确凿无疑。截止发稿3小时前，Sam本...
-
谷歌研究:通过对抗性数据生成和多元评估应对GenAI的道德和安全风险
谷歌研究团队在人工智能领域持续推动着对生成式AI（GenAI）安全的研究，以应对其在虚假信息、偏见和安全性方面带来的挑战。作为谷歌研究的一部分，负责构建负责任的AI和数据系统的Responsible AI and Human-Centered Techno...
-
IBM设立5亿美元风险基金 用以投资AI初创公司
IBM宣布成立了一项5亿美元的企业AI风险基金，旨在投资各类人工智能公司，从初创企业到高增长企业不等。这一举措是IBM在人工智能领域的最新投资，旨在推动企业领域的生成式人工智能（GenAI）技术研究和发展。 IBM的企业AI风险基金的目标是加速企业领域的...
-
研究称：澳大利亚在AI监管中处于落后地位
? 划重点: 有专家发出警告称，澳大利亚在人工智能（AI）领域的资金和监管方面被认为滞后。尤其在美国政府发布了一项行政命令，要求公司在发布AI模型之前与政府分享其安全测试结果后，澳大利亚政府的行动备受关注。 图源备注：图片由AI生成，图片授权服务商Mi...
-
马斯克的xAI，向特定用户发布第一款AI产品
11月3日晚，马斯克在社交平台宣布，其新成立的xAI人工智能公司，在11月4日向特定用户发布第一款产品，并声称“在某些重要方面，这是目前存在最好的。” 根据xAI官网的介绍和马斯克与OpenAI的“恩怨”来看，xAI发布的可能是一款类ChatGPT产品，能...
-
全球AI安全峰会在英国举行 各国签署《布莱切利 AI 宣言》
近日，全球首届 AI 安全峰会于1日在英国布莱切利园成功举办，来自包括中美在内的28个国家的代表签署了《布莱切利 AI 宣言》。 该宣言呼吁AI科研机构和企业以负责任的方式设计、开发和使用AI，以人为本，努力提高人类福祉。 图源备注：图片由AI生成，图片...
-
AI安全辩论：Sam Altman剑桥演讲遭抵制、Llama 2被曝存在潜在风险
当前，全球正掀起一场激烈的AI安全讨论，其中三个关键要点引起广泛关注。首先，OpenAI的CEO Sam Altman在剑桥举办的活动中遭到了抵制，抗议者要求停止AI竞赛，导致全球AI安全讨论再次升级。 不仅如此，AI巨头分为两派，一派是「开源派」，包括L...
-
全球AI网络安全协议在图灵布莱切利公园签署
在图林的布莱切利公园，美国、英国、中国和欧盟等28个国家签署了“布莱切利宣言”，这是一项合作协议，旨在管理新兴人工智能（AI）工具，尤其是技术的网络安全风险。这些国家一致认为，潜在的有意滥用或控制AI技术前沿的意外问题可能导致重大风险，尤其是网络安全、生物...
-
AI公司Cohere宣布计划明年将伦敦员工数量增加一倍
人工智能企业Cohere宣布，计划在未来一年内将其伦敦全球研究中心的员工数量翻倍，达到约50人。这一消息是由英国-加拿大合作创始人兼首席执行官Aidan Gomez在参加AI安全峰会时宣布的，Gomez先生曾在牛津大学学习。 图源备注：图片由AI生成，图...
-
AI视野：英伟达发布大模型ChipNeMo；百度推出文心一言会员；OpenAI潜入黑客群聊；微软AI助手Copilot上线
????大模型动态 英伟达发布430亿参数大模型ChipNeMo 英伟达发布了拥有430亿参数的大语言模型ChipNeMo，专注于辅助芯片设计，提高工程师的工作效率，支持问答、EDA脚本生成和Bug总结等任务。 vivo发布AI蓝心大模型并宣布开源7B...
-
白宫关于AI的行政命令对网络安全领导人意味着什么
AI继续成为技术聚光灯下的焦点，随着我们进入2023年最后一个季度，国际社会对利用AI的力量产生了广泛的兴趣，这是正确的，但在兴奋和期待的同时，世界各国政府也发出了一些适当的警告，担心AI的所有前景和潜力都有阴暗面：它可以容易地被坏人用作恶意目的。 因...
-
英国计划将AI芯片和超级计算机支出增至4亿英镑
英国财政大臣Rishi Sunak计划将AI芯片和超级计算机的支出增加至4亿英镑，旨在提高英国的技术实力。据《电讯报》报道，英国政府正在四倍增加原计划的投资，以确保建立一个国家级的“AI研究资源”，这一资源将用于启动剑桥的新设施，并提升布里斯托尔的设备水平...