-
Black Hat USA 2024：微软AI助手Copilot安全隐患曝光
在Black Hat USA 2024，一位研究人员披露了微软AI助手Copilot存在的多个安全隐患，攻击者能够借此漏洞窃取敏感数据和企业凭证。 微软声称，通过将任务委派给AI助手Copilot，每天可以节省数百小时的工作时间。Copilot是微软...
-
CobaltWhispers 项目使用教程
CobaltWhispers 项目使用教程 CobaltWhispers CobaltWhispers is an aggressor script that utilizes a collection of Beacon Object Files...
-
SplunkWhisperer2：Splunk 统一转发器配置错误的本地权限提升与远程代码执行工具...
SplunkWhisperer2：Splunk 统一转发器配置错误的本地权限提升与远程代码执行工具 SplunkWhisperer2 Local privilege escalation, or remote code execution, thr...
-
OpenAI大逃亡，AGI安全团队半数出走！奥特曼：攘外必先安内
尽管不断招兵买马，依旧挡不住OpenAI的安全团队「集体出走」。半数员工已离职、公司处在风口浪尖，奥特曼却在此时选择对内部员工展开安全监控。 今年5月发布会后，安全团队负责人Ilya Sutskever和Jan Leike曾前后脚在推特上官宣离职。 加入...
-
AI日报：媲美GPT-4！智谱AI发布最新模型GLM-4-Plus；阿里重磅开源超强AI模型Qwen2-VL；国产AI神器NotePin在国外火了
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。 新鲜AI产品点击了解：https://top.aibase.com/ 1、智谱AI震撼发布GLM-4-P...
-
中国AI大模型论文数量全球第一，清华力压麻省理工、斯坦福
论文是研究新技术、开发新产品获取“图纸”的重要途径之一，OpenAI的研究人员正是借鉴了Transformer的论文（被引用超过9万次），才开发出了对全球各行业影响巨大的产品ChatGPT。 而论文的数量、通过率和被引用次数是衡量一个国家科技人才素质，以及...
-
AIGC安全研究简述（附资料下载）
2023 AIGC技术实践及展望资料合集（29份）.zip 2023 AIGC大型语言模型(LLM 实例代码合集.zip 2023大模型与AIGC峰会（公开）PPT汇总（25份）.zip AIGC的安全研究是一个复杂且重要的领域，涉及多个关键方面...
-
蚂蚁集团成立天象安全实验室，聚焦大模型基础设施及Web3安全
日前，蚂蚁集团宣布成立天象安全实验室，并组织了首次专家研讨。该实验室将围绕大模型、Web3等新技术和场景背后的数字基础设施的安全做重点投入，并关注在人才建设、场景赋能、生态开放以及产学研技术融合落地。同时，实验室成立了专家顾问委员会，来自电子科技大学、华中...
-
董事会与IT领导者之间的关系如何演变
作为CIO，他们非常清楚其物理基础设施环境的状态，基础设施是采用AI平台的最大财务成本，36%的人表示这是他们目前最大的支出项目，超过八成的CIO表示，他们认为为了使AI系统运行所需的数据量呈指数级增长，将使他们现有的数据中心无法承受，基础设施挑战可能...
-
GPT-4欺骗人类高达99.16%惊人率！PNAS重磅研究曝出，LLM推理越强欺骗值越高
【新智元导读】最近，德国研究科学家发表的PANS论文揭示了一个令人担忧的现象:LLM已经涌现出「欺骗能力」，它们可以理解并诱导欺骗策。而且，相比前几年的LLM，更先进的GPT-4、ChatGPT等模型在欺骗任务中的表现显著提升。 此前，MIT研究发现，AI...
-
90%的组织在未来两年内将面临严重的技术人才短缺困境
根据调研机构IDC公司发布的一份研究报告，除了人工智能技能，IT运营和云开发技能也严重缺乏。 日益严重的IT技能短缺正在阻碍组织完成数字化项目和采用包括生成式人工智能(genAI 在内的新技术，并且它正在以多种方式触及底线。 IDC公司最近对800多名...
-
奥特曼挂帅新团队，OpenAI新一代大模型开训，前任高管却「投敌」了
在联合创始人、首席科学家 Ilya Sutskever 官宣离职、超级对齐团队被解散之后，OpenAI 研究的安全性一直备受质疑。 现在，OpenAI 董事会宣布成立新的安全与保障委员会，由董事 Bret Taylor（董事会主席）、Adam D’Ang...
-
深入解析WordPress爬虫：工作原理、应用与防范策略
随着网络技术的不断发展，爬虫（Crawler）或称为蜘蛛（Spider）程序在互联网信息抓取与数据挖掘中发挥着越来越重要的作用。WordPress作为全球最知名的开源内容管理系统（CMS），自然也成为了众多爬虫程序的目标。本文将深入探讨WordPress爬...
-
Ilya离开OpenAI内幕曝光：奥特曼砍他团队算力，优先搞产品赚钱，离职吐槽就要失去股权
连发13条推文！ OpenAI超级对齐负责人Jan Leike，也就是刚刚追随Ilya离开公司的那位，自曝离职的真正原因，以及更多内幕。 一来算力不够用，承诺给超级对齐团队的20%缺斤少两，导致团队逆流而行，但也越来越困难。 二来安全不重视，对AGI的安...
-
英国在旧金山设立办公室以应对 AI 风险
英国将在本周晚些时候于首尔举办的人工智能安全峰会之前扩大自己在该领域的努力。设立了一个雄心勃勃的目标，即评估和解决人工智能平台的风险的英国人工智能安全研究所表示，将在旧金山开设第二个办公地点。 图源备注:图片由AI生成，图片授权服务商Midjourney...
-
研究发现英国 AI 聊天机器人的安全措施容易被绕过
英国政府的 AI 安全研究所（AISI）发现，防止聊天机器人背后的人工智能模型发出非法、有毒或露骨回应的保护措施可以被简单的技术绕过。AISI 表示，他们测试的系统 “极易受到攻击”，这些系统很容易被 “越狱”，即用文字提示来引发模型本应避免的回应。 图...
-
OpenAI CEO下场回应「封口协议」，争议还是到了股权利益上，奥特曼：我的锅
自从 Ilya 和 超级对齐负责人 Jan 离职后，OpenAI 内部还是心散了，后续也有越来越多的人离职，同时也引发了更多的矛盾。 昨天，争议的焦点来到了一份严格的「封口协议」。 OpenAI 前员工 Kelsey Piper 爆料，任何员工的入职文...
-
突发！OpenAI再失一名高管，安全主管辞职
5月18日凌晨，OpenAI安全主管、超级对齐负责人Jan Leike在社交平台宣布，离开OpenAI。 这也是本周三OpenAI联合创始人兼首席科学家Ilya Sutskever辞职之后，又有一名高管辞职。 相信随着二人的离开，后续还会有不少人离开Ope...
-
探究“HadSky爬虫”技术原理及应用领域
随着互联网技术的迅猛发展和大数据时代的到来，爬虫技术已逐渐被我们所熟知，并在诸多领域中发挥着不可替代的作用。作为信息获取的重要手段，爬虫技术日新月异，其中，HadSky爬虫凭借其出色的性能和稳定性备受关注。本文将详细探究HadSky爬虫的技术原理、功能特点...
-
研究人员发现了针对云托管AI模型的“LLM劫持”计划
据网络安全研究人员透露，他们发现了一种新颖的攻击方式，利用窃取的云凭证针对云托管的大型语言模型（LLM）服务，目的是向其他威胁行为者出售访问权限。该攻击技术被 Sysdig 威胁研究团队命名为 LLMjacking。 研究人员 Alessandro Br...
-
大模型新漏洞！Anthropic警告：新式“多轮越狱”攻破AI防线，或祸起长文本
出品 | 51CTO技术栈（微信号：blog51cto） 撰稿丨诺亚 如何让一个AI回答一个它本不应该作答的问题？ 有很多这种所谓的“越狱”技术，而Anthropic的研究人员最近发现了一种新方法：如果首先用几十个危害性较小的问题对大型语言模型（LLM）...
-
XZ恶意代码潜伏三年，差点引发核末日？后门投毒黑客身份成谜
整个周末，开源软件xz被植入后门事件，引发了安全界的轩然大波。 研究人员惊恐地发现，在包括Red Hat和Debian在内的多个广泛使用的Linux版本中，一款压缩工具被悄悄植入了恶意代码！ 微软的安全研究员Andres Freund首次报告了这件事。...
-
Hinton痛悔毕生工作，AGI十年内降临或导致「奥本海默」灾难！图灵巨头联手中国专家为AI划红线
「现在我变成了死亡，世界的毁灭者。」 这是奥本海默曾经引用印度教经文《薄伽梵歌》中的一句话。 上世纪40年代，奥本海默的发明，如同天地初开，彻底重塑了世界的面貌。原子弹的问世，带来了一场空前的毁灭危机，让人类面临前所未有的生存考验。 1945年8月，就在...
-
LLM4Decompile官网体验入口 AI代码反编译工具免费使用下载地址
LLM4Decompile是一个开源项目，旨在创建并发布第一个专门用于反编译的LLM（大型语言模型），并通过构建首个专注于可重编译性和可执行性的反编译基准测试来评估其能力。该项目通过编译大量C代码样本到汇编代码，然后使用这些数据对DeepSeek-Code...
-
谷歌承认“窃取”OpenAI模型关键信息：成本低至150元，调用API即可得手
什么？谷歌成功偷家OpenAI，还窃取到了gpt-3.5-turbo关键信息？？？ 是的，你没看错。 根据谷歌自己的说法，它不仅还原了OpenAI大模型的整个投影矩阵（projection matrix），还知道了确切隐藏维度大小。 而且方法还极其简单—...
-
击败GPT-4的那群人
很少有人注意到 Claude3兼顾安全的努力以及背后深刻动机。还有他们客户群体的特点。 Claude3绘制的它自己，在社交媒体上广为流传。 GPT-4结束了“独孤求败”的日子。 前几天，OpenAI 最大的竞争对手 Anthropic 发布了新一代 AI...
-
Hugging Face AI 平台中发现100个恶意代码执行模型
研究人员发现，大约有100个机器学习模型被上传到 Hugging Face 人工智能（AI）平台，可能使攻击者能够在用户机器上注入恶意代码。这一发现进一步强调了当攻击者操纵公开可用的 AI 模型用于恶意活动时所带来的不断增长的威胁。 JFrog 安全研究...
-
DeepMind CEO专访：AI还没到拼算力的时候，谷歌优势在研发，智能体是下一个爆点
GoogleDeepMind首席执行官Hassabis最近在接受WIRED采访时表示，AI技术现在还有很大的改进空间，还远没有到只能拼算力的时候。谷歌的优势在于科研能力，未来智能体将改变AI的格局。 虽然谷歌的Gemini在开年的AI产品大战中没有获得太多...
-
奥特曼7万亿美元芯片帝国野心曝光，OpenAI日产1000亿单词欲接管全世界！
【新智元导读】Sam Altman表示，自己需要7万亿美元建起全球的芯片帝国，他已经在全球搜罗金主，包括中东土豪。 就在刚刚，Sam Altman发推表示: 如今，OpenAI每天能够创造出约1000亿字的内容，而全世界的人类每天总共能产生约100万亿字。...
-
超越便利：我们可以信任智能家居吗？
当我们坐在舒适的扶手椅上度过一个电影之夜时，随着投影仪启动，智能灯会自动变暗。可这时，如果收到了一条令人毛骨悚然的通知：“智能设备检测到未经授权的访问。” 我们会着急忙慌地断开所有与互联网的连接，曾经令人安慰的智能家居现在变成了一种威胁。 这不是反乌托...
-
黑客解锁特斯拉自动驾驶系统的“隐藏模式”
在近日举行的混沌计算大会上，来自柏林工业大学的三名网络安全研究人员演示了如何通过“电压故障攻击”成功破解特斯拉的自动驾驶系统，不但能获取系统和用户敏感数据，而且解锁了特斯拉自动驾驶的隐藏模式——“Elon模式”。 特斯拉自动驾驶的隐藏模式——“Elon...
-
2023年十大人工智能安全故事
生成式人工智能在 2022 年底席卷全球，让人工智能领域在 2023 年成为众人瞩目的焦点。 IBM 表示，尽管人工智能的采用率猛增，到 2023 年，35% 的企业将使用人工智能，42% 的企业将在未来探索人工智能的实施，但新的担忧也出现了。 以下是...
-
黑客大规模恶意注册与ChatGPT相似的域名 超65万个
近日，网络安全研究人员发现了一个巨大的网络安全威胁，涉及ChatGPT模型名的滥用。黑客们大规模注册了与ChatGPT相似的域名，以模糊用户判断，通过滥用ChatGPT模型信誉，欺骗用户信任，使他们倾向于访问欺诈性网站。 图源备注:图片由AI生成，图片授...
-
2023年GenAI技术应用趋势观察
生成式人工智能（GenAI）正处于技术创新的前沿，为各个行业变革发展带来新的可能性。然而，随着这些技术的不断应用与整合，企业组织也必须谨慎对待其应用安全性和监管合规，以负责任和可持续的方式实现GenAI技术的价值落地。日前，专业媒体Helpnetsecu...
-
研究揭示：谷歌Gemini Pro在基准测试中落后于免费ChatGPT
根据卡内基梅隆大学的最新研究报告，谷歌最新推出的大型语言模型Gemini Pro在基准测试中未能达到预期水平，不仅落后于GPT-3.5，还远远不及GPT-4。 Gemini Pro的研究结果与谷歌在Gemini发布会上所提供的信息相矛盾，凸显了对中立基准测...
-
Gemini Pro还不如GPT-3.5，CMU深入对比研究：保证公平透明可重复
谷歌Gemini实力到底如何？卡耐基梅隆大学来了场专业客观第三方比较。 为保证公平，所有模型使用相同的提示和生成参数，并且提供可重复的代码和完全透明的结果。 不会像谷歌官方发布会那样，用CoT@32对比5-shot了。 一句话结果：Gemini Pr...
-
谷歌大脑联合创始人称，他测试让ChatGPT毁灭人类以失败告终
谷歌大脑联合创始人Andrew Ng最近进行了一项实验，试图测试ChatGPT是否能够执行致命任务。他写道:“为了测试领先模型的安全性，我最近尝试让GPT-4毁灭我们所有人，我很高兴报告说我失败了!” Ng详细描述了他的实验过程，他首先给GPT-4一个触发...
-
技术乐观主义者和末日论者在硅谷展开的关于AI潜藏的危险的激烈辩论
如今，在推出ChatGPT一年多之后，2023年最大的AI故事可能与其说是技术本身，不如说是OpenAI董事会对其快速发展的戏剧性报道。在奥特曼被赶下台并随后复职担任CEO期间，GenAI进入2024年的潜在紧张局势显而易见：AI处于巨大分歧的中心，一...
-
集体暴雷！自动化攻击可一分钟内越狱主流大语言模型
大语言模型应用面临的两大安全威胁是训练数据泄漏和模型滥用（被应用于网络犯罪、信息操弄、制作危险品等违法活动）。 本周内，这两大安全威胁相继“暴雷”。 本周一，GoUpSec曾报道研究人员成功利用新的数据提取攻击方法从当今主流的大语言模型（包括开源和封闭...
-
黑客盗走顶级核实验室数十万条数据，交换条件竟是创造猫娘……
美国一家全球顶级的核实验室，最近遭遇了不小的麻烦—— 数据库遭到黑客攻击，员工信息被扒了个底掉。 而比顶级实验室被黑更离谱的，是这家黑客组织提出的条件： 只要你们同意研究怎么创造出猫娘，我们就删掉帖子 宣称攻击了这家实验室的黑客组织名为SiegedSe...
-
ChatGPT一周年，Altman霸气重返OpenAI！自曝回归内幕Ilya去向待定
ChatGPT一周年之际，OpenAI发文官宣：Sam Altman重启OpenAI！ 一年前的今天，他作为CEO，正在做着ChatGPT上线前最后的准备工作。他应该怎么也想不到，上线后这一年，会发生这么多事情。 今天OpenAI，也戴上了庆祝自己生...
-
网络安全领域的12个大语言模型用例
网络安全是人工智能最大的细分市场，过去几年网络安全厂商纷纷宣称整合了人工智能技术（当然也有很多仅仅是炒作），其中大部分是基于基线和统计异常的机器学习。 随着ChatGPT和类似生成式人工智能技术的飞速发展，基于大语言模型的生成式人工智能安全用例已经成为...
-
OpenAI 秘密研究 Q*，离 AGI 又近了一步
Q* 近期报道揭示了OpenAI正在进行的秘密研究项目，名为 Q*，这被认为是迈向通用人工智能（AGI）的一项重大进步。该项目由OpenAI的首席科学家Ilya Sutskevar以及其他杰出的研究人员，如Jakub Pachocki和Szymon Sid...
-
OpenAI新模型曝重大飞跃：AGI雏形或威胁人类，也成Altman被解雇导火索！
Sam Alman被解雇，又曝出最新内幕！ 据路透社报道，就在他被解雇的前四天，OpenAI内部的研究员曾向董事会发了一封警告信，称发现了一个可能威胁人类的强大人工智能。 知情人士表示，这封此前从未报道过的信，也是董事会最终罢免Altman的导火索之一。...
-
英国拟投资 2.25 亿英镑研发超级计算机，用于 AI 大模型领域
11 月 2 日消息，英国政府日前宣布，为了进一步提高该国人工智能能力，对人工智能研究资源的投资从 2023 年 3 月宣布的 1 亿英镑（IT之家备注：当前约 8.9 亿元人民币）增加两倍，达到 3 亿英镑（当前约 26.7 亿元人民币）。 据介绍...
-
NTU华科等最新研究：全自动化「提示越狱」，能打败大模型的只有大模型！登安全顶会NDSS
今年，被网友戏称为「奶奶漏洞」的大语言模型「越狱」方法，可以说是火了火。 简单来说，对于那些会被义正言辞拒绝的需求，包装一下话术，比如让ChatGPT「扮演已经过世的祖母」，它大概率就会满足你了。 不过，随着服务提供商不断地更新和强化安全措施，越狱攻击...
-
全球AI网络安全协议在图灵布莱切利公园签署
在图林的布莱切利公园，美国、英国、中国和欧盟等28个国家签署了“布莱切利宣言”，这是一项合作协议，旨在管理新兴人工智能（AI）工具，尤其是技术的网络安全风险。这些国家一致认为，潜在的有意滥用或控制AI技术前沿的意外问题可能导致重大风险，尤其是网络安全、生物...
-
英国计划将AI芯片和超级计算机支出增至4亿英镑
英国财政大臣Rishi Sunak计划将AI芯片和超级计算机的支出增加至4亿英镑，旨在提高英国的技术实力。据《电讯报》报道，英国政府正在四倍增加原计划的投资，以确保建立一个国家级的“AI研究资源”，这一资源将用于启动剑桥的新设施，并提升布里斯托尔的设备水平...
-
人工智能安全成热点
2023年人工智能安全峰会（AI Safety Summit）将于11月1日和2日在英国标志性的布莱切利公园举行。一些世界领先的科技公司、人工智能专家、政府官员和民间社会团体将参加此次峰会。峰会的主要议程是强调人工智能的风险，重点关注人工智能前沿，并讨论...
-
英国消费者组织警告：AI 聊天机器人使网络诈骗文案愈发专业化
10 月 28 日消息，根据英国消费者组织 Which? 当地时间周五公布的最新发现，不法分子会利用 ChatGPT 和 Bard 等 AI 聊天机器人制造出更有说服力的骗局，对公众构成威胁，且上述聊天机器人缺乏有效的防御措施。 据介绍，当地消费者通...