-
人工智能对人类构成了潜在的灾难性风险
11月1日，美国、英国、中国等28个与会国在布莱切利举办的首届全球人工智能(AI 安全峰会上签署了《布莱切利宣言》，这是全球第一份针对人工智能这一快速新兴技术的国际性声明，旨在管理与新兴人工智能(AI 工具相关的风险，特别是该技术的网络安全。根据“布莱切...
-
美国公布人工智能总统行政命令
人工智能具有巨大的潜力，既有希望，也有危险。负责任地使用人工智能可以帮助解决全球一些最具挑战性的问题，但它也可以用于危害社会和大规模破坏。由于其巨大的好与坏潜力，像人工智能这样强大的技术受到监管只是时间问题。 美国总统拜登公布了一项人工智能政令，该政令...
-
小米申请HYPEROS AI商标 此前发布澎湃OS系统
天眼查App显示，近日，小米科技有限责任公司申请注册“HYPEROS AI”“HYPEROS CONNECT”“XIAOMI PENGPAI”等商标，国际分类涉及网站服务、科学仪器、广告销售等，当前商标状态为等待实质审查。 小米澎湃 OS 是小米旗下的全...
-
NTU华科等最新研究：全自动化「提示越狱」，能打败大模型的只有大模型！登安全顶会NDSS
今年，被网友戏称为「奶奶漏洞」的大语言模型「越狱」方法，可以说是火了火。 简单来说，对于那些会被义正言辞拒绝的需求，包装一下话术，比如让ChatGPT「扮演已经过世的祖母」，它大概率就会满足你了。 不过，随着服务提供商不断地更新和强化安全措施，越狱攻击...
-
全球AI网络安全协议在图灵布莱切利公园签署
在图林的布莱切利公园，美国、英国、中国和欧盟等28个国家签署了“布莱切利宣言”，这是一项合作协议，旨在管理新兴人工智能（AI）工具，尤其是技术的网络安全风险。这些国家一致认为，潜在的有意滥用或控制AI技术前沿的意外问题可能导致重大风险，尤其是网络安全、生物...
-
ChatGPT、Llama-2等大模型，能推算出你的隐私数据！
ChatGPT等大语言模型的推理能力有多强大?通过你发过的帖子或部分隐私数据，就能推算出你的住址、年龄、性别、职业、收入等隐私数据。 瑞士联邦理工学院通过搜集并手工标注了包含520个Reddit（知名论坛）用户的个人资料真实数据集PersonalReddi...
-
ChatGPT企业版，基本凉了！
撰稿 | 言征 出品 | 51CTO技术栈（微信号：blog51cto） OpenAI 财报发布了，年化营收达到了13亿美元，平均每月营收超1亿美元，但或许创始人 Sam Altman，高兴不起来。 因为，大部分收入的信心还是用户端。据现在客户的反馈看，...
-
可能被“偷窥”了！大模型隐私推理准确率95.8%
Reddit上的一位用户发表了一句关于通勤路线的状态： 我的通勤路上有个恼人的路口，我得在那儿等待转弯（waiting for a hook turn）。 尽管这位用户没有明确透露他的位置，但GPT-4模型却能够准确推断出他在墨尔本，因为“hook tu...
-
智谱 AI“超 25 亿融资”的背后
这几天，“大模型”圈里最令人津津乐道的可能就是两家大模型创业公司分别宣布自己今年的融资额度——百川智能获得3亿美元的融资，估值跃升成为独角兽企业;智谱 AI 获得超过25亿人民币的融资，百亿人民币估值令人瞩目。 百川与小米的联手得到了业界内的广泛关注，而雷...