团队分析 - AIGC资讯

AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安

坏了!AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。只需要给AI一个隐藏的“草稿纸”，研究人员假装不会查看，AI就会在上面自言自语着写下计划并暗中执行。参与这项试验的Claude团队表示: 具体来说，实验中让AI可以访问自己的强...

生成式AI 2024-06-24 AIGC

155阅读

ChatGPT 等通用大模型支持的功能成百上千，但是对于普通日常用户来说，智能写作一定是最常见的，也是大模型最能真正帮上忙的使用场景之一。尽管大模型经常能写出看起来像模像样的文字，但是大多数情况下内容的创意程度和文风都经不起深究。尤其是在创作领域，大模型...

人工智能 2024-02-04 AIGC

253阅读

美国可控核聚变实验，四次实现净能量增益！去年12月14日，劳伦斯利弗莫尔国家实验室（LLNL）首次实现可控核聚变点火成功，为全人类摘下清洁能源「圣杯」—— 在向目标提供2.05兆焦耳（MJ）的能量之后，产生了3.15兆焦耳的核聚变能量输出，能量增益约为...

生成式AI 2023-12-16 AIGC

217阅读

译者 | 晶颜审校 | 重楼 2023年，生成式人工智能——更具体地说是ChatGPT——吸引了业界的广泛关注，深得董事会、首席执行官和其他高管的一致赞赏（也不乏害怕情绪）。当然，他们的热情是有道理的，多项研究发现，人工智能正在带来强大的价值和投资回报...

生成式AI 2023-12-01 AIGC

220阅读

最新研究警告，大型模型在基准评估中可能面临潜在危害，原因是测试集中的数据可能意外进入预训练过程。这项研究由中国人民大学信息学院、高瓴人工智能学院和伊利诺伊大学厄巴纳-香槟分校的学者联合进行。研究发现，由于预训练语料包含大量公开文本，而评估基准建立在这些信...

大数据 2023-11-09 AIGC

245阅读