-
OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险
10月27日消息，据外媒报道，当地时间周四，美国人工智能研究公司OpenAI宣布，它将组建一个名为Preparedness的新团队，以评估和减轻与人工智能（AI）相关的“灾难性风险”。 OpenAI表示，该团队将由麻省理工学院可部署机器学习中心主任亚历山大...
-
亚马逊CEO：生成式AI未来几年将为AWS带来数百亿美元营收
亚马逊发布了2023财年第三季度财报，报告显示，亚马逊第三季度净销售额为1430.83亿美元，同比增长13%，不计入汇率变动的影响为同比增长11%;净利润为98.79亿美元，同比增长244%。 财报发布后，亚马逊CEO安迪·贾西（Andy Jassy）在...
-
英国首相呼吁在AI上寻求平衡规则，并邀请中国参加峰会
英国首相Rishi Sunak在政府的AI安全峰会前发表了讲话，强调在处理人工智能（AI）的风险和潜在好处时需要取得平衡。 在一周前的演讲中，他承认AI存在被不法分子利用的严重风险，但同时强调自己不希望成为危言耸听的人。他指出，目前唯一在测试AI安全性的人...
-
微软、OpenAI等投入1000万美元用于增强生成式AI产品的安全
微软、OpenAI、谷歌和Anthropic宣布了一项重要举措，共同投入1000万美元用于增强生成式AI产品的安全。这个决定包括任命Chris Meserole为“前沿模型论坛”的执行董事，该论坛由上述公司联合创立，旨在确保前沿AI模型的安全和负责任开发。...
-
Bengio、Hinton、张亚勤等AI大佬再发联名信！AI太危险，我们需要重新定位
AI风险管理，再度被AI大佬提上了日程。 就在刚刚，一封由Bengio、Hinton、姚期智（Andrew Yao）、张亚勤等知名专家签署的联名信引起了许多人的关注。 这篇题为「在快速发展的时代管理人工智能风险」的文章，也即将发表在arXiv上。 有...
-
50张图“毒倒”Stable Diffusion，汽车和牛都分不清了
艺术家对AI侵权的反击来了—— 在画作里“投毒”，AI用了就会“中毒”出故障。 投毒工具由芝加哥大学团队打造，名为Nightshade，可以对画中像素添加隐形更改。 被下毒的画一旦被非法抓取成为训练数据被AI吃掉，模型就会生成混乱。 甚至还可能会破坏DA...
-
云安全中的生成式AI：雷声大雨点小？！
译者 | 晶颜 审校 | 重楼 人工智能是云安全领域的下一个热点吗？ 如果您关注了过去一年左右关于生成式人工智能技术的头条新闻，您可能也会有此疑问。根据GenAI技术拥护者的说法，云安全将会是被基于GenAI的工具所改变的诸多领域之一。 对此，其他一些...
-
边缘人工智能在实时数据分析和决策中的作用
了解边缘人工智能 边缘人工智能是指将人工智能算法和模型部署在传感器、摄像头、物联网设备等边缘设备上，而不是依赖集中式云服务器。这种方法使计算更接近数据源，允许更快的处理和即时洞察，对实时决策特别有价值。 低延迟：边缘人工智能降低了延迟，因为数据不需要传...
-
英国AI初创公司Harmonic获得700万美元资金
划重点: ? 英国初创公司Harmonic Security成功融资700万美元，旨在构建技术以保障企业生成式AI部署的安全性。 ? Harmonic将开发软件，应对未受监管的AI应用程序采集大规模公司数据的问题。 ? 投资由Ten Eleven Vent...
-
自动驾驶传感器融合面临的三大挑战
随着越来越多的自动驾驶汽车难题出现，挑战的难度越来越大。 汽车工业正在将传感器融合作为应对日益增加的自动驾驶汽车所需的复杂性和可靠性的最佳选择，为汽车内部如何管理和利用来自多个设备的数据的另一转变奠定了基础。 事实证明，向更大的自治迈进比起初所期望的要复...
-
AI技术漏洞！OpenAI的DALL-E 3易受越狱攻击 生成儿童吸烟照片
OpenAI的DALL-E3是一种强大的图像生成AI技术，但最新的事件表明，它并非没有漏洞。一位名为Peter Gostev的LinkedIn用户发现了一种越狱技巧，成功生成了一组令人震惊的图像，显示儿童正在吸烟。这一事件引发了对AI系统安全性和道德的担忧...
-
DeepMind：大模型又曝重大缺陷，无法自我纠正推理，除非提前得知正确答案
大语言模型又一项重大缺陷被DeepMind曝光！ LLM无法纠正自己推理中的错误。 「Self-Correction」作为一种让模型修正自己回答的技术，在很多类型的任务中都能明显改进模型的输出质量。 但是最近，谷歌DeepMind和UIUC的研究人员却发...
-
有了GPT-4之后，机器人把转笔、盘核桃都学会了
在学习方面，GPT-4 是一个厉害的学生。在消化了大量人类数据后，它掌握了各门知识，甚至在聊天中能给数学家陶哲轩带来启发。 与此同时，它也成为了一名优秀的老师，而且不光是教书本知识，还能教机器人转笔。 这个机器人名叫 Eureka，是来自英伟达、宾夕法...
-
老黄最新专访：时间倒流30岁，我绝对不会创办英伟达！
华裔企业家凡尔赛圈又有一位大咖加入——Jensen黄。 在最近的一次公开采访中，黄老板被问到，「如果现在你回到30岁的时候，再次走进当初决定创立英伟达的那家餐厅，你还会做出同样的选择吗？」 黄老板斩钉截铁地说「不，我不会！」。 听到黄老板出人意料的回答...