当前位置:AIGC资讯 > AIGC > 正文

Anthropic公布AI人工智能安全级别ASL系统

Anthropic创始人Dario Amodei在英国人工智能安全峰会上介绍了该公司提出的负责任扩张政策(Responsible Scaling Policy,RSP)。该政策旨在确保人工智能系统的安全性和可控性,防止潜在的风险和滥用。

RSP包括两个主要组成部分:ASL系统和缩放曲线。

ASL系统是模仿生物安全等级(BSL)系统设计的,每个等级都有一个相应的保障措施。ASL-1代表几乎没有风险的模型,例如下棋的专业人工智能;ASL-2代表目前所处的阶段,模型具有广泛的风险,但尚未表现出真正危险的能力;ASL-3是AI模型在CBRN(化学、生物、放射和核)领域变得具有操作危险的时候;ASL-4代表了灾难性滥用风险的升级,当AI系统接近人类水平的自主能力,或成为至少一个严重的全球安全威胁(如生物武器)的主要来源时,将触发ASL-4。

缩放曲线是用来测试这些危险能力的间隔时间,以确保不会盲目地创造出具有危险能力的模型。随着人工智能系统的规模和能力的提升,保障措施也需要相应地升级。

更新时间 2023-11-03