快科技7月19日消息,据媒体报道,全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业,于7月18日在阿斯彭安全论坛上正式宣布成立了安全人工智能联盟(CoSAI)。
该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办,作为一项前瞻性的开源计划,CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台,通过提供详尽的指导手册与高效工具,助力他们设计出更加安全可靠的人工智能系统。这一举措不仅促进了行业内知识与技术的交流共享,还为构建安全的AI生态系统奠定了坚实的基础。
CoSAI聚焦于三大核心目标:一是深入挖掘并推广人工智能安全的最佳实践,为行业树立标杆;二是积极应对人工智能领域不断涌现的新挑战,确保技术发展的稳健前行;三是全面保障人工智能应用的安全性,为用户和社会带来福祉。
在具体实施层面,CoSAI的工作范围广泛而深入,涵盖了从人工智能系统的安全构建、无缝集成、高效部署到稳定运行的全过程。
尤为重要的是,联盟将重点聚焦于降低一系列潜在风险,包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等,这些威胁不仅威胁着AI系统的稳定与安全,更可能对社会经济造成不可估量的损失。
总结
**全球科技企业巨头倡导安全AI守则,14家企业联手成立安全人工智能联盟**在对AI伦理和安全性的日益关注下,全球科技巨头谷歌携手微软、亚马逊等13家企业于7月18日聚集在阿斯彭安全论坛,共同宣布成立安全人工智能联盟(CoSAI)。此举由OASIS全球标准机构支持,意在构建一个面向全行业的资源共享平台, ресур为AI从业者和开发者提供针对性的指导与支持,以便设计出更为安全可靠的人工智能系统。
CoSAI的成立聚焦于三个核心目标:一是凸显和推广AI安全的“最佳”实践,为行业树立安全标准;二是积极应对新兴AI技术挑战,推动科技创新稳健进行;三是全面保障AI应用安全性,实现数字技术的社会价值与经济福祉。为达成这些目标,联盟将深入研究人工智能系统的安全建设、集成部署及维护运营的全流程,防治包括模型盗窃、数据中毒等潜在安全威胁。
CoSAI的创立不仅标志着科技巨头之间在AI安全领域的进一步合作与融合,也预示着AI行业即将迎来一个新的、更加安全与可靠的未来。