快科技9月9日消息，今日，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。
《框架》提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则。
针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，《框架》提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，为促进人工智能健康发展和规范应用，提供了基础性、框架性技术指南。
这也是目前各国、机构都在寻求规范的领域，因为近两年AI技术发展迅速，目前已经深入到各方各面，如果没有规范管理，在灰色地带很容易产生一些风险。
今年早些时候，欧盟就批准了《人工智能法案》，其中严格禁止对人类安全造成不可接受风险的人工智能系统”。
包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等，还规定人工智能公司要对算法进行人为控制，提供技术文件，并建立相应的风险管理系统。
总结
**全国网安标委发布《人工智能安全治理框架》1.0版**全国网络安全标准化技术委员会于9月9日正式发布了《人工智能安全治理框架》1.0版，该框架旨在指导人工智能技术的安全治理工作。该《框架》确立了多项核心原则，包括包容审慎确保安全、风险导向敏捷治理、技管结合协同应对，以及开放合作共治共享，为人工智能的健康发展与规范应用提供了基础性技术指南。
针对人工智能领域存在的内生安全风险，如模型算法安全、数据安全和系统安全，以及应用安全风险，如网络域、现实域、认知域和伦理域等方面的挑战，《框架》提出了具体的技术应对和综合防治措施。同时，还提供了人工智能安全开发应用的详细指引，旨在帮助相关企业和机构在开发和应用人工智能技术时，能够遵循安全规范，有效防范潜在风险。
随着AI技术的迅猛发展，其在各个领域的应用日益广泛。然而，这也带来了诸多安全挑战和潜在风险。为了应对这些挑战，各国和机构都在积极寻求规范管理的途径。例如，欧盟今年早些时候就批准了《人工智能法案》，其中明确禁止了可能对人类安全造成不可接受风险的人工智能系统，并要求人工智能公司加强算法控制，建立风险管理系统。
《人工智能安全治理框架》1.0版的发布，标志着我国在人工智能安全治理领域迈出了重要一步。该框架的出台，不仅有助于提升我国人工智能技术的安全水平，还将为国际人工智能安全治理提供有益借鉴和参考。