人工智能的飞速发展给世界带来巨大机遇，也带来各类风险挑战。在9月9日举行的网络安全技术高峰论坛主论坛暨粤港澳大湾区网络安全大会上，全国网络安全标准化技术委员会（下称“网安标委”）发布《人工智能安全治理框架》1.0版（下称《框架》），旨在推动社会各界就人工智能安全治理的原则举措达成共识。

　　《框架》以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，提出了人工智能安全治理的原则；按照风险管理的理念，针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，整章共分为四大板块。

　　其中，应对和综合防治措施板块，针对不同类型的安全风险，从技术和管理两方面提出防范应对措施。例如，针对内生安全风险提出安全开发运维，输出内容标识等技术手段，并推动负责任研发应用体系，供应链安全保障等管理措施。

　　网安标委秘书处主要负责人表示，《框架》1.0版的发布，为培育安全、可靠、公平、透明的人工智能技术研发和应用生态，促进人工智能的健康发展和规范应用，提供了基础性、框架性技术指南。

　　接下来，网安标委将积极开展人工智能安全标准的研制，加快构建并持续完善人工智能安全的标准体系。同时，加快推进生成式人工智能服务的训练数据安全、数据标注安全以及生成合成内容标识等重点急需标准的研制，并结合重点行业应用推动标准落地实施。

　　南方日报记者 吴冠霖