扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

人工智能技术以其前所未有的发展态势引领新一轮科技革命和产业变革，深度驱动经济社会发展。技术释放价值红利的同时带来风险挑战。我国提出《全球人工智能治理倡议》着重指出，做好风险防范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。人工智能风险治理已经成为把握未来人工智能发展的核心要素，也是全人类需要共同应对的时代课题。

2024年12月24日，中国信息通信研究院（简称“中国信通院”）发布《人工智能风险治理报告（2024年）——构建面向产业的人工智能安全治理实践方案》。

报告结合国际经验，立足我国产业实践，提出“系统治理-风险识别-风险评估-风险应对”的人工智能风险治理实践框架，实现穿透式风险管控与全链条流程管理的深度融合，为人工智能产业主体对于技术发展与安全保障提供解决方案。

报告核心观点

报告目录

一、概述

（一）人工智能风险挑战引发全球关注  

（二）人工智能风险治理模式亟需创新  

（三）推动面向产业界的人工智能风险治理落地框架迫在眉睫    

二、人工智能风险认知渐进深化

（一）人工智能内生安全与衍生安全复杂交织  

（二）人工智能风险认知迈向多维度深化融合  

三、人工智能风险治理全球实践

（一）国际层面：加速推进风险治理行动及合作    

（二）主要经济体：迭代完善风险划分与管控举措

（三）产业组织：协同推进治理框架和安全工具    

（四）企业主体：深化技管融合的风险应对方案    

四、面向产业的人工智能风险治理实践方案

（一）打造全链条人工智能风险治理框架    

（二）提升人工智能风险系统治理能力  

（三）设立人工智能风险精准识别机制  

（四）健全人工智能风险科学评估体系  

（五）完善人工智能风险敏捷应对方案  

五、展望建议

（一）促进全球合作，共筑人工智能治理新格局    

（二）优化治理体系，夯实人工智能安全发展基础

（三）发挥桥梁作用，推进行业治理标准化与动态化