邮发代号 2-786
征订热线：010-82341063
当前，全球人工智能技术快速更迭，以 ChatGPT 为代表的生成式人工智能技术不断催生新场景、新业态、新模式和新市场。各国纷纷将人工智能安全治理作为优先事项，出台政策框架囊括社会力量加强对这一新兴技术的有效治理。2024 年 9 月 9 日，全国网络安全标准化委员会发布《人工智能安全治理框架》1.0 版（以下简称《框架》）。《框架》的发布是我国完善人工智能安全治理的重要举措，也是统筹人工智能发展与安全的直接体现，同时有助于推动各方积极参与形成共识。随着人工智能技术的快速迭代升级，《框架》作为初始版本也将不断演进和优化，为各类行为主体参与人工智能治理提供清晰的路径指引和参考依据。我国早在 2015 年就开始重视人工智能技术的发展，并将其纳入国家战略规划。近十年来，我国陆续出台了《新一代人工智能发展规划》《关于促进人工智能和实体经济深度融合的指导意见》《生成式人工智能服务管理暂行办法》等政策文件，以推动人工智能的健康发展与安全保障。《框架》的发布正值人工智能发展的关键期，是我国在人工智能治理领域取得的重要阶段性成果。
当前，以大语言模型为代表的生成式人工智能技术快速迭代升级，深刻影响各国的政治、经济和社会等各个领域。如何治理这一既“新兴”又“传统”的技术，已成为全球讨论的焦点。世界各国已发布数百项人工智能安全治理政策，提出了各种各样的治理方案。一些方案借鉴了传统领域（如核控、疾控）的治理理念，另一些则从新兴技术治理的范式中探寻有效治理之策。在各具特色的治理方案中，逐步形成了一些共性趋势：包括关注“科林格里奇困境”下安全与发展的平衡问题，探讨技术发展与规则治理的同步性问题，以及促进多方主体共同参与的协同问题等。《框架》汲取了当前国际社会的共识性治理方案，提出了敏捷治理、分级分类和安全设计等治理措施，同时高度关注认知安全、伦理安全风险等全球人工智能治理的优先议题。《框架》特别警示了人工智能可能引发的风险，包括社会歧视和偏见的加剧、社会秩序的扰乱，甚至未来可能脱离人类控制等问题，充分体现了其前瞻性和责任意识。（二）落实《全球人工智能治理倡议》，完善我国人工智能治理体系我国较早开展人工智能治理的顶层设计工作，特别是在生成式人工智能技术兴起后，提出了《全球人工智能治理倡议》（以下简称《倡议》），为人工智能发展确立了“以人为本、智能向善”的治理基调。《框架》的发布进一步落实了《倡议》的基本原则，践行《倡议》强调的敏捷治理、分类分级管理以及快速有效响应等基本路径，并明确了具体的实施细则。在敏捷治理方面，《框架》提出应从人工智能技术自身及其应用两方面入手，系统梳理安全风险，并根据风险的动态变化，精准调整治理措施，持续优化治理机制和方式。在分级分类管理方面，建立完善的风险等级测试与评估体系，加强对人工智能最终用途的管理，特别是针对特定人群及场景的人工智能技术应用，提出明确要求，以防止人工智能系统的滥用。在快速响应方面，《框架》强调构建人工智能安全事件应急处置机制，包括制定应急预案，开展应急演练，以确保及时、快速、有效应对人工智能安全威胁和突发事件。《框架》基于协同应对的核心治理原则，呼吁各方积极参与。一是面向人工智能研发应用全过程，涵盖人工智能系统设计、研发、训练、测试、部署、使用、维护等各环节，识别并应对其生命周期中可能出现的风险。二是面向人工智能研发全生态，明确模型算法研发者、服务提供者、使用者等各方主体的安全责任。三是面向人工智能治理全主体，充分发挥政府监管、行业自律、社会监管等多元治理机制的作用。同时，《框架》提出的核心治理原则为各方提供了一个共同遵循的规范，有助于引导各方在讨论中聚焦关键问题，并形成广泛共识。《框架》基于风险管理，紧密结合人工智能技术特性，分析了人工智能风险的来源和表现形式。针对内容安全与应用安全两大类风险，提出了相应的技术应对和综合防治措施以及安全开发应用指引，具有以下特点：
风险界定是治理的前提。《框架》基于大量调研，充分梳理了当前人工智能面临的安全风险，主要分为 13 项内生安全风险（如模型算法安全、数据安全和系统安全等）和 13 项应用安全风险（如网络域、现实域、认知域、伦理域等），较为全面地反映了生成式人工智能带来的风险。在此基础上，《框架》提出了 39 项技术应对措施和 9 项综合治理措施，特别是针对模型算法研发者、人工智能服务提供者、重点领域使用者、社会公众等相关主体，提出了具体的人工智能安全开发应用指引，具有较强的可操作性。《框架》明确了模型算法研发者、服务提供者、重点领域使用者以及社会公众等不同行为体的安全责任，确保人工智能的“安全开发”“安全服务”“安全使用”“安全普及”。同时，《框架》还明确了技术研发机构、服务提供者、用户、政府部门、行业协会、社会组织等各方在发现、防范、应对人工智能安全风险的职责和措施。《框架》将安全责任贯穿于人工智能系统全生命周期，构建了政府监管、行业自律、社会监督协同治理的格局。《框架》提出，当前人工智能研发应用仍在快速发展，治理应以风险导向和敏捷治理为原则，关注安全风险的变化，快速动态精准地调整治理措施，并持续优化治理机制。这也预示着，《框架》的发布并非一劳永逸，而是一个持续动态调整的过程。随着人工智能技术的不断发展和应用场景的拓展，新的安全风险和挑战将不断出现。《框架》将根据实际情况和各方反馈，持续优化完善治理措施和指引规范，确保其始终适应人工智能发展的最新需求。这一动态调整过程有助于保持治理框架的时效性和有效性，推动各方在持续讨论中深化共识。《框架》区别于一般政策框架，紧密结合人工智能技术自身的特点，正视人工智能技术发展内生存在的可解释性差、不可预测性、鲁棒性弱等挑战，采用安全评估和测试等技术手段。具体措施包括：一是要求研发者根据各种应用场景，构建多样化的测试数据集，并制定明确的测试规则和方法；二是要求服务提供者建立、健全风险监控管理机制，持续跟踪运行中的安全风险；三是要求重点领域使用者根据人工智能系统的适用场景、安全性、可靠性、可控性等，进行风险评估与定级，避免技术滥用。这些举措体现了《框架》以技术治理技术的思路。《框架》始终践行“以人为本、智能向善”的原则，提出了利用人工智能增进人类共同福祉的具体举措。这包括完善人工智能数据安全和个人信息保护规范，以及推进人工智能设计、研发和应用中的价值观与伦理观对齐；《框架》特别规定对面向公众服务的人工智能系统，应建立人工智能服务可追溯的管理制度，制定人工智能生成合成内容标识标准范式，明确显式和隐式等标识的要求，以便用户识别和判断信息来源及真实性。此外，《框架》还将广大公众纳入人工智能安全治理的重要环节，提出面向公众建立人工智能安全风险隐患投诉举报受理机制，形成有效的人工智能安全社会监督氛围。《框架》立足于我国人工智能发展的现实情况，提出了深化人工智能发展与安全并重的“中国模式”，体现了促进人工智能安全发展的“中国智慧”；同时，它也是一份面向全球人工智能发展方向、推动形成的广泛共识的全球人工智能治理体系的“世界方案”，是全球人工智能安全治理的又一里程碑式政策文件。
当前，主要人工智能技术发展大国和地区均提出了人工智能安全治理政策，无论是基于企业自律的“美国模式”，还是遵循强风险管理的“欧盟模式”，如何发展与安全的关系始终是治理面临的核心问题。《框架》立足于人工智能技术的特性、产业特点及其战略安全属性，明确以促进人工智能创新发展为第一要务，鼓励对人工智能研发和应用采取包容态度。同时，它以有效防范和化解人工智能安全风险为出发点和落脚点，及时采取措施应对危害国家安全、社会公共利益和公众合法权益的风险，力求在充分发挥人工智能正面效应的同时，尽可能把负面影响降到最低。《框架》提出的“中国模式”更符合广大发展中国家的实际情况，体现了更多国家的诉求，为世界其他国家提供了更优的路径选择。《框架》以鼓励人工智能创新发展为第一要务，以有效防范和化解人工智能安全风险为出发点和落脚点，提出了基于人类命运共同体理念的人工智能治理新视角。这一框架集中体现了我国秉持共同、综合、合作、可持续的安全观，广泛联合治理行为体，进一步完善了我国人工智能安全治理政策体系，同时成为构筑包容、开放、平等的人工智能国际治理中不可或缺的一环。这不仅有助于提升全球人工智能生态系统的韧性和活力，也彰显了中国在人工智能安全治理领域的独特智慧和贡献。人工智能安全治理攸关全人类命运，是各国共同面临的重大课题。《框架》明确提出了开放合作、共治共享的治理原则，倡导在全球范围推动人工智能安全治理的国际合作，共享最佳实践；支持在联合国框架下设立国际人工智能治理机构，研究成立人工智能安全治理联盟，推动形成具有广泛共识的全球人工智能治理体系。这些举措充分展示了中国提出的建设性治理思路和重要引领作用。相关理念在第 78 届联合国大会协商一致通过的中国主提决议“加强人工智能能力建设国际合作”中得到广泛认可。这表明，国际社会普遍赞成通过对话与合作加强人工智能全球治理，同时展示了中国作为负责任大国，致力于构筑人工智能共治共享的“世界方案”的积极形象。《框架》既是我国完善人工智能安全治理体制的阶段性成果，也是我国坚持安全发展人工智能治理的重要体现。它明确了我国在人工智能治理上以安全为底线、统筹发展与安全、坚持技管结合等一以贯之的重要原则，推动各方协同治理，为人工智能治理开创了全新的局面。（本文刊登于《中国信息安全》杂志2024年第10期）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664235681&idx=1&sn=530f8234ebb092aa1a91e0c76012ae79&chksm=8b580058bc2f894ee2eae6f8c70502378a85d1c68c7854fc04a36aa415a806b70c3b95b59a89&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh