从假新闻刷屏看清“认知安全”：AI时代网络安全的新边疆

山卡拉新闻 3小时前发布

3899

导语：虚假AI监管政策事件标志着网络谣言已发生本质性跃迁，从传统的“信息失真”升级为“认知层攻击”。

事件回溯：一份假政策击穿行业的神经

2026年3月，一篇题为《七部门重磅发布AI安全治理三年行动计划》的文章在社交媒体广泛传播。文章声称：2026年3月10日，工业和信息化部等七部门联合印发《人工智能安全治理三年行动计划(2026-2028年)》，并一本正经地特意标出“全行业合规范围已界定清楚，这些要求直接影响每一家AI企业。”

图片23.png

这则信息具备高仿真度的一切特征：权威的部门组合、精确的时间节点、专业的政策术语、紧迫的行业影响。然而，经主管部门核查，工业和信息化部等部门从未发布过该文件。中国互联网联合辟谣平台迅速辟谣，确认这是一起利用AI技术炮制的虚假政策信息事件。

这不是孤例。2025年6月，一则《7月1日起老年人坐火车可打折》的虚假信息在社交平台流传，该谣言通过AI技术伪造铁路部门新政，甚至附上仿冒官方文件的排版和措辞。2024年，《济南大妈路边摆摊被监管部门罚款145万》等虚假文章均由AI工具生成，引发大范围传播。

这些事件共同指向一个危险信号：AI生成的虚假信息正在从“内容污染”升级为“认知层攻击”，它们不再只是博眼球的段子，而是精准击中社会焦虑、影响企业决策、扰乱公共秩序的高危信息武器。

嘶吼认为：传统谣言是人编人传，AI谣言是机器量产+精准投放。据相关地方公安机关查处的案例显示，MCN机构利用AI工具一天能生成4000至7000篇假新闻，关联账号800余个。这种工业化生产能力，让谣言从偶发事件变成了常态威胁。更危险的是，这次虚假政策针对的是AI监管本身，用AI生成假政策来讨论AI监管，这种“自我指涉”的讽刺性恰恰说明，技术已经跑在了治理前面。

焦虑放大器：为什么人们会相信假政策

虚假AI监管政策之所以能快速传播，根源在于它精准击中了当前社会的双重集体焦虑。

第一重是对监管不确定性的焦虑。自2023年《生成式人工智能服务管理暂行办法》实施以来，AI行业一直处于政策密集调整期。2025年9月1日，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成内容添加显式与隐式标识。企业面对合规压力，对任何政策风向都高度敏感，这种敏感性被虚假信息精准利用。

第二重是对技术失控的焦虑。北京大学新闻与传播学院教授胡泳指出，当AI生成的内容与人类创作的内容交织在一起时，会出现“衔尾蛇”模式，最终数据合并后，分不清哪些是人类创造、哪些是AI生成，从而引发严重后果。特别是当公众高估AI系统的智力并对其产生过度信任时，一旦AI系统出现错误或被恶意利用，后果相当危险。

这双重焦虑构成了，从焦虑到传播的闭环，AI焦虑降低了公众的批判性思考能力，而虚假信息的传播又进一步加剧了AI焦虑。在这种情绪共振中，辟谣成本远高于造谣成本，据央视调查，AI造谣可以一键生成，但辟谣需经历锁定信源、核查证据、多部门联动等复杂流程，当虚假内容被证伪时，往往已造成不可逆的社会影响。

图片24.png

焦虑会成为认知安全最容易被突破的弱点。传统辟谣逻辑是：事实核查+权威发布，但在AI时代，情绪比事实传播得更快。当企业看到“七部门”三个字时，第一反应不是核实真伪，而是担心“万一这是真的，我没跟上怎么办”。这种紧张的心理，让理性判断让位于本能反应。嘶吼认为，未来做好认知安全，不能只靠删帖、封号这种事后处理方式，更要提前做好政策发布的预期引导，减少出现没人说话、信息空白的阶段，让真实信息比谣言传播得更快。

技术真相：为什么平台识别不了假政策

虚假政策信息能突破平台审核防线，源于AI生成技术的三重升级。

首先是内容仿真度的质变。江西公安机关查处的一起MCN机构使用AI工具造谣案中，涉案人员利用人工智能工具批量生成不实文章，最高峰一天能生成4000至7000篇假新闻，关联账号达800余个。这些文章不再是粗糙的标题党，而是具备完整叙事逻辑、专业术语运用、甚至仿冒公文格式的高拟真内容。

其次是传播链条的智能化。不法分子已形成：需求分析—内容生产—精准投放的完整链条。通过AI分析社交平台热词，就关注度高的话题批量生成谣言，再通过算法定向推送，实现定制化生成、精准化传播、智能化扩散。

第三是平台识别的技术滞后。尽管《标识办法》要求服务提供者对AI生成内容添加显式标识（文字、声音、图形）和隐式标识（元数据嵌入），但在实际执行中，不少平台对AI生成信息要么没有提示，要么字体极小，有的审核机制滞后甚至先发后审，给谣言传播留下了较大空间。更关键的是，标识制度针对的是“已知AI内容”，而虚假信息往往刻意规避标识，冒充人工创作。

平台面临的困境是：当AI生成的虚假政策文件在格式、措辞、逻辑上都与真实文件高度相似时，传统的关键词过滤和模式识别已难以奏效。这不仅是技术对抗，更是认知层面的真假难辨危机。

嘶吼认为：真正有效的办法可能不是“证明AI内容本身”，而是让真实政策文件具备不可伪造的数字签名。建立官方政策文件的区块链存证系统，公众可以通过扫码或链接直接验证文件真伪。技术的问题，需要技术来解决，而不是靠人或AI批量审核，去跟机器批量生成的内容硬刚。

本质跃迁：从信息污染到认知层攻击

虚假AI监管政策事件标志着网络谣言已发生本质性跃迁，从传统的“信息失真”升级为“认知层攻击”。

传统谣言依赖人类的编造能力和传播意愿，而AI谣言实现了认知污染的规模化生产。中国人民大学学者指出，如果说以前的认知攻防主要靠媒体讲故事和引导舆论，那么数智时代将彻底改写这套逻辑，大数据和人工智能技术把认知竞争从粗放影响升级为精准塑造，从依赖人工策划转向算法驱动的智能操控。

这种攻击的影响远超传统谣言。对企业而言，虚假政策信息可能导致战略误判、资源错配甚至合规风险。对行业而言，频繁的假政策事件会稀释公众对真实监管政策的信任，形成“狼来了”效应。对国家安全而言，这是认知域安全的直接威胁，当公众无法区分真假政策时，政府的公信力和治理权威将被系统性削弱。

正如对外经济贸易大学学者戴长征所言，认知攻击的识别与系统性认知防御体系的构建，已成为数智时代维护国家安全与社会稳定的关键议题。

嘶吼认为：“认知层攻击”最可怕的地方在于无痕。传统的网络攻击会留下日志、痕迹，可以被追踪溯源。但认知攻击它不改变系统代码，只改变人的想法；它不窃取数据，只窃取信任。当假政策被辟谣后，伤害并没有结束，公众会记住“哦，AI监管又要收紧了”，这种印象会持续影响决策。

范式转移：认知安全成为网络安全的新维度

图片25.png

虚假AI监管政策刷屏事件，最终指向一个核心结论：认知安全正在从网络安全的“子议题”升级为“新维度”。

传统网络安全聚焦于技术层面的攻防，防火墙、入侵检测、数据加密。但在AI时代，攻击目标已从系统漏洞转向认知漏洞。攻击者只需通过生成式AI制造假新闻，就能影响公众决策、扰乱市场秩序、威胁社会稳定。2025年中央网信办“清朗”系列专项行动将整治AI技术滥用乱象列为八大重点之一，正是对这一趋势的回应。

未来的网络安全体系，必须将“人的认知”纳入防御边界。这不仅意味着更先进的技术检测工具，更意味着重建公众的信息素养、完善平台的责任机制、强化政府的响应速度。正如《标识办法》所昭示的，标识不仅是对内容的标记，更是对信任的重建，在真假难辨的信息洪流中，为公众提供可锚定的确定性坐标。

认知安全作为网络安全的新维度，其终极目标是确保：当下一则"七部门重磅发布"的消息出现时，公众的第一反应不是盲目转发，而是审视标识、核查信源、冷静判断。这或许是我们在AI时代能为自己构筑的最坚实防线。

结语：

认知安全的最高境界是让谎言失去市场，而不是让谎言无法传播。再强的技术过滤也挡不住所有假信息，但一个具备批判性思维的公众可以。未来的教育应该从小抓起，培养AI素养，不是教孩子用AI画图写作文，而是教他们质疑、验证、溯源。当整个社会形成“默认怀疑到主动验证”的认知习惯时，假新闻自然就刷屏不了了。这需要时间，但必须从现在开始。

参考文献：

https://cj.sina.com.cn/articles/view/5953189932/162d6782c06703y2io?froms=ggmp

https://www.news.cn/government/20250718/4bb18b6b51954cfc8c37b10d07da1459/c.html

https://m.thepaper.cn/newsDetail_forward_29916398

https://paper.people.com.cn/rmrb/pc/content/202508/18/content_30096699.html

https://www.piyao.org.cn/20250310/f818ce7d3c274a5ca97c3f8c4bf08244/c.html

https://t.cj.sina.com.cn/articles/view/7986487113/1dc081f4900101p0ic

https://paper.people.com.cn/rmrb/pc/content/202508/18/content_30096699.html

http://theory.people.com.cn/n1/2025/1212/c40531-40622751.html

如若转载，请注明原文地址

分享至

感谢您的支持，我会继续努力的!

扫码支持

打开微信扫一扫后点击右上角即可分享哟

你可能感兴趣的