AI黑客永不休眠——我们的防御体系也不能停歇

数字孪生技术有望帮助我们实现全天候威胁追踪，先发制人地发现潜在威胁。

在最近的SecTor大会上，我发表了关于主动威胁追踪的演讲，随后在展区引发了一系列深入讨论。置身于众多"AI优先"安全厂商的展台之间，与我交谈的CISO（首席信息安全官）和威胁猎手们都流露出担忧。他们担心AI技术会将脚本小子（script kiddies）武装成具备高级能力的精英黑客，催生出大量对抗性AI机器人——而当前我们尚未做好应对准备。

虽然AI在网络安全领域确实具有巨大潜力，但现实中其主要用途仍是自动化现有流程。企业若想获得竞争优势，需要的不是优化现有方案，而是全新的AI驱动防御策略。

攻防不对称困境

攻击者本就具备系统性优势，而AI技术更将其无限放大。尽管存在诸多AI防御的成功案例，但这些技术若被恶意利用，后果将不堪设想。以初创公司XBOW开发的同名自主渗透测试机器人为例：这款安全产品表现卓越，今年夏天更创下漏洞悬赏平台HackerOne的历史记录——其自主渗透测试系统连续数月占据排行榜首位。

值得注意的是，虽然渗透测试完全由机器人完成，但人类仍在流程中发挥作用。除HackerOne要求人工审核漏洞报告外，XBOW还专门搭建了辅助扫描优先级判定的基础设施。即便如此，其发现依然令人瞩目——包括在Palo Alto Networks的GlobalProtect VPN解决方案中找出影响2000多台主机的未知漏洞。

显然，AI能极大加速渗透测试进程，将原本需要数小时乃至数天的工作压缩至几分钟。但企业仍需自行修补漏洞。众所周知，安全工具越多，告警量就越大。AI虽能辅助优先级判定，但现实是多数企业缺乏实现完全自动化修复所需的全局视野和上下文信息。

这曾是入侵检测系统（IDS）与入侵防御系统（IPS）时代的遗留问题，至今仍未解决。关键不仅在于威胁检测与验证，更在于企业能在多快时间内响应——尤其在高度复杂的环境中。

我曾供职于某日均启停5万台服务器的企业（总终端量达百万级），每台服务器的状态变化都会引发连锁反应。在另一家企业，我们需要修补2000个Log4j漏洞实例。与同行们类似，由于无法判断哪些实例威胁最大，我们只能先修补对外系统，再处理内部系统——其中必然存在大量无效操作，但在缺乏判断依据的情况下，我们别无选择。

在这种规模下获取上下文信息极其困难。多数企业部署的多层防御体系均存在缺陷，攻击者正利用这些薄弱环节构建攻击路径。核心问题在于：我们如何先于攻击者发现这些路径？

试想攻击者若滥用XBOW这类工具会如何？再比如Hexstrike-AI——这款基于Agent的防御工具本可作为协调大量专用AI Agent的编排抽象层，用于发起大规模复杂操作。但黑客却利用它在漏洞披露12小时内，就成功攻陷受三个0Day漏洞影响的NetScaler ADC和NetScaler Gateway设备。

现在您理解我们的担忧了吗？

身份认证困局

对抗性AI机器人另一棘手之处在于其隐蔽性。现代攻击者很少暴力入侵——他们直接登录。凭证滥用仍是主要攻击手段，因为人类始终难以抵御钓鱼攻击，而最小权限管理仍是业界难题。更棘手的是，每当我们在安全领域取得进展，诸如从本地部署转向云原生等技术革新就会带来新的技术债务、复杂性和风险。这简直是场永无止境的打地鼠游戏。

机器人使身份安全更趋复杂，因为人类已习惯授权Agent代为操作。但Agent与人类一样可能被过度授权，这就为黑客劫持合法Agent（那些获得个人或企业操作授权的Agent）并篡改其行为意图打开了大门。

此外，机器人可全天候无休地穿透防御体系。防御型机器人必须在此战场与对手抗衡——它们需要具备同等智能，能实时判断Agent行为是否符合原始意图。考虑到多数网络安全事件源于人为失误（意外内部威胁），防御型机器人还需保护用户免受自身过失影响。根据2025年Verizon数据泄露调查报告，60%的安全事件涉及人为错误。

数字孪生的安全价值

至此我已阐明渐进式改进为何收效甚微。并非否定其价值，而是认为这无法扭转攻防失衡的局面。但我对数字孪生在实时威胁建模中的应用前景充满期待。

数字孪生技术源自NASA为阿波罗13号任务开发的物理孪生系统——当服务舱氧气罐在任务初期爆炸后，该系统通过模拟飞船状态为20万英里外的宇航员排除故障，最终帮助他们安全返回地球功不可没。

"孪生"概念从物理形态逐步数字化，并在2020年随着物联网设备成熟为能复现复杂环境的传感技术而取得突破。该技术随后应用于机器人、制造业和医疗领域（从手术模拟到癌症护理优化），当然也包括IT行业。

大型企业防御体系包含无数日常任务（补丁、备份等）。自动化虽有效，但每次环境变更（即便是正向改进）都可能产生防御者无法察觉的新攻击路径。数字孪生能帮助团队快速识别最高风险攻击路径，其修复优先级判定效率远超现有工具。

AI机器人与数字孪生实现全年无休安全监控

我常强调：安全从业者无法解决未知威胁——这正是主动威胁追踪的意义所在。若不去主动寻找，我们就不会发现威胁，至少不会像XBOW展示的AI Agent那样轻松发现。人工威胁追踪受限于人类能力、时间成本和生产环境摩擦。而在数字孪生中部署AI机器人，可实现持续、多线程的威胁追踪和攻击路径验证，且不影响生产环境。这从根本上解决了安全与IT团队面临的优先级判定难题。

本质上，数字孪生带给安全团队的价值，与55年前物理孪生赋予NASA科学家的优势如出一辙：精准模拟特定变更对庞大、复杂且高度动态的攻击面可能产生的影响。更令人振奋的是，未来防御者或能通过革命性的人机交互方式，以前所未有的形式直观掌握安全态势。

突破性思维

AI是真正的变革性技术，其防御体系在未来几年的演进令人期待。我呼吁产品设计者突破思维局限——何不从科幻作品中汲取灵感？从菲利普·K·迪克、威廉·吉布森、艾萨克·阿西莫夫、尼尔·斯蒂芬森，到预见百年后的儒勒·凡尔纳，这些艺术家和未来学家的洞见都能激发集体想象力。

在与恶意AI的对抗中，我坚信人性将是我们最大的优势。只要人类能构想出的方案，AI就能协助我们实现。

参考来源：

Fighting AI with AI: Adversarial bots vs. autonomous threat hunters