“AI 不该只是酷炫，更必须有效。”

来自巴西大型数字银行、专精网络安全的专家Wesley Marinho，对全球 AI 发展趋势有着独到见解。2025年7月，世界人工智能大会在上海盛大举行，汇聚了来自全球的领先企业与专家，共同探讨AI技术的最新趋势与前沿应用。受中国头部网络安全公司的邀请，Wesley作为特邀嘉宾出席大会，分享数字银行中的网络安全挑战，并深入探讨AI为安全行业带来的冲击与机遇。

HackProve有幸参与此次盛会，并在会议现场专访了Wesley，就AI与网络安全的融合发展展开对话，探索这两大技术力可能产生的深远影响。

“惊喜中国”：巴西专家眼中的技术盛宴与人文魅力

“这次会议真的太有意思了！”当我们问及 Wesley 参与世界人工智能大会的感受时，他难掩激动，“它让我们有机会遇到来自不同领域、正应对 AI 发展挑战的人们，这种交流令人振奋。我能够接触到在网络安全技术中用AI赋能的不同观点。”

这是Wesley第一次来到中国，对中国更是充满了惊喜：“中国太棒了，对我来说是个惊喜。在很多西方国家，人们可能会觉得中国人性格封闭、距离感强，性格很不同。但我发现这里的人非常快乐、有趣而且聪明，聪明与幽默并存，这种组合让我印象深刻。大家对我非常友善、热情，我们一起讨论技术知识，有些领域对我来说是全新的。我发现中国人非常开放，乐于分享和探讨不同话题。”谈到这里，Wesley 的眼中满是笑意和惊喜，这个在许多西方人看来遥远又神秘的国度，正向他展现着独特的风采。

当问到最令他印象深刻的事情时，Wesley 沉思片刻说道：“是技术。印象中中国是个比较传统的国家，但这次发现它同时也是一个非常技术化的国家，这里有许多创新公司和前沿科技，这让我非常惊讶。像这次大会上很多公司，它们在巴西也非常有名，我才发现原来这些都是中国公司，而且他们做得非常出色。”在陪同 Wesley 参观大会的过程中，他总是发出惊叹，并不断询问身边的人：“这个原来是中国公司吗？”他发现许多中国公司的全球业务已经深入到大多数人的日常生活中了。

AI不是炫技：探索AI应用的深度和价值

在大会现场，Wesley看到了许多企业正在展示如何以AI切实改善人们生活的创新方案。“比如有一家公司在讲如何用AI提高绿色能源的效率，这是一种游戏规则的改变。”

他说，“AI驱动的聊天机器人确实很酷，但AI的潜力远不止于此。它是一项真正具有力量的技术，而我认为，中国正在努力探索AI的真正价值所在。”

在Wesley看来，当前正处于AI发展的早期阶段，企业之间正在经历一场“抢占热度与市场时机”的竞赛。他提到，在行业里常被提及一个说法：“FOMO”（Fear of Missing Out，错失恐惧症），很多企业担心错过AI浪潮，于是仓促上马各类AI项目。但他坦言：“有时候，企业投入大量资金构建一个AI驱动的方案，最终却发现并没有产生实质性的改变。你确实用了AI，但这个方案并没有真正改造业务或带来颠覆性的变化。”

他质疑地发问：“我们为什么要花这么多资源和能源在那些并未真正改变生活、改变世界、或者改变用户路径的AI方案上呢？”

Wesley对AI的变革性充满期待，但他同时也对当前许多企业“为用而用”的现象表达了担忧。“如果一家公司对AI有更深入的理解，他们就能辨别出哪些更重要的业务流程是可以AI支持的。但如果一开始只是浅尝辄止，随便挑一个流程说‘好吧，这个我们用AI赋能’”

“那表面上什么都能用AI，但它真的值得投入这些资源吗？”Wesley语气真诚地说，“很多时候，不值得。”

AI 理解与数据可信度：网络安全领域的双重挑战

对AI运作原理缺乏理解是当前最大挑战。 Wesley 在与巴西公司的接触中发现一个普遍且紧迫的问题：许多公司在制定 AI 解决方案时，并不真正了解 AI 的内部机制。他指出：“有些公司用 AI 解决信用评分、风险评估等非常关键的问题，但他们是否真的了解 AI 如何运作？他们可能使用了生成式 AI 这样的方案，但这也许并非最适合他们的 AI 类型。如果缺乏理解，就会以为 LLM 或生成式 AI 能解决所有问题。”

当谈到AI如何改变网络防御与攻击方式时，Wesley表达了强烈的关注和兴趣。“目前很多从事网络安全的人都在积极探索AI的可能性。”他指出，随着IT基础设施的复杂化，企业需要越来越多的可观测性和监控能力，这些系统每天会产出海量数据。

“AI是否能够成为解决方案？能否自动分析这些数据，识别潜在的攻击行为，并及时采取行动保护企业资产？我认为现在正是AI在网络安全领域扮演关键角色的时刻。”但他也指出潜在的担忧：如果这些数据本身有误或被篡改，将会影响分析结果。“当然，数据在 IT 领域正变得越来越重要，我们必须尽可能多地获取数据，并信任这些数据。但如果你有大量不可靠的数据，那还不如拥有更少但可信的数据。而这也是网络安全中的一个巨大挑战。”

“AI已至”：AI实战经验与安全防线的重塑

在实际操作层面，Wesley也在持续探索AI的边界。他曾利用AI辅助完成安全测试中的“爬虫”任务。“最有趣的一个尝试，是使用AI来发现网站的站点地图、API和所有在同一域下可访问的入口。AI可以分析网站的全部源代码，并生成5种可能的路径，帮助红队或安全团队在统一血统或企业内部网络中识别更多潜在入口点。这一点非常有用。”

AI的发展已经远远超出原有的安全框架设计。“正如我之前说的，现在的网络安全架构并没有为AI准备好，它只适用于传统风险，而不是AI带来的新型挑战。”

Wesley举例说，现在很多企业依然使用传统的DLP（数据泄露防护）系统来防止信息外泄。“但问题是，AI模型可以在极短时间内泄露大量数据，而DLP在这种场景下几乎无效。AI已经不再是未来，它是现实、是正在发生的每一天。很多公司还没准备好，但AI的应用已经无处不在。”

从理解到防御：AI安全的三步走策略

“正如我之前说的，现在是一个非常重要的时刻，而第一步，也是最关键的一步，就是‘知识’。”Wesley坚定地表示。他认为，对AI的深入理解，尤其对于网络安全团队而言，是当前最紧迫的任务之一。“攻击者也在研究AI。在巴西，甚至一些没有技术背景的人都在用Deepfake技术进行诈骗。那当这些人对AI了解得更深入，他们会用这些知识做什么？如果我们作为防御方的专业人员没有同步学习AI，又该如何应对？”Wesley语气凝重。

他进一步指出，第二步是在“理解AI之后”，安全团队必须清晰识别企业自身AI系统可能面临的攻击方式。“如果你公司使用AI做聊天机器人，那你面临的是一类风险；如果你用AI处理财务数据，为CIO或财务团队提供建议，那风险类型就完全不同。”AI一旦被操控，它可能会给出‘看起来正确’但实则错误的决策建议。”Wesley补充说。

“这时候，第三步就来了——对AI本身进行技术监控，识别可能存在的攻击路径。过去的防护工具，只能识别传统风险，而今天，我们需要新一代的监控系统来保护AI方案本身。”

在他看来，第一步“知识理解”尤为重要。“也许在中国，这方面的情况要好一些，我看到很多人在认真讨论AI。而在多数国家，尤其是拉美和巴西，很多公司仍然缺乏基本认知。”

Wesley真诚建议：“我希望AI解决方案的厂商能够主动承担起‘教育’责任，帮助使用他们服务的企业真正了解AI的运作逻辑。只有这样，企业才有可能构建出真正适合自己的AI解决方案。”

“AI + 安全 + 商业”复合型人才成稀缺资源

人才是核心竞争力之一，AI安全领域的人才的缺口，也更加清晰起来。Wesley指出，当前最紧缺的是具备“AI + 网络安全 + 商业理解”的复合型人才。“这个岗位的人，既要懂AI底层技术，又要了解网络安全，比如渗透测试等核心技能，更重要的是具备商业视角，能够在制定AI方案时，明确企业的安全需求、业务需求和技术实现路径。”

他特别提到一个未来极有潜力的新角色：“安全值班人员（Security On-Call）也必须懂AI。他们要知道如何向AI提问、如何从环境中快速提取洞察、并进行高效分析。以往公司遭遇攻击，往往需要一周甚至一个月才能完成事后分析；而未来，当攻击发生的同时，AI就可以提供实时分析与建议，甚至参与自动化应对。”

“这个未来并不遥远，它已经非常接近现在。这类人才，将成为企业不可或缺的战略资源。”Wesley最后说。

数字银行的挑战：深度伪造（deepfake）

Wesley 所在的数字银行是拉丁美洲最大的数字银行之一，而当前整个数字银行行业正面临着严峻的挑战——深度伪造（deepfake）。Wesley 指出，无论在拉美还是全球，这个问题都日益凸显。

“我们正在将许多服务从线下迁移到线上，其中最关键的一环就是数字身份。” Wesley 解释道，“AI 在帮助我们构建更强大的数字身份解决方案的同时，也正在制造极其逼真、可信的深度伪造，这些伪造可以用来绕过数字身份验证。”

他强调：“‘数字身份’对金融公司和政府都至关重要。你必须能够识别出在数字环境中操作的究竟是谁。如果你不能信任这个‘数字身份’，那么你如何能允许进行更复杂的交易，比如贷款、买车或买房呢？我认为现在深度伪造技术让绕过数字身份验证变得更容易，这要求我们必须让整个验证流程变得更加复杂。”

从表情包到光子芯片：AI资源分配的思考

“几乎每个国家都在拥抱 AI，它无疑是一项变革性技术，”Wesley 认为，“但如果我们要用 AI 来保护生活、系统、资产乃至整个世界，那么 AI 就必须是一项协作性解决方案。”他强调，各国可以一起制定监管规则，来评估这些 AI 方案是否适用。“因为未来市场上会出现大量 AI 方案，它们会消耗大量能源和金钱，却并不值得。与此同时，有些公司却还在寻找数据中心和资源去运行 AI。”

当被问及能源消耗时，Wesley 既有担忧也有乐观期待：“我们现在正面临一个挑战：制造更高效的芯片。效率是关键。目前有一种‘光子芯片’（photonic chips）技术，这种技术使用‘光’来处理信息，耗能更低，处理能力更强。我认为光子技术在未来可能成为解决 AI 计算资源爆发性增长问题的重要方案。”

但他目前的观点是，如果各国能够立即展开协作，在资源和处理能力都还不足的当下，就可以把处理能力集中起来，用在真正重要的项目上，特别是那些可以改善人类生活的项目上。“现在的很多事情，比如聊天机器人……天啦，你正在用一个非常昂贵的 AI 去生成聊天内容，做表情包……这可以理解，但是其实还有更重要的项目在争夺同样的计算资源，我觉得我们应该更高效地使用这些资源。”

采访尾声，当我们请 Wesley 用一两句话描述他对 AI 安全行业未来的期待时，他似乎也陷入了沉思。他微微一笑，往后一靠，仿佛正在思考一项艰巨的任务，要将对 AI 行业未来的深刻洞察浓缩成简短的几句，确实需要认真斟酌。最终，Wesley 意味深长地留下了一句话：

“AI 将会改变我们在网络安全领域所面临的核心挑战。”

这既像是一个提醒，也像是一个预言。

本次对 Wesley 的专访告一段落，希望Wesley对于AI+网络安全的思考与洞察，对你带来一些启发。如果你也对AI与网络安全的未来充满好奇，欢迎留下你的看法，参与讨论。专访还在继续，下一个网络安全大咖的分享，敬请期待。

Website: https://www.hackprove.com/

Discord: https://lnkd.in/ejBKZyNn

X : https://x.com/hackprove_