被称为 ChatGPT 开发商的 OpenAI 近日在达沃斯世界经济论坛上宣布为美国军方开发网络安全技术，并加大对美国选举安全的工作力度。
该公告是在公司政策发生变化之后发布的，该政策此前禁止生成式人工智能模型用于军事目的和创建恶意软件。这些限制现已从 OpenAI 的文件中消失，但该公司强调其技术仍不应用于暴力、破坏或通信间谍活动。
OpenAI 全球事务副总裁 Anna Makanju 在论坛接受采访时提到了与五角大楼在开发开源网络安全软件方面的合作，这次合作必将在该公司的关键产品上留下深远影响。
尽管取消了对 ChatGPT 军事和政治应用的限制，Makanju 确认仍继续禁止使用模型进行武器开发。与此同时，OpenAI 首席执行官 Sam Altman 宣布了一系列措施，以防止生成式 AI 工具被用于传播与选举有关的虚假信息。
值得注意的是，此类声明是在 OpenAI 最大投资者微软做出类似努力的背景下做出的。11 月，雷德蒙德官员宣布了一项保护美国和其他国家选举的五步战略。
根据世界经济论坛的《2024 年全球风险》报告显示，“错误信息和虚假信息”是短期内主要的全球风险。同时，有 56% 的高管认为，生成式人工智能将在未来两年内使攻击者比 IT 防御者更具优势。
然而，我们有理由相信，网络安全领域的共同努力将有助于改善这一状况。那些致力于开发先进人工智能技术的公司已经采取了具体措施，以最大程度地减少潜在的风险。通过全体利益相关者的积极响应，新的发展将显著强化对网络威胁和错误信息传播的保护。
转自安全客，原文链接：https://www.anquanke.com/post/id/292715
封面来源于网络，如有侵权请联系删除