#人工智能 OpenAI 宣布收购 AI 安全初创公司 Promptfoo,后者的技术将被用于提升 AI 智能体的安全性。Promptfoo 成立于 2024 年,估值约 8,600 万美元,目前已有超过 25% 的《财富》500 强企业使用其产品。OpenAI 表示,收购完成后还将继续扩展 Promptfoo 的开源产品。查看全文:https://ourl.co/112085
成立于 2024 年的人工智能安全初创公司 Promptfoo 日前宣布与 OpenAI 达成相关收购协议,完成交易后 Promptfoo 将成为 OpenAI 的旗下公司,Promptfoo 的主要技术也将会被集成到 OpenAI Frontier 平台。
这家初创公司的主要技术就是提升人工智能模型的安全能力,避免模型受到攻击者利用提示词注入等方式展开攻击,而 OpenAI Frontier 则是 OpenAI 面向 AI 智能体的企业平台,旨在帮助企业使用安全可靠的使用 AI 智能体。
Promptfoo 公司自成立以来仅融资 2300 万美元,但在融资后其整体估值达到 8600 万美元,根据 Promptfoo 的报告,目前超过 25% 的财富 500 强企业在使用 Promptfoo 的产品来提高 AI 智能体的安全性。
不过 OpenAI 并未透露收购 Promptfoo 的金额是多少,考虑到 8600 万美元的估值,估计 OpenAI 的收购方案应该会超过这个估值甚至还要更高。
OpenAI 在官方公告中表示,Promptfoo 的技术能够让 OpenAI 的 AI 智能体平台执行自动化红队演练,评估智能体工作流程中的安全隐患,监控风险和合规性活动等。
OpenAI 还强调在收购后也会继续扩展 Promptfoo 的开源产品,让更多企业可以通过 Promptfoo 的开源技术来增强 AI 智能体的安全性。
