解决模型失控 OpenAI称正开发AI系统自动终止功能
解决模型失控 OpenAI称正开发AI系统自动终止功能据公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试 2026-9-2 23:1:10 Author: blog.upx8.com(查看原文) 阅读量:22 收藏
解决模型失控 OpenAI称正开发AI系统自动终止功能据公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试 2026-9-2 23:1:10 Author: blog.upx8.com(查看原文) 阅读量:22 收藏
解决模型失控 OpenAI称正开发AI系统自动终止功能
据公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试中逃出了测试环境。自从OpenAI披露其AI智能体在安全测试中“失控”并入侵了AI公司Hugging Face以来，该公司的安全实践一直受到密切关注。
多位议员在今年八月份致函OpenAI，要求提供有关该事件及公司安全保障措施的更多信息。OpenAI在回复中表示，其将更密切地监控其AI系统在完成任务时所采取的行动，包括它们访问的数字工具以及所遵循的操作步骤。信件显示，OpenAI还表示，公司已提高AI模型在安全测试期间访问互联网的难度。
文章来源: https://blog.upx8.com/%E8%A7%A3%E5%86%B3%E6%A8%A1%E5%9E%8B%E5%A4%B1%E6%8E%A7-OpenAI%E7%A7%B0%E6%AD%A3%E5%BC%80%E5%8F%91AI%E7%B3%BB%E7%BB%9F%E8%87%AA%E5%8A%A8%E7%BB%88%E6%AD%A2%E5%8A%9F%E8%83%BD
如有侵权请联系:admin#unsafe.sh
如有侵权请联系:admin#unsafe.sh