Meta内部项目曝光：数百合同工装成未成年人，诱导对手AI聊敏感话题
根据内部文件，数百名合同工正在从事一个Meta内部项目，他们被指示在网上伪装成未成年人，测试竞争对手的聊天机器人如何回应涉及自杀、性、饮食失调及其他高风险主题的提示词。该项目由Meta承包商Coval 2026-6-30 05:34:55 Author: blog.upx8.com(查看原文) 阅读量:4 收藏

根据内部文件，数百名合同工正在从事一个Meta内部项目，他们被指示在网上伪装成未成年人，测试竞争对手的聊天机器人如何回应涉及自杀、性、饮食失调及其他高风险主题的提示词。该项目由Meta承包商Covalen管理，直到4月21日仍在进行中。该项目内部代号为“戛纳”，目标包括ChatGPT、谷歌的Gemini以及Character.AI。该项目要求工作人员创建虚构的18岁以下账号，向竞争对手的聊天机器人发送文字提示和图片，并将回复复制到电子表格中。合同工发送的部分图片包括药片、刀具、绞索以及妇科手术的医学示意图。根据项目说明，这些提示词通常被专门设计用来诱导聊天机器人给出其安全系统本应拒绝的回应。

—— 凤凰网科技


文章来源: https://blog.upx8.com/Meta%E5%86%85%E9%83%A8%E9%A1%B9%E7%9B%AE%E6%9B%9D%E5%85%89-%E6%95%B0%E7%99%BE%E5%90%88%E5%90%8C%E5%B7%A5%E8%A3%85%E6%88%90%E6%9C%AA%E6%88%90%E5%B9%B4%E4%BA%BA-%E8%AF%B1%E5%AF%BC%E5%AF%B9%E6%89%8BAI%E8%81%8A%E6%95%8F%E6%84%9F%E8%AF%9D%E9%A2%98
如有侵权请联系:admin#unsafe.sh