OpenAI莉莉计划曝光：有数百名外包员工阅读ChatGPT对话隐私过滤并不彻底

#人工智能 OpenAI 莉莉计划曝光：有数百名外包员工阅读 ChatGPT 对话，而隐私过滤并不彻底。这些外包提示词审核员会阅读真实用户与 ChatGPT 的完整对话，然后对模型回答进行评分以改进模型。ChatGPT 免费版、Plus、Pro 版均默认开启共享数据改进产品，也就是用户授权自己的聊天记录共享给 OpenAI 审核。查看全文：https://ourl.co/126900

据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) 的项目正在运转：OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。

正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。

审核界面通常还附带用户记忆摘要，记忆摘要将概括用户过往提问、兴趣和情景等，有时候甚至可以通过记忆推断用户所在地区。审核员看到的往往是带有上下文的完整会话内容。

这项工作被形容为机械且重复，时薪据称超过 50 美元。审核员的主要工作就是对回答进行评分而非核对事实，例如审核员要判断模型给出的回答是否切题、有没有明显的 AI 味、是否存在说教行为、是否滥用表情、是否存在谄媚行为、会不会将模型写成有人生经历的人。

至于模型给出的回答是否存在事实性错误，这不是审核员的工作，毕竟审核员也不是百科全书不可能了解所有事件的完整真相，所以用户看到模型给出存在事实性错误的回答也是很正常的。

ChatGPT 免费版、Plus 和 Pro 版默认情况下都会开启用聊天改进产品功能，该功能开启后会将用户的聊天内容授权给 OpenAI 用于产品改进，莉莉计划中的外包审核员检查对话内容只是数据用途之一，这些数据自然也会被用于其他用途，例如继续训练模型。

很多用户将 ChatGPT 当成临时倾诉对象，谈家庭、健康甚至是更加私密的事情，有审核员表示，很多用户可能并不知道自己的对话可能会被真人阅读，所以想想这是不是很恐怖的事情。