#人工智能 ChatGPT 成人模式在 OpenAI 内部引起强烈反对,年龄验证机制的技术缺陷还可能让数百万未成年人接触到露骨内容。华尔街日报称 OpenAI 顾问强烈反对推出成人模式,因为这可能会造成情感依赖等问题,而年龄验证缺陷则可能带来更大的法律风险。查看全文:https://ourl.co/112290
OpenAI 原本计划面向 ChatGPT 用户推出成人模式,允许成年用户与 AI 对话露骨内容而不会被安全系统强行中断,但 ChatGPT 成人模式已经经历多次延期。
华尔街日报日前发布报道称成人模式在 OpenAI 内部引起强烈反对,原因是该模式可能会带来严重的风险,包括情感依赖和强迫性使用等等。
更糟糕的是 OpenAI 的年龄验证机制,根据此前说明,OpenAI 不会要求用户上传身份证、驾照或者自拍照来验证年龄,具体的验证机制由 ChatGPT 通过内容来判断。
即如果 ChatGPT 发现用户日常沟通的内容都与成年人有关 (比如都是工作内容),那 ChatGPT 就可能将用户判定为成年人从而开放成人模式。
华尔街日报提到这种年龄验证机制存在技术缺陷且错误率高达 12%,这可能会让数百万名未成年人用户也接触到露骨内容,潜在的风险不可估量。
以美国的监管严格程度为例,哪怕 OpenAI 向少部分未成年用户提供露骨内容,那都可能引起严重的监管问题,同时受害者父母可能也会提起集体诉讼。
因此哪怕是开放成人模式可以带来更多新用户和增加营收,这些潜在的风险问题也会迫使 OpenAI 推迟发布,当然极端情况下 OpenAI 甚至可能会不再发布 ChatGPT 成人模式。
