针对生成式人工智能可能引起的问题,OPENAI 此前面向教育工作者推出 AI Classifier 检测工具,利用该检测工具可以检测一段内容是否是人工智能生成的。
根据 OPENAI 自己的测试,该工具准确率大概在 80% 左右,提供的内容越长,检测准确率越高。
但真实情况并非如此,日前 OPENAI 已经悄悄关闭 AI Classifier 检测工具不再提供下载,OPENAI 没有单独发布一篇博客进行说明,而是更新了之前的博客宣布了这一消息。
OPENAI 在博客中添加的内容如下:
自 2023 年 7 月 20 日起,AI Classifier 由于准确率较低而不再提供使用。我们正在努力整合反馈,目前正在研究更有效的检测手段,我们承诺会开发和部署机制,让用户了解音频或视觉内容是否是人工智能生成的。
OPENAI 自己的团队进行了一系列评估,针对一组英语文本的测试集,AI Classifier 实际准确率只有 26%,即该工具将 26% 的样本标记为可能是人工智能编写的;错误地将 9% 的人类编写的内容标记为人工智能生成。
OPENAI 也再次提到当检测少于 1000 字符的内容时并不可靠,文本越长准确率就越高,不过评估的结果是该工具还是不可靠的,所以 OPENAI 直接停了其下载。
未来 OPENAI 还会推出其他检测工具,不过这些检测工具何时发布以及准确性如何还有待观察。
版权声明:感谢您的阅读,除非文中已注明来源网站名称或链接,否则均为蓝点网原创内容。转载时请务必注明:来源于蓝点网、标注作者及本文完整链接,谢谢理解。