#网站应用 微软旗下职场社交平台 LinkedIn 宣布打击由 AI 生成的帖子和评论,这类粗制滥造的内容正在严重破坏用户体验。为此领英基于 AI 开发了检测系统,若判断帖子为 AI 生成则会将其降权,降权后帖子将失去算法推荐也就是没有推荐流量,但帖子本身不会被删除。查看详情:https://ourl.co/113054
微软旗下职场社交平台领英 (LinkedIn) 日前宣布将严厉打击 AI 生成的粗制滥造的内容,原因则是目前领英已经沦为 AI 生成内容的温床,为此领英已经开发内容检测系统用来识别那些由人工智能生成的内容,早期测试显示检测系统的识别准确率高达 94%。
当前领英平台出现的 AI 生成内容非常多,这些内容看似精雕细琢但实则缺乏原创性和专业知识,当然这也包括由 AI 生成的海量标题党内容,这些内容使用吸引人点击的标题并在破坏领英的正常使用体验。
内容不会被删除但会被降权:
根据领英计划中的内容,领英将使用检测系统对用户发布的帖子进行原创性检测,如果帖子被识别为由 AI 生成则会被系统自动降权,被识别为 AI 生成的帖子并不会被直接删除,但在降权后帖子将失去推荐算法的支持,也就是没有推荐流量。
对于相关关注的直接联系人,对方仍然可以看到这些 AI 生成的内容,但不是直接联系人就不会被推荐 AI 生成的内容,以此可以提高领英平台用户的使用体验,避免被 AI 粗制滥造的内容消耗时间和精力。
另外领英也强调只要内容包含原创观点或能够引发有意义的对话,领英仍然欢迎用户使用人工智能进行辅助内容撰写,其核心观点并非禁止使用人工智能,而是停止让人工智能替代人类进行思考。
怎么提高检测成功率是个问题:
领英开发的检测系统自然也是基于人工智能构建,新系统将会自动解析帖子内容并判断哪些帖子具有原创性,哪些帖子缺乏实质性内容,同时检测系统还会分析用户的互动模式来学习,识别可以提供新视角而非仅仅重复现有观点的内容 (比如反复挖坟转发以前的热门帖子)。
然而人工智能检测系统的检测成功率肯定是个问题,所以领英也要求人类编辑参与内容的检测,例如人类编辑需要阅读帖子并标记帖子是原创的还是人工智能生成的,这些标记数据也会成为检测系统的学习样本数据。
最后领英还在整理低质量、人工智能生成评论的常见特征列表,后续检测系统也会自动删除那些由人工智能生成的评论,这种问题在 X/Twitter 上也非常常见,只不过后者的打击效果极差。
