Google 上周五从 AI Studio 中移除了开源模型 Gemma,理由语焉不详。模型下架前,美国田纳西州共和党参议员 Marsha Blackburn 致函 Google CEO Sundar Pichai,称 Gemma 模型生成了针对她的性行为不检的虚假指控,她要求 Google 给出解释。她试图将此事与正在进行的针对 Google 等公司机器人诽谤保守派的听证会关联起来。在听证会上,Google 的 Markham Erickson 解释说,AI 幻觉是生成式 AI 广泛存在的已知问题,Google 正致力于缓解幻觉问题的影响。测试显示 Gemini for Home 特别容易生成幻觉。而在 Blackburn 的诱导性测试中 Gemma 编造了一个她与州警之间由吸毒催化的婚外情,甚至还提供了一个虚假的新闻链接。
https://arstechnica.com/google/2025/11/google-removes-gemma-models-from-ai-studio-after-gop-senators-complaint/