由 AI 辅助的蛋白工程正在蛋白设计领域实现突破，但它们同时也带来了与产生潜在有害蛋白相关的生物安全挑战。实验室制造蛋白的必要步骤是订购编码该蛋白的 DNA。提供这些合成核酸的公司会用生物安全筛查软件（BSS）筛选客户订单，旨在发现和阻断可编码令人担忧蛋白的基因。而 AI 设计的氨基酸序列可能会因为差异足够大而逃避检测。根据发表在《科学》期刊上的一项研究，研究人员采用一种“AI 红队演练”法来评估 BSS 模型，旨在改进这些模型以增强生物安全性。他们利用开源 AI 蛋白质设计软件生成了超过 7 万 5000 种蛋白危险变体，并将其提交给四家不同的 BSS 开发商；他们发现，虽然所有工具在筛选原始野生型蛋白质时表现近乎完美，但它们检测重新设计变体的能力却不稳定。这些结果表明，尽管当前的 BSS 系统对未改变的序列仍然有效，但在面对通过现代生成式 AI 方法设计的蛋白序列同源物时，它们仍缺乏稳定一致的灵敏度。研究人员与 BSS 供应商合作开发了软件补丁，并由四家 BSS 中的三家部署到其系统之中。这些更新提高了该软件对 AI 生成变体的检测率，但假阳性却并未显著增加。

https://www.science.org/doi/10.1126/science.adu8578
https://www.eurekalert.org/news-releases/1100008?language=chinese