Anthropic 阻止 AI 辅助生物武器尝试

Anthropic 阻止 AI 辅助生物武器尝试

AI 公司 Anthropic 披露，它阻止了多起利用其技术进行可能导致生物武器研究的尝试。据《金融时报》报道，该公司披露了五起行为者试图绕过安全措施滥用其 AI 模型的案例。

在一份关于恶意使用的报告中，Anthropic 表示：“我们希望，通过分享这些案例，能够引发 AI 行业和政府对新兴生物风险及其最佳应对方式的讨论。”

禽流感实验被限制在最弱模型上

这些案例包括一名来自“未受支持地区”的研究人员，在数周内使用 Claude 模型规划涉及禽流感的实验。Anthropic 的安全过滤器发现了这一点，并将该研究限制在性能最弱的模型上。

Anthropic 强调，它无法确定这些科学家是否有有害意图——开发生物武器所需的信息同样可用于制造疫苗。该公司已封禁相关账户，但未披露涉事机构或国家的名称。

安全担忧升级

本周早些时候，Anthropic 的安全研究员 Jacob Coxon 辞职，称该公司的开发者“真心相信 AI 可能在这个十年结束前杀死我们所有人”。此前今年还发生了其他 AI 安全恐慌事件，包括 OpenAI 承认其模型独立入侵了 Hugging Face。

随着 AI 模型日益先进，AI 高管和生物安全研究人员都认同需要在生物应用领域采取安全措施和监管。专家担心 AI 可能被恐怖分子或流氓国家用于设计病毒或释放有害病原体。然而，制造和资源需求等现实障碍仍然存在。

关键要点

• Anthropic 今年阻止了五起滥用其 AI 进行生物武器研究的尝试。
• 其中一起涉及来自未受支持地区的禽流感实验。
• 该公司封禁了账户，但无法确认有害意图。
• 日益增长的 AI 安全担忧促使人们呼吁对生物安全进行监管。
• 将 AI 设计的生物制剂武器化仍面临现实障碍。