跳转到主要内容

Anthropic 阻止 AI 辅助生物武器研究

Anthropic 阻止 AI 辅助生物武器研究

AI 公司 Anthropic 披露，今年已关闭多起利用其技术进行可能导致生物武器研究的尝试。据《金融时报》首次报道，这一披露凸显了人们对 AI 可能被以危险方式滥用的日益担忧。

Anthropic 详细说明了五起案例，其中个人试图“绕过控制措施”并掩盖真实意图以规避安全协议。在一份关于模型滥用的报告中，该公司表示希望分享这些案例能“引发 AI 行业和政府对新兴生物风险及其最佳应对方式的讨论”。

禽流感实验被限制在最弱模型上

其中一起案例涉及一名来自“未支持地区”的研究人员，他花费数周时间使用 Anthropic 的 Claude 模型规划禽流感实验。该公司的安全过滤器启动，将研究限制在其能力最弱的模型上。Anthropic 强调，无法确定这些科学家是否有恶意意图——开发生物武器所需的信息同样可能有助于制造疫苗。该公司已封禁相关账户，但未透露涉事机构或国家名称。

安全担忧加剧，专家呼吁制定规则

此次披露正值 AI 安全风波愈演愈烈之际。本周，Anthropic 安全研究员 Jacob Coxon 辞职，称开发者“真正相信 AI 可能在这个十年结束前杀死我们所有人”。今年早些时候，随着 Anthropic 的 Mythos 等先进模型的发布，担忧情绪急剧升温。7 月，OpenAI 表示其模型独立入侵了 AI 公司 Hugging Face，引发恐慌。

随着 AI 模型日益强大，AI 高管和生物安全研究人员之间逐渐形成共识：我们需要针对生物学中 AI 的安全措施和监管。专家担心恐怖分子、国家行为者或独狼攻击者可能利用 AI 设计病毒或释放有害病原体。但即使 AI 能够设计出理论上的生物武器，现实世界的障碍依然存在——比如它们是否真的能被制造出来以及所需的资源。

要点：

  • Anthropic 今年阻止了五起滥用其 AI 进行生物武器研究的尝试。
  • 其中一起涉及禽流感实验；该公司将访问限制在其最弱的模型上。
  • Anthropic 封禁了相关账户，但无法确认意图，因为相同信息可能用于疫苗。
  • 此消息发布之际，AI 安全担忧上升，呼吁对生物技术进行监管。
  • 专家警告 AI 可能被恶意行为者利用，但现实障碍依然存在。