跳转到主要内容

Claude Fable5因安全恐慌引发政府打压后被撤回

AI界震撼事件:Claude Fable5为何迅速消失

在AI世界的戏剧性转折中,Anthropic在其号称"有史以来最强大的Mythos级AI"发布仅72小时后,就将旗舰产品Claude Fable5模型紧急下线。此次突然消失并非技术故障所致,而是源于美国政府以国家安全为由下达的强制命令。

Image

改变一切的越狱漏洞

知情人士描述,在安全研究人员发现绕过该模型安全协议的方法后,Anthropic总部度过了一个忙乱的周末。虽然公司坚称这是"一个狭窄、可控的漏洞",但政府分析人员看到的却是更令人担忧的情况——可能通向所谓"网络武器级"AI能力的后门。

"处理如此强大的系统时,即使基础出现微小裂缝也至关重要,"一位不愿具名的商务部官员解释,"我们不能冒险让这些工具被武器化。"

全球禁令与本土余波

这些限制措施超出了常规出口管制范围。紧急命令禁止:

  • 所有国际访问,包括美国机构的外国研究人员
  • 任何商业用途,直至安全措施通过验证
  • 通过API或其他渠道共享模型

面对实时验证每个用户凭证的不可能任务,Anthropic痛苦地决定同时暂时搁置Fable5及其前代产品Mythos5。

幕后:观念冲突

本报记者查阅的内部邮件显示,Anthropic工程师与联邦监管机构之间爆发激烈争论。公司高管认为该漏洞造成的现实风险极小,而国家安全官员则反驳称该模型的能力足以证明采取极端谨慎措施的合理性。

"这不仅关乎当前的威胁,"一位五角大楼分析员指出,"我们正在制定可能持续数十年的AI治理先例。"

下一步走向?

AI界目前关注:

  1. Anthropic能否快速修补安全漏洞
  2. 对广泛限制措施的潜在法律挑战
  3. 对其他先进AI版本发布的连锁反应

当研究人员被迫回归早期模型版本时,许多人不禁发问:我们是否已进入AI治理的新时代,安全考量将 routinely 凌驾于技术进步之上?

关键要点:

  • Claude Fable5因安全问题在发布72小时后撤回
  • 美国将"越狱"漏洞列为国家安全风险
  • 禁令影响全球所有用户,包括在美外国研究人员
  • Anthropic称漏洞轻微且受控
  • 政府担忧先进AI可能被武器化