Anthropic CEO 呼吁放缓前沿 AI 发展；Altman 和 Musk 表示赞同

Anthropic CEO 呼吁放缓前沿 AI 发展

Anthropic 首席执行官 Dario Amodei 正在请求 AI 行业暂停——或者至少踩下刹车。在最近的一份声明中，他提出了一个三步计划，以减缓对更强大 AI 模型的竞赛，这一切都围绕一个词：可验证性。

他的提议首先是让公司引入现场第三方评估员。在此基础上，他希望看到美国及其盟友之间的协调。最终呢？一项全球协议。Amodei 认为 AI 的递归自我改进已经在进行中。他警告说，在 6 到 12 个月内，AI 代理群可能会利用僵尸网络夺取互联网的控制权。他主张，解决办法是减缓能力提升的步伐，并将额外的时间投入到安全工作中——操作可靠性、对齐、可解释性和严格测试。

一点现实主义

Amodei 对政治并不天真。他公开承认，任何有意义的“速度限制”都取决于美国首先保持并扩大其对中国的技术优势。他暗示，只有到那时，放缓才有可能被提上议程。但问题在于：没有中国的参与，真正的全球上限无法实现。他提出了一个四级国际协议框架，但也承认全面限制不太可能在短期内实现。

Altman 和 Musk 发声

这一呼吁并非无人响应。OpenAI 首席执行官 Sam Altman 转发了 Amodei 的声明以示支持，Elon Musk 也表示赞同。他们的支持为这一信息增添了分量，否则它可能会被视为一家公司的谨慎立场而不被理会。

一系列警告

这并非孤立的呼吁。早些时候，Anthropic 研究员 Jacob Coker 离职时发出了严厉警告：AI 可能在 10 年内灭绝人类。从内部研究人员的警报，到 CEO 公开推动速度限制，Anthropic——一家以安全为品牌核心的公司——正稳步将“放缓”的理念从思想实验转变为行业和政策议程。

关键要点

• Anthropic CEO Dario Amodei 提出了一项三步计划，以放缓前沿 AI 发展，核心是第三方评估员、美国盟友协调和全球合作。
• 他警告说，AI 的递归自我改进已经开始，代理群可能在 6 到 12 个月内威胁互联网控制权。
• Amodei 承认，美国必须首先保持其对中国的技术优势，才能考虑任何放缓，而全球限制在短期内仍不太可能。
• Sam Altman 和 Elon Musk 都表示支持这一呼吁。
• Anthropic 的安全叙事势头增强，此前一名前研究员警告 AI 可能在十年内终结人类。