1100名AI内部人士向华盛顿喊话：给AI踩刹车

来自全球领先AI公司的上千名员工正向华盛顿传达一个信息：慢下来。在一封名为“控制前沿”的公开信中，来自OpenAI、Anthropic、Google和Meta的1100多名员工联合呼吁，在构建更强大AI的竞赛中刻意暂停。

这封信聚焦于一个特定的担忧：“自动化AI开发”。即未来AI系统可能在没有人类帮助的情况下自行设计和改进其他AI系统——这一过程被称为递归自我改进。Anthropic已经表示，其Claude模型正接近这一门槛。签署者警告称，一旦AI开始自我改进，事情可能会加速到我们无法理解或控制的程度。

全明星阵容

签署者名单堪称AI界的名人录。其中包括Anthropic的CEO Dario Amodei及其两位联合创始人；OpenAI的首席科学家Jakub Pachocki；Meta的首席科学家Shengjia Zhao；以及领导Google DeepMind AI安全与对齐工作的Anca Dragan。OpenAI和Anthropic都在X上发布了支持该信件的消息。OpenAI承认，在某个时刻，前沿模型的发展可能会加速到世界需要减速的程度。Anthropic则引用了其关于递归自我改进的研究，称社会需要时间做准备。

Altman的转变

最引人注目的转变或许来自OpenAI的CEO Sam Altman。在最近接受“Invest Like the Best”播客采访时，他表示现在可能是时候“放缓”AI开发，以便社会能够适应并建立防护措施。但他也强调，这不应被视为监管捕获或大型实验室之间的共谋。

就在一年前，Altman拒绝签署一封类似的呼吁放缓的公开信，理由是缺乏技术细节。从2023年拒绝签署到2026年公开支持这一想法，可见行业对安全风险的看法发生了多大变化。

接下来会发生什么？

这封信呼吁美国政府支持国际合作，并开发治理自动化AI开发所需的工具。这是对当前军备竞赛心态的直接挑战——在这种心态下，公司竞相以最快速度发布最强大的模型。

华盛顿是否会倾听还有待观察。但超过一千名内部人士——包括该领域一些最知名的人物——表示是时候放慢脚步了，这一信息不容忽视。

关键要点

• 来自OpenAI、Anthropic、Google和Meta的1100多名员工签署公开信，敦促美国政府放缓AI开发。
• 这封信聚焦于“自动化AI开发”——能够递归自我改进的AI——这可能加速到超出人类控制。
• 签署者包括Dario Amodei、Jakub Pachocki和Anca Dragan等高管和科学家。
• 此前拒绝签署类似信件的Sam Altman现在支持放缓。
• 这封信呼吁国际合作和治理工具，以管理AI进步的节奏。