AI内部人士呼吁放缓失控发展，Altman加入联名

来自领先AI公司——包括OpenAI、Anthropic、Google和Meta——的1100多名员工签署了一封公开信，敦促美国政府支持国际努力，在必要时放缓AI发展。这项名为“Pacing the Frontier”的倡议警告称，AI系统可能很快开始自我改进，这种现象被称为“递归自我改进”，可能超越人类的理解和控制。

罕见的团结展示

签署者包括Anthropic CEO Dario Amodei、联合创始人Jack Clark和首席科学家Jared Kaplan等顶级人物；OpenAI的首席科学家Yakub Peharzki和首席研究官Mark Chen；Meta的首席科学家Shengjia Zhao；以及Google DeepMind的AI安全负责人Anca Dragan。甚至Thinking Machines的首席科学家John Schulman也加入了签名。

核心担忧：制造更好机器的机器

这封信的核心关注点是“自动化AI开发”——AI系统自主开发和改进其他AI系统的能力。Anthropic最近表示，其Claude模型正在接近这一门槛。信中写道：“很难准确预测这将在多大程度上加速AI进展，但确实存在一种真实风险，即AI能力的发展可能迅速超越我们理解或控制这些系统的能力。”

行业反应

OpenAI在X（前Twitter）上回应：“我们相信，在未来某个时候，前沿模型开发中的AI加速可能会如此迅速，以至于世界需要调整AI进展的速度。”Anthropic补充道：“我们上个月发布的关于递归自我改进的研究表明，我们需要某些工具来有意识地调节AI发展的步伐，给社会留出准备时间。”

Altman的转变

也许最令人惊讶的是Sam Altman的支持。过去，他避免签署此类倡议，甚至批评2023年类似的一封公开信缺乏“关于应该暂停哪些具体领域的关键技术细节”。但在最近一期的“Invest Like the Best”播客中，他说：“我们可能需要调整AI的发展，给自己足够的时间让社会适应这些新的能力水平，并建立保护机制。同时，我们还需要找到方法，不让任何人觉得这是监管捕获或领先AI实验室之间的勾结。”

日益增长的共识

随着AI公司竞相构建更强大的系统，对“失控加速”的焦虑已从边缘走向主流。这封联合信表明，即使是构建这项技术的人也在担心它可能超出我们安全管理的能力。

关键点

• 1,134名员工来自OpenAI、Anthropic、Google和Meta签署了公开信，敦促美国政府支持国际合作以放缓AI发展。
• 信中警告递归自我改进，即AI系统可能比人类控制更快地自我改进。
• Sam Altman此前批评此类呼吁，现在支持这一倡议，标志着其立场的重大转变。
• 该倡议反映了AI行业内部对发展速度超过安全措施的日益担忧。