AI内部人士敦促美国放缓脚步：1100多名员工签署公开信，奥特曼支持

来自领先AI公司——包括OpenAI、Anthropic、谷歌和Meta——的1100多名员工联合签署了一封公开信，敦促美国政府支持国际努力，在必要时放缓AI发展。这项名为“引领前沿”的倡议旨在开发治理工具，使社会能够“有意识地控制”AI的快速进步。

签署者中有不少知名人士：Anthropic的达里奥·阿莫迪和杰克·克拉克、OpenAI的首席科学家雅库布·佩哈尔兹基和首席研究官马克·陈、Meta的首席科学家盛佳赵、谷歌DeepMind的AI安全负责人安卡·德拉甘，以及Thinking Machines的约翰·舒尔曼。这封信的核心担忧是什么？“自动化AI开发”——AI系统无需人类帮助即可自我改进的能力，也称为递归自我改进。

Anthropic已警告其Claude模型正接近这一阈值。信中写道：“准确预测这将在多大程度上加速AI进步是困难的，但确实存在一种真实风险，即AI能力的发展可能迅速超过我们理解或控制这些系统的能力。”

OpenAI在X上回应：“我们相信，在未来某个时候，前沿模型开发中的AI加速可能如此之快，以至于世界需要控制AI进步的速度。”Anthropic补充道：“我们上个月关于递归自我改进的研究表明，我们需要工具来有意识地监管AI发展，给社会时间准备。”

引人注目的是萨姆·奥特曼的态度转变。2023年，他曾驳斥类似的公开信缺乏技术细节。但在最近的一次播客中，他说：“我们可能需要控制AI发展，给社会时间适应并建立保障措施——同时避免看起来像是领先实验室之间的监管捕获或勾结。”

随着AI公司竞相构建更强大的系统，对“失控加速”的焦虑已从边缘走向主流。这封联合信表明，即使是内部人士也担心速度可能超过安全措施、治理和监管。

关键点

• 1134名员工来自OpenAI、Anthropic、谷歌和Meta签署公开信，敦促美国支持国际合作以控制AI发展节奏。
• 这封信聚焦于递归自我改进，即AI系统可能迅速超越人类控制。
• 萨姆·奥特曼此前批评此类呼吁，现在支持该倡议，标志着显著转变。
• 该倡议名为“引领前沿”，旨在开发治理工具以有意识地监管AI速度。