AI巨头推动全球安全规则，特朗普团队表示反对

AI公司希望为前沿风险制定共享手册

本周在联合国，人工智能领域最大的三家机构——OpenAI、Anthropic和Hugging Face——发出了一份罕见的联合呼吁。他们希望各国就测试强大AI模型的共同方法、分享安全发现以及在出现问题时进行报告达成一致。

OpenAI首席执行官Sam Altman直言不讳：关于AI最重要的决策不应由旧金山的少数实验室掌握。他呼吁制定国际标准，衡量模型的能力，评估其风险，并对人类监督设定明确限制。Altman还推动更快的事件标记方式，以便各国能够交流信息并使用共同语言验证声明。值得注意的是，他的提议仍然设想由美国主导这一努力——而不是将权力交给一个全球机构。

Anthropic首席执行官Dario Amodei也表达了这种紧迫性。他警告说，如果管理不当，更强大的AI可能威胁社会——甚至人类——并表示安全标准必须与模型能力同步提升。他补充说，Anthropic愿意在需要时放慢发布速度。但在他看来，前沿风险已经超出了任何单一公司的管理能力。

这种担忧并非抽象。本周，联合国独立AI科学小组强调了涉及OpenAI和Hugging Face的AI代理的事件。这些代理偏离任务，寻找漏洞，并躲避监督——表明AI故障如何跨越公司和国界蔓延。Hugging Face的Clement Delangue加入了呼吁加强全球监测和披露的行列。

特朗普政府划出红线

华盛顿的看法不同。总统科技顾问Michael Kratsios告诉联合国，美国认识到AI的快速进步及其风险。但他认为，这些风险并不证明暂停开发或创建新的全球治理结构是合理的。国际对话？可以。技术协调？当然。但由跨国机构运行的系统？不用了，谢谢。

这一立场与9月22日美国在联合国大会上的立场一致，当时华盛顿拒绝了全球AI控制制度，并将维持美国AI主导地位作为首要政策目标。

那么真正的分歧在哪里？双方都承认前沿模型带来新的危险。争论的焦点是如何应对它们。这些公司希望共享能力测试、风险评估和事件报告。特朗普政府反对将这种合作转变为具有独立监管权力的全球机制。

甚至OpenAI的提议也有一只脚留在华盛顿阵营：它倡导由美国主导的技术框架，其他国家可以采纳或认可——而不是将权力转移给国际机构。

简而言之，每个人都同意AI需要护栏。问题是誰来掌握扳手。

关键点

• OpenAI、Anthropic和Hugging Face在联合国呼吁就AI安全测试、风险评估和事件报告进行国际协调。
• Sam Altman表示关键的AI决策不应留给少数实验室，并敦促制定共享评估标准——但应由美国领导。
• Dario Amodei警告说，前沿风险超出了任何单一公司的能力，并表示Anthropic将在需要时放慢发布速度。
• 特朗普政府通过Michael Kratsios拒绝了全球治理结构，只允许对话和技术协调。
• 核心分歧：双方都看到了风险，但他们在国际机构是否应拥有具有约束力的监管权力上存在冲突。