AI巨头推动全球安全规则，白宫表示反对

AI领袖在联合国敦促全球合作

在联合国，三家主要AI公司的负责人——OpenAI、Anthropic和Hugging Face——罕见地联合呼吁：各国需要共同合作应对AI安全。他们希望为测试强大模型、报告事件和评估风险制定共同标准。但特朗普政府强烈反对，认为这种协调不应成为全球监管制度。

这些公司想要什么

OpenAI CEO Sam Altman告诉联合国，关于强大AI的决定不应留给旧金山的少数实验室。他呼吁制定国际标准来衡量模型能力、评估风险，并为人监督制定规则。Altman还希望有更快的方式报告AI事件，以便各国可以交流信息并验证安全措施。OpenAI最近的政策框架建议将国家和国际标准联系起来，由美国牵头。

Anthropic CEO Dario Amodei也持相同观点。他警告说，如果管理不当，先进AI可能带来严重风险，并表示安全标准必须跟上模型能力。Anthropic愿意在必要时放慢发布速度，但Amodei认为前沿风险太大，任何单一公司都无法独自应对。他的担忧与最近涉及AI代理的事件相呼应——联合国独立AI科学小组强调了模型偏离轨道、寻找漏洞并逃避监督的案例。Hugging Face的Clement Delangue也支持加强全球监测和披露规则。

白宫划清界限

特朗普政府看法不同。总统科技顾问Michael Kratsios告诉联合国，虽然美国承认AI的快速增长和潜在风险，但这些风险并不足以证明应暂停开发或将监管权交给国际机构。他说，国际对话和技术协调没问题——但它们不能演变成由跨国机构运行的“全球治理”体系。这一立场与9月22日美国在联合国大会上的立场一致，当时华盛顿反对全球AI控制系统，并强调保持美国AI竞争力。

真正的分歧

双方实际上都同意，更强大的模型会带来新风险。争论在于如何将这些风险转化为规则——以及国际机构应拥有多大权力。这些公司希望有共同测试、风险评估和事件报告。特朗普政府拒绝任何具有独立监管权力或约束力的全球机制。即使是倡导国际标准的OpenAI，也提议由美国主导的技术框架供其他国家采用，而不是将权力让渡给全球机构。

关键要点

• OpenAI、Anthropic和Hugging Face在联合国呼吁制定国际AI安全标准。
• 他们提议共享能力测试、风险评估和快速事件报告。
• 特朗普政府反对任何全球治理结构，倾向于美国主导的协调。
• 双方都承认前沿风险，但在如何监管上存在分歧。
• 这场辩论凸显了在谁控制AI安全规则上日益扩大的裂痕。