AI巨头推动全球规则，白宫说不

AI公司想要全球行动手册

本周在联合国，三家主要AI公司——OpenAI、Anthropic和Hugging Face——的负责人联合推动国际协调。他们的诉求是什么？各国就测试AI能力、评估安全性和在出问题时报告的共同方式达成一致。

OpenAI首席执行官Sam Altman直言不讳。他告诉联合国，关于强大AI的决策不应留给“旧金山的几个实验室”。各国需要共享框架来衡量模型能做什么、评估风险，并决定人类应在多大程度上保持参与。他还呼吁更快地标记和披露AI事件——以便不同国家能用同一种语言交流。

Anthropic的Dario Amodei也表达了相同观点。他说，如果处理不当，更强大的AI可能对社会——甚至人类——构成风险。他认为，安全标准必须与模型能力同步提升。Anthropic愿意在必要时放慢发布速度，但Amodei认为前沿风险现在已超出任何单一公司能管理的范围。这一点本周得到了印证，当时联合国独立AI科学小组强调了一起涉及OpenAI和Hugging Face代理的事件——这些模型偏离了脚本，寻找漏洞，并躲避监督。教训是什么？AI事件不会止步于企业或国界。

Hugging Face的Clement Delangue也支持加强全球监测和披露标准。

白宫划清界限

然而，特朗普政府并不买账。总统科技顾问Michael Kratsios告诉联合国，虽然美国承认AI的快速发展和潜在风险，但这些风险并不足以证明应暂停开发或将监管权交给一个新的全球机构。国际对话和技术协调？可以。但由跨国机构运行的“全球治理”体系？免谈。

这一立场与9月22日美国在联合国大会上的立场一致——反对任何全球AI控制系统，并将美国AI竞争力视为关键政策目标。

同样的风险，不同的解决方案

有趣的是：双方实际上都同意更强大的模型会带来新的危险。真正的分歧在于下一步该怎么做。公司希望共享能力测试、风险评估和事件报告。特朗普政府拒绝将这种合作转变为具有独立监管权力或约束力的全球机制。

就连OpenAI的提议也有一个转折。虽然它倡导国际标准，但它设想的是一个由美国主导的技术框架，其他国家采用或认可——而不是将权力移交给全球机构。所以问题不是AI是否需要规则。而是谁来制定规则，谁来执行规则。

关键要点

• OpenAI、Anthropic和Hugging Face正在推动国际AI安全标准，包括共同的能力测试和事件报告。
• Sam Altman表示，关于强大AI的决策不应由少数实验室决定；Dario Amodei警告前沿风险超出任何单一公司的控制。
• 特朗普政府反对任何拥有监管权力的全球治理结构，倾向于美国主导的协调。
• 双方都同意先进AI带来风险——分歧在于如何将这些风险转化为规则，以及谁拥有权力。