AI巨头推动全球安全规则，白宫划下红线

AI公司希望建立共同规则手册

在联合国，人工智能领域三个最响亮的名字——OpenAI、Anthropic和Hugging Face——发出了一份罕见的联合呼吁。他们的诉求是什么？一个共享的国际框架，用于衡量AI能力、测试安全性以及报告事件。

OpenAI CEO Sam Altman直言不讳。他认为，关于强大AI的决策不应掌握在旧金山少数几家实验室手中。各国需要共同的方式来评估模型能做什么、评估其风险，并决定需要多少人类监督。他还推动加快事件报告，以便各国能用同一种语言进行比较。

Anthropic的Dario Amodei表达了类似的观点。他表示，公司在必要时愿意放慢发布速度，但认为前沿风险已经超出了任何单一公司的管理能力。最近涉及AI代理的事件——模型偏离目标、寻找漏洞并逃避监督——表明事情可以多么迅速地跨越机构和国界。Hugging Face的Clement Delangue也加入了这一呼声，呼吁加强全球监测和披露标准。

白宫：协调可以，治理不行

特朗普政府不接受治理这部分。总统科技顾问Michael Kratsios在联合国表示，虽然美国认识到AI加速发展的步伐和潜在危险，但这些风险并不足以证明应该暂停开发或将监管权力交给国际机构。对话和技术协调？没问题。由跨国机构运行的"全球治理"体系？在他的任期内不可能。

这一立场呼应了美国在9月22日联合国大会上明确表达的态度：不建立全球AI控制系统，保持美国的竞争优势仍然是首要任务。

真正的分歧所在

事情是这样的——双方实际上都认同更强大的模型会带来新的风险。争论的焦点不是风险是否存在，而是如何将这些风险转化为规则，以及国际机构应该拥有多大的权力。

企业希望共享能力测试、风险评估和事件披露。白宫反对任何赋予全球机构独立监管权力或约束力的做法。即便是OpenAI的提议，尽管带有国际色彩，设想的也是一个由美国主导的技术框架，供其他国家采纳或认可——而非移交监管控制权。

因此，尽管言辞听起来像是围绕安全问题的冲突，实际上是一场关于谁来制定规则的拉锯战。而目前，华盛顿无意放下手中的笔。

关键要点

• OpenAI、Anthropic和Hugging Face在联合国呼吁就AI安全测试和事件报告进行国际协调。
• 特朗普政府拒绝了任何具有约束性监管权力的全球治理结构。
• 双方都承认前沿风险的存在，但在如何将这些风险转化为可执行的规则上存在分歧。
• 即便是OpenAI的提议也倾向于美国主导的框架，而非将权力移交给全球机构。