科技巨头悄然讨论AI安全标准组织

AI巨头间的秘密会谈

据知情人士透露，自7月以来，Anthropic、OpenAI和谷歌一直在悄然讨论成立一个AI行业标准组织。会谈涉及略低于CEO级别的代表，他们成立了一个定期会面的工作组。这一消息曝光之前，Anthropic的CEO Dario Amodei公开呼吁在技术测试和审计方面进行合作。

据报道，OpenAI的CEO Sam Altman在本周的一次全员会议上表示支持由行业主导的测试和审计机构。然而，他认为主要的AI实验室必须独立建立此类标准，而不依赖美国政府的支持。尽管Altman最初希望得到政府支持，但目前行业内共识不足，一些公司反对这一想法。

三种模式，未达成一致

Amodei上周六发表了一篇题为“我们必须放缓前沿发展的步伐”的博客文章，主张放缓AI发展速度并建立独立监督机制。他提议企业采用自愿安全标准，同时政府制定AI法规。他还敦促全球领先公司给予METR等外部评估者与内部员工同等的访问权限，并承诺Anthropic将率先垂范。此外，他呼吁有限的反垄断豁免，以实现安全合作。

最近卸任Google DeepMind CEO的Demis Hassabis表示，该提议方向正确但需要完善。他此前曾在7月建议仿照美国金融业监管局（FINRA）建立一个AI自律组织。SpaceX的CEO Elon Musk也表示支持。

The Information此前的一份报告显示，白宫曾分发一份行政命令草案以建立此类监管机构，但到夏末未能获得足够支持，努力陷入停滞。前白宫AI主任David Sacks公开反对创建类似FINRA的机构。

“卡特尔的设计”？

行业内的批评者直言不讳。Cohere的CEO Aiden Gomez担心大型AI公司可能制定规则限制较小竞争对手：“这个想法听起来完全就是卡特尔的设计。”Sacks质疑放缓发展是否完全出于利他主义，认为产品责任风险已经提供了防止损害的经济激励。

与此同时，三家公司的 工作组会议仍在进行中，上周刚举行了一次会议。Meta的立场尚不明确；其首席AI官Alexander Wang仅在X上表示“对齐是为所有人构建个人超级智能的基础”，没有明确支持或反对Amodei的完整提议。

关键要点

• 秘密讨论： Anthropic、OpenAI和谷歌自7月以来一直在开会，以组建AI标准组织。
• Altman的立场： 支持行业主导的测试，但坚持独立于政府。
• Amodei的提议： 主张放缓AI发展和自愿安全标准。
• 批评： Cohere的CEO称其为“卡特尔的设计”；其他人质疑动机。
• Meta的沉默： 对该提议没有明确立场。
• 白宫的努力： 一份行政命令草案未能获得推动。