AI巨头秘密讨论安全标准组织

AI巨头秘密讨论安全标准组织

据知情人士透露，Anthropic、OpenAI和谷歌自7月以来一直在秘密会面，旨在建立一个AI行业标准组织。在上周六Anthropic CEO Dario Amodei公开呼吁在技术测试和审计方面进行合作后，谈判获得了动力。

这三家公司的代表——级别低于CEO——已经成立了一个定期会面的工作组，最近一次会议就在上周。OpenAI CEO Sam Altman在本周的一次全公司会议上表示支持由行业主导的测试和审计机构。然而，他强调，主要AI实验室必须独立建立这样的机构，不应依赖美国政府支持。Altman最初希望得到政府支持，但共识仍然难以达成，一些公司反对这一想法。

三种模式，未达成一致

Amodei的博客文章《我们必须放缓前沿发展的步伐》主张建立独立的监督机制，并将行业自律作为关键组成部分。他提议公司在政府起草AI法规的同时实施自愿安全标准。他还呼吁全球领先公司给予METR等外部评估者与内部员工同等的访问权限，并承诺Anthropic将以身作则。此外，他敦促提供有限的反垄断豁免，以实现安全合作。

最近卸任谷歌DeepMind CEO的Demis Hassabis表示，该提议“方向正确”，但一些细节“仍需完善”。他此前曾在7月建议仿照美国金融业监管局（FINRA）建立一个AI自律组织。SpaceX CEO埃隆·马斯克也表示支持。

根据The Information此前的一份报道，白宫分发了一份行政命令草案以建立该监管机构，但在夏末未能获得足够支持，导致工作搁置。前白宫AI主任David Sacks公开反对类似FINRA的机构。

“卡特尔的设计”？

批评声日益增多。Cohere CEO Aiden Gomez警告称，大型AI公司共同制定规则可能会限制较小的竞争对手：“这个想法听起来完全就是卡特尔的设计。”Sacks质疑放缓开发是否完全出于利他主义，认为产品责任风险已经提供了防止损害的经济激励。

Meta的立场仍不明确。其首席AI官Alexander Wang仅在X上表示“对齐是为所有人构建个人超级智能的基础”，没有明确支持或反对Amodei的完整提议。

关键要点

• 秘密谈判： Anthropic、OpenAI和谷歌自7月以来一直在会面，以组建AI行业标准组织。
• Altman的立场： 支持由行业主导的机构，但坚持其必须独立于政府支持。
• Amodei的推动： 主张放缓前沿发展、自愿安全标准以及外部评估者访问权限。
• 批评者发声： Cohere的CEO称其为“卡特尔的设计”；其他人质疑动机。
• 白宫停滞： 一份行政命令草案未能获得支持，使行业自律成为主要前进道路。