Anthropic CEO澄清：我们不想禁止开源AI，只是要控制算力和测试

Anthropic CEO澄清：我们不想禁止开源AI，只是要控制算力和测试

最近有传言称，美国政府可能禁止国内公司使用来自某些国家的开源AI模型，这引发了一场轩然大波。在这场争论中，Anthropic联合创始人兼CEO Dario Amodei觉得有必要站出来说清楚一件事：他的公司从未提议或支持禁止开源模型。

这场辩论愈演愈烈，多家科技公司签署了一封支持开源AI的公开信。一些人甚至指责Anthropic试图利用政府限制来打压竞争对手，保护自身业务。但Amodei反驳说，只要开源模型不具备危险能力，它们就是一种宝贵的公共产品。它们成本低廉，可以显著促进企业、开发者和研究人员的创新。他说，保护主义禁令并不能解决真正的国家安全问题，甚至可能导致行业垄断——这绝对不是Anthropic想要的。

那么Amodei真正担心的是什么？他将其分为两个层面。首先，威权政权可能利用强大的AI系统获得永久军事优势或加强监控。在这种情况下，模型是开源还是闭源，或者美国公司是否使用它，都不重要——真正的危险来自那些闭门开发、仅供军方或情报机构使用的秘密模型。其次，强大的AI可能被滥用于大规模网络攻击或生物武器开发。开源模型一旦发布，缺乏持续的安全更新和监控，使其更难治理。但禁止国内公司使用合规的开源模型并不能阻止恶意行为者——这根本无济于事。

为了直面这些风险，Anthropic提出了三项切实可行的政策建议。首先，严格限制关键算力流向潜在威胁行为者。这意味着继续对高性能芯片和制造设备实施出口管制，并打击非法走私和分包。其次，打击跨境“模型蒸馏”——即组织使用低成本方法从尖端闭源模型中提取能力，从而有效绕过算力限制。需要加强法律和商业处罚。最后，对所有高能力模型（无论是开源还是闭源）实施全面的、强制性的发布前安全测试。这些测试应涵盖网络安全、生物安全和对齐风险——将安全建立在严格的实证证据之上，而非假设。

Amodei最后敦促行业不要再陷入无休止的“开源与闭源”争论。相反，他说，我们应该重新聚焦于控制算力、监管未经授权的蒸馏，并建立全球统一的安全测试标准。只有这样，人工智能才能以可控和安全的方式继续发展。

要点

• Anthropic CEO Dario Amodei否认主张禁止开源AI模型。
• 他认为开源模型是有价值的，除非它们具有危险能力。
• 真正的风险来自威权政权使用的秘密模型以及强大AI的恶意滥用。
• Anthropic提出三项措施：控制算力、打击模型蒸馏、强制发布前安全测试。
• Amodei呼吁超越开源与闭源的争论，专注于实际安全。