NVIDIA新AI安全联盟初具规模

NVIDIA在保护AI生态系统方面的雄心勃勃的推动正在快速进行。开放安全AI联盟（OSAA）上周才刚刚揭晓，已经吸引了超过120家公司，并正在推出其首个重大举措：一个专门分享AI安全事件的工作组。Linux基金会将监督该小组，名为共享AI发现交流（SAFE）。

在本周的Black Hat大会上，OSAA更详细地阐述了其计划。重点是三个关键领域：AI网络安全事件的机密报告、通知受影响方，以及进行无指责的事后分析。目标很简单——鼓励公司分享出错的地方，而不必担心受到指责，这样整个行业都能学习和改进。

但OSAA不仅仅是空谈。成员们还在贡献开源安全工具，旨在构建一个完整工具包，企业可以部署这些工具来保护他们的AI代理，并防御恶意AI攻击。例如，NVIDIA正在提供开放模型和Garak，一个扫描LLM漏洞的开源工具。Okta正在推进代理身份技术，Red Hat正在研究代理治理，而Amazon贡献了Strands Agents和授权语言Cedar等项目。

成员名单读起来像是科技界的名人录：Adobe、BlackRock、Cisco、Intel、Microsoft和Visa都在列。然而，一些知名企业缺席——OpenAI、Anthropic和Google没有加入。这有点令人惊讶，尤其是OpenAI和Google都签署了由NVIDIA发起的早期公开信，该信得到了200多家科技公司的支持，并倡导开源AI。

为什么这很重要？OSAA的迅速形成正值美国就如何监管开源AI进行辩论之际。行业专家认为，OSAA对开放合作和安全标准的推动可以加强美国开源AI生态系统，提升AI安全性，并通过分享增强工业竞争力。

目前，OSAA正以极快的速度发展，业界正在密切关注。缺席的巨头们最终会加入吗？这个联盟真的能让AI对每个人都更安全吗？只有时间能告诉我们。

关键要点

• OSAA的快速增长： 推出后一周内就有超过120家公司加入。
• SAFE工作组： 专注于分享AI安全事件，包括机密报告和无指责的事后分析。
• 开源贡献： 成员们正在构建一个工具链来保护AI代理，包括NVIDIA的Garak和Amazon的Cedar。
• 显著缺席者： OpenAI、Anthropic和Google没有加入，尽管他们过去支持开源AI。
• 战略重要性： 该联盟可能塑造美国开源AI政策和竞争力。