纳德拉内部备忘录：AI安全不能急于求成

微软CEO萨提亚·纳德拉在最近的一份内部备忘录中直言不讳。他的信息是什么？AI必须牢牢处于人类控制之下——企业应不惜一切时间确保安全无误。“随着风险增加，你应花费所需的时间，”他写道。“否则，无论怎样你都会失去运营许可。”

这是来自最高层的严厉警告。而它恰逢行业就AI是否发展过快展开激烈辩论之际。

就在上周，一群AI研究人员警告称，这项技术可能构成生存威胁。上周末，Anthropic CEO达里奥·阿莫代伊推动放缓AI发展，并同意让外部人士监控其公司的模型。OpenAI的萨姆·奥尔特曼也附和这一观点，支持第三方监控，并在必要时暂停部署以确保对齐和安全。

周一，微软以一份37页的“人本主义”AI行为准则草案作为回应。领导微软AI部门的穆斯塔法·苏莱曼直言不讳：“我们长期以来的理论担忧如今已非常现实。”

那么纳德拉究竟提出了什么？他的备忘录概述了三个关键领域。

第一，明确的设计目标。 AI必须处于人类控制之下并广泛惠及社会。这意味着要构建一个开源和闭源模型都能蓬勃发展的生态系统。纳德拉将此比作产品发布前的严格研究和测试。更多外部测试者？更好。他说，当风险上升时，你应不惜时间——否则最终会失去运营许可。

第二，客户控制。 企业需要保持对其独特、隐性知识的控制。它们应构建自己的持续学习循环，而不被锁定在单一模型提供商上。例如，微软的Foundry平台使长期运行的代理具备企业级就绪能力，内置安全性、安全防护和FinOps。

第三，社区利益。 微软必须确保当地居民真正从基础设施项目中受益，才能获得建设许可。纳德拉以昆西数据中心为例，说明与社区的长期共同成长。

纳德拉总结道，这是一套跨越三个层面的实践：如何在前沿构建，如何让客户保持控制，以及如何确保经济利益广泛惠及社区和国家。他说，作为一家公司，微软可以用实际行动来证明其言论。

这是一项艰巨的任务。但在AI风险不再只是理论的世界里，纳德拉的备忘录或许正是行业所需的警钟。