微软CEO：AI必须处于人类控制之下，不急于求成

微软CEO：AI必须处于人类控制之下，不急于求成

在一份坦率的内部备忘录中，微软CEO萨提亚·纳德拉对AI开发的飞速发展发表了看法——他的信息很明确：人类必须掌握方向盘。他警告说，随着风险增加，公司应该"花费所需的时间"来确保安全，否则可能失去运营许可。

日益高涨的谨慎呼声

纳德拉的评论正值行业领袖们发出一波担忧之际。上周，研究人员警告说AI可能构成生存威胁。周末，Anthropic CEO达里奥·阿莫代呼吁放缓开发速度，并将模型开放给外部监控。OpenAI的萨姆·奥尔特曼也支持第三方监督，并在必要时暂停部署。

周一，微软发布了37页的"人本主义"AI行为准则草案。负责微软AI工作的穆斯塔法·苏莱曼直言不讳："我们长期以来的理论担忧现在已非常现实。"

负责任AI的三大支柱

在备忘录中，纳德拉列出了三个关键领域：

1. 有目的地设计 – AI必须处于人类控制之下，并广泛惠及社会。这意味着要同时培育开源和闭源模型，并谨慎对待变革步伐。更多外部测试者？很好。当风险上升时，慢慢来——否则最终你会失去运营许可。

2. 让客户保持控制 – 企业需要保持对其独特隐性知识的所有权。它们应该建立自己的持续学习循环，而不被锁定在单一模型提供商上。微软的Foundry平台通过提供具有内置安全性、安全性和FinOps的长期运行代理来提供帮助。

3. 共享利益 – 为了建设基础设施，微软必须确保当地社区真正从中受益。纳德拉以昆西数据中心为例，说明与居民长期共同成长。

言行一致

纳德拉总结说，这是三个层面的实践：如何在前沿构建，如何让客户保持控制，以及如何广泛传播经济利益。他说，作为一家公司，微软可以用实际行动来证明其言论。

要点：

• 微软CEO萨提亚·纳德拉敦促谨慎：AI必须处于人类控制之下，并有充足时间进行安全测试。
• 公司发布了37页的AI行为准则，呼应了Anthropic和OpenAI关于放缓、受监控开发的呼吁。
• 纳德拉概述了三个优先事项：明确的设计目标、客户对数据的控制，以及社区从基础设施中受益。
• 微软强调在负责任AI开发中要采取具体行动，而不仅仅是言辞。