DeepMind新研究所直面AGI最棘手问题
DeepMind新研究所直面AGI最棘手问题
9月16日，Google和Google DeepMind的研究人员悄然推出了一项新倡议：DeepMind研究所。其使命？激发关于人工通用智能（AGI）的跨学科对话——这种AI可能全面匹配或超越人类智慧。董事会名单读起来像是该领域的名人录：DeepMind联合创始人Shane Legg、Google高管James Manyika以及DeepMind董事长Demis Hassabis。Legg将担任执行编辑，该研究所承诺将呈现来自Google、DeepMind及更广泛研究界的多元观点。
那么议程上有什么？首批四篇论文探讨了AGI一些最紧迫的谜题：经济政策、推理透明度、人类繁荣原则以及评估前沿AI的框架。在一篇论文中，Rohin Shah和Anca Dragan聚焦于一个隐蔽的风险——模型日益缩小的“透明窗口”。随着AI系统变得更加复杂，很难看清内部发生了什么。他们的解决方案？限制“不可见串行深度”或要求低透明度系统证明它们仍然可控。
与此同时，Hassabis提出了一个更大的想法：一个由美国主导的前沿AI标准组织。开发者将在发布前最多30天自愿提交模型进行评估。一旦系统成熟，通过该测试可能成为在美国部署前沿模型的先决条件。评估机构最终将使用独立的、非公开的“保密”测试——这是一种防止模型钻已知基准空子的聪明方法。如果风险攀升，可能会启动更严格的措施。
这不仅仅是另一个智库。它标志着AGI对话正在转变。我们正在走过令人屏息的“我们能建造它吗？”阶段，进入更混乱但更重要的领域：推理透明度、外部评估和治理。该研究所的工作表明，构建AGI的人们开始认真对待这个问题：一旦它到来，我们如何控制它？
关键点
- 新研究所： DeepMind发起了一个探讨AGI重大问题的论坛，由Shane Legg、James Manyika和Demis Hassabis领导。
- 首批论文： 涵盖经济政策、推理透明度、人类繁荣和前沿AI评估。
- 透明度修复： 研究人员提议限制“不可见串行深度”或要求不透明系统提供可控性证明。
- 美国标准机构： Hassabis建议自愿进行发布前评估，并采用保密测试以防止钻空子。
- 更大的转变： AGI讨论正从能力转向治理和安全。