哈萨比斯的AI安全愿景：从DeepMind CEO到行业监管者？

在将Google DeepMind的CEO职位交给继任者之前的几周里，Demis Hassabis不仅仅是在收拾办公桌。据《华尔街日报》报道，这位AI先驱正在悄悄为更大的事情奠定基础：一个独立的AI安全监督机构，仿照国际原子能机构（IAEA）的模式。

哈萨比斯是DeepMind的联合创始人，长期以来一直是负责任AI发展的倡导者。据报道，他与特朗普政府的高级官员讨论了这一提议，包括财政部长Scott Bessent和技术顾问Michael Kratsios。这个想法是？一个非政府组织，将促进通用人工智能的安全标准和最佳实践——就像IAEA为核能所做的那样。

谷歌发言人证实，该公司认为确保先进AI模型的安全“对社会至关重要”，并指出哈萨比斯在推动这一使命方面具有独特的优势。在他作为DeepMind董事长和Alphabet首席科学家的新角色中，他将专注于科学突破和塑造AGI的方向。

为安全AI贴上“前沿级别”标签

七月中旬，哈萨比斯在X（前身为Twitter）上提出了一个行业资助的AI安全“标准化机构”的想法。他建议它可以像金融业监管局（FINRA）一样运作——这是一个在大萧条时期创建的自我监管组织，负责监督经纪公司，由金融业自己资助。

根据他的提议，美国能源部下属的联邦机构和国家实验室将与AI公司合作，在与国家安全相关的领域测试模型。那些通过测试的模型将获得“前沿级别”认证——这是一种对安全、可靠AI的认可印章。

从实验室领导者到系统架构师

上周，谷歌宣布了DeepMind的重大改组：哈萨比斯辞去CEO职务，将领导权交给他的副手Corinna Kretzschmar。但这不仅仅是一次常规的继任。这是一个明确的信号，表明哈萨比斯正在从领导世界上最先进的AI实验室转向试图为整个行业建立护栏。

想想看：哈萨比斯正在将技术先驱的角色换成系统设计师的角色。如果他提议的机构成为现实，它可能会重塑全球AI监管的方式。这是一件大事——正是这种举动让你想知道他还在幕后酝酿了什么。

关键要点

• 哈萨比斯的愿景：一个独立的AI安全组织，受IAEA和FINRA启发，制定标准并认证安全的AI模型。
• 政府会谈：在他辞去CEO职务之前，与美国官员（包括财政部长Scott Bessent）进行了讨论。
• 新角色：哈萨比斯现在是DeepMind董事长和Alphabet首席科学家，专注于AGI方向和安全。
• 潜在影响：如果实现，这可能成为全球AI治理的基石，影响AI在全球范围内的开发和部署方式。