OpenAI在快速增长中重组安全工作

在一次重大的组织变动中，OpenAI解散了其使命对齐团队——该团队负责确保AI系统始终对人类有益。这一举措距离该团队于2024年9月成立仅过去18个月。

前团队负责人Josh Achiam将转任新设立的高管职位首席未来学家，他将专注于研究AGI的潜在影响并与物理学家合作。其余六到七名团队成员已被重新分配到OpenAI内部的各个部门。

AI安全方法的演变

使命对齐团队专门研究AI系统在现实场景和对抗条件下的行为。他们的工作重点是随着AI能力的进步保持控制和可审计性。

"这一调整反映了我们持续的演进,"一位OpenAI发言人解释道,"随着我们的快速增长，我们正在不断优化安全研究的处理方式。"

此次解散紧随2024年底类似举措之后，当时OpenAI合并了其超级对齐团队，后者专注于先进AI系统带来的长期生存风险。

前负责人的新视野

在未来学家的角色中，Achiam计划超越当前的对齐问题探索更广泛的技术视野。"我的重点将转向理解AGI的变革潜力,"他分享道,"我们如何确保这些强大技术真正惠及每个人？这是推动我们工作的根本问题。"

这一任命表明OpenAI可能正在将其安全战略从专门团队扩展到跨部门的更综合方法上。

关键点：

• 组织变革: OpenAI将对齐责任重新分配给多个团队而非保留专门单位
• 领导层演变: Josh Achiam从对齐专家转型为长期战略家担任首席未来学家
• 安全战略: 标志着自2024年以来以安全为重点团队的第二次重大重组，表明优先事项的演变