OpenAI寻求AI安全负责人应对日益增长的风险

随着人工智能系统变得更加强大，OpenAI正在采取重大措施应对潜在危险。该公司发布了一个"预备工作负责人"的职位招聘，年薪55万美元外加股权——这种薪酬通常只提供给顶级研究人员和高管。

防范AI的阴暗面

新聘人员将开发系统来识别和预防灾难性场景，包括：

• AI辅助的生物或化学武器开发
• 自主系统不可预测的行为
• 通过生成内容进行的大规模社会操纵

"这不只是另一个安全职位，"CEO Sam Altman在内部强调。"这关乎我们如何负责任地开发变革性技术。"

该职位拥有非同寻常的权力

预备工作负责人拥有罕见的产品发布否决权，并直接向OpenAI的安全领导层汇报。该职位在MIT教授转任OpenAI副总裁Aleksander Madry临时领导后一直空缺，表明寻找合格候选人的难度。

55万美元的年薪几乎是典型安全工程职位的两倍——这表明OpenAI对主动风险评估而非事后补救有多么重视。

行业范围内的安全转变正在形成

此举与Anthropic和Google DeepMind的类似举措相呼应，标志着AI安全正从合规检查转变为战略重点。过去安全团队专注于修补漏洞的地方，现在他们从一开始就帮助设计本质上更安全的系统。

关键点：

• 高风险招聘：该职位拥有包括产品发布否决权在内的不寻常权力
• 高额薪酬：55万美元年薪反映了该职位的战略重要性
• 行业趋势：主要实验室正从被动转向主动的安全方法
• 广泛责任：从网络防御框架到虚假信息预防