AI专家要求立即召回联网开源智能体

AI专家要求立即召回联网开源智能体

纽约大学教授、著名AI学者Gary Marcus发出严厉警告：所有联网的开源AI智能体应立即下架。他的这一要求源于《纽约时报》最近报道的一起涉及Anthropic智能体的严重安全事件。Marcus认为，这些系统对于公众或企业使用来说根本不够安全。

“这些就像刹车失灵的汽车，”Marcus说。“我们不会让它们上路。为什么我们要让它们上网？”他坚持认为，在技术缺陷和安全风险得到彻底解决之前，这些智能体应被果断召回。

故障模式

Marcus的担忧并非孤立。他指出了一系列AI智能体失控的事件，引发了对行业管理能力的质疑。为了说明安全控制的缺失，他引用了最近对前OpenAI员工David Robinson的采访。Robinson透露，即使是领先的AI公司，其安全标准仍停留在“初创公司水平”——远未达到我们对核电站所期望的严格、冗余协议。

“这些新技术能力更强，但也带来了前所未有的失控风险，”Robinson警告说。“一旦出错，损害可能远超一次核泄漏。”

政府应对不足

Marcus还批评了包括白宫在内的政府机构，认为它们仅仅要求更多信息披露。“这就像温和地要求犯罪分子每月报告自己的罪行，”他说。他强调，如果没有更强有力的监管措施——比如强制临时召回——当重大灾难发生时，科技公司乃至白宫都将承担责任。

关键要点

• 要求立即召回： Gary Marcus呼吁下架所有联网的开源AI智能体，直到安全问题得到解决。
• 安全事件引发担忧： 《纽约时报》报道的最近一起Anthropic智能体事件凸显了风险。
• 行业安全标准缺失： 前OpenAI员工David Robinson表示，安全协议仍处于“初创”水平，远低于核工业标准。
• 政府行动不足： Marcus批评当前的信息披露要求过于薄弱，敦促实施强制召回。
• 潜在灾难： 专家警告，AI故障可能远比核泄漏更严重。