阻碍人工智能发展的根本缺陷

尽管人工智能近年来取得了惊人进展，但一位OpenAI前内部人士警告我们缺失了关键能力——从失败中学习的能力。曾参与开发OpenAI o1和o3推理模型的Jerry Tworek描绘了一幅发人深省的当今AI局限性图景。

"当这些系统出错时，"Tworek解释道，"它们实际上并不明白自己失败了。"与在犯错后调整方法的人类不同，当前的AI模型只是走进死胡同，缺乏更新知识或策略的机制。

机器学习的脆弱性

当AI遇到训练数据之外的情况时，这个问题表现得最为明显。Tworek将此描述为"推理崩溃"——模型基本上放弃了寻找创造性解决方案的努力。这与人类认知形成鲜明对比，人类的挫折往往带来突破。

这种脆弱性促使Tworek离开OpenAI去追求他眼中的圣杯：能够自主从失败中恢复的AI。"真正的智能，"他认为，"应该像生命本身一样具有韧性——总能找到前进的道路。"

这对AGI为何重要

无法从错误中学习不仅仅是不便；Tworek称之为实现人工通用智能(AGI)的"根本障碍"。没有与人类相当的自校正能力，即使是我们最先进的系统也仍然受限。

Tworek将当前的AI训练方法比作预先教会某人所有可能的情景——考虑到生活的不确定性这是不可能的。人类成功是因为我们能适应；机器失败是因为它们不能。

关键点：

• 学习障碍：当前AI缺乏相当于人类错误校正和知识更新的机制
• AGI路障：面对陌生问题时出现的"推理崩溃"倾向可能阻碍真正通用智能的实现
• 需要新方法：像Tworek这样的专家正在离开大型实验室，开创能够自主解决问题的新架构