吴恩达：AI末日论是科幻小说，不是科学

吴恩达：AI末日论是科幻小说，不是科学

吴恩达听到了这些警告。这位AI先驱——Google Brain和Coursera的联合创始人——并不信服。在9月17日接受彭博电视台采访时，吴恩达驳斥了领先AI开发者最近声称他们的创造威胁人类生存的说法。"这更像是科幻小说，而不是科学，"他说。

吴恩达了解行业的套路。他指出，夸大灾难性风险长期以来一直是吸引注意力和影响监管机构的一种方式。他认为，最近末日言论的激增可能遵循同样的模式。"AI确实构成了真正的风险，"吴恩达承认，尤其是在网络安全方面。但他拒绝接受人类灭绝应该成为衡量AI发展的标准这一观点。

引发争论的辞职

最近，前Anthropic和OpenAI研究员雅各布·科克森公开辞职，重新点燃了这场争论。他警告说，领先实验室正在竞相构建超级智能AI，却没有足够的安全检查。不久之后，Anthropic CEO达里奥·阿莫代和OpenAI CEO萨姆·奥尔特曼——两人都是吴恩达的前同事——呼吁放缓前沿模型开发并加强安全措施。

吴恩达的看法不同。他认为，与其踩刹车，不如继续推进——同时解决具体、可验证的安全问题。这意味着受控测试、工程保障和迭代改进。这也意味着以造福社会的方式广泛部署AI。

真实风险，真实解决方案

AI安全讨论正在转变。它们正在从对模型能力的抽象恐惧转向具体关切：网络安全、代理错位、失控以及前沿模型的治理。吴恩达坚持认为，这些是工程问题——不是存在性威胁。

"不要被科幻叙事左右，"他敦促道。"专注于真正的工程问题。"这是一个呼吁，让我们卷起袖子，解决我们真正能够衡量的问题，而不是迷失在反乌托邦幻想中。

关键要点

• 吴恩达批评AI末日警告是"科幻小说"，而非科学。
• 他认为这类叙事分散了人们对网络安全等真正安全问题的关注。
• 最近的辞职和放缓AI开发的呼吁重新点燃了争论。
• 吴恩达主张通过受控测试和工程保障继续推进AI进步。
• 重点应该放在可验证的风险上，而不是人类灭绝场景。