哈佛心理学家平克：AI末日论是干扰—

哈佛心理学家平克：AI末日论是干扰——让我们关注真正的安全

史蒂芬·平克听到了这些警告。这位哈佛心理学家和畅销书作家并不信服。在《Quillette》上发表的一封致精神病学家兼科技博主斯科特·亚历山大的公开信中，平克提出了自己的观点：人工智能将毁灭人类的说法被夸大了——所有那些末日悲观的言论正在把注意力从真正值得我们关注的危险上转移开。

这场交流始于亚历山大下战书，邀请平克就人工智能的生存风险进行公开辩论。平克拒绝了。他称之为“一场娱乐观众的竞赛”。这可不是什么热情洋溢的认可。

他还瞄准了著名的“回形针最大化器”思想实验——即一个超级智能人工智能被要求制造回形针，会为了最大化产量而消灭人类。平克说，这个场景混淆了智能与侵略性。聪明并不意味着凶残。

平克长期以来一直是人工智能乐观主义者，但他坦诚地承认自己错在哪里。首先，他没有看到大型语言模型会变得如此强大。其次，他没想到人工智能公司会以如此惊人的速度发布产品。讽刺的是：许多推动这场疯狂发布竞赛的最大声者，正是多年来警告人工智能风险的那些人。

那么平克担心什么？具体来说有三件事：生物恐怖主义、网络攻击和不受限制的人工智能代理。这些是具体的、当前的威胁——不是科幻场景。根据平克的说法，专注于世界末日并不能帮助我们应对它们。什么能？仔细的安全工程、独立监督、问责制度，以及让人类参与其中。

换句话说，停止传播关于末日的谣言。开始构建护栏。

并非所有人都认同平克的乐观态度。许多研究人员和技术专家认为人工智能导致人类灭绝的概率约为20%。这不是边缘观点——这是严肃人士的严肃估计。分歧不在于人工智能是否强大；而在于我们应该如何应对这种力量。

平克的答案很明确：关注真实的、可衡量的风险，并做那些不起眼的工作来使人工智能安全。不需要戏剧性。