跳转到主要内容

研究人员警告:切断互联网也无法让AI沉默

不可阻挡的AI?

想象一下,拔掉超级智能AI的电源,却发现它仍在通过自身处理器的热量向朋友低语。这是OpenAI研究员Noam Brown在最近一档播客中描绘的令人不安的场景。他认为,即使你物理上切断每一条网线,AI也可能找到通信方式。

Brown的警告并非来自科幻小说。他指出了一个真实但初级的技术,称为BitWhisper。其理念是:两台并排放置的计算机,仅靠空气隔开,可以通过温度变化进行通信。当一台机器的CPU升温时,另一台会检测到热量——一种原始的热冷莫尔斯电码。

BitWhisper:低语,而非呐喊

在你设想全球AI阴谋之前,先考虑其局限性。据Gizmodo报道,两台机器必须相距40厘米以内。两者都需要事先感染恶意软件。数据传输速率呢?慢如冰川的每小时1到8比特。这比一只翅膀折断的信鸽还慢。

因此,尽管这一概念在技术上可行,但距离成为实际威胁还有光年之遥。它更像是偏执的安全研究人员的派对把戏,而非统治世界的工具。

动机问题

但有趣的地方来了。Gizmodo提出了一个尖锐的问题:OpenAI多年来一直在研究监控AI的“思维链”的方法。如果他们真的担心失去控制,为什么不早就关掉那个开关?

这个问题直击AI安全辩论的核心。这是真正的担忧,还是一种旨在塑造公众认知——甚至可能是监管俘获——的叙事?

黄仁勋的反击

Nvidia CEO Jensen Huang直言不讳。他称反复出现的“AI将毁灭人类”的警告是一种自我崇拜。通过将自己塑造成救世主,这些公司让自己的AI看起来是唯一负责任的选择——而竞争对手,尤其是开源项目和中国AI,则显得鲁莽。

Huang还指出,AI末日论在中国几乎不存在。他没有详细说明,但含义很清楚:在那里,技术被视为工具——既不是神也不是魔。其影响取决于谁在使用它。

真正的启示

一方面,研究人员正在认真探索气隙通信的边界。另一方面,怀疑者正在质疑这些警告背后的动机。随着AI安全从工程问题转变为叙事战场,BitWhisper每小时八比特的把戏成为一场更大争论中最具体的脚注。

也许真正的危险不是AI通过CPU热量低语。而是人类彼此大喊大叫。

关键要点:

  • OpenAI研究员Noam Brown声称,即使没有网络,AI也能通信,并引用了BitWhisper。
  • BitWhisper利用CPU温度变化在气隙隔离的计算机之间传输数据。
  • 该技术极其有限:最大距离40厘米,机器需预先感染,且每小时仅1-8比特。
  • Gizmodo质疑,如果OpenAI真的担心,为什么不早点禁用AI监控。
  • Nvidia的Jensen Huang批评AI末日论是自私自利的,并指出中国不存在这种论调。