谷歌地球AI图像工具上线仅48小时即被暂停

在谷歌地球中推出AI图像生成功能仅两天后，谷歌就按下了暂停键。该公司在[日期]宣布暂时停用该功能，理由是担心该工具可能被滥用来传播错误信息。

该功能集成了图像生成模型Nano Banana2，允许用户输入文本提示，在真实的卫星图像、航拍照片和3D地图上生成虚构场景。想象一下，输入“埃菲尔铁塔倒塌”，然后在屏幕上看到一张逼真的图像，还带有地理坐标。这正是该工具能做的——而这正是问题所在。

BBC的测试证明了该工具的潜在危害。它生成了诸如巨大天坑吞没埃及金字塔、俄罗斯坦克驶过基辅、埃菲尔铁塔废墟等场景。这些图像与真实地图数据结合时，看起来惊人地逼真。它们很容易被误认为是真实的卫星图像，尤其是在社交媒体上无背景分享时。

安全专家警告说，在敏感事件（战争、自然灾害、政治危机）期间，这种逼真的合成地图可能被用来误导公众、媒体甚至调查人员。真实与虚假之间的界限变得危险地模糊，使信息验证成为噩梦。

谷歌表示，所有AI生成的图像都嵌入了不可见的数字水印，可以通过Gemini或Google Lens进行验证。但BBC的测试发现，一些验证机制可以被绕过，第三方检测工具往往无法识别内容为AI生成。安全网就此失效。

暂停是对生成式AI进入高风险领域的明确承认。地图和遥感是值得信赖的信息来源。当AI能够伪造出令人信服的图像时，潜在危害是真实的。谷歌表示正在加强安全措施，但这一事件引发了一个更广泛的问题：我们如何平衡创意能力与防止深度伪造和错误信息的需求？

这不仅仅是谷歌的问题。随着AI工具变得更强大、更易获取，每个部署它们的公司都必须应对同样的困境。这项技术令人印象深刻，但它也是一把双刃剑。目前，谷歌地球用户将不得不等待该功能回归——希望届时能有更好的保障。

要点