谷歌AI搜索摘要面临的准确性挑战

根据最新分析，谷歌大力宣传的AI概览功能（在搜索结果顶部提供即时答案）仍存在惊人错误。该系统每分钟产生约100万条错误信息——相当于每小时超过5700万条错误答案。

准确率提升伴随新问题

最新版本（Gemini 3）显示准确率略有提升，自去年10月以来从85%升至91%。但这一改进掩盖了一个令人担忧的趋势：虽然总体上正确事实更多，但包含与引用来源不符信息的摘要比例从37%飙升至56%。

"这造成了一种怪异现象，"一位研究人员解释，"摘要可能在技术上是正确的，但当用户点击验证时，却发现文章讲述的完全是另一个故事。"

现实案例凸显缺陷

该系统的脆弱性在以下情况中暴露无遗：

• 记者发布完全虚构的博客文章后，24小时内即出现在谷歌摘要中
• 搜索"Hulk Hogan死亡"显示矛盾信息——摘要正确指出没有可靠报道存在，同时却展示暗示相反情况的新闻标题
• 许多摘要引用准确来源却得出错误或误导性结论

谷歌质疑测试方法

公司对部分发现提出异议，认为评估方法未能反映真实用户的搜索行为。"这些实验室测试常常忽略实际搜索行为的微妙之处，"发言人告诉记者。不过他们承认正在持续改进准确性并降低虚假信息风险。

关键要点：

• 错误规模：约9%的AI概览包含不准确信息——全球范围内每分钟约100万条
• 准确性悖论：虽然更多摘要事实正确，但过半内容与来源材料不匹配
• 操纵风险：系统仍易受故意植入的虚假信息影响
• 用户困惑：摘要与实际搜索结果间的矛盾削弱信任