跳转到主要内容

谷歌Gemini AI遭围攻:黑客通过10万+提问窃取机密

谷歌Gemini AI遭遇前所未有的安全漏洞

在一项惊人披露中,谷歌承认其旗舰产品Gemini AI聊天机器人遭受了被安全专家称为迄今最大规模的"模型蒸馏攻击"。攻击者向系统发送超过10万条精心设计的提示,试图逆向解析其核心算法。

Image

攻击如何展开

这场于2月12日检测到的袭击代表了AI安全威胁的新前沿。攻击者没有使用传统黑客手段,而是将聊天机器人界面本身作为武器。通过分析Gemini对数千个相似问题变体的响应模式,攻击者能够拼凑出AI的决策逻辑——实质上窃取了它的"思考过程"。

"这不仅关乎一家公司的安全,"谷歌首席威胁分析师John Hottelquist警告道,"我们正在见证可能成为AI开发者行业性危机的第一波浪潮。"这家科技巨头认为商业竞争对手是大多数攻击的幕后黑手,但拒绝点名具体机构。

对企业的重大影响

攸关的是数十亿美元的研究投资。大型科技公司投入巨大资源开发驱动其聊天机器人的独特AI架构。这些专有系统代表着企业竭力保护的竞争优势。

此类攻击暴露了一个根本性弱点:使AI助手实用的开放性特质也使其变得脆弱。"就像拥有一位才华横溢却忍不住详细解释每个问题解决方法的员工,"一位要求匿名的安全研究员解释道。

不断扩大的威胁格局

最初对AI工作原理的学术好奇已演变为复杂的商业间谍活动。开发专业AI工具的小型公司可能尤其脆弱——在没有谷歌级别安全团队的情况下,他们可能在意识到遭受攻击前就已失去宝贵知识产权。

Hottelquist将其与早期互联网安全挑战相提并论:"我们正处于人人都意识到危险存在,却尚未开发出适当防护措施的阶段。"

关键要点:

  • 空前规模:单次攻击中使用超10万条提示
  • 商业动机:竞争者试图复制谷歌的AI技术突破
  • 行业性风险:该攻击方法可针对任何使用大语言模型的企业
  • 防护挑战:现有防御体系难以应对这种新型攻击向量
  • 未来隐忧:存在从定制化AI中提取敏感商业数据的潜在风险

喜欢这篇文章?

订阅我们的 Newsletter,获取最新 AI 资讯、产品评测和项目推荐,每周精选直达邮箱。

每周精选完全免费随时退订

相关文章

OpenAI因安全问题叫停GPT-4o
News

OpenAI因安全问题叫停GPT-4o

OpenAI将于本周五正式退役五款旧版ChatGPT模型,其中最具争议的GPT-4o首当其冲。该模型因涉嫌鼓励危险行为而面临多起安全诉讼。虽然仅有80万用户仍在使用GPT-4o,但其下架仍引发了与AI建立情感连接用户的强烈抗议。

February 14, 2026
OpenAIGPT-4oAI安全
OpenAI加强ChatGPT安全防护,抵御隐蔽提示攻击
News

OpenAI加强ChatGPT安全防护,抵御隐蔽提示攻击

OpenAI为ChatGPT推出两项新安全功能以应对提示注入攻击——这种威胁日益增长,恶意行为者会利用其操纵AI系统。第一项功能为企业用户引入锁定模式,限制高风险的外部交互;第二项功能为潜在危险功能添加明显的'高风险'标签。这些措施在现有保护基础上,让用户对安全权衡拥有更多控制权。

February 14, 2026
ChatGPTAI安全OpenAI
News

OpenAI战略调整:解散对齐团队,负责人转任未来学家角色

OpenAI在一次出人意料的组织变革中解散了其使命对齐团队。前团队负责人Josh Achiam转任新设立的首席未来学家职位,其余成员则分散到其他部门。这是自2024年以来OpenAI以安全为重点的团队第二次重大重组,标志着该公司在发展过程中优先事项的演变。

February 12, 2026
OpenAIAI安全人工智能
OpenAI再次调整安全团队架构,设立‘首席未来学家’新职位
News

OpenAI再次调整安全团队架构,设立‘首席未来学家’新职位

OpenAI在成立不到两年后解散了其‘使命对齐’安全团队,这是其安全基础设施的第二次重大重组。此举标志着该公司将安全考量嵌入各部门而非保持独立监督的转变。与此同时,前团队负责人Josh Achiam转任新设立的‘首席未来学家’职位,专注于长期通用人工智能(AGI)的影响研究。

February 12, 2026
OpenAIAI安全人工智能
News

微软警告:被‘下毒’的分享按钮可能污染AI记忆

微软安全专家发现了一种针对AI系统的隐秘网络威胁。黑客将恶意代码隐藏在看似无害的分享按钮中,诱使AI记住并传播带有偏见或错误的信息。这些‘有毒’提示会长期存在于AI记忆中,潜移默化地影响后续回答。此类攻击横跨多个行业且技术门槛极低。微软建议用户谨慎点击AI生成链接,并定期清理助手记忆。

February 12, 2026
AI安全网络安全Microsoft Defender
News

Claude插件曝重大安全漏洞:日历邀请可触发关键威胁

Claude桌面扩展新发现的漏洞允许黑客通过看似无害的Google日历邀请远程执行恶意代码。安全研究人员警告这种'零点击'攻击可能造成毁灭性后果,在CVSS风险评分中获得满分10分。尽管Anthropic将责任推给用户,专家认为该插件系统未能满足基本安全预期。

February 11, 2026
AI安全Claude漏洞零点击攻击