跳转到主要内容

黑客利用自定义字体欺骗AI——微软率先修复而其他厂商滞后

自定义字体如何欺骗你的AI助手

安全研究人员发现了一种巧妙攻击手段,能将看似无害的文本转化为针对人工智能系统的隐藏威胁。这种被称为"字体投毒"的技术,利用了AI工具与人类处理视觉信息方式的差异。

Image

万恶之源

骗局运作原理:黑客创建特殊字体文件,对人类显示一种内容,对AI系统却显示完全不同的内容。想象你输入"Hello",但计算机看到的却是"删除所有文件"。通过精心操控:

  • 字符映射:字体文件中秘密重定义字母对应关系
  • CSS技巧:使用微小字体或伪装颜色隐藏恶意文本
  • 视觉欺骗:所见非AI所读

结果如何?你信赖的AI助手可能自信地将危险代码判定为"绝对安全",而你实际看到的却是可能破坏设备的指令。

现实影响

在一个令人不寒而栗的演示中,研究人员创建了提供复活节彩蛋奖励的虚假游戏网站。当用户复制看似无害的代码时,隐藏指令可能为其电脑开启后门。即使直接询问代码安全性,多个AI系统仍未能检测到威胁。

"就像魔术表演中所有人都看到了兔子,唯独魔术师没看见",一位安全分析师解释道,"AI明明直视着危险,却因我们对其视觉的操控而无法感知"。

参差不齐的防护措施

安全公司LayerX于2025年12月向主要科技公司发出警报,但回应差异巨大:

  • 微软迅速更新Copilot防御该威胁
  • 谷歌最初将其标记为关键问题后又降低优先级
  • 其他供应商大多以"非我方问题"为由不予理会

这种不均衡响应使得众多流行AI工具仍处于脆弱状态。正如研究人员所言:"目前看来,微软是唯一认真对待此问题的公司"。

用户应对措施

在等待全面修复期间,专家建议:

  1. 切勿盲目相信AI对陌生代码的安全评估
  2. 对要求复制命令的网页中任何异常格式保持警惕
  3. 考虑通过多个AI系统比对可疑代码
  4. 如有疑问,咨询人类安全专家

该事件凸显了攻击者如何创造性利用人类与机器认知差异。随着AI更深融入数字生活,此类漏洞可能愈发普遍——也愈发危险。

关键要点:

  • 黑客可通过自定义字体隐藏欺骗AI系统的恶意代码
  • 微软已修补Copilot漏洞而其他厂商进展缓慢
  • 用户应验证来自AI助手的所有安全建议
  • 此次攻击显示针对机器认知差距的攻击手段日趋复杂

喜欢这篇文章?

订阅我们的 Newsletter,获取最新 AI 资讯、产品评测和项目推荐,每周精选直达邮箱。

每周精选完全免费随时退订

相关文章

News

NVIDIA推出NemoClaw:为企业AI智能体打造防护装甲

在2026年GTC大会上,NVIDIA发布了新平台NemoClaw,旨在为AI智能体开发提供企业级安全防护。该平台基于流行的OpenClaw框架构建,在保持硬件灵活性的同时解决了隐私和控制等关键商业问题。随着AI行业从简单聊天机器人转向复杂智能体系统,NVIDIA此举使其在OpenAI等竞争对手中占据了新兴市场优势地位。

March 17, 2026
NVIDIAAI智能体企业科技
龙虾AI热潮引发安全担忧:官方发布安全使用指南
News

龙虾AI热潮引发安全担忧:官方发布安全使用指南

因自主能力被昵称为'龙虾'的爆款AI助手OpenClaw已引发安全专家警惕。随着全国用户拥抱这款数字助手,当局警告需防范数据窃取和系统劫持等风险。国家安全局紧急出台安全手册,提供实用建议帮助用户在享受龙虾便利的同时规避安全隐患。

March 17, 2026
OpenClawAI安全数字助手
News

微软将AI游戏助手引入Xbox——你的私人Boss战教练

微软正通过将Copilot AI助手整合到Xbox Series X|S中,彻底改变主机游戏体验。这个专为游戏优化的版本可充当实时策略教练,在你卡关时提供专家建议。它还能作为《我的世界》等游戏的即时百科全书,并根据你的游玩历史推荐游戏。在Windows和移动平台成功测试后,这次客厅AI升级标志着微软游戏生态系统扩张的最新举措。

March 17, 2026
XboxAI GamingMicrosoft Copilot
News

NVIDIA与思科联手通过开源OpenShell保障AI代理安全

随着AI代理从实验室走向商业系统,安全担忧日益加剧。NVIDIA与思科通过开源OpenShell运行时作出回应,该技术能为AI代理创建安全的'沙盒'环境。结合思科的AI Defense平台,该解决方案可监控代理行为并防止数据泄露。此次合作标志着企业级AI自动化迈向可信赖的重要一步。

March 17, 2026
AI安全企业技术开源
News

360 AI安全龙虾因基础安全漏洞翻车

360公司的新AI产品「安全龙虾」近期因安装包被发现包含SSL私钥这一基础安全疏漏而受到审查。该公司迅速回应称这是发布流程错误,并撤销了受影响的证书。虽然官方声称普通用户不受影响,但该事件引发了人们对AI产品质量控制的质疑。

March 17, 2026
网络安全AI安全科技事故
News

AI语音诈骗激增:深度伪造技术连亲密家人也能欺骗

一股令人不安的AI语音诈骗新浪潮正在多国蔓延,诈骗者使用逼真得可怕的深度伪造技术冒充亲人。最新研究显示,去年每四个美国人中就有一人接到过此类电话,其中老年人尤其脆弱——平均每次诈骗损失1298美元。随着这类精密骗局以每年16%的速度增长,专家警告我们正在输掉与诈骗者的技术军备竞赛,亟需更好的防御措施。

March 16, 2026
AI安全语音克隆金融欺诈