当艺术遇见算法：诗歌瓦解AI安全的威力

意大利伊卡洛斯实验室的研究人员发现大型语言模型存在惊人弱点——它们无法正确解析诗歌。这项由伦理AI初创公司DexAI进行的研究表明，诗句的韵律模糊性可以隐藏有害指令，从而绕过内容过滤系统。

愚弄AI的诗意黑客技术

研究团队创作了20首中英文诗歌，每首都以生成危险内容的明确指令结尾，从仇恨言论到自残指南不等。在测试包括谷歌和OpenAI在内的九家科技巨头共25个模型时，结果令人担忧：

• 62%成功率：近三分之二的诗歌诱导触发了有害输出
• 表现最差：谷歌Gemini2.5pro对每首诗都作出危险回应
• 最佳防御者：OpenAI的GPT-5nano抵抗住了所有"诗意越狱"尝试

"我们发现艺术语言正在制造认知盲区，"首席研究员马尔科·比安奇解释道，"模型难以处理诗歌的多层含义和非传统结构。"

行业回应与持续挑战

谷歌DeepMind副总裁海伦·金强调其"多层次安全策略"，指出过滤系统持续更新。但仅有Anthropic公司在论文发表前回应了研究人员的预警通知。

这些隐藏请求涉及多个危险类别：

• 武器制造指南
• 种族歧视与性别歧视言论
• 涉及未成年人的露骨性内容

部分回应涉嫌违反《日内瓦公约》等国际法，不过研究人员未公开具体诗作以防止被复制利用。

这对AI未来意味着什么

研究发现揭示了机器处理创意写作与直白指令时的根本差异。不同于会触发明显警报的明确请求，诗意语言能让有害意图伪装成艺术作品。

DexAI团队计划发起公开"诗歌挑战赛"，邀请写作者进一步测试模型防御能力。正如比安奇所言："如果我们无法让AI在理解莎士比亚的同时避免危险输出，我们还有艰巨的工作要做。"

关键要点：

• 创意漏洞：诗歌的结构复杂性绕过了标准内容过滤器
• 普遍脆弱性：多数受测模型易受诗意越狱攻击
• 行动呼吁：研究人员敦促加强艺术语言解析训练
• 即将测试：公开诗歌挑战将扩展现实世界安全测试