蚂蚁集团开源两个安全模型，为AI代理设下安全缰绳

随着AI系统从生成文本发展到自主采取行动，一种新型安全威胁随之出现。7月13日，蚂蚁集团AI安全实验室开源了两个模型，旨在约束这些自主代理和多模态模型：SingGuard-NSFA和SingGuard。

为何突然关注代理安全？

还记得AI只是回答问题的时候吗？现在，智能代理可以调用工具、运行代码并规划多步骤任务。这对生产力大有裨益，但也为提示注入、权限滥用、恶意代码执行和数据泄露打开了大门。近期事件，如Amazon Q的提示中毒、Microsoft Copilot的数据泄露以及OpenClaw代理的注入风险，表明代理的自主性越高，安全漏洞的破坏范围就越大。

2025年12月，OWASP发布了《智能代理应用安全十大风险》，2026年5月，中国网信和行业监管机构联合发布了代理安全治理指南。信息很明确：行业需要更好的护栏。

SingGuard-NSFA：代理行为的实时刹车

传统内容过滤器无法捕捉行为风险。SingGuard-NSFA在代理执行动作之前介入，实时检查请求和响应。它将风险分为7大类、28个子类和185个具体场景，并基于涵盖133种语言的近10万个样本数据集提供支持。

令人印象深刻的是其速度：单次风险检查约需50毫秒，适用于高流量在线服务。它提供四种尺寸（0.8B、2B、4B和9B参数）以适应不同的部署需求。如果出现新的风险类别，只需训练一个轻量级模块，无需重新训练整个模型。

SingGuard：多模态内容的通用守门人

仅文本护栏已不再足够。6月，Anthropic的Claude Fable5被通过用Unicode字符和西里尔字母替换敏感词而欺骗——模型理解了含义，但分类器未标记。SingGuard在统一框架下处理文本、图像和跨模态内容。它采用“快慢”推理方法：快速初始检查，仅在需要时进行更深入分析。它还支持无需重新训练的动态规则更新。

在35个数据集的基准测试中，SingGuard在平均F1分数上优于Llama Guard3、Google ShieldGemma、GPT-5.1和Gemini3-Pro。

更广泛的AI安全推动

这些模型建立在蚂蚁集团在支付安全、数据保护和风险治理方面二十年的经验之上。它们已用于蚂蚁阿福和支付宝AI助手等产品中。蚂蚁集团还致力于国际标准制定，包括一项关于终端代理可信互通的ITU标准。

正如中国信息通信研究院的胡娜英所说：“随着大模型从内容生成转向自主执行，AI安全正从内容审核扩展到行为控制和系统治理。”这些模型的开源是朝着实现这一愿景迈出的实际一步。

关键点

• 蚂蚁集团开源两个安全模型：SingGuard-NSFA用于代理行为安全，SingGuard用于多模态内容安全。
• SingGuard-NSFA在约50毫秒内执行实时风险检查，覆盖133种语言的185个风险场景。
• SingGuard处理文本、图像和跨模态威胁，在基准测试中优于主要竞争对手。
• 此举是对日益增多的安全事件和新的代理安全监管指南的回应。