中国AI治理方案使深度伪造攻击减少60%
中国AI防御系统在联合国峰会获全球认可
在日内瓦举行的全球人工智能造福人类峰会上，中国展示了在应对深度伪造威胁方面的重大进展，特别是在金融领域。蚂蚁集团技术战略部副总裁彭晋透露，他们的系统已将面部识别攻击减少60%，同时保持99.9%的准确率。
彭晋在联合国峰会上展示中国反深度伪造成果
全球AI安全挑战
由国际电信联盟(ITU)与瑞士政府联合主办的峰会汇集了联合国各机构，共同探讨人工智能促进可持续发展的应用。随着生成式AI工具的激增，金融机构面临日益复杂的身份伪造技术威胁。
"2024年，我们发现东南亚银行遭受深度伪造攻击的比例高达10%，"彭晋解释道。"通过我们的多层防御系统，这一比例已降至4%，同时将误拒率从50%降至3%。"
中国系统的运作原理
蚂蚁数科旗下ZOLOZ主要应对两种攻击方式：
- 呈现攻击：使用静态图像或视频绕过活体检测
- 注入攻击：系统级摄像头劫持以插入预录画面
解决方案结合了：
- 设备级环境安全检查
- 动态深度学习生物特征验证模型
- 全面风险控制策略
目前已在25+国家/地区部署，代表了现有最强大的金融级认证系统之一。
推进全球AI安全标准
为提升透明度，蚂蚁数科近期发布了：
- 180万组多模态深度伪造数据集
- 涵盖88种伪造技术
- 在IJCAI 2025大会上共享以促进可验证的AI研究
每日算法更新展示了与黑市上日益复杂的伪造手段之间持续的攻防较量。
关键要点：
- 通过中国技术实现深度伪造攻击减少60%
- 系统保持99.9%准确率且误拒率极低
- 解决方案目前保护着遍布*25+国家/地区的金融机构*
- 中国正共享数据集以推动全球AI安全研究
