腾讯推出用于图像和文本的AI检测工具
2025年1月17日，腾讯推出了一种创新工具，旨在检测图像和文章是否由人工智能（AI）生成。该系统由腾讯的凤凰实验室在混元安全团队内开发，允许用户上传图像进行验证，提供几秒钟内的结果。
检测工具的工作原理
AI生成图像检测系统通过分析各种特征来区分真实图像和AI生成的图像。AI生成的图像通常表现出不现实的特征，例如一只有翅膀的飞行小狗或一只抽雪茄的猫，这可以归因于缺乏常识逻辑。此外，这些图像可能需要"水印"，即包括可见或不可见的显性或隐性标记。检测工具旨在识别这些标记和其他隐藏特征，例如在调整HSV颜色空间时，密集分布的局部纹理的亮点。
识别AI生成的图像并不是一项简单的任务；它需要一种多方面的方法。检测系统使用AI模型捕捉一系列特征差异，包括图像纹理、语义和隐藏特征。凤凰实验室利用140万个正负样本的数据集进行模型训练，覆盖了各种生成内容场景。这种广泛的训练使得检测准确率超过95%，并持续致力于优化和增强系统。
文本检测能力
除了图像检测，凤凰实验室还开发了一种文本检测系统，利用大量数据来识别AI生成的文本。该系统收集了大量正负样本用于训练，并采用比较方法推断各种类型文章的AI生成可能性。目前，文本检测系统涵盖了多种风格，包括新闻报道、官方文件、小说和散文。未来计划包括将检测能力扩展到诗歌和其他文学体裁。
创建这些AI检测工具的初衷是优化混元大模型的训练语料库。然而，随着学术界和工业界对能够识别AI生成内容的工具需求的激增，实验室专注于开发两个主要工具：一个用于检测AI生成的图像，另一个用于AI生成的文本，从而为用户提供有价值的服务。
未来发展
展望未来，腾讯计划推出用于AI生成视频的检测工具，进一步增强其在识别各种媒体格式中AI生成内容的能力。
体验地址：
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
要点
- 腾讯的新工具检测AI生成的图像和文本。
- 系统利用广泛的训练数据实现超过95%的准确率。
- 未来计划包括开发用于AI生成视频的检测工具。
