中国推出人工智能滥用举报门户 整治数字‘狂野西部’

中国推出公众举报系统严打AI滥用

为遏制人工智能应用的无序发展，中国中央网信办推出了专门举报AI违规行为的门户网站。此举是政府持续开展的‘清朗’行动的一部分，旨在净化网络空间。

哪些行为可被举报？

网信办划定了明确界限，列出了14种具体违规类型，分为两大类：

1. AI服务违规

• 运行未注册的大型语言模型
• 平台缺乏必要的安全审查
• 训练数据集存在隐患
• AI‘数据投毒’案例（恶意训练数据篡改）
• 未标注AI生成内容
• 犯罪性利用AI能力
• 对开源模型监管不力

2. AI内容滥用

• 使用AI篡改文化经典
• 大批量生产低质信息
• 编造传播合成虚假内容
• 通过深度伪造进行数字身份冒充
• 制作暴力或淫秽材料
• 利用AI工具剥削未成年人
• 通过‘AI水军’进行协同操纵

为何现在采取行动

随着AI能力在全球爆发式增长，中国监管机构正迅速行动以防止潜在危害，同时为创新留出空间。举报门户为普通公民提供了直接反映问题的渠道，与正式监管机制共同构建了众包安全网。

一位熟悉该举措的网络安全专家指出：‘我们正处于关键节点，AI既能赋能社会，也可能制造新的漏洞。这一举报系统就像数字时代的邻里守望。’

如何参与

精通技术的公民可通过网信办官方渠道访问举报门户。官员强调举报应包含：

• 涉及的具体平台或服务
• 违规行为的详细描述
• 尽可能提供证据

关键点：

• 中国AI违规举报系统已上线
• 针对14种AI滥用行为
• 属于更广泛的‘清朗’网络净化行动
• 寻求公众参与以协助监管快速发展的技术
• 标志着政府对AI治理日益重视