中国开通人工智能滥用与不当行为公众举报门户

中国推出公众举报系统加强AI监管

为规范人工智能应用，中国网信办推出专门受理AI违规行为的举报平台。该举措是对当前整治危害公共利益AI应用的「清朗」专项行动的重要支撑。

可举报内容

新平台受理14类AI违规行为，主要分为：

服务违规：

• 未注册的大语言模型
• 未通过安全评估的平台
• 存在安全隐患的训练数据
• AI数据投毒案例
• 未标注的合成内容
• 利用AI实施的违法行为
• 开源模型管理不善

内容问题：

• AI篡改经典作品
• 批量生产的低质内容
• 虚假信息
• AI仿冒他人
• 暴力低俗的AI生成物
• 涉及未成年人的违规行为
• 利用AI进行的网络操纵（"水军"活动）

"我们注意到公众对部分AI应用越过道德界限的担忧日益增长，"一位要求匿名的网络安全官员表示，"该平台为民众提供了直接举报问题AI应用的渠道，同时帮助我们识别新兴威胁。"

鼓励公众参与

当局强调有效的AI治理需要集体努力。"就像社区联防保护实体社区一样，我们需要数字公民协助监管AI生态系统，"该官员补充道。

行业专家对此措施表示欢迎，但也提醒实施挑战。"明确的界定标准对区分真正违规与合法AI实验至关重要，"北京大学技术政策研究员林伟博士指出。

随着AI技术日益深入日常生活，该举报系统反映了中国在AI治理方面的前瞻性。类似于食品安全热线改变消费者保护的模式，这一举措可能重塑数字领域的责任机制。

核心要点：

• 新监管工具： 开通专门受理AI违规的举报门户
• 涵盖14类问题： 从未注册模型到有害合成内容
• 突出公众作用： 鼓励公民参与AI监管
• 宏观背景： 规范新兴技术「清朗」专项行动的组成部分