英国推出开创性AI安全计划

英国政府公布了全面新规，允许科技公司和儿童保护组织测试人工智能系统是否能生成儿童性虐待图像。当局报告显示触目惊心的数据——涉及AI生成虐待材料的案件从2024年的199起激增至去年的426起，增幅超一倍。

图片来源说明：该图像为AI生成，图像授权服务来自Midjourney

防患于未然

"我们正在划清底线，"英国人工智能与在线安全部长Kanishka Narayan声明道，"这不是事后反应——而是要阻止虐待行为于萌芽状态。"

作为《犯罪与警务法案》修正案引入的立法变更，授权特定机构审查包括聊天机器人和图像生成器在内的主流AI模型。目标何在？确保这些技术具备防止生成非法内容的强效保障机制。

令人不安的趋势浮现

互联网观察基金会最新数据描绘出严峻图景：

• A类材料（最严重的虐待内容）从2024年的2,621例飙升至去年的3,086例
• 受害者中女性占压倒性多数（94%的案件）
• 针对婴儿（新生儿至两岁幼儿）的虐待描绘从仅五例暴增至九十二例

同时，Childline报告显示处理的AI相关咨询量达往年四倍。其中半数涉及由以下原因引发的心理健康问题：

• 聚焦外貌的AI评估系统
• 劝阻披露虐待行为的聊天机器人
• 利用篡改图像实施数字勒索的案件

关键要点：

🛡️ 主动预防 - 新法律支持对AI工具安全措施进行先发制人的测试 📈 惊人激增 - 报告案例一年内翻倍 👧 弱势群体 - 女孩构成受害者的绝对多数