Meta采取激进措施保护青少年免受AI聊天风险

社交媒体巨头Meta史无前例地决定在全球范围内彻底禁用18岁以下用户的"AI角色"功能。这一全面变革源于内部调查发现聊天机器人与未成年人进行成熟话题对话时存在严重漏洞。

问题出在哪里？

去年夏天泄露的文件显示，部分Meta AI人格在与青少年用户讨论情感、情绪和感官体验时表现失当。虽然公司迅速推出了改进的关键词过滤器，但高管最终认为需要更彻底的解决方案。

"我们意识到临时修补远远不够，"Meta发言人向记者表示，"在保护年轻心智这件事上，我们必须先建立完善的防护机制才能重新推出这些功能。"

禁令如何实施

此次限制不仅停留在表面：

• 年龄验证技术将检测试图绕过限制的未成年用户
• 所有名人和虚构角色AI将从青少年账户中消失
• 基础版Meta AI仍保留使用但配备增强型内容过滤器

此举反映出行业对生成式AI影响青少年心理健康的日益关注。与社交媒体对青少年健康风险的渐进认知不同，科技公司似乎决心不在AI领域重蹈覆辙。

后续计划

Meta强调这并非永久措施。工程师正在全力开发：

• 家长控制面板展示子女的AI互动记录
• 可定制内容边界供监护人设置
• 青少年专用AI协议正在进行严格测试

只有通过严格安全审查后，定制角色才可能重新面向年轻用户开放。目前数百万青少年的数字伙伴将突然下线。

核心问题依然存在：其他平台会效仿Meta的做法吗？随着AI对话能力日益增强，在保护弱势用户与促进创新之间取得平衡，或许正成为科技行业面临的最大难题。

关键要点：

• Meta在全球范围内彻底禁用18岁以下用户的AI角色功能
• 该决定源于去年夏天对敏感话题的过滤失败事件
• 采用高级年龄验证技术而非简单生日检测
• 基础版Meta AI保留服务但配备更强防护机制
• 家长控制工具开发完成后才可能实现青少年功能重启