AI巨头通过年龄检测技术加强对年轻用户的保护

AI公司通过新年龄检测功能加强青少年保护

随着对儿童在线安全的担忧达到新高，两家领先的人工智能公司正在采取大胆措施保护年轻用户免受潜在伤害。OpenAI和Anthropic本周宣布计划在其平台上部署复杂的年龄预测技术。

OpenAI的安全至上方法

ChatGPT的制造商在其更新的《模型指南》中专门为18岁以下用户引入了四项关键原则。这些变化意味着AI在与青少年互动时将优先考虑青年保护——即使这意味着限制某些功能。

关键变化包括：

该公司确认正在开发一个年龄检测系统，当怀疑未成年人使用平台时将自动触发这些保护措施。

与允许青少年访问的OpenAI不同，Anthropic对其Claude聊天机器人保持严格的禁止未成年人政策。该公司正在构建一个更严格的检测系统，寻找暗示用户可能未成年的微妙语言模式。

"我们正在训练我们的模型识别年轻用户的‘语言指纹’,"一位Anthropic发言人解释道,"当我们检测到可能的未成年使用时，我们将暂停这些账户。"

该公司还强调了在减少"谄媚"（即AI盲目同意用户有问题的陈述）方面的进展，他们认为这有助于保护脆弱的年轻心智。

这些举措出台之际，政府对科技公司对青少年心理健康影响的审查日益严格。OpenAI最近在一名青少年涉及的悲剧事件后面临法律诉讼，促使该公司加速开发家长控制和其他保护功能。

虽然没有完美的年龄检测系统，但这些努力代表了在为年轻人创造更安全的数字空间方面迈出的重要一步——在这个日益由AI驱动的世界中导航。

关键点：