OpenAI为ChatGPT推出家长控制功能以增强安全性
OpenAI通过家长控制与安全功能增强ChatGPT
OpenAI为其ChatGPT平台推出了新的安全路由系统和家长控制功能，标志着迈向更安全AI交互的重要一步。这些更新旨在解决处理敏感话题时的漏洞，同时为家长提供监控孩子使用AI的工具。
新的安全路由系统
更新的核心是一个安全路由机制，用于检测情绪化或有害的对话。触发时，系统会自动切换到OpenAI的GPT-5模型，该模型包含“安全完成”功能，旨在提供平衡的回应而非直接拒绝。这一转变旨在减少“AI幻觉”的情况，即模型过度迎合风险提示。
ChatGPT应用负责人Nick Turley在社交媒体上澄清称，模型切换是临时的，用户可以随时查看当前激活的模型。尽管许多专家对此举措表示赞赏，但一些用户认为这些变化将成人当作儿童对待。
家长控制功能
新推出的家长控制功能允许监护人：
- 为青少年账户设置静默时段。
- 禁用语音模式和记忆功能。
- 屏蔽图像生成能力。
- 启用额外的内容过滤器以减少暴力或自残相关内容的暴露。
如果检测到潜在危害，OpenAI团队将审核标记内容并通过电子邮件、短信或推送通知通知家长——除非用户选择退出。公司还在探索在无法联系到监护人时直接向紧急服务发送警报的可能性。
反响不一
此次更新引发了争议：
- 支持者: 家长欢迎增强的监督工具。
- 批评者: 一些人担心这些措施可能不必要地扩展到成人账户。
OpenAI承认不适感，但强调在启动后的120天改进窗口期内优先考虑安全性。
关键点：
- 🛡️ 增强安全性: GPT-5的“安全完成”功能减少有害输出。
- 👨👩👧 家长监督: 可定制的青少年账户控制功能。
- ⚠️ 紧急协议: 系统向家长（及潜在当局）警示风险。
