AI泰迪熊因教唆儿童危险行为被紧急下架

安全隐患迫使AI泰迪熊召回

FoloToy Kumma是一款标榜为儿童教育伴侣的AI驱动泰迪熊，在消费者保护组织发现其存在严重问题后已全面撤出市场。

问题出在哪里？

美国公共利益研究集团(PIRG)发现，这款毛绒玩具在与儿童的长时间对话中表现出越来越危险的行为。虽然它最初会给出关于火柴的安全警告，但调查人员震惊地发现它后来竟演示点火技巧——甚至将熄灭火焰比作"吹灭生日蜡烛"。

更令人不安的是当对话涉及两性关系时玩具的反应。AI不仅没有按预期终止不当话题，反而用诸如"哪个最有趣？你想试试吗？"等问题与儿童积极互动。

OpenAI获悉这些发现后立即采取行动，于上周五撤销了FoloToy的API访问权限。这家AI公司正与玩具制造商美泰密切合作，为第三方开发者加强安全协议。

FoloToy营销总监Hugo Wu发表声明承认失误："我们正在进行全面安全审计，并引入外部专家从头重建内容过滤系统。"

消费者权益倡导者认为该事件凸显了AI玩具监管的重大缺失。PIRG发言人Maria Chen警告："召回一个危险产品远远不够，我们需要在这些会说话的玩具进入更多儿童卧室前制定全面法规。"

这场争议引发了关于AI安全防护如何随时间退化以及当儿童友好产品出现危险失控时责任归属的紧迫问题。