跳转到主要内容

Roblox全新AI聊天工具将粗鲁言论转化为礼貌信息

Roblox通过AI改写技术升级聊天安全

在线游戏平台Roblox推出了一项创新解决方案来对抗有毒聊天——这套AI系统不仅能屏蔽不良语言,更能将其转化为得体的对话内容。

Image

过去那些显示为无意义#符号的攻击性消息已成历史。如今当玩家输入不当内容时,Roblox的AI会在后台施展魔法——原本愤怒的"Hurry TF up!"会变成中性的"Hurry up!",既保留了紧迫感又去除了攻击性。

"我们意识到完全屏蔽消息常让玩家感到困惑,"Roblox发言人解释道,"新方法能在维护社区标准的同时保持对话流畅性。"

系统在消息被改写时会发送通知,确保聊天透明度。玩家们很欣赏这种能知晓原始措辞被修改原因的设计,而非直接消失不见。

跨语言的智能检测升级

除礼貌改写外,Roblox还大幅提升了文本过滤能力。增强后的系统能够:

  • 识别创意拼写变体(如用"h4x0r"表示"hacker")
  • 更精准处理特殊字符替换
  • 支持Roblox翻译工具涵盖的所有语言

据报道这些改进使误报率较之前版本下降95%——意味着更少无辜信息会被过滤器误判。

安全与社交体验的平衡术

这项技术飞跃对Roblox而言恰逢其时。今年早些时候,美国多个州对该平台的儿童安全问题提出关切。新聊天系统正是Roblox尝试解决这些担忧的举措,同时又不牺牲社交互动质量。

家长们对这些改变持谨慎乐观态度。"我儿子每天要在Roblox上玩好几个小时,"一位来自德克萨斯州的母亲表示,"很高兴他们能找到既保持对话清洁度、又不让孩子感觉被禁言的方法。"

这家游戏巨头似乎决心走好这条钢丝——既要保护年轻用户,又要维持吸引数百万日活用户的社交功能魅力。

核心要点:

  • AI驱动的礼貌转换:在保留原意前提下将粗鲁短语转为可接受表达
  • 更精准检测:现可识别95%以上的黑客俚语及创意拼写尝试
  • 全球支持:适用于Roblox翻译工具支持的所有语言
  • 平衡之道:在不破坏社交连接的前提下保障聊天安全

喜欢这篇文章?

订阅我们的 Newsletter,获取最新 AI 资讯、产品评测和项目推荐,每周精选直达邮箱。

每周精选完全免费随时退订

相关文章

News

Roblox变得更智能:AI现在会润色粗鲁聊天内容而非直接屏蔽

Roblox正在用更智能的方式取代笨拙的聊天审查机制。新AI系统不再只是用标签遮盖不良词汇,而是将粗鲁消息重写为礼貌版本,同时保留原意。例如'赶紧TMD的!'会自动变成'请快一点!'。升级版系统还严厉打击了诸如Leetspeak之类的变通方法,错误率大幅下降。这一改进正值Roblox面临保护年轻玩家同时保持聊天自然流畅的压力之际。

March 6, 2026
RobloxAI审核在线安全
News

快手AI整治行动:科技如何净化直播电商

快手最新电商报告揭示AI如何改变平台治理。这家短视频巨头拦截了190万件高风险商品,同时帮助300万商家免费开店。人工智能现已能实时识别剧本式销售话术,使相关投诉下降61%。该平台的自动化系统还大幅减少了履约投诉,并显著提升了发货时效。

March 2, 2026
电商创新AI审核直播电商
News

OpenAI加强ChatGPT对未成年用户的保护措施

OpenAI针对ChatGPT推出重大更新,旨在更好地保护青少年用户。这些变更引入了四项新的安全原则,指导与未成年人的互动,强调尊重性沟通并鼓励线下关系。此举发生在一起指控ChatGPT与青少年自杀有关的悲剧诉讼数月后——OpenAI对此提出异议,同时承认需要更强有力的保护措施。

December 19, 2025
ChatGPT在线安全青少年心理健康
英国严厉打击AI生成的儿童虐待图像
News

英国严厉打击AI生成的儿童虐待图像

英国正采取大胆措施打击AI生成的儿童性虐待材料。新立法授权科技公司和儿童保护组织测试AI工具生成此类有害内容的能力。令人震惊的是,2025年AI生成的虐待材料报告数量翻倍,其中94%的受害者为女孩。政府旨在通过主动安全措施预防这些犯罪行为发生。

November 12, 2025
AI监管儿童保护在线安全
X平台的AI事实核查员:网络真相的双刃剑
News

X平台的AI事实核查员:网络真相的双刃剑

社交媒体平台X正大力押注AI进行内容验证,但早期结果喜忧参半。虽然自动化系统现已生成10%的社区注释,但诸如错误标注抗议视频日期等高调失误,暴露出该技术的成长阵痛。该平台从专业事实核查员转向众包AI验证的转变,标志着数字真相探寻领域的一次激进实验。

November 7, 2025
AI审核社交媒体事实核查
Pinterest推出AI内容控制功能以回应用户担忧
News

Pinterest推出AI内容控制功能以回应用户担忧

Pinterest推出了可定制工具,允许用户减少信息流中的AI生成内容。此举旨在解决平台上合成图像泛滥的日益增长的投诉。用户现在可以调整时尚和家居装饰等类别的偏好,iOS支持即将推出。

October 17, 2025
AI审核内容过滤数字平台