小红书清理近12万条AI虚假笔记，医美领域成重点
在AI技术让内容创作门槛一降再降的今天，虚假信息也找到了新的温床。9月3日，小红书官方账号“薯管家”发布公告，宣布将AI生成的虚假内容全面纳入日常治理范围，重点打击利用AI拼接或生成图片来虚构场景、编造体验的行为，这些行为正在误导用户，侵蚀社区信任。
这次专项治理瞄准了文旅住宿、医美、教育、房产等高风险领域，不仅要清理AI生成的同质化笔记和虚构个人经历，还新增了检测策略，严控未标注的AI内容以及跨账号重复使用素材的情况。
数据显示，今年6月至8月，小红书已累计清理近12万条AI生成的虚假笔记。其中，AI生成的虚假医美体验、虚假住宿图文、虚构教育背景推销教辅材料等典型违规内容被大量下架，相关违规账号也受到了严肃处理。医美领域作为治理重点，日均删除违规笔记超过4000条，累计封禁违规账号超过4200个。
生成式AI技术大幅降低了内容生产的门槛，但虚假体验的泛滥也在严重侵蚀UGC社区的真实性和用户信任。小红书在明确鼓励AI辅助创作的同时，通过细化场景管理、存量清理和动态检测三大机制，为AI应用划定了边界。这次治理行动不仅体现了平台在生成式AI内容合规监管上的全面升级，也为AI时代内容生态的健康发展与信任重建提供了行业样本。
关键要点
- 小红书将AI生成的虚假内容纳入日常治理，重点打击虚构场景和编造体验的行为。
- 治理覆盖文旅住宿、医美、教育、房产等领域，新增检测策略严控未标注AI内容。
- 6月至8月，平台清理近12万条AI虚假笔记，医美领域日均删除超4000条，封禁账号超4200个。
- 平台在鼓励AI创作的同时，通过三大机制划定应用边界，为行业提供治理范例。