小红书整治"毒动画":日均处置违规笔记7000余篇
一、发生了什么
10月28日,南都N视频记者从小红书获悉,平台针对性推进治理借未成年人牟利、魔改经典动画的内容,精准召回儿童邪典、AI魔改、不良恶搞等"毒动画"内容。
关键动作:
- AI特征识别 + 图像识别 + 经典动画剧目IP三管齐下,精准召回违规内容
- 覆盖40余部经典儿童动画IP和早教动画,梳理日常被魔改的IP与不宜未成年人观看的作品剧集
- 结合账号历史违规频次,对不良动画内容和高危账号实施双线分层处置:日均处置违规笔记7000余篇、日均处置违规账号300个
- 深挖批量制作、传播此类内容的团伙,对相关账号封号、禁言
- 近期已累计处置涉未成年人账号3571个
二、治理背景
7月20日"网信中国"发文指出,中央网信办部署启动"清朗·未成年人网络保护"专项行动,重点整治"编造毒动画,利用AI技术恶搞经典动画形象,刻意放大暴力恐怖元素"等突出问题。
此前7-9月,小红书已处置AI魔改、毒动画类内容超12万篇;本次治理进一步升级为"精准召回 + 分层处置 + 端团伙"的组合拳。
三、对代运营的影响
- 存量自查:客户账号历史笔记中若包含AI魔改经典动画(哪吒、葫芦娃、奥特曼等IP形象恶搞)、儿童邪典、暴力恐怖元素,需立即下架或删除
- 内容红线:借未成年人博眼球、AI魔改经典IP、软色情擦边等一律不做
- AI工具使用:用AI生成内容时避免直接恶搞知名IP形象(侵权+治理双重风险)
- 监测信号:平台对"涉未"类内容的治理是常态化动作,账号历史违规频次会被纳入分层判定,老账号的存量风险不可忽视