小红书5个多月处置了超百万例AI违规

5月15日，小红书官方账号薯管家发布《“清朗·整治AI应用乱象”专项公告》，表示今年以来积极参与上海市委网信办“清朗·整治AI应用乱象”专项行动，集中围绕AI内容标识、AI违规运营、AI数据安全、AI侵权造假等方向开展深度治理，已累计处置各类AI不良行为超过百万例。

针对日益泛滥的AI违规应用，小红书在公告中明确列出了五类将被严厉打击的行为：

第一是AI全自动托管账号，即无真实人类参与的机器人账号；

第二是AI造假，包括利用AI仿冒名人、虚构人设、伪造信息及制造谣言；

第三是AI侵权，涵盖未经授权的换脸换声，以及侵犯他人肖像权和著作权的行为；

第四是AI低质内容，严打利用AI批量产出同质化灌水内容或猎奇博眼球的违规笔记；

第五是去标识行为，严禁故意消除AI标识或在平台内传授去标识教程。

在AI内容标识方面，小红书明确，所有AI参与创作的内容均须主动标识，这是创作者的法定义务。

具体范围包括：由AI生成的图文及音视频内容、经AI润色或修图配音等处理的再创作内容，以及使用AI合成换脸变声等视频内容。创作者需在发布时通过“笔记内容声明”功能选择“AI生成”或“AI辅助创作”完成标识。

对于未主动标注的AI内容，小红书表示，平台系统识别后将统一添加AI标识。同时，平台严格禁止故意隐瞒AI生成属性、不添加或不规范添加标识，禁止刻意消除、破坏AI生成内容的已有标识，并严厉打击向他人提供去标识服务或兜售相关工具的行为。

不久前，中央网信办发布《全面部署推进规范短视频内容标注工作》，明确要求包括小红书在内的12家头部平台于5月底前陆续完成短视频标注标签完善和功能优化上线：预计从6月起，创作者在发布内容时必须进行规范打标，其中“含有AI生成内容”是核心必选标签之一。

而根据薯管家15号同日发布的关于规范信息来源标注的阶段性处置结果公示，小红书本周处置标注违规笔记7339篇，关闭违规账号171个，禁言违规账号320个。

无论是一天内连发两则公告的快速响应，还是公告措辞表述，都反映出小红书对AI的打击更加严格了。