处置320万篇假笔记、封号1000万！小红书最严治理来袭
不得了！有个消息宣称路边停车费自6月1日开始取消, 然而这竟是一则虚幻的信息！还有这样的说法唷, 据说霸道总裁创业历经三年, 居然成功买下足有8000 Flat的办公大楼, 纯粹是胡编乱造的角色设定！再有, 某个知名的演艺人员居然在视频中大力推广连生产厂家、质量标准还有许可证明都一概没有的化妆品, 这完全是AIGC搞出来的造假行径！就在6月12日那天, 于北京举办的小红书“打击虚假”治理开放日现场当中, 一批虚假且不符合实际真相的笔记以及账号人设呀竟然被当作典型的案例给公开曝光, 这可充分彰显出了小红书开展“史上最为严苛的黑灰产治理行动”那份坚定的决心！
在开放日那天, 小红书里负责相关治理业务的那个人, 对社群打击大批量造假的策略以及手段进行了详尽介绍, 不但如此，还公开了2025年上半年社区针对虚假内容治理工作所收获的成果。比如说, 借助搭建虚假内容全链路治理体系, 总共就处置了320万篇虚假笔记, 处理了1万个虚假人设账号, 处置了60万篇虚假低质AIGC笔记；凭借不断建设“同质化识别”能力, 全方位提升处置方法, 对机器对抗予以升级, 总共封禁了超过1000万个大批量造假的黑灰产账号。
南都记者留意到, 在11日的中国网络文明大会上, 小红书总编辑许磊介绍平台打假成果时特别指出, 今年上半年, 虚假信息平均审核时长同比降低25%, 后续将持续优化举报机制, 预计年底举报审核用时将持续减少10%, 以吸引更多用户参与到虚假内容的共治中。
于交流现场之中, 身为中国人民大学新闻学院传播学副教授的董晨宇宣称, 针对当下互联网虚假内容迅猛增长并且传播之时, 应避免于事后处置期间陷入犹如“打地鼠”那般的重复作战情况内, 而源头之处仍旧应当将重点放置于对公众媒介素养的提升部分, 将构建成全社会共治这般处于良性状况之下的互动作为目标。
为什么“假”在小红书社区不受欢迎？
更多用户, 聚集于生活类内容社区, 不只是为求热闹、娱乐, 仅图一乐, 他们还指望能从创作者的切身分享连同其它分享里收获些什么。在此次现场创作者对谈时段里, 生活vlog创立者@“一只记录西”缘自家于小红书的创作经历说起, 提及真实内容以及诚挚表达, 天然便带有流量方面的有利形势。小红书的用户并非只是瞧一眼内容, 其实大家偏好更深层次的交互, 于互相活动期间, 真实内容与虚构出来的内容之间原本距离便在持续拉长, 虚假人设于小红书相当不受待见。
创作者@“一只记录西”与董晨宇现场交流内容创作心得
真挚诚恳无疑才属于那具有决定性作用的制胜手段, 唯有你以真诚之心去进行表达输出, 如此, 才能够收获到源自于真实声音所给予的回馈, 进而, 才能够收获到拥有长时间持续性的创作信誉以及作品本身所具备的生命力。身为小红书这个网络平台里备受大众欢迎的网红创作者当中的一员, 董晨宇, 对于其社区含有的“真诚”这样的特质, 也是有着相同理念感受的, 能够发觉到, 如同对比那种精心雕琢显得完美无缺的人设以及故事而言, 社群当中的用户实际上更加倾向于那种存在着一定缺陷然而却贴近现实生活有着烟火气的坦率直白的表达, 也就是像我们平常经常会说到的, 得要有那种“如同活着之人所具备的真实感”。
蒂法, 这位小红书虚假内容治理负责人介绍说, 真诚分享乃是小红书的底色。可是, 虚假却是这社区的癌细胞。社区绝不应当放任其发展, 从而去危害健健康康的生态。况且, 作为UGC社区, 小红书公约明确提及了“真诚分享”这一内容。所以, 小红书会持续主动地治理虚假不实, 狠厉打击呈现批量造假的黑灰产账号, 大力倡导真实。
小红书虚假内容治理负责人蒂法介绍治理策略
开放日现场, 记者观察到, 此时此地, 小红书社区在打击“虚假”方面, 重点有三个, 分别是虚假不实内容, 虚假人设, 以及AIGC造假。
据蒂法讲, 在针对虚假资讯治理这块, 小红书打造出了在处置虚假不实内容之时涵盖着从起始便加以预防性限制措施、过程中进行动态跟踪、结束后续进行全面细致检索分析的“前、中、后”全方位全流程治理架构体系, 推出了多达十五个辨别虚假内容所用的识别大模型包括内容信息量模型、笔记摘要采摘梳理模型、AIGC类谣言判定模型等, 还创设设立了真实可靠信息原始发源数据库以及虚假传闻相关资料汇总收集数据库库, 借这样子达成达得到快速即时拦截以及大规模批量针对已确认有虚假信息内容检索清查, 在半年时间总共处理处置了虚假笔记数量达到三百二十万篇。在虚假人设治理这块, 小红书设定了内容前置审核制度, 运用了账号关系挖掘分析策略, 还上线了多个图像及视频识别模型, 依靠综合笔记内容以及账号信息去精准打击虚假人设, 半年总共处置了 1 万个虚假人设账号。
当AI出现迅猛发展态势碰上平台进行治理时, 虚假且质量低下的AIGC内容就成了使网络空间清朗得到重点整治的对象, “在半年时长里, 我们处置的虚假质量差的AI笔记数量超过60万篇。”蒂法讲道, 小红书针对AIGC内容采取提高曝光流量限制与主动进行标识的举措, 以此减少虚假质量低的AI内容被曝光的情况, 从而提升透明度。与此同时, 加大在AIGC识别模型方面的研发投入力度, 愈发提高识别的精确程度, 并且专门针对AI造假账号详细划分了分级处罚的机制。
在活动现场, 当董晨宇从传播学角度去分享虚假信息的传播规律以及应对策略之际, 还专门提到了一个处于更深入层面的平台治理难题, 也就是要怎样去鉴别那种游走在真假边缘地带的“问题性信息”。“虚假信息没办法全面体现平台虚假问题的复杂性。”董晨宇在现场的演讲里头讲。“问题性信息”的外延以及内涵比虚假信息更复杂，而且更加泛滥。他剖析说, 这里面既有因为“利己”或者“过失”因素所导致的舆论操纵、混淆等状况, 也有因为信息失序还有情绪主导从而阻碍了群体对话的因素。在这当中, 存在黑灰产账号, 它们大批量地进行造假注册人机号, 虚构人设, 通过IP来引流, 甚至引发争吵, 这进一步促使了“问题性信息”无限制地泛滥传播。
封号1000万个
“批量造假”黑灰产账号迎来最严治理
除了虚假内容, 黑灰产制造大量账号进行造假, 这在小红书平台的治理工作之中, 也是非常重要的一项任务, 是重头戏。
小红书史上最严黑灰产账号治理行动由我们展开, 针对黑灰产实施坚决打击, 丝毫不会让步, 在开放日现场, 小红书黑灰产账号治理负责人必行如此表态, 其言辞掷地有声。
小红书黑灰产账号治理负责人必行分享黑灰产账号的特征
黑灰产对社区生态的伤害主要在哪些方面？治理的难点何在？
根据必行所言, 黑灰产组织成批炮制黑灰产账号, 借助虚假、重复以及低质的内容去骗取用户流量, 养号涨粉之后, 又会发布虚假、带有恶意营销性质的内容, 或者售卖灰色商品, 供应灰色服务, 甚至从事违法之举, 借此达成不当的牟利目的。“从建立账号到培育账号以至于谋取利益这个完整过程, 黑灰产账号进行全链路成批造假, 对社区生态以及秩序所造成的危害相当巨大。”。
南都记者从现场交流的有关黑灰产的案例当中知道, 当下小红书社区里部分属于黑灰产的账号, 常常凭借“学姐”“学长”这种虚假的人设, 去发布带有套路的、虚假的内容, 以此来达成引流营销的目的。有一个案例呈现出来, 有一千多个冒充留学生的人设账号, 借助云手机, 凭借有内幕、黑料、避雷、信息差等这些噱头来发布笔记, 从而获取客户资料, 并将其引流到微信, 接着推荐给合作的下游机构, 甚至还会变着法子敲诈勒索教育领域的品牌商家，要是不合作就发“黑料”。
一位知名考试教育机构的人士, 在现场之时和记者交流, 共同分享其遭遇黑灰产的案例, 具体情形是, 有一些处于黑灰产范畴的账号, 在小红书发表笔记, 其标题分别是“挂三家骗子公司”以及“骗子公司虚假宣传真厉害”, 另外还有, 就是列举出几家相对比较头部的公司, 进行横向的测评对比, 在这类笔记当中, 既不存在具体的案例用以精准印证骗子公司, 同时也不是真实可靠的细节, 用于对比各家公司彼此之间的优劣, “各种话术绕来绕去根本目的就是特意引流用户”。
“如今不少黑灰产并非仅针对头部企业, 而是拉扯整个行业机构来同其合作。身为品牌, 颇感欣慰能够见到社区对黑灰产账号展开严肃治理, 以此维护公平竞争的商业秩序。”该机构人士这般说道。
当今之时, 黑灰产治理遭遇诸多挑战, 诸如数量特别巨大、隐蔽得极深、变体速度飞快以及对抗性超强等, “就好像全都通过虚拟号码来成批注册, 运用群控系统；基本上都是一部机器对应一个号码, 不但拥有独立的 IP 地址, 而且还会召集普通民众来协助发布信息, 操作已经变得十分精细。”必行讲道, 在此种现状之下, 小红书治理团队主要是从识别能力以及处置能力这两个方面着重发力。
在识别能力这一方面, 上线了五十多个模型, 构建起了以“同质化识别”作为核心的风控体系, 把对黑灰产的识别召回率提高了百分之七十二；在处置能力这一方面, 持续优化处置策略, 极大地提升了黑灰产作恶的成本；全面升级机器对抗, 运用机器判罚大规模取代人工判罚, 大大提高了对黑灰产账号的处置量级以及时效性。
现场, 一组关于小红书黑灰产治理成果的数据被揭晓, “最严治理”名副其实: 在2024年11月中旬的时候, 小红书开启了黑灰产账号治理专项；该专项开展1个月, 就封禁了126万黑灰产账号；开展3个月, 封禁数量达到320万黑灰产账号；开展7个月, 封禁的黑灰产账号超过了1000万。“我们还加强了与政府以及市监部门的通报合作, 目前有7起案件正在进行侦办, 后续侦查若涉及犯罪行为的还会进一步追究刑事责任。”必行说道。
UGC互联网社区治理新范式：共享共治
对待虚假, 内容平台的主动治理绝非不重要, 然而唯有用户参与共治方可实现打假力量的放大。小红书身为UGC社区, 于其之中, 用户不但创作出内容, 而且还造就了其成为打假的关键共治力量。据了解得知, 仅仅在2025年上半年这个时间段, 小红书虚假内容的用户举报数量相较于同比增长了40%。在开放日那天, 小红书审核培训师为现场观众呈现了一堂“打假”志愿者培训课程, 并且展示出了将近10个属于不同类型的造假案例, 进而催生了观众的鉴假热潮。
这个AI假图是关于加州山火的, 画面里海平面呈现出风平浪静的状态, 然而这与真实山火现场因狂风影响的事实彼此不符。这个二胎孕妈找搭子的人设账号, 上个月所营销的还是男宝, 可到了下个月就转变为营销女宝了, 简直离了个大谱了。在打假现场之中, 大家都踊跃地开始发言, 一同开心地进行“找茬”。在场有多位观众表明, 日后也将会把学到的鉴假方法运用到对于虚假内容的鉴别以及举报里面。
治理开放日上，现场观众热情参与鉴假互动。
小红书副总裁中的许磊, 于前一天的那场中国网络文明大会之上, 也介绍了那较为完善的虚假信息举报制度, 小红书为此开通了监管网站, APP客户端举报途径, 举报热线以及举报邮箱这四种途径, 在常态化转发重要辟谣稿件的这个基础之上, 搭建起了辟谣专区, 为用户提供一站式辟谣信息服务, 官方账号“薯管家”每周定期发布辟谣笔记。
据了解, 下半年的时候, 小红书又会进一步去简化用户举报流程，达成一个页面一次提交就能够完成举报, 使得更多用户能够以低成本且无门槛的方式参与到虚假信息的共同治理当中。更多的措施还有这些: 给部分用户提供内容标注表态功能, 引入用户共同治理, 大家群策群力；构建热榜辟谣卡, 让用户辟谣的内容登上热榜, 从而教育更多用户等。
许磊称, 小红书是那种“普通人创作内容”的社区, “分享真实的内容”以及“真诚分享”, 这不只是平台用户自己自发形成的那种内容创作准则, 更是小红书的社区价值观。打击虚假当然是挺重要的, 让流量流向真实呀, 这同样很重要。小红书正在构建的真诚分体系, 它一开始的想法就是把流量提供给真诚的人和商户。按照许磊的说法, 小红书的“真诚分”这个账号体系, 从分享的那种动机、内容的质量等好多方面去判定账号是不是真诚, 进而给真诚的创作者一些流量方面的照顾, 把虚假质低的那些杂音噪声压制下去。
被董晨宇直言的是, 虚假跟打假之际注定始终以来是一种动态制衡, 这场持久战不但需要平台端进行持续发力, 而且需要政策端进行持续发力, 更需要全社会进行立体式的参与以及互动。
采写：南都记者洪子翾 发自北京
