将AI大模型技术应用于谣言治理和辟谣运营工作一年之际,抖音公布数据:自AI求真大模型上线后,谣言被处置时的平均浏览量下降62%,这意味着谣言内容从发布到被处置的窗口期显著缩短。
同时,抖音还公布了过去一年“十大辟谣案例”,覆盖社会事件、健康养生、公共安全等谣言高发领域。相关谣言均经AI求真大模型识别或处置,并通过“求真卡”等形式向用户传递辟谣信息。
抖音方面介绍,应用于谣言治理的AI求真大模型就像一个24小时巡逻的网络治安官,能够筛选并召回平台上的潜在谣言视频,通过大模型搜索权威信源查证,并在复杂判断中引入人工复核。经机器或人工判定为谣言的信息均会被纳入谣言库,由机器自动处置下架、拦截新增发布。
一年来,抖音持续提升AI求真大模型的识别信号范围、准确度、时效性、主动性。今年以来,在热点事件中,平台对谣言的处置时效提升50%以上。
在识别和研判层面,2026年,大模型上线了DeepResearch和交叉验证等能力,能够针对不同信息要点分别进行多轮联网检索和核实。在此过程中,一方面,大模型在联网检索过程中会优先采纳权威度排名较高的信源;另一方面,大模型也深度学习了抖音过去多年来积累的人工审核经验。数据显示,AI求真大模型判断谣言的准确率已提升至95%。
在此基础上,治理介入也更主动。过去,一个谣言点常延伸出同质化文案和高度相似的变体,占用大量审核人力和资源。以“峨眉山猴子攻击游客、被射杀”这一谣言为例。同一段核心内容被改编为“九寨沟猴子”“张家界猴子”“猥亵女游客”等多个版本传播。有了大模型介入,其语义理解能力能够匹配出相似的谣言案例,由机器直接复用判定结果、自动处置,实现从“人找谣言”到“模型主动出击”的转变。
抖音不实信息治理负责人表示,技术赋能谣言治理只是第一步,激发用户求真意识同样重要。因此,抖音“AI求真”另一重点就是用AI大模型技术帮助用户更便捷地获取事实、提升辨别能力,与公众共筑“认知防线”。
目前,用户可通过抖音内的“求真提示”“求真卡”获知事件真实信息。具体而言,当用户在抖音浏览一些可能存在误导或争议的内容时,视频下方会浮现“AI求真”提示条。点击后即可前往“求真卡”获知事件溯源、权威媒体报道、当事方澄清等信息。当用户主动搜索某个热点事件时,如该事件与谣言相关,搜索结果页会直接以“求真卡”形式展现,呈现鉴定结果及核心事实信息。近日,抖音也在“安全与信任中心网站”增设了“AI求真”的网页服务入口,用户搜索关心的谣言信息,即可了解真伪。
中国社会科学院大学互联网法治研究中心主任刘晓春表示,AI技术的参与让谣言治理从简单的事后治理,有可能转为“陪伴式赋能”。AI不仅重塑辟谣机制,更在细水长流中培养网民的理性求真素养。“以前传谣和辟谣是分离的,辟谣信息能触达到的人群和一开始接触到谣言的人群可能是分离的。现在有了AI工具,可以在信息传播过程中,慢慢去培养用户主动求真的意识和习惯。通过AI求真这样的产品在传播的不同阶段为用户提供陪伴式辟谣和陪伴式识别,我觉得是非常重要的。”刘晓春说。
抖音也根据过去一年谣言治理情况,公布了“十大辟谣案例”。其中,既有“山东女子向丈夫索要5元买早餐遭拒后轻生”等社会事件,也有“儿童DHA含有大量防腐剂”等健康类资讯。一些不实信息多借助情绪噱头或片面说辞传播,博取流量。相关案例经由AI求真大模型进行核查或处置,并通过“求真卡”形式呈现辟谣信息,减少不实信息带来的误导影响。
抖音不实信息治理负责人表示,谣言治理和辟谣内容的运营绝非空中楼阁,其根基在于新闻当事人、官方机构与新闻媒体的多方核实与及时澄清。若无此依托,大模型的识别与研判便成无源之水、无本之木。而清朗健康的社区环境,更离不开每一位用户的共同监督与悉心守护。
校对: 陶谦