治理AI谣言和不实信息,有了更优“AI打法”。9月16日,抖音举办不实信息治理开放日,分享平台治理谣言的“方法论”,并宣布上线“AI抖音求真”功能。该功能可针对误导性内容和谣言,为用户提供事实展示及澄清。据了解,谣言治理是抖音2025年最重要的工作之一。近期,平台已将大模型能力应用于谣言治理,实现对谣言的“发现即管控”。一个季度以来,平台谣言曝光量下降67%。
一段时间以来,AI谣言、AI误导性内容频现。诸如“AI预测彩票号码百分百中奖”“7月1日起老年人坐火车可打折”“地震小孩被埋图”等,屡屡引发公众的关注和讨论。这其中,有的歪曲解读政策,有的消解社会公平,侵蚀社会信任,甚至还滋生用AI造假造谣的灰黑利益链,引得相关部门和机构不得不发声辟谣。与过去相比,互联网和AI技术快速发展之下,由AI引发的误导性内容和谣言,门槛更低、传播更强、变异更频繁、更易跨平台扩散。由此,网络防谣辟谣的难度更是大幅提升。如何有效治理AI谣言,已成为全社会面临的一个现实课题。
在此背景下,包括抖音在内的平台,结合自身优势,上线“AI抖音求真”功能等,无疑具有积极意义。一方面,网络时代,平台是信息流通传播的阵地,是用户聚集和交流的“广场”。面对纷繁复杂的信息,平台本身有责任,从自身端口完善技术篱笆,主动当好信息“守门人”。另一方面,平台承担责任,通过升级治理谣言的技术和功能,既是对用户权益的有力维护,也有利于平台涵养更清朗和健康的内容生态。最终受益者,也是平台和用户。
上线“AI抖音求真”功能之前,抖音平台已做了大量实践。例如,通过热点运营、“抖音辟谣”账号运营、建立媒体辟谣团等多种方式,打造辟谣内容生态;日常工作中,发现谣言风险信号时,主动向当事人或有关部门核实内容真伪;向用户推出“辟谣卡”功能,提供“一站式”辟谣信息展示……最新的“AI抖音求真”功能,则更进一步——“遇事不明、一键查证”的功能,在及时击碎谣言和误导性内容的同时,也能方便用户掌握事实全貌。而在谣言治理中引入大模型识别、研判、处置,也将极大提升谣言的识别能力和处置效率。不难看出,一系列实践举措背后,平台的技术工具越来越丰富,治理AI谣言的技术防线越来越稳固。在平台层面,治理AI谣言正从被动转变为主动,从“点”的治理转向“面”的升级。
治理AI谣言,当然离不开先进技术,但光有平台技术层面的努力,尚不足够。需要看到,AI谣言及误导性内容的“狡猾”之处在于,它们通常既存在跨平台传播的一面,也具有变种快、“翻新快”的特点。不少时候,平台刚“揭皮”处理完一批,另一批就又冒了出来。因此,仍需要全社会多方发力、共同协作。例如,监管部门持续完善网络信息治理的法律法规,相关部门建立跨平台的信息共享与联合惩戒机制。与此同时,大众媒体、专业机构也要及时发声;社会公众也需要培养健康的网络素养,养成理性上网用网的习惯。
我们乐见网络平台不断提升经验和能力,加强治理谣言等不实信息的力度,更乐见技术不断进步,“用AI打败‘AI’”。但更重要的是,在积累技术和经验的基础上,逐渐跨越单纯的技术防线,进入多主体协同、全社会共同参与的共治阶段。如此,才能真正让AI谣言和误导性内容无处可藏。