在内容的治理上,色情导流和“低俗擦边”违规是各平台长期以来的重点打击目标。针对较隐晦的软色情导流场景,平台启用了多模态大模型,综合判断直播间画面、声音、口播内容和用户举报等,分辨直播间是否有擦边风险,实现风险快速拦截。另一方面,平台不断完善举报链路,在30分钟内处置举报风险,并结合用户反馈更新大模型样本,达到长效化治理的效果。
针对色情导流黑产,平台搭建了“事前黑产防范,事中隐晦内容识别断播封禁,事后防止回流”的治理链路。针对高危场景,前置风险识别并阻断;在风险发生时,通过内容大模型、异常行为检测等能力,做到实时断播。针对较隐晦的导流线下场景,则主要通过用户举证做好风险主播的防回流策略,并将涉嫌违法的线索上报相关主管部门。
对于利用低俗直播刺激、诱导打赏的违规主播,平台则在健康分基础上,重点加强对诱导消费类违规主播的“经济”管理力度,对违规场次进行资金冻结、提现考核、延迟结算等。
抖音官方数据显示,2025年至今,用户对诱导打赏的举报率同比减少74%;超过40万主播因违规诱导打赏被扣除健康分;共有8.8万人次因涉低俗直播诱导打赏被处以限制违规场次收益提现、关闭礼物收入功能、禁止使用PK功能等处罚,五千个账号被无限期回收直播权限。2025年以来,抖音共封禁“软色情”直播间66万个,无限期回收11.7万个涉色情违规账号的直播权限。
配合公安机关打击线下色情黑产方面,2025年初,平台发现2个以承诺线下卖淫为由诱导用户消费打赏的团伙,利用短视频发布美女视频和虚假定位,诱导不同城市的用户进入直播间;再通过隐晦文案、背景、签名等多个场景发布隐晦交友信息,引导用户站外添加其他社交软件。抖音直播第一时间对相关账号进行封禁,并将线索上报给当地公安机关。截至目前,警方共抓捕21人,其中16人被刑事拘留。
2025年以来,已有68名违法犯罪嫌疑人因传播淫秽色情被刑拘。抖音直播相关负责人表示,平台将持续加强技术投入与治理力度,打击低俗直播、引诱打赏行为,致力于营造一个健康清朗的网络直播生态。