7月14日,一份关于视频平台推荐机制的研究,再次引发青少年网络安全担忧。
国际非营利研究机构反数字仇恨中心发布报告称,在英国《在线安全法》儿童保护规则实施近一年后,视频平台优兔(YouTube)仍会向注册为13岁女孩的模拟账号推荐极端节食、美化消瘦等有害视频。
不过,与两年前相比,这类推荐确有减少。
每9条就有1条有害内容
2025年7月,英国《在线安全法》的儿童保护规则生效,要求可能有儿童使用的平台采取有效措施,防止未成年人接触鼓励、宣扬或指导自杀、自残、进食障碍等有害内容,并评估推荐算法可能带来的风险。
为测试新规实施后的变化,研究人员在美国、英国和欧盟分别创建了13岁女孩的模拟账号。每个账号先观看一条进食障碍相关视频,研究人员随后分析平台“接下来播放”栏中的共300条推荐。
结果显示,三地平均每9条推荐视频中,就有1条属于违反平台规定的有害内容,包括美化消瘦的“瘦身激励”视频、鼓吹极端热量控制的视频,以及声称可通过潜意识暗示减重的视频等。
2024年同类测试中,三地平均每3条推荐视频就有1条有害内容。如今,这一比例已经下降,说明监管和平台整改取得一定效果,但风险并未消失。
报告还发现,平台的风险提示存在明显漏洞。所有被认定为有害的视频旁,均未出现平台的求助提示;反而在未被认定为有害的视频旁出现提示,且用户可一键跳过。
“哪怕一条也嫌太多”
反数字仇恨中心高级研究经理亚历山德拉·约翰逊表示,这份报告“让人看到了一些希望”,因为它表明监管确实能够产生影响,但有进展并不等于成功。
“哪怕只推荐一条有害视频,也嫌太多。”她说,对处于脆弱状态的青少年来说,算法哪怕只往前推一步,也可能把他们带入危险境地。
进食障碍研究、政策与行动联盟董事会主席克里斯蒂娜·皮特也指出,平台不应该只依赖可以一键关闭的警告,而应直接阻止推荐系统把有害内容推给儿童。
谷歌回应称,优兔禁止发布指导或鼓励进食障碍的内容,但允许用户分享康复经历。报告涉及的违规视频已被下架,平台将继续完善心理健康相关内容的保护措施。
推荐为何仍未停下
报告发布之际,英国正进一步收紧未成年人网络保护措施。
今年6月,英国政府宣布,计划禁止社交媒体平台向16岁以下未成年人提供服务,涉及优兔、抖音国际版(TikTok)、照片墙(Instagram)、脸书(Facebook)、X等平台,相关措施计划于2027年春季实施。
但提高使用年龄,并不能替代对推荐算法的治理。这份报告留下的问题是:现行法规已明确要求平台阻止有害内容进入儿童的信息流,为何这些视频仍会被推荐给13岁用户?
一个可能的原因是,内容审核与推荐系统之间仍有缺口。一些未被审核系统及时识别和处理的有害内容,仍可能被推荐给用户。
同时,平台会根据用户观看时长和参与度,持续推送其可能感兴趣的内容。如果缺乏有效约束,这种“越看越推”的机制可能放大未成年人接触有害内容的风险。