■田鹏
近日,演员温峥嵘在抖音直播间自曝被“AI换脸盗播”——多个直播间同步出现“她”的带货形象,当她在评论区质问“你是温峥嵘,我是谁”时,反而被对方拉黑。这场充满荒诞感的对峙,也揭开了AI换脸技术滥用侵蚀直播电商生态的冰山一角。
6月份,北京市海淀区市场监管局查处了某公司利用AI技术冒用央视主持人李梓萌名义和形象的虚假广告案,并对其进行了行政处罚;8月份,在某社交平台上,有博主利用AI仿冒奥运冠军全红婵的声音卖土鸡蛋……近年来,利用AI换脸换声生成虚假内容的案件屡见不鲜。
笔者认为,乱象背后,是技术套利对直播电商行业生态的破坏。一方面,从供给端来看,这种技术套利正在形成“劣币驱逐良币”的恶性循环。直播电商的核心竞争力本应是内容价值与商品品质,而AI换脸盗播却将行业拖入“拼噱头”的畸形竞争。当侵权成本远低于维权成本,当造假收益远超合规收益,越来越多的商家会放弃创新投入,转而拥抱低成本仿冒。长此以往,直播内容将陷入同质化泥潭,商品质量失去保障,最终损害的是整个行业的创新活力与可持续发展根基。
另一方面,从消费端来看,更隐蔽的危机在于挑战消费者的信任底线。信任本是电商行业的立身之本,可AI换脸技术却在不断模糊真实与虚假的边界,当真假难辨成为直播间里的常态,消费者的购买决策就会变得犹豫谨慎,复购率下降、用户流失将成为必然。更为严峻的是,这种信任伤害具有传导效应,一个仿冒直播间的欺诈行为,可能让消费者质疑整个直播电商行业,进而制约行业的发展。
当然,也不能将所有问题归咎于技术本身,AI换脸技术本无善恶之分,若使用妥当,亦可降低中小商家的直播门槛,让优质商品通过数字化手段触达更多消费者。
当前,直播电商正处于黄金期。受益于消费场景线上迁移、技术赋能产业升级等因素,直播带货市场规模持续扩张;同时,这一业态不仅重塑了商品流通链条,更催生出庞大的就业生态。因此,AI技术理应成为助力直播电商市场规模持续扩容的“赋能器”,而不能让“AI换脸盗播”毁掉直播电商生态。
细究当前乱象的症结,或在于治理体系的缺位——平台审核技术滞后、行业规则尚不健全等,都让“AI换脸盗播”有了可乘之机。
因此,整治乱象需要构建技术防控、规则约束、生态共治的立体治理体系。其一,在监管层面,需细化AI生成内容的侵权认定标准,提高赔偿额度,同时厘清平台、商家、技术提供方的连带责任;其二,在行业层面,可以由行业协会制定合规指南,明确AI虚拟标识标准,搭建“商家自查—平台核查—消费者监督”的三级机制,通过备案、抽查与举报奖励形成全链条监督合力,从多维度压缩造假空间;其三,在技术层面,各大电商直播平台需加大投入升级检测技术,如专门的深度伪造鉴别模型,用于分析视频和音频中的不自然特征,搭配实时监测系统,实现触发风险即弹窗提示并暂停直播。
直播电商的生命力,离不开真实可信的土壤、公平竞争的环境。当技术防线得以筑牢、法律之网越织越密、行业共治凝聚合力,“假脸”乱象必将无处藏身。唯有如此,方能驱散虚假泡沫,让合规商家的价值得以彰显,让消费者的信任不再被消耗,最终推动直播电商市场行稳致远。