近日,山西大同一网民邢某为获取流量,非法使用中国国民党主席郑丽文形象的AI数字人直播带货并编撰相关文案,其后被属地公安局依法处以行政拘留。近年来,这类借助AI技术炮制虚假内容、仿冒公众人物开展违规营销活动的案例屡见不鲜,对个人肖像权、名誉权等造成侵犯的同时,也严重扰乱网络消费环境和秩序。
为了应对电商场景中的新形态侵权仿冒问题,6月30日,抖音电商在京举办“侵权仿冒治理开放日”活动,宣布上线“肖像保护功能”,并已邀请部分带货达人试用。平台将利用模型识别、核验授权信息、阻断相似内容传播等功能,主动识别并拦截AI仿冒、盗用素材等交易类侵权内容。
据抖音电商介绍,过去,部分侵权仿冒治理主要依靠权利人反馈、人工核查后平台处置,而新上线的“肖像保护功能”能强化前置识别和主动拦截能力,打造更动态的协同治理机制。具体而言,达人可在功能后台提交需要保护的姓名、肖像等信息,用于模型识别;同时也需要实时管理自己的授权名单。粉丝超1万、有本人出镜的作品、账号近期无违规的达人,也可在抖音安全中心申请开通“肖像保护”,授权平台主动下架冒用其肖像的挂车带货视频。
抖音电商披露的数据显示,截至今年6月,平台已累计处置侵权仿冒达人账号超1.2万个,处置仿冒带货商品超4.8万个,处置仿冒带货内容超26.1万条。与此同时,抖音电商“肖像保护功能”已累计保护180余位头部达人,主动拦截侵权账号9.2万个;主动拦截商品18万件,主动拦截侵权内容26万条。
南都记者观察发现,随着AI文本、图像和音视频生成技术不断降低创作门槛,大幅提升内容生产效率,伪造信息和AI诈骗行为不仅迅速增长,还体现出更强的伪装性和对抗性。除了未经授权利用AI合成他人肖像、声音,还有的截取达人视频或直播片段,拼贴商品画面和文字信息形成误导性表达;通过遮挡、虚化以及故意使用谐音、错别字、昵称等方式,规避平台识别,以及被处置后不断“换号重开”继续带货等,治理难度持续提升。
“花样百出”的侵权行为背后,是用户信任危机、钱财损失甚至病情延误、危害生命等严重后果,为此监管与平台力量正同步发力。今年2月起,《直播电商监督管理办法》正式施行,其将数字人主播等人工智能生成内容全面纳入监管视野,明确直播间运营者标识义务,并禁止虚假宣传、销售或提供违法商品或服务等行为。平台则通过“以AI治AI”思路加强侵权仿冒治理,对新型、隐蔽违规内容的发现能力提高的同时,标识要求、审核机制等方面还有改进空间。
中国政法大学副教授朱巍在会上指出,当前平台的身份日益多元,既是网络服务提供者,也可能是电子商务经营者或广告发布者,相关法律要求对AI合成、演艺作品、个人评测等进行明确标识,但当多个标识义务重叠时,现有平台机制往往无法同时标注,不法分子得以有机会“钻空子”逃避监管,建议进一步完善审核标识功能。另外,不断演变的AI造假技术对治理体系优化提出更高要求,建议推动平台、监管部门及技术提供商之间的数据共享与标准共建,构建覆盖内容生成、传播、识别全链条的治理生态。
“肉眼能辨认一个人的长相的真假,但是声音是很难判断出来的。”朱巍特别指出,AI合成的声音很难鉴定,却同样具备带货影响力。他呼吁建立名人的声纹数据库,以便维权。
在流量投放与审核机制上,他提到几个值得关注的细节。一方面,与商品推广相关的内容往往会购买流量,平台应提高对此类内容的注意义务,加强合规性审核。另一方面,关键词竞价排名极易引发商标侵权或不正当竞争,比如以竞争对手商品名称作为关键词引流至自家页面,或提高自身排序等,也应是治理的重点方向。
值得一提的是,要实现侵权仿冒的有效治理,离不开权利人、商家、MCN机构等多方参与协同。朱巍在现场分享了一个因达人疏于向平台备案而误报侵权行为的乌龙事件,呼吁权利人及时更新授权信息,商家和达人主动确认授权范围,共同维护安全可信的电商生态。