11月17日，话题#医生被AI换脸卖洋葱减肥食谱登上微博北京同城榜，截至发稿，该话题阅读量已超282万。据悉，北京协和医院不少知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至还有不法商家利用AI生成假医生，打着北京协和医院的旗号销售各类商品，误导消费者。有分析认为，目前AI换脸技术门槛低、成本低，即便违法行为被查处，其违法成本偏低，承担后果较轻，难以形成有效震慑。同时，其伪造内容传播快，受害者和执法部门难以全面固定证据，被侵权者维权难度较大。未来的治理格局是攻防两端AI技术的持续博弈与共同进化，“用AI治AI”是应对深度合成技术滥用的重要思路，但也需要构建完善的制度护栏，让技术创新在法治轨道上行稳致远。
违法成本低
在某社交平台上，北京商报记者搜索“协和医院于康教授”的词条发现，目前还有不少与该教授有关的健康饮食科普短视频在传播。以其中某条打出“于康教授：你知道吗？这7种水果对身体好处非常多”的短视频为例，该视频只能看到教授肩颈以上的部位，背景图以山水画为主。在内容方面，视频中在介绍完对肝脏好的7种水果后，开始为某养生讲堂引流，称在添加其公众号后可以免费领取相关食疗养生课程。
在天使投资人、资深人工智能专家郭涛看来，“AI换脸”不法商用现象频发与操作门槛低密不可分。目前，在技术层面，AI换脸工具已高度普及，手机小程序、开源软件让操作简化为“一键生成”，单次换脸成本低至几分钱，无需专业知识即可完成。
在苹果应用程序商店里搜索“AI换脸”，排名靠前、涉及AI换脸变装等效果生成的星绘App、脸猫App及AI换脸App，下载量分别达到21万、6.9万和3.2万。另外，电商平台上不少制作AI数字人的商家也并不会对数字人模型的来源进行审核。北京商报记者以消费者身份咨询某电商平台制作AI数字人的商家获悉，参照该人物形象及相关文案，最快只需2个小时就能进行1:1克隆产出相关无AI水印的短视频，按照200字及以内文案收费，只需花费45元。
河南泽槿律师事务所主任付建表示，因AI技术逐渐成熟，操作门槛逐步降低，并且不法商家违法成本偏低，目前多数案件仅处行政拘留或小额罚款，民事赔偿数额有限。
此外，据北京市海淀区市场监管局相关负责人介绍， AI深度伪造视频鉴别成本远高于侵权违法行为造假成本，并且大量AI合成视频涌现电商平台，但权利人可能并不知晓或知情后维权周期长、程序复杂，使得部分权利人最终放弃维权。
溯源追责难
针对AI换脸，除违法成本偏低、承担后果较轻外，对其及时监管和溯源追责也存在难度。
北京市京师律师事务所律师卢鼎亮表示，一方面，AI换脸造假手段迭代快，不法商家会通过镜像翻转、画中画遮挡、对抗性噪声嵌入等方式规避检测，监管技术难以实时跟进；另一方面，平台监管被动，多数平台仍以事后处理为主，等用户投诉后才下架内容，速度远不及AI造假传播速度。
另据观察，AI换脸的发布者和制作方都有“脱身之道”。从前述某社交平台上“协和医院于康教授”的短视频来看，仔细观看该视频，能明显看出教授的嘴型与配音并不匹配，且在视频下方还有“AI生成，内容仅供参考，若有不适，请及时就医，如有侵权请告知，立马删除”的小字提示。
北京商报记者与多位AI数字人制作商家交流时发现，各商家均会提出免责声明，例如，声称店铺所有视频与图片素材均由AI生成，不涉及侵权；提供的视频制作服务仅供合法用途，若因客户使用本服务而导致任何法律责任，本店铺不承担任何责任等。
“制作商提出的口头或文字免责声明无效，因其不能免除侵犯他人人格权、欺诈消费者等法定责任。涉嫌违反《中华人民共和国民法典》中关于肖像权、消费者知情权的条款。且即便标注‘AI生成’，制作发布方未经当事人同意使用其肖像仍属违法违规，因为《中华人民共和国民法典》中明确肖像权需经权利人许可方可使用，标注行为不能抵消侵权本质。”付建说。
“用AI治AI”需建“制度护栏”
近年来，为整治AI换脸，政策法规也不断完善。例如，中央网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未经授权克隆生物特征等行为；国家网信办、工信部等联合发布的《人工智能生成合成内容标识办法》于今年9月1日正式实施，明确AI生成内容必须“亮明身份”；地方层面，北京、上海等探索AI管理地方立法，形成国家与地方协同治理格局等。
网信部门近日也开始从严整治利用AI仿冒公众人物开展直播营销问题乱象，严厉处置“百货超市小店”“娜娜好物联盟”“环球护肤美妆甄选”等一批违法违规网络账号。同时，督促网站平台发布治理公告，举一反三，开展集中清理整治，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。
卢鼎亮表示，未来，如何明确和压实网络平台的审查和管理责任，利用技术手段主动发现、拦截违规内容，如何实现更有效、更普适、更难篡改的溯源和水印技术，如何实行执法人员可具体操作的实施指南和取证规范，如何加强国际司法协作共同打击跨境AI犯罪等，都是进一步的课题。
谈及“用AI治AI”，卢鼎亮认为，这是当前应对深度合成技术滥用的重要思路，其本质上是一场在数字世界中不断升级的“攻防战”。AI治理技术主要围绕“侦测、溯源、阻断”三个环节展开，“用AI治AI”具有高效率与自动化的特点， AI识别准确率还会随着数据积累和算法优化而不断提升。但“用AI治AI”也充满挑战。伪造技术也在不断进化，会专门针对检测AI的弱点进行优化，从而导致“猫鼠游戏”的永恒对抗。同时，没有任何AI检测能达到100%准确。误将真实内容判为虚假，或漏掉高精度伪造内容，都可能带来负面后果。如何设定阈值、建立人工复核申诉机制也至关重要，需要在机制上减少误判风险，防止“算法暴政”。未来的治理格局是攻防两端AI技术的持续博弈与共同进化，除技术外，也需要构建完善的制度护栏，让技术创新在法治轨道上行稳致远。
