9月8日上午，微博认证为抖音集团副总裁的抖音集团李亮发文称，今年一季度我们发现平台出现大量利用AI仿冒‘于东来’语音、形象，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。

　　封禁这1000多个黑灰产团伙账号的同时，我们还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款15万元。

　　AI带来技术进步的同时也被很多黑灰产盯上，针对这些滥用AI的行为抖音一直在重点治理。对于相关违法违规内容，欢迎大家共同监督。

　　此前，9月2日，微博认证为“抖音电商安全与信任中心”的账号发布了《抖音电商公布AI滥用案例，引导商家合规经营》，其中提到，随着人工智能(AI)技术在电商内容领域的普及，抖音电商近期发现，少数商家和达人存在滥用或误用AI技术的情况，甚至借助AI生成误导内容。

　　其中提到的典型案例指出，少数视频创作者利用AI仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。抖音电商明确表示，创作者不得利用AI生成虚拟人物或仿冒社会名人、特定专业身份(如军警等)，进行带货变现，或通过卖惨方式违规营销。

　　2025年2月，胖东来商贸集团发布“胖东来关于侵权行为的处理公示(四)”，称目前网络和实体经营中出现大量利用胖东来名义的各种侵权行为。公示第二条明确指出，胖东来在网络平台发现个别商家，通过AI仿冒于东来先生声音，利用于东来先生肖像博取流量热度，使得相关公众误以为该产品来自胖东来超市，以此进行牟利，此行为不仅侵犯了于东来先生肖像权，也涉嫌虚假商品宣传，胖东来法务正在通过法律途径进行追责和维权，最大限度的防止大家被误导。

　　而在更早的2024年11月，胖东来商贸集团就曾发布声明，称公司在第三方网络平台发现多个账号，未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或公司享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。

　　声明明确表示，“前述行为已侵犯了于东来先生的人格权及著作权，对公司品牌形象造成消极影响。”

　　胖东来表示，对于此类未经授权，擅自利用AI技术手段和生成画面，实为博取流量而采取的违法侵权行为，对公众造成了误导，破坏了网络生态健康和秩序，表示严厉谴责！严正警告存在上述行为的账号立即停止侵权行为！对于为博取网络关注、获取流量而严重侵犯于东来先生及公司合法权益的，将坚决采取法律措施追究其法律责任！

　　《2024年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成严重威胁。