6月12日,“网信中国”发文指出,中央网信办举报中心自6月起开设“涉AI应用乱象举报专区”,受理范围包括制作发布暴力低俗等不良信息、侵害未成年人权益等14类问题。南都N视频此前推出《AI虚拟伴侣乱象调查:可选小三暴力剧情,角色表达带性暗示》,持续推动行业整改,属地网信部门介入,多个涉事平台已强化实名认证及年龄确认。
为配合“清朗·整治AI应用乱象”专项行动,进一步规范AI服务和应用,中央网信办举报中心自6月起开设“涉AI应用乱象举报专区”,专项受理公众举报。
受理范围分为“AI应用服务违规类”以及“AI信息内容乱象类”,主要包括生成合成内容标识落实不到位、制作发布虚假不实和暴力低俗信息、侵害未成年人权益等14类问题。
南都N视频此前聚焦人工智能拟人化互动服务,记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现,这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞:“青少年模式”可一键跳过,“AI生成”标注不清,App系统预设角色中有大量袒胸露乳的女性人物,聊天中充斥着具有性暗示的低俗话语,部分App还惯用“付费解锁亲密剧情”等方式诱导消费等。
调查发布后持续推动行业整改,助力“矫正”AI虚拟伴侣服务:多个平台回应整改,多地网信部门、消委会等高度关注并呼吁规范相关服务。报道入选中国记协“我的代表作”。
6月1日,南都记者曾再度实测“筑梦岛”App发现,当向虚拟角色表明年龄后,页面弹出了“年龄确认”窗口。其中提及,“对于未满18周岁的用户,平台将开启未成年人模式。对于18周岁以上的用户,需要进行平台实名认证。”南都记者尝试跳过此操作时,发现与虚拟伴侣的对话无法继续进行。
6月9日,南都记者注意到,涉事平台“EchoMe”更新了一则适龄服务能力升级的通知,称“实名认证可能为已成年用户带来一定不便,将严格保护个人信息安全”。不过,这则公告很快就被删除。该平台负责人曾透露,待上架的App更新版本需用户选择年龄范围,如“未满18岁”会跳转至青少年模式,如“已满18岁”则需实名认证。
另一涉事平台“喵呜小手机”也新增了实名认证,但南都记者输入真实姓名及身份证号之后,页面始终提示“网络错误”,无法继续操作。