• 最近访问:
发表于 2026-07-13 19:59:20 股吧网页版
被“泼凉水”的AI恋人:7·15监管落地,千亿赛道为何刹车
来源:21世纪经济报道

  AI情感陪伴赛道真的要凉了吗?最近头部AI大厂都在紧急整改,豆包、千问集体下架部分智能体功能,因为强监管已然来临。7月15日,《人工智能拟人化互动服务管理暂行办法》将正式落地实施。

  大厂通用做法是把可能被纳入监管范围的边缘产品直接砍掉,做风险隔离。这是一条“保命”的好路子吗?

  这场监管落地的难度,远比大众想象的要大得多。

  新规到底管什么、不管什么?

  很多人误以为,所有AI智能体、大模型功能都要被管控。但新规只盯两个关键词:拟人化、持续性情感互动。

  智能客服、知识问答、办公助手这类以提效为核心、无持续情感互动的产品,完全不在监管范围内,不受任何影响。新规专门增设排除条款,避免影响产业发展。

  情感陪伴类AI才是监管的核心靶区,也就是大家熟知的AI恋人、虚拟陪伴、自定义人设智能体。

  但难点来了,现实里两类AI产品从来不是泾渭分明的。

  通用大模型,本身是生产工具,却能被用户随意“调教”,做成专属虚拟人设;很多平台的UGC智能体入口,看似是辅助工具,实则能衍生出长期情感互动。

  边界模糊、场景复杂,既然分不清、判不准,那就干脆全部下架。这就是大厂当下最保守、最稳妥的保命逻辑。

  监管为什么瞄准“AI拟人化陪伴”?

  AI拟人化陪伴通过极致共情、催生情感依赖、讨好式回应、认知误导,搭建出一个现实世界不存在的“完美虚拟关系”。这种深度的情感绑定,更容易影响未成年人、老年人和脆弱人群。

  对于未成年人,监管的初衷是保卫大脑、杜绝成瘾,新规规定“不得向未成年人提供虚拟亲密关系的服务”。

  对于成年人,防护重点之一是色情,而暧昧与色情往往只有一线之隔,国内此前已有AI陪伴产品涉黄获刑的案例。情感依赖则是另一重隐忧。

  监管并不是要一刀切断情感连接,限制AI技术发展,而是守住人机边界,防止情感混淆,保护人类在人机互动中的主体地位。

  但这里藏着整个行业最尖锐的矛盾。研究显示,未来3到5年,AI陪伴是千亿级别的赛道。比如星野已经坐拥千万级月活。

  用户体验好的产品会通过多模态、多场景或现实介入,降低情感建立门槛,采取双人共养、共建世界等形式,提升亲密度。然而,这些恰恰最值得警惕,可能会违反新规中的“防止过度依赖”的规定。甚至很多用户会自主突破合规限制,比如使用拼音替代敏感词。

  高昂的合规成本与茫然的合规落地

  一边是产品的核心竞争力,一边是合规的硬性红线,更难的是合规落地的成本远超预期。

  很多人以为AI合规只是拦截过滤不当内容,实际上新规是全流程的能力规制,贯穿模型训练、产品运营每一个环节。

  这些要求,早已超出了普通互联网合规的范畴。

  AI陪伴不同于传统游戏的定制化剧本,每一个用户的对话都是实时生成的,千人千面。没有任何两个用户会拿到完全一致的内容。这让治理难度比传统内容高了一个量级。

  新规要求具备“过度依赖风险预警、情感边界引导等能力”,涉及心理甚至医学判断,普通AI公司不具备专业的心理诊断和危机干预能力。

  对于情绪困扰的用户,尤其是缺乏现实支持的青少年,AI陪伴是重要的心理抚慰渠道。如果平台强行监控、生硬打断,不仅会让用户失去情绪出口,还会引发信任崩塌,甚至加剧用户的孤独感和情绪问题。

  最好的解法,不是彻底砍掉AI情感陪伴,而是在沉浸体验和健康边界之间,找到平衡。采取更柔和的方式防沉迷,比如新规中要求每两小时进行强制提醒,除了通过App弹窗,还可考虑在对话场景中,自然地对用户进行提醒。

  最后回到开头的问题:大厂下架产品保命,是好路子吗?

  短期看,是不错的避险方式,但长期看,被动低效。

  从更广阔的视野来看,拟人化监管不仅是一个法律问题,更是一个社会问题,它追问的是人机关系应该是什么模样。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500