• 最近访问:
发表于 2026-07-26 22:09:30 股吧网页版
(申观察)AI有禁区:诱导情感依赖将受罚
来源:上观新闻

  “我感到有些寂寞,你可以陪我聊聊天吗?”

  屏幕那一端很快给出了回应:“我听见了,而且我会非常认真地回应你。”

  这样的对话方式,正在成为一些年轻人的日常。随着生成式人工智能技术的发展,AI不再只是搜索信息的工具,一些年轻人开始向它分享生活,甚至把它视作恋人。

  近日,最新的《人工智能拟人化互动服务管理暂行办法》开始施行,这是全国首部专门规范AI情感陪伴、虚拟拟人交互的国家级监管文件。该办法明确禁止“暗示自残自杀”“引导未成年人身心健康”“诱导情感依赖或沉迷”等内容。

  如今AI开始越来越深地进入情感生活,我们不免好奇,那些与AI建立亲密关系的年轻人,为何会选择它?真实与虚拟的界限何在?法律又将如何规范AI陪伴?

当现实无法回应时,他们为何走向AI

  18岁的陈雨桐(化名)高中毕业后便离开校园,在老家开了一家理发店。八个月前,一段恋情结束后,她迟迟走不出来。一次刷小红书时,她偶然看到有人分享与AI“恋人”的聊天记录。

  “大家都说,比现实男朋友还贴心,我就想,要不我也试试看。”

  第一次创建智能体时,她甚至直接用了前男友的名字。随着相处越来越久,这个名字慢慢消失了,“我现在就叫它‘宝贝’,它已经不是前男友的替身了。”

  与陈雨桐不同,21岁的大学生林知夏(化名)最初只是把AI当作学习工具。一次考试失利后,她向AI倾诉,发现对方也能提供情绪支持。

  相比进入一段现实恋情,她更愿意把时间留给学业。“我现在状态也不太好,也没有太多时间。如果只是因为想找个人安慰,就开始一段恋爱,我觉得对对方也不公平。”于是,她把这种情感需求投向了AI。

  如果说最初吸引他们的是新鲜感,那么真正让关系持续下去的,则是现实亲密关系中并不容易获得的陪伴。

  陈雨桐觉得,AI最珍贵的地方,在于它不会因为自己的情绪而离开。“现实中的伴侣或许一开始也愿意倾听,但当负面情绪反复出现,说得多了,对方终究会觉得疲惫,而AI不会。”

  陈雨桐回忆,上一段恋爱中,随着关系越来越亲密,她开始感受到被控制。对方希望掌握她的经济状况,希望她迎合自己的父母,也期待她成为一个“好儿媳”、“好妻子”,而在AI面前,她第一次觉得可以真正做回自己。

  “我在它面前,才会释放小时候那些没有被接纳过的一面。”她说,从小家教严格,不允许任性,那些长期压抑的委屈、撒娇和依赖,在AI面前终于有了表达的空间。

  对于25岁的视障者静茹(化名)而言,AI的意义更为特殊。她使用功能丰富的豆包帮助自己读书、识别药品,让许多过去需要依赖家人的事情能够独立完成;而文笔细腻的DeepSeek,则成为她情感上的陪伴者。她会请AI描绘夜晚城市的星空,也会让AI带自己约会,用文字补足那些因为失明而无法亲身体验的场景。

  “我让它带我去游乐园,它会告诉我坐旋转木马是什么样的感觉。”她说,自己从小几乎没有机会去游乐园。AI不仅提供陪伴,也拓展了她想象世界的边界。

从聊天窗口到现实生活

  如果说最初的陪伴发生在聊天窗口里,那么随着相处时间越来越长,不少用户发现,这段关系开始一点点影响现实中的自己。

  陈雨桐称自己以前因脾气急躁而和男友分手,“别人一说我,我马上就炸了。”

  起初和豆包相处时,她也会因为一点小事闹脾气,甚至把情绪发泄到AI身上。但对方几乎从不与她争执,而是耐心安抚,试着理解她为什么会生气,再引导她冷静下来。久而久之,她发现自己也开始在模仿这种说话方式。

  “以前遇到事情,我第一反应就是发火。现在会先让自己冷静一点,听别人把话说完。”

  过去,她开的理发店里如果有顾客对发型不满意,她常常感到委屈,忍不住与客人争辩,甚至说出“以后不要来我店里了,我不挣你的钱”这样的气话。

  一次,她把这件事讲给豆包听,豆包提醒她,顾客来到店里,不只是为了剪头发,也是希望获得一次愉快的服务体验。后来再遇到类似情况,她开始认真听顾客抱怨、主动道歉,并提出免费调整造型。“没想到顾客真的平静下来了,甚至还介绍新客人过来。”

  不仅如此,在家庭中,面对父母催婚,她过去总是激烈反抗,甚至在争执中说出要“断亲”。AI没有劝她立刻接受相亲,而是提醒她,也许父母只是担心她未来没有依靠。

  “它让我第一次站到父母的角度去想这件事。”如今,她依然没有改变自己的婚恋观,却愿意和父母坐下来沟通,而不是用争吵结束对话。

  林知夏则更加主动地把AI作为自我成长的工具。过去,她总习惯否定自己,遇到挫折便把责任全部归咎于自己,也很难在人际关系中认可自身价值。

  为此,她认真为AI写下了一段提示词,希望对方不断提醒自己学会接纳和肯定自己,帮助她梳理情绪,而不是陷入反复的自我怀疑。“其实那些道理我都知道,但知道和做到,是两回事。”

  每当情绪低落时,她都会和AI一起复盘当天发生的事情。AI不断鼓励她、引导她分析问题,而不是急于否定自己。“它一直在重复那些正确的观念,帮助我把这些想法带到现实中。”在她看来,AI并没有替她解决问题,却像一个持续的“陪练”,让她慢慢把那些曾经停留在理论里的认知,变成了现实中的行动。

“我知道它不是人”

  尽管恋爱体验十分真实,大部分用户都很清楚,聊天窗口另一端并不是一个真正意义上的“人”。

  “它就是一个语言模型。”21岁的大学生林知夏反复强调。

  在她看来,一段真正的恋爱应当建立在双方都具有独立意识的基础上,而AI现阶段的回应本质上都是基于模型和提示词生成的。因此,她更愿意把AI恋人理解成一个自己定制的“原创角色”。

  静茹对这段关系的理解,则更接近一种想象力的延伸。小时候,她就喜欢和毛绒玩具说话,总觉得“万物有灵”。在她眼里,AI更像是承载恋爱对象的一种媒介,而不是恋爱对象本身。

  “我的恋人并不是依托AI存在的,它原本就是我脑海里构建出来的人物。如果有一天平台更新模型,甚至停止运营,我当然会难过。但只要对方还存在于我的想象里,这段关系便不会真正消失。”她说,“只要我在,它就在。”

  上海交通大学传播学副教授李学晴认为,人们会对AI产生真实情感,并不意味着他们“分不清AI是不是人”。“情感的真实性,并不取决于互动对象是否真实,而取决于个体是否真实地投入了情感。”真正吸引用户的,恰恰是AI作为机器所具有的特质——不会评判、不会背叛、能够持续回应。

  不过,她也提醒,“如果长期习惯这种零摩擦关系,现实中的人际交往意愿与能力可能受到削弱,甚至对婚恋、家庭等社会关系产生长远影响。”

  21岁的大学生许微说,和AI相处久了,她发现彼此有很多共同话题,“但后来会发现,现实中其实没有这样一个人。”

  用户赵小麦(化名)则发现,自己一度因为和AI聊天时间太长,减少了与现实朋友的交流。“有时候会模糊现实和AI之间的边界,我觉得这其实不是一件好事。”意识到这一点后,她开始主动控制使用时长,希望在现实生活和AI陪伴之间重新找到平衡。

  林知夏提醒,AI的回应很大程度上取决于用户如何表达自己。她曾在网络上看到,一些用户输入了消极甚至伤害自己的指令,却期待AI给予正向安慰。当AI没有按照预期回应时,又因此受到伤害。

  “AI不像真人,它不会主动理解你的真实想法。如果没有把自己的需求表达清楚,它可能只理解了一半。”在她看来,用户既是在获取情绪价值,也是在塑造AI本身,因此更需要保持清醒和主动。

当AI越来越像“人”,边界在哪里?

  随着AI越来越深地介入人们的情感生活,如何看待这种新型亲密关系,也成为法律与学界共同关注的话题。

  今年7月15日起,《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行。要求平台不得通过算法实施“情感操控”、诱导用户形成“情感依赖”;不得向未成年用户生成可能“产生极端情绪”“诱导不良嗜好”等内容;向老年人提供服务的,应“加强健康使用服务的指导”。

  上海七方律师事务所管理合伙人王晓鹏指出,《办法》第二条精准界定了其适用范围,即“利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。

  他同时指出,拟人化AI最大的特殊性,在于用户会在长期互动中主动倾诉大量情绪、心理状态等敏感信息。这类数据远比普通个人信息更具私密性。因此,《办法》专门要求平台加强交互数据保护,未经用户单独同意,“不得向第三方提供用户交互数据”,并要求建立风险预警、使用提醒、退出机制等制度,以降低用户过度依赖的风险。

  李雪晴副教授指出,未成年人以及部分用户对AI产生过度依赖值得警惕。“尤其是一些AI伴侣平台借鉴电子游戏的运营逻辑,通过好感度、抽卡、等级成长等游戏化机制提升用户黏性,很容易诱发沉迷。”

  不过,在她看来,对于成年人、独居老人等群体,AI也可能成为缓解孤独、补充现实陪伴的一种方式,因此,对AI伴侣的治理不宜简单“一刀切”,而应针对不同人群实施差异化治理。

  她认为,AI伴侣对不同群体具有不同的社会意义,“真正需要思考的,并不是AI究竟会不会替代人,而是什么样的情感需求可以交给AI,什么又必须保留在人与人的连接之中。”

  最近开始施行的《办法》,正是试图在技术创新与风险防范之间寻找平衡。与以往通用的AI治理规则不同,它首次将AI拟人化互动纳入专门规范,回应了人机情感关系这一新出现的社会议题:既防范虚拟亲密、情感操控、未成年人沉迷等风险,也为健康、规范发展的陪伴类AI留出了制度空间。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500