• 最近访问:
发表于 2026-05-07 06:11:11 股吧网页版
合力监管“拟人化AI”服务(金台锐评)
来源:人民日报

  面对“拟人化AI”,要防止技术应用“替代社会交往、控制用户心理、诱导沉迷依赖”

  近日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》,办法将于7月15日起施行。

  人工智能(AI)的拟人化互动,在缓解老年人孤独感、提供个性化适幼陪伴、拓展文化传播形态等方面展现出独特潜力。然而,其带来的挑战也愈发凸显:从技术逻辑看,人工智能拟人化互动的“情感表达”并非真实共情,本质上是基于算法和大数据的智能生成结果;从商业逻辑看,为最大化用户留存,算法往往被设计为扮演“完美伴侣”,极易诱导用户产生亲密依赖,并暴露情感需求、价值取向、心理健康状况等信息。这不仅侵蚀用户情感自主性,冲击现实人际关系,还可能侵犯人格尊严和隐私等权利乃至危害国家信息安全。

  法治是防范技术风险、引导其健康发展的重要基石。《人工智能拟人化互动服务管理暂行办法》所体现的包容审慎、分类分级监管理念,精准把握了发展与规范之间的平衡。它既划出了清晰红线,严禁危害国家安全和社会稳定的内容,压实服务提供者的安全主体责任;也预留了创新空间,鼓励在文化、养老等民生领域的正向探索。这种“底线守护”与“高线引领”相结合的思路,变被动应对为主动施治,体现了前瞻性的治理智慧。

  让人工智能拟人化互动服务行稳致远,还需在实践层面深化认识。技术的“拟人”终究不是“真人”,无论互动如何逼真,其本质仍是算法与数据,缺乏人独有的情感温度、道德判断与社会责任感。因此,所有服务的技术设计与应用,都必须坚持以增进人的福祉为根本价值判断,面对“拟人化AI”,要防止技术应用“替代社会交往、控制用户心理、诱导沉迷依赖”。

  有效的治理必然是协同的治理。人工智能的跨界融合特性,决定了其治理需要网信、发改、工信、公安、市场监管等多部门形成监管合力,还需要和企业的伦理自律、行业的规范标准、社会的监督评议与用户素养的提升等联动。正在探索中的人工智能沙箱安全服务平台,正是这种协同治理理念的实践,旨在通过可控环境提前发现并化解风险。

  展望未来,拟人化互动将更深度融入教育、医疗、心理支持等专业领域。这要求我们的治理思维必须具备更强的前瞻性与适应性。法律规范需随技术迭代而动态调适,人机交互的伦理框架需在开放对话中持续完善,公众的数字素养也需同步提升。我们不仅要筑牢“不能做什么”的底线,更要思考并引导“应当如何更好地做”,将技术资源导向解决社会痛点、促进公平正义、丰富人的精神世界的正确目标。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500