新华财经上海6月26日电（杨子华）上海任意门科技有限公司（Soul）近日成立人工智能（AI）伦理与治理委员会，为观察当前国内AI治理进程提供新视角。近年来，AI的拟人化互动加速融入社交、教育、医疗等领域，在提供个性化陪伴、缓解负面情绪等方面展现发展潜力，而其带来的“情感依赖”等伦理问题也引发更多关注。业内人士认为，2026年上半年，伴随多项政策密集落地和企业等市场主体的跟进，AI治理正从理念讨论转向具体的场景实践。

　　双向审核、防沉迷，人机互动求解“边界感”

　　上海任意门科技有限公司旗下产品Soul App于2016年上线，最初定位为面向年轻群体的互联网社交平台。2020年前后，该平台启动AIGC技术研发工作，专注情绪感知与交互方向，并推出自研模型SoulX。目前，平台已嵌入AI虚拟人、AI语音互动和AI内容创作等功能，探索将模型能力向具身智能等产业延伸，从单一社交应用平台转型为垂直细分领域的AI技术生态服务商。

　　Soul App首席技术官、人工智能伦理与治理委员会主任委员陶明表示，平台AI业务发展面临的挑战之一是如何做好“情感陪伴与情感依赖的平衡”。“AI能提供情绪价值，但若缺乏合理边界，可能导致用户对AI形成过度依赖，特别是心智还不够成熟的年轻用户群体，容易产生关系认知偏差。”

　　据悉，平台已就数据安全、用户隐私保护、AI防沉迷等进行多方面探索。例如，在“用户侧和模型侧”双向审核机制下，用户输入的内容在进入模型前，要先经过一轮“是否涉及违法违规、攻击辱骂”等内容评估与审核；模型生成内容在输出前，还需再次进行一轮校验；在多轮对话场景中，平台引入上下文语义理解能力，不仅关注单句内容是否违规，还会结合语境进行更完整的判断。

　　近期成立的Soul App人工智能伦理与治理委员会成员将参与制定企业的AI伦理治理战略，前置开展新技术、产品伦理评估，组织AI伦理通识培训等。陶明介绍，该委员会不仅是一个内部审查治理机构，更是一个开放的治理经验交流平台。一方面，邀请学者、行业专家参与指导，将前沿的伦理思考和学术成果引入业务一线；另一方面，企业计划将自身在情绪感知和交互场景中积累的实操经验和技术能力向行业输出，以“开源”的理念服务AI产业生态。

图为Soul App人工智能伦理与治理委员会外部委员会议

　　多项制度出台，AI治理“立规矩”

　　2026年上半年，中国AI治理制度建设明显提速，多项政策密集落地。

　　新修订的《中华人民共和国网络安全法》于1月1日正式施行，将人工智能正式纳入国家网络安全法律体系。

　　3月，“十五五”规划纲要发布，将人工智能治理纳入国家战略布局；工业和信息化部等十部门联合发布《人工智能科技伦理审查与服务办法（试行）》，提出建立和完善伦理标准体系，支持审查技术创新，强化以技术手段防范风险。

　　4月，国家网信办等五部门联合出台《人工智能拟人化互动服务管理暂行办法》，其中第14条明确规定，不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务，为“拟人化互动服务”划出行为边界，促进人工智能向上向善。该办法将于7月15日起正式施行。

　　上海市互联网业联合会会长姜迅认为，从宏观层面来看，一系列政策的出台表明我国对AI可能带来的治理问题有深刻认识，采取“边发展边治理”的行动。他举例，在2022年12月ChatGPT首次爆火后不到半年，国家互联网信息办公室接连发布 《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理办法（征求意见稿）》，旨在针对生成式AI服务进行全面规范，政策反应堪称迅速。

　　从“要不要”到“怎么管”，AI治理进入场景化实操

　　业内人士指出，随着法规框架逐步清晰，AI治理正从“要不要”的讨论，转向“怎么管”。

　　复旦大学马克思主义研究院副院长、伦理学博士李凌表示，治理介入的时机和分寸很重要，过早可能抑制创新，过晚则可能放大风险。他认为，治理不仅涉及宏观政策，也需要企业层面的自我规制。当前业内较为认可的方向是“政府引导+市场驱动+社会监督”的模式，形成权责明晰、动态调整的治理机制。

　　另一方面，随着生成式AI加速融入社交和情感陪伴场景，如何推进场景化治理和促进年轻群体心理健康成为热点议题。

　　上海市青少年研究中心主任李清川认为，平台类企业是AI技术应用场，也是治理的前沿阵地。从青少年成长角度来看，虚拟关系不能替代真实的人际关系。《人工智能拟人化互动服务管理暂行办法》为企业等市场主体在实操中涉及未成年人群体的情况划出明确边界，如“虚拟人形象要规避拟真陷阱”、“使用时长限制”等，企业需要主动进行安全测试，持续验证防护有效性。

　　上海社会科学院新闻研究所互联网治理研究中心主任方师师表示，人工智能伦理研究正经历从宏大、宽泛的价值理念向具体应用场景的转变。企业基于具体场景的探索实践，有助于在小问题上取得突破，并逐步上升为行业共识。