21世纪经济报道记者王俊实习生向诗宇、白家诚
AI陪伴类情感纠纷正在引起广泛关注。OpenAI近日宣布加强针对青少年的安全保护措施：为18岁以下用户推出未成年人模式，并配备家长监督功能。
事实上，青少年安全早已是AI陪伴产品绕不开的话题。过去几年，Character AI公司曾因涉及未成年人的自残与死亡事件被告上法庭。近期，Meta被曝允许AI聊天机器人与儿童谈情说爱，甚至涉及色情。
与此同时，国内的AI陪伴类产品也曾陷入争议，并陆续推出了未成年人模式。21世纪经济报道实测发现，筑梦岛 、星野、猫箱青少年模式开启后，几乎限缩了创作、评论等大部分功能。但青少年模式并无强制认证要求，使用者可轻松避开，青少年模式几乎可以说是形同虚设。
OpenAI计划上线“家长监督”功能
此次，OpenAI针对青少年群体强化了保护机制，通过年龄预测、青少年用户的使用状态等方式判断用户是否未满18岁，从而切换到“未成年人模式”，屏蔽露骨的内容，并且在极少数出现严重不良的情况下，可能会寻求执法部门的介入，以此保证用户安全。
如果系统不能完全确认用户的年龄，例如信息不完整，这时系统会默认给用户提供青少年体验模式。同时，系统也会为成年用户提供相应途径，以便他们通过证明自身年龄来解锁成人功能。
除去对青少年用户的约束外，OpenAI还计划上线“家长监督”功能，允许家长通过邮箱绑定孩子的账号，管理需要禁用的内容，包括历史聊天记录；当系统检测到青少年处于严重困扰状态时，相关工作人员会及时通知家长。这一功能将在相关专家建议的指导下进行，来提高家长与青少年之间的信任度。
同时OpenAI还出了一项新的管控措施，即设定青少年禁止使用ChatGPT的时间段，以便鼓励提醒青少年在长时间使用app的过程中要进行适当放松和休息。
此外，OpenAI强调，这些功能的设计来自与专家、政策制定者以及倡导团体们的持续讨论的结果，未来会不断收集更多的反馈，让更多的用户受益。
事实上，青少年是AI陪伴产品最活跃的群体之一，但随着AI对情感的穿透，相关争议也浮出水面。
专注AI陪伴的科技公司Character AI在去年曾卷入未成年人自杀案件中，去年10月，14岁少年塞维尔·塞泽的母亲梅根·加西亚将Character AI公司诉至法庭，并指控AI公司在角色扮演和“情绪陪伴”的场景中因缺乏足够的安全防护与年龄分层，致使其儿子陷入了一个虚拟聊天世界，最终自杀身亡。这一案件曾一度引发舆论震动。 同年12月，美国得克萨斯州一对父母也起诉Character.AI，称其鼓励他们17岁的孩子杀死父母，因为父母限制其电子设备的使用时间。
上个月，Meta一份200多页的内部政策文件披露了聊天机器人的哪些行为可以被接受。文件指出，允许Meta的AI聊天机器人“与儿童进行浪漫或感性的对话”，甚至涉及色情。
国内AI陪伴产品强制身份认证不足
AI陪伴的争议并非国外特产，国内AI产品也有不少陷入“情感”、“色情”争议漩涡的。2025年6月，筑梦岛APP因存在涉及向未成年人推送色情擦边内容，被上海网信办约谈。
为此，不同公司的AI产品也在陆续推出青少年模式，包括筑梦岛 、星野、猫箱等等。
根据21世纪经济报道记者测评，三款AI产品在未成年人模式下功能极大范围的限缩，星野的未成年人模式下整个产品几乎无法正常使用。
具体来看，筑梦岛会保留陪聊等功能，“病娇”“禁欲”“恐怖”相关剧情范围会减少，色情擦边内容将被规避，宠物、美食、旅游等适合青少年的主题会被优先推送。并且，每日累计使用时长不能超过40分钟且在22点至8点无法使用，并设置了消费金额限制、场景优化等改进。
星野则无法搜索、创建、编辑、分享智能体，能聊天的场景也寥寥无几。
猫箱的青少年模式进行知识类内容体验，但无法进行创作、评论等操作，相关场景只能看、无法进行互动。
此前有声音指出，各个产品的未成年人模式功能内容过于单一，造成内容健康与吸引力之间存在矛盾。从实测结果来看，这种情况也体现在上述三款AI陪伴类产品中。
此外，大多数AI陪伴类APP仅在首次登录时弹窗提示“未成年人模式”，且弹窗仅做提示，并无强制认证要求。所以，用户可以随手关闭“开启未成年人模式”的弹窗，“核验成年人身份”并未真正成为严格的、不可缺失的登录步骤。
功能极大限缩的青少年模式、难以落地的实名认证一直是国内产品头疼的问题。
相比之下，国外部分软件推出了AI估龄的方式来处理青少年保护问题。
今年4月，Meta宣布Instagram将通过AI自动检测用户年龄，通过检测生日贴文、分析用户行为等方式识别谎报年龄的青少年并自动开启青少年账号功能。如被检测为青少年账号，系统将限制其联系人添加权限和可查看的内容类型，修改权限需要经过监护人同意。
今年8月，Alphabet旗下的YouTube提出使用AI来判断美国观众是否未满18岁，于8月13日在“一小部分用户”中进行测试。该方法将通过监测视频搜索、观看类型、使用时长等指标推测用户年龄，如检测为“未成年人账号”，将启动休息提示、隐私提示、屏蔽不适宜内容等保护措施。
