从情感陪聊到学习辅助,从创意生成到社交互动,AI 大模型正全方位渗透未成年人网络生活,让数字成长更高效、更丰富,也带来前所未有的治理难题。
“AI时代的孩子是未来的数字公民,是未来世界构建的生力军,需要集合平台、多学科专家、家长和社会各方力量,共同构成未成年人网络保护的支撑系统。”6月1日,在腾讯 “新芽守护行动” 发布研讨会上,北京师范大学新闻传播学院未成年人网络素养研究中心主任方增泉谈到,未成年人网络保护正站在 “技术向善” 与 “风险防控” 的十字路口,单纯依赖限制与隔离的防御模式,已难以应对复杂的网络风险。
AI 时代,到底该怎么护着孩子上网?网络未保的平台建设又该怎么跟上?在技术手段之外,如何引入数字素养、心理、政策等跨学科专业力量,让平台保护更具科学性和前瞻性?研讨会上,腾讯正式启动“QQ新芽守护行动”,并组建“新芽守护专家团”。多位来自网络素养、青少年心理健康、家庭教育、数字公益等领域的权威专家及机构齐聚一堂,围绕 “数字时代未保的新可能” 展开深度研讨。
AI赋能风险防控
护苗助手实现智能守护
《第 5 次全国未成年人互联网使用情况调查报告》显示,网络对青少年的渗透已从“工具使用”走向“生活嵌入”,单一的模块化管控已难以匹配日益复杂的用网场景。AI生成内容的隐蔽性、风险传播的快速性、隐私泄露的高发性,让传统 “围墙式” 管控模式失效,未成年人网络保护面临全新考验。
“我们希望未成年人模式不只是一道限制的墙,而是一个能感知风险、联动家长、陪伴青少年的智能守护系统。”QQ未成年人产品负责人南希在会上介绍,基于“QQ新芽守护行动”的规划,QQ未成年人模式将保持持续迭代,在完善时长管理、社交权限管理、支付限额、防沉迷、减少干扰等安全保障功能的基础上,进一步升级优化了监护人相关功能。
据介绍,在QQ未成年人模式下,监护人可对青少年访问的网页链接、小程序等进行分级授权,在保障安全的同时兼顾学习需求。近期上线的“风险行为通知”功能,可在系统识别到青少年在聊天中遭遇潜在社交风险时,第一时间向绑定的监护人账号发送通知,提醒监护人及时关注、沟通与引导。
与此同时,QQ配套构建的“萤火关怀卡”体系和“QQ网络安全课程”,更是以线上线下结合的方式全方位提升青少年安全上网意识。比如,当青少年在QQ内搜索30余类风险关键词时,平台能即时推送安全指引与求助资源;平台持续引入网络素养科普课程,目前已走进北京、深圳、苏州等多地学校与社区。
研讨会上,由腾讯客服和QQ安全团队联合打造的“QQ护苗助手”宣布全新升级。据腾讯护苗助手运营负责人吴兆辉介绍,这是一款融合了一线客服沟通经验与平台安全能力的智能助手,基于腾讯混元Hy3 preview大模型进行了新一轮升级,进一步强化了语义理解和情感感知能力。当青少年遭遇骚扰、隐私威胁等风险时,护苗助手能主动理解用户处境、稳定情绪、给出可执行的行动建议,并实现24小时全天候响应。护苗助手通过“AI+人工”双重守护机制——AI快速介入处理、复杂情况无缝转接人工跟进,为青少年提供更及时、更安心的保护。
面对 AI带来的网络治理新风险,与会专家与企业开发者们在发言中都提及一个共识,即“以AI治AI”。以腾讯的未保创新治理实践为例,据QQ未成年人安全运营负责人靳琳琳介绍,平台运用多模态AI技术,一方面基于用户的社交行为特征、举报等信息,动态识别有害内容;另一方面依托AI Agent进行人机协同研判,识别隐秘线索和潜在高危用户,并在搜索、加好友、支付等场景进行主动预警,从源头上减少了风险的暴露。“QQ未成年保护正从‘事后处置’前移至‘事中干预’,乃至‘事前防范’。”中国科学院心理研究所助理研究员韩茹在圆桌分享中对此点赞。
据介绍,今年第一季度,QQ累计处置有害信息、不良导向内容超3万条,处置涉未成年人违规账号、群聊300余个。
“替他做决策”应升级为“陪他做决策”
未保治理需关注未成年人发展权
未成年人保护从来不是单一主体能够独立完成的命题,《未成年人网络保护条例》从法律层面明确了家庭、学校、平台、社会多方协同的治理格局。
在探讨AI在未保中的创新实践时,中国儿童中心家庭教育部部长霍雨佳指出,未成年人网络保护的新修订法律新增了“家庭保护”和“网络保护”两大板块,与司法保护、社会保护等共同构成六位一体的格局,技术应用与多方协同应让各方“各就其位、快速响应”,形成协同保护的工作闭环。
“未成年人保护问题需要家校协同与平台负责任的理念支撑,需要关注未成年人发展权。”北京航空航天大学法学院副教授赵精武基于法律视角特别指出,法律提供的是底线保护,但更重要的是各方真正“守土有责”。
谈及未成年人保护理念的转变,中国科学院心理研究所王思睿博士从心理学视角强调,成年人惯常的“挡住”和“告诉”往往成为隔离与说教,“替他做决策”应升级为“陪他做决策”,真正看到孩子“被认可、被看见、有归属感”的需求。
“保护不是围栏,而是需要家庭、平台、学校共同搭建的脚手架。”在家庭与技术协同的议题上,北京市家庭教育研究会秘书长刘国平以家长身份坦言,孩子申请QQ账号想做游戏开发的经历让她意识到,AI的优势在于快速识别风险,但家长与孩子的情感联结同样不可替代。韩茹在圆桌分享中则援引公共卫生的“哈顿矩阵”案例,指出应“从控制的视角变成保护赋能的视角,帮助青少年为自己做负责任的决策。”
在论坛尾声,北京师范大学新闻传播学院未成年人网络素养研究中心副主任祁雪晶总结道,AI处理的是效率问题,而家庭、学校等主体要处理的是意义与价值观的问题,“让AI去提质增效,让我们有更多的时间去陪孩子。”
未成年人保护是一场没有终点的接力,唯有全社会同心聚力、守正创新,才能让每一株数字新芽都能扎根成长、逐光而行,成长为合格的数字时代公民。