在由中国社会科学院新闻与传播研究所、中国经营报社主办、中国社会科学院新闻与传播研究所媒介传播与青少年发展研究中心协办的“人工智能与未成年人健康成长”——《青少年蓝皮书:中国未成年人互联网运用报告(2025)》新书发布暨青少年科技创新可持续发展论坛上。关于AI时代,AI如何在青少年模式的过程中发挥作用,盛趣游戏党委书记郭臻分享了公司的创新实践。
“在一些热门游戏上,我们用一些AI与算法对游戏内容进行了实时过滤,通过精准模式拦截黄色的、低俗的、暴力的内容,有效净化了空间。”据郭臻介绍,相对于传统手段,新的算法模式大大提高了对误报、误拦截与误屏蔽的拦截。既不影响游戏玩家的丝滑感受,也让玩家感受管理不影响游戏体验,在一些热门游戏上取得了较好的成效,没有“因噎废食”。
在基础网络方面,盛趣则提出了“两个基于AI”:一是基于AI的源代码审计,利用这个模型,自动鉴别代码漏洞,提高审计的效率跟准确性;二是,基于AI的告警、过滤和清洗,降低误告警,低价值的告警。让真正的安全中心的人员去面对真正的威胁,解决真正的网络安全。
此外,盛趣游戏也在积极开发一些监督功能,帮助家长监督孩子。比如利用AI进行账户上网时间和节奏的数据分析,及时发现一些隐瞒的青少年账户,通过技术手段,切切实实地避免形式主义。
在郭臻看来,未成年人网络保护是一个系统工程,需要国家、社会、企业与学校、家庭通力合作。
首先建议把网络素养纳入学校的日常课程之一,其次亟须加强培养学生的批判性思维,“这一点对于中国学生来说尤其重要,需要孩子自己有一双慧眼,不能人云亦云”;同时家长要更多学习包括AI在内的新知识,关心学生的心理健康、生理健康,对孩子进行正确引导。
据郭臻介绍,盛趣作为游戏公司,也在进行更多的有益尝试。与真爱梦想基金会办了网络素养暑期营,利用生动的课程,互动的教学方式,让同学们充分享受乐趣的同时,潜移默化认识到了网络安全的重要性。
盛趣也在推动公司技术大咖做主题分享,比如《游戏是怎样炼成的》,帮助青少年完成从0到1的转变,从原来的被动玩家变成游戏的主动创造者。在创造过程中让青少年领悟到,游戏要让大家接受、变现营收必须符合有关方面规定,要大气,也要正能量;既要通过相关审核检查,也必须要健康。
“通过立体的全方位护城河,塑造清朗的网络环境,让青少年在这样的环境中不断成长。”郭臻进一步倡议。