当前,人工智能技术的迅猛发展正引发模型失控、深度伪造以及伦理失序等安全风险,传统静态监管方式已难以适配人工智能发展与安全的双重需求。“十五五”规划纲要提出,“建立适应新业态发展的高效便捷准入机制,探索‘沙盒监管’、触发式监管等新型监管方式”。其中,触发式监管作为一种风险导向监管方式,能够适应人工智能安全治理的敏捷性、动态性等特征,平衡人工智能发展与安全。
何为触发式监管?
触发式监管强调“无事不扰、有因必查”,通过设定明确的监管触发条件和风险阈值,实现对市场主体的精准监管。目前,触发式监管已经在新疆、上海、江苏、浙江等多地实践,并以信用风险分类为核心,将风险防控贯穿事前、事中、事后全链条。
就已有实践来看,触发式监管的内涵是监管主体基于人工智能、大数据等数智技术,设定明确、透明以及可操作的合规边界与风险阈值,当被监管对象的行为触及相应风险阈值时,自动触发对应的监管措施。一般而言,在风险阈值内,监管主体采取包容观察的态度,最大限度减少行政干预,而超出了风险阈值则根据风险等级采取差异化的处置措施。此外,触发式监管还属于一种基于信用的监管,通过将信用状况作为触发条件与监管强度的重要依据,有利于塑造企业主动守信、合规经营的市场氛围。
平衡发展与安全
与传统监管方式不同,触发式监管的优势在于其精准性与灵活性,既能防止监管缺位引发的安全风险,又能推动人工智能技术及产业的发展,避免过度监管抑制创新。
第一,有利于实现安全风险的精准防控。触发式监管通过搭建一体化智能监管平台、打通数据壁垒、整合信息资源,能够精准识别风险对象以及风险环节,将有限的行政资源从“大海捞针”式排查中解放出来。
第二,有利于保障技术创新的弹性空间。触发式监管主要聚焦结果而非技术发展过程。换言之,在预设风险阈值后,无论人工智能技术如何迭代,应用场景发生怎样的变化,只要不触碰“黄线”与“红线”,就能获得充分的创新空间,有效降低技术初创时期的制度性成本。
第三,有利于推动治理方式的前置转型。触发式监管能够依托常规化的风险监测机制,以数智技术对人工智能系统的研发、部署、应用等全生命周期实施监控,在风险萌芽阶段及时介入并精准处置,实现风险防控从“事后处置”向“事前预警”转变,契合人工智能风险动态演化的特征。
实施路径
第一,明确分类分级触发条件,实现精准监管。确保“无事不扰、有因必查”需将人工智能分类分级监管、企业信用与“红黄线”等触发情况相结合,采取差异化的监管响应措施。其中,“黄线”作为风险预警线,依旧以提醒、约谈、自主整改为主,而触发“红线”则采取暂停运行、下架整改以及罚款等措施。在日常监管的过程中,监管主体需将“红黄线”转化为具体、可观测的量化或定性阈值,让“红线不能碰、黄线需警惕”的要求落地为可操作性的监管准则。
第二,搭建智能一体化触发监管平台,强化技术赋能。人工智能的颠覆性特质决定了其监管不能沿用传统条块分割的方式。对此,需要搭建全国性智能一体化触发监管平台,利用人工智能、大数据、区块链等技术,以“技术治理”来“治理技术”,从技术层面实现精准识别与自动触发。同时,平台还需嵌入动态迭代算法,根据人工智能的实际发展趋势与风险变化,自动优化监测模型、更新风险识别规则,确保监管技术与人工智能迭代同频同步。
第三,强化协同治理,形成监管合力。遵循大安全这一综合治理理念,强化各主体的责任落实,形成监管合力。一是明确政府监管部门的职责分工,各司其职、协同联动;二是强化人工智能企业主体责任,落实全流程安全义务,主动上报风险并对触发“红黄线”问题自查自纠与及时整改;三是发挥行业协会作用,推动行业制定自律标准与触发条件指引,引导企业规范发展;四是畅通社会监督渠道,鼓励公众、媒体对企业的违规行为进行举报,并主动参与触发阈值的设定与完善。
(作者为中国浦东干部学院干部教育研究中心研究员、上海市习近平新时代中国特色社会主义思想研究中心研究员)