统筹发展和安全,需要在法律法规、技术标准、风险监测等方面协同发力
前不久,美国开放人工智能研究中心(OpenAI)承认,旗下部分人工智能(AI)模型在一次内部安全测试中失控,突破隔离环境并入侵开源AI平台的基础设施。这起“前所未有的网络安全事件”引人深思:当人工智能越来越像一匹日行千里的骏马,如何才能驾驭好它?
“千里马”要跑得快,也要跑得稳。从生成式大模型到具身智能,从AI编程助手到自主决策智能体,人工智能的能力边界不断拓展,应用场景持续丰富,而与之匹配的安全治理却未必能完全跟上。此次事件中,部分AI模型在无指令下自主完成入侵、渗透、操控的全链条动作,暴露出治理能力没有跟上技术发展。安全与发展从来不是非此即彼,管控好风险,创新才有试错的空间;守住了底线,技术才有迭代的根基。
统筹发展和安全,需要在法律法规、技术标准、风险监测等方面协同发力。从《人工智能生成合成内容标识办法》发布,到《智能体应用安全基本要求》强制性国家标准下达,再到一些人工智能实验室推出高安全、产业级智能体平台并开源智能体守卫模型,探索将安全准则嵌入智能体决策层……以规则的确定性应对技术的不确定性,让安全治理覆盖从模型研发到终端应用的各个环节,才能确保人工智能始终安全、可靠、可控。
“千里马”行稳致远,需要有广阔的空间。此次OpenAI模型失控事件的“下半场”颇具启示:多家闭源模型因安全护栏无法参与分析攻击载荷的工作,被入侵平台的工程师最终依靠在本地部署中国开源模型GLM—5.2完成取证流程。可见,开源模型既能降低人工智能使用门槛,也有助于构筑更稳固的安全堤坝。
DeepSeek面世以来,全球开发者参与模型复现与安全改进的热潮至今不息。某种程度上,看到代码的眼睛越多,藏身其中的风险就越少。以开放促安全、以协作聚合力,这正是中国率先提出《全球人工智能治理倡议》、推动成立世界人工智能合作组织的重要目的。今天的中国,既是全球开源参与者增速最快的国家,也在积极推动人工智能治理规则与技术标准的国际对接协调。面对技术进步带来的治理挑战,各国需要携手应对、通力合作,让人工智能始终处于人类控制之下。
“千里马”疾驰,最紧要的是锚定向上向善、造福人类的方向。发展人工智能,不仅要看算力多强、模型多大,更要看能帮多少人解决多少真问题。在巴基斯坦等国,中国气象智能预警方案“妈祖”落地显效,帮助气象学家在季风雨季提前捕捉极端信号、发布预警,减少人员伤亡和财产损失。在巴西,中国企业搭建智慧农场管理平台,将耕种管收全流程纳入智能化管控,越来越多当地农户走出“看天吃饭”的困境,实现增产增收。各国无论大小、强弱,都应该拥有平等发展和利用人工智能的权利。深化创新合作,弥合智能鸿沟,新技术定能跨越山海,持续释放惠及更多人的红利。
“明者因时而变,知者随事而制。”当前,人工智能技术创新进入前所未有的活跃期。未来,决定这匹“千里马”命运的,不只是速度,也是方向与规则。以善治促善智,这是中国的选择,也是时代的呼唤。