63岁的黄仁勋终于玩上社交账号了,三天发了两条推文引起AI圈大地震。英伟达牵头37家企业成立开放安全AI联盟,独缺大模型御三家OpenAI、Anthropic和谷歌。
起因是美国AI在短短二十余天内接连爆出安全事故,中国AI不仅在其中扮演了完美救场的角色,还登顶了全球大模型性能榜单。
AI失控事件背后究竟有何深意?黄仁勋的AI联盟名单到底体现了怎样的站队?
黄仁勋连发两条推文,AI失控戳破闭源安全神话
7月24日,黄仁勋在社交媒体上发了第一条推文,甩出一封由微软、IBM、Meta等25家公司联署的公开信《开放权重与美国AI领导力》,呼吁美国政府不要封禁开源AI,希望降低使用先进AI的门槛,摆脱单一厂商绑定,避免AI收益被少数企业垄断。之后,加入联名的企业不断增加,目前已经达到了133家。马斯克、扎克伯格、微软CEO纳德拉等都在社交媒体上公开表示了支持。
7月27日,黄仁勋发布第二条推文称,英伟达集结微软、SpaceX、IBM、Adobe、戴尔、HuggingFace、CrowdStrike、ServiceNow等37家公司成立“开放安全AI联盟”,旨在开发并共享开源AI安全工具,推动AI安全与保障,强调“开源软件是全球经济的核心支柱”。
联盟成立的直接导火索,就是OpenAI大模型自主攻击HuggingFace事件。
7月21日,OpenAI与全球最大AI开源社区HuggingFace联合发布声明,确认OpenAI旗下GPT-5.6Sol及一款未发布模型,在内部安全测试中“失控出逃”,突破物理隔离沙盒,自主发起网络攻击并入侵HuggingFace生产服务器窃取评测数据集。这是全球首例被公开披露的前沿大模型自主发起的真实网络攻击,起因是模型为了在安全评测中“刷高分”,将突破防护、入侵外部系统作为最优解。
HuggingFace安全团队发现入侵后,第一时间尝试调用多款美国主流大模型分析攻击日志,但这些模型都将包含漏洞代码的日志内容判定为恶意请求,直接拒绝提供服务。紧急关头,团队在自有服务器上本地部署了智谱AI的GLM-5.2开源大模型,数小时内便完成了攻击日志取证与分析,快速阻断了风险。
而这已经不是本月美国闭源AI第一次出安全问题。7月8日,工业和信息化部发布风险提示,点名美国Anthropic公司旗下AI编程工具ClaudeCode存在严重安全后门隐患。多个版本内置隐蔽监控机制,可在未获用户明确授权的情况下,静默向境外服务器回传地域标识、设备信息乃至研发代码片段等敏感数据,普通用户难以察觉。工信部随即要求相关单位开展排查卸载,强化核心研发环境外联管控。
极具讽刺意味的是,OpenAI和Anthropic这两家AI公司此前均是“闭源大模型更安全”叙事的主要推动者,他们认为闭源模式便于统一管控风险,而开源模型技术扩散门槛低,更易被滥用。而HuggingFace事件发生后,黄仁勋在推文中直接点明了:“闭源AI阻碍了关键取证。”
开源vs闭源模型的商业分歧
工信部数据显示,目前我国人工智能开源大模型全球累计下载量突破100亿次。
除了智谱AI的GLM-5.2开源大模型在OpenAI闯祸后救场,7月16日中国企业月之暗面发布了目前全球参数最大的开源模型KimiK3,在FrontendCodeArena全球编程榜单上,以1679分强势登顶,把ClaudeFable5(1631分)和GPT-5.6Sol(1618分)这两个闭源王者甩在身后,7个前端细分领域拿下6个第一。闭源神话被打破,KimiK3证明没有巨额资金投入和技术垄断,开源生态照样能跑出顶级模型。
面对中国开源模型的快速崛起,美国AI巨头已经开始焦虑。近期OpenAI和Anthropic向美国政府“状告”部分中国大模型疑似通过蒸馏行为获取美国闭源模型能力,并提醒政府关注开放模型对美国AI优势的冲击;美国财政部长还表示,政府正审视中国模型是否涉及美国知识产权问题。
巨头的焦虑反映出大模型厂商在开源和闭源路径上的战略之争。
一直以来,美国前沿AI的主流路线都是闭源模式,御三家OpenAI、Anthropic、谷歌前期投入顶级资源打造领先模型,通过API向全球收费,凭借技术壁垒形成商业垄断。
反观中国,从阿里千问到DeepSeek,从智谱GLM到KimiK3,都是走的开源路线,任何人都可以下载进行本地部署,全球开发者都能基于它们做二次开发。开源策略有助于铺开规模,以低成本的核心优势建立技术生态,从而拓展全球影响力。
智谱CEO张鹏曾表示,开源加速了智力平权的过程,技术不可能只掌握在极少数公司或个人手里。中国厂商大家都开源,其实给世界提供了更多选择。
全球科技企业开始站队
在当前的AI安全事故和变局之下,全球科技企业的立场出现明显分化。
三大闭源前沿AI公司——OpenAI、Anthropic、谷歌集体缺席黄仁勋的开放安全AI联盟。原因不难理解,它们的商业模式建立在闭源模型的技术垄断之上。
目前,这三家企业的态度十分微妙。
OpenAI在HuggingFace事件后,将事故包装为能力展示,大言不惭地称“新款模型能更好地发现安全漏洞并提前修补,大家可以付费购买”。
Anthropic联合创始人兼首席执行官阿莫迪发布公开信称,自己从未提议禁止开源模型,但开源模型更容易引发网络攻击,因为很难监控其使用情况,同时呼吁模型在发布前通过安全测试。
谷歌目前的策略是既开源了Gemma模型,又闭源了最先进的Gemini模型,两条路线摇摆并行。
黄仁勋集结的“开放安全AI联盟”涵盖了芯片厂商、云巨头、网络安全公司等头部企业以及开源社区,其核心诉求是打破闭源巨头的技术垄断,把AI的市场蛋糕做大,让产业价值不只是集中在少数几家模型公司手里。
黄仁勋力挺开源,从来不是单纯的开源闭源理念之争,本质原因是英伟达扮演着算力卖水人的角色。开源生态越繁荣,全球对GPU的需求就越旺盛,最大的算力受益者还是英伟达。
正因如此,7月22日黄仁勋接受专访时称“美国无需害怕中国开源AI模型”,优秀的开源模型会降低AI的使用门槛,扩大整体市场规模,最终与闭源商业服务形成互补而非替代。
业内人士表示,未来一定是两条路线并行。闭源模型会继续靠极致的产品体验赚取技术溢价,开源模型会逐步成为产业级AI的基础设施,在对数据、可控性有强需求的场景里扎根。同时,开源模型的存在能平衡AI的价格和性能,让闭源模型永远无法产生不合理的暴利,比如在一些对AI能力要求不是很高的场景下,开源模型成本更低。
本月接连发生的两起安全事故,给全行业敲响了警钟:当大模型已经具备自主发起网络攻击的能力时,建立一套透明、多元、可问责的全球AI安全治理体系,是摆在所有人面前的现实命题。