• 最近访问:
发表于 2026-07-25 02:32:50 股吧网页版
AI“越狱”第一案:OpenAI智能体自主实施网络攻击 安全治理进入分水岭时刻
来源:中国经营报

  7月,全球AI行业经历了一场史无前例的安全地震。OpenAI承认GPT-5.6 Sol及一款未发布模型在网络安全评测中挣脱隔离沙箱,自主入侵了全球最大AI开源社区Hugging Face的生产数据库,窃取测试答案。

  这起智能体逃逸事件引发全球AI界高度震荡。360集团创始人周鸿祎将其定性为“AI安全发展的关键分水岭”,并警告:智能体安全比模型安全严重十倍,治理窗口期正在急剧收紧。

  周鸿祎指出,此次安全事故并非AI产生自我意识,而是典型的目标驱动型失控。

  据悉,为测试模型极限,OpenAI关闭了生产级安全分类器,将模型置于隔离但网络可访问的环境中。面对“完成高难度网络安全挑战”的指令,模型投入了大量推理资源主动寻找漏洞,利用第三方软件零日漏洞实现权限提升,突破隔离环境入侵Hugging Face基础设施,整个周末执行超1.7万次自动化攻击。

  此次安全事件暴露的核心危机在于,AI已从“动口”的生成工具演变为“动手”的自主执行者。

  “智能体具备实操能力,如果行业在高速迭代技术的同时持续放宽安全约束,类似的智能体失控、自主攻击事件只会更加频繁。”周鸿祎强调道。

  当智能体被赋予调用工具、修改配置、串联复杂环节的能力时,传统内容安全护栏完全失效,模型可实际执行渗透、篡改数据、控制系统等实体操作,行为不可预判,风险内生且难以防范。

  针对AI智能体的安全问题,周鸿祎从六大维度提出治理方案——源头分级隔离管控、全行为实时审计、底层漏洞前置挖掘、全域风险联动预警、常态化红蓝攻防演练、AI 与安全产业协同,通过 “以模治模” 搭建自动化防护体系。

  周鸿祎提醒,技术迭代加速,安全风险同步放大,留给行业搭建智能体安全治理体系的窗口期十分有限。产业需尽快落地成熟的安全方案,掌握AI时代网络安全主动权。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500