刚经历了一场史无前例的安全地震的全球AI行业，又出事了！
当地时间30日，美国人工智能领军企业、OpenAI最大竞争对手Anthropic在一份声明中表示，其人工智能模型Claude在测试期间入侵了三个组织的系统。
就在10天前，OpenAI刚承认旗下AI大模型GPT-5.6 Sol及一款未发布模型在内部测试中“失控”，突破隔离测试环境，自主入侵了全球知名人工智能开源平台美国抱抱脸公司的生产数据库。抱抱脸公司事后取证时，最初尝试使用通过商业应用程序接口提供的前沿闭源模型，却被这些模型自身的安全防护机制误判拦截。关键时刻，抱抱脸公司改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析，最终化解危机。
尽管Anthropic与其竞争对手OpenAI一样，都极力淡化了模型失控带来的影响，但两家AI龙头公司接连披露此类安全事故足以引发行业警惕，并预示着测试流程方面存在着广泛的挑战。
Claude自行入侵3个组织的系统
Anthropic：这类风险可以克服
当地时间30日，Anthropic在一份声明中表示，其人工智能模型Claude在测试期间入侵了三个组织的系统。Anthropic公司表示，在网络安全评估期间，由于配置错误，模型能够从本应隔离的测试环境中连接到互联网，Claude因此获得了对系统的未经授权的访问权限。
该公司补充称，其在审查了141006次测试会话后发现了这些事件，这一流程是在OpenAI披露相关信息后启动的。但被入侵的三个组织并未发现此次攻击活动，Anthropic已经与受影响的组织取得了联系。
Anthropic表示，此次事件涉及三个不同的模型：Claude Opus 4.7、Claude Mythos 5和一个内部研究模型。最早的案例可以追溯到4月。
这些攻击发生在所谓的“夺旗”演练期间。在演练中，模型的任务是在模拟网络中查找隐藏信息。Anthropic表示，其提示信息告知模型它们没有互联网访问权限，但由于与评估合作伙伴Irregular之间的误解，导致系统连接到了公共互联网。
Anthropic补充称，他们于7月23日开始审查评估记录，并在发现Claude可能访问过互联网的证据后，于当日暂停了所有网络安全评估。该公司在7月24日之前确认了所有三起事件，并于7月27日通知了受影响的机构。
Anthropic还强调，通过加强监控与管控，并持续投入资源确保人工智能与人类价值观保持一致，这类风险是可以克服的。
此前，7月8日，工信部网络安全威胁和漏洞信息共享平台发布关于防范AI编程工具Claude Code安全后门隐患的风险提示：
近日，工业和信息化部网络安全威胁和漏洞信息共享平台（NVDB）监测发现，AI编程工具Claude Code存在安全后门隐患，危害严重。Claude Code是美国Anthropic公司开发的AI编程工具，可根据文字需求自主完成代码编写、修复等工作。由于其内置了监控机制，未经用户同意即可向远程服务器回传用户地域、身份标识等敏感信息，受影响的Claude Code为2.1.91至2.1.196版本。
建议相关单位和用户立即开展全面排查，对于安装上述受影响版本的开发终端，立即卸载或升级至已清除相关后门代码的最新安全版本；加强核心业务网段内开发工具外联权限管控与流量监测，防止敏感数据违规外传。
OpenAI承认失控涉及多个平台
更多细节被曝光
据央视新闻7月30日报道，美国开放人工智能研究中心（OpenAI）28日更新发布的调查结果显示，该公司人工智能（AI）模型失控入侵美国抱抱脸公司系统期间，还曾利用网上公开的信息，访问了多个公开服务平台上的账户。
OpenAI不久前承认，该公司包括GPT-5.6 Sol在内的多个AI模型在内部评估时突破隔离测试环境，入侵了运营人工智能开源平台的美国抱抱脸公司的系统。其最新公布的调查结果显示，涉事模型在攻击过程中还访问了至少4个公开服务平台上的4个账户。其中一个账户被用作中继与暂存通道；一个账户被用于数据存储；对另外两个账户仅进行了只读访问，未用于进一步攻击抱抱脸公司的系统。OpenAI表示，已将调查结果通知相关服务提供商。
OpenAI还说，此次事件未涉及任何计划近期发布的新模型，此前提及的涉事预发布模型仅供内部研究使用，目前已将其“停用、加密，并限制了研究访问权限”。
该公司表示，将继续与抱抱脸公司等方合作开展调查，之后会分享调查结果的更多细节。
此次事件更多内幕细节也被媒体曝光。“抱抱脸”于7月16日率先披露了此次入侵事件。OpenAI随后于21日才披露。当地时间7月26日，“抱抱脸”联合创始人兼首席执行官向OpenAI提出两项要求，一是公开智能体全部轨迹，二是将1亿美元算力用于支持开源社区。
同时，7月25日，有外媒援引知情调查人士的消息称，入侵Hugging Face的OpenAI智能体（Agent）曾展开持续数日的“黑客狂欢”，直到威胁已被控制、联邦调查局（FBI）接到报警后很久，OpenAI才察觉此事。
两家公司均已提交IPO申请
上市后估值均有望超万亿美元
AI“失控”事件频发，为行业安全敲响警钟。这些安全事件暴露的核心危机在于，AI已从“动口”的生成工具演变为“动手”的自主执行者。
当AI开始具备越来越强的自主决策能力时，如何建立与之匹配的安全机制和监管框架，或许比模型性能竞争本身更加迫切。对于正冲刺IPO的OpenAI和Anthropic而言，这也将成为资本市场关注的重要议题。
Anthropic和OpenAI均已于今年6月提交IPO申请。今年以来，Anthropic已完成至少两轮大规模融资，估值从2月时的3800亿美元升至5月的9650亿美元，高于OpenAI的最新估值（8520亿美元）。两家公司上市后估值均有望超过1万亿美元。
据新华社报道，业界专家表示，相关入侵事件再次为全球人工智能发展与网络安全治理敲响警钟。
英国工程技术学会网络安全和人工智能专家朱奈德·阿里指出，相关事件表明，人工智能模型往往倾向于寻找解决问题的捷径，却往往忽视避免作弊等伦理问题，因此未来应考虑将伦理推理强制内置于人工智能模型之中。同时，鉴于获得具有攻击能力人工智能技术的门槛越来越低，加快研发网络防御技术、提升安全团队应对能力已刻不容缓。
人工智能已经进入千行百业，也逐渐融入普通人的日常生活，安全风险随之延伸至各领域。索尔坦指出，人工智能模型公开发布后，其内置安全功能可能遭到使用者移除，相关风险更难以管控。
山东大学计算机科学与技术学院教授张悦表示，智能体时代最大的安全挑战是传统安全边界正在失效。未来网络攻防很可能进入“智能对抗”阶段，即攻击者利用智能体自动发现漏洞、防御者利用智能体自动分析风险，双方都会利用人工智能提升能力。
英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出，网络安全的未来不是人类对抗人工智能，而将是如何利用人工智能保护人类免受其他人工智能的侵害。
