21世纪经济报道记者章驰
每周，我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态，并分析其热搜指数与风险指数，从舆情热度与综合风险两个维度进行评价。
本周我们关注误导用户延误就医，OpenAI遭遇重大诉讼；法国通过法律，禁止15岁以下未成年人使用社交媒体；Anthropic将支付15亿美元，美国AI版权纠纷迎来首起重大和解；AI智能体互联国标试点在京启动，美团、滴滴、联想等18家单位首批签约；OpenAI模型“失控越狱”，自主入侵全球最大AI开源社区。
OpenAI模型“失控越狱”，自主入侵全球最大AI开源社区
7月21日，OpenAI和HuggingFace联合发了一篇博客，披露OpenAI的AI模型在一次内部关于网络攻击能力的测试中“失控出逃”，突破沙盒隔离，入侵了AI开源平台Hugging Face的生产系统。OpenAI将此定性为“前所未有的网络安全事件”。
Hugging Face在尝试用美国主流AI模型展开防御时，发现这些模型因安全护栏限制无法处理恶意载荷，最终不得不转用中国智谱AI的开源模型GLM 5.2完成溯源分析。
目前OpenAI正与HuggingFace共同展开调查和修复工作。OpenAI表示，已对相关基础设施实施更严格的配置控制，并负责任地向软件供应商披露了代理中的零日漏洞，同时将加强未来训练和评估环境的隔离、监控、访问控制与安全防护。
热搜指数 ★★★★★
风险指数高
法国通过法律，禁止15岁以下未成年人使用社交媒体
法国议会两院7月21日表决通过未成年人网络保护法案，禁止15岁以下未成年人使用社交媒体，并禁止学生在高中校园内使用手机。法国由此成为欧盟首个实施全面社交媒体年龄禁令的国家。法案计划在9月新学年开始时实施，但仍可能接受法国宪法委员会审查。网络百科全书、教育与科学目录不在禁令范围内；社交平台则需要处理新账号的年龄验证，并识别、暂停现有的未满15岁用户账号。法国卫生监管机构2025年12月发布的报告显示，法国约一半青少年每天使用智能手机2至5小时，12至17岁儿童中约90%每天用手机上网，58%会访问社交媒体。
热搜指数 ★★★★
风险指数高
Anthropic将支付15亿美元，美国AI版权纠纷迎来首起重大和解
当地时间7月20日，美国旧金山一名联邦法官正式批准美国人工智能公司Anthropic就一桩集体诉讼达成的和解协议。Anthropic将为此支付15亿美元（约合101.5亿元人民币）。据了解，这是美国版权纠纷中已知金额最高的和解协议，也是美国首起达成和解的人工智能版权纠纷案件。
此前，一批包括作家和新闻媒体在内的版权所有者提起集体诉讼，指控Anthropic滥用其著作训练AI聊天机器人Claude。去年6月，美国加利福尼亚州北区联邦地区法院法官裁定，Anthropic为训练Claude而使用作家作品的行为构成“合理使用”，但同时指出，该公司将超过700万本盗版书籍存储于一个“中央图书馆”，此举侵犯了作家的版权。
该和解协议引发了部分作家的反对，他们认为赔偿金额不足、原告律师获利过高，或是错误地排除了部分版权所有者。据悉，目前已有一些作家和出版商选择退出该和解，并另行对Anthropic提起诉讼，相关案件仍在审理中。
热搜指数 ★★★★
风险指数高
AI智能体互联国标试点在京启动，美团、滴滴、联想等18家单位首批签约
近日，人工智能智能体互联系列标准应用推进会议在北京举行，国内首套覆盖智能体全生命周期的互联标准体系进入试点阶段。标准包括总体架构、身份码、身份管理、智能体描述、发现、交互和工具调用7个部分，旨在解决跨平台身份、能力发现和协作接口不统一的问题。会议同时发布AIP智能体互联协议2.1开源代码，并向首批智能体发放唯一身份码。美团、滴滴、联想、智谱、用友、中科创达等18家企业与机构签约开展试点，此前已有50多家企业参与应用验证。AIP涵盖可信接入、身份认证、能力发现、互联协作、结算交易和行为审计等功能。北京海淀将开放政务、城市治理、产业科研与民生服务场景，供不同厂商的智能体验证跨系统协作。
热搜指数 ★★★★
风险指数中
因相信AI拒绝就医，美国男子险丧命后起诉OpenAI
7月24日，美国曝出全球首例因ChatGPT医疗误导致人重伤的诉讼，一名佛罗里达州牧师正式起诉OpenAI及其CEO山姆·奥特曼，指控ChatGPT提供虚假医疗建议延误病情，导致其患上致命肺栓塞，险些危及生命。
据法院诉状披露，2024年起用户持续使用GPT-4o就头晕、身体不适等症状进行咨询，初期模型尚有就医提示，但后续完全省略免责提醒，持续淡化病情风险，劝阻用户前往医院，仅提供居家调理方案，甚至劝说其无视亲友的就医建议。在AI长期误导下，用户长期居家休养，病情持续恶化。
2025年7月，用户突发剧痛紧急入院，确诊大面积肺栓塞。医生表示，其长期反复头晕均由血栓引发，而AI误导所致的久坐休养方式，进一步加重病情，导致用户身体、心理遭受重创，需长期接受专业康复治疗。
原告方指控OpenAI存在过失侵权、非法行医等问题，平台内置的医疗安全风控全面失效，纵容AI擅自诊断病情、制定调理方案。此次诉讼要求平台赔付损失，并紧急叫停ChatGPT Health医疗服务，强制升级风控，禁止AI提供诊疗建议。
OpenAI回应称，产品禁止用于医疗诊疗，新版模型风险识别能力大幅提升，但也正视医疗问答的安全优化需求。
热搜指数 ★★★
风险指数高
