大模型会无中生有，生成一些在任何网页都找不到的信息。这类AI幻觉一旦造成误导，责任究竟应由谁承担？全球法院正在形成不同答案。
德国慕尼黑第一地区法院于5月28日公布的一份临时禁令显示，法院首次明确认定：谷歌需要对其AI搜索中的错误幻觉承担直接责任。即便AI提供了信息来源链接，并提醒用户“AI回答可能存在错误”，也不足以成为免责理由。
法院还对谷歌提出一个有意思的反驳：谷歌不能一边强调AI能快速获取可靠信息，一边又要求用户不要相信这些内容，这是在削弱自身的产品价值。
德国法院发出的全球警示是，倘若AI出现幻觉，受害者无法起诉不存在的第三方信源。如果也无法追究AI服务提供商的责任，那么AI虚假信息将陷入无人负责的真空状态。
AI摘要是谷歌“自己的言论”
这起案件源于两家德国出版公司发现，谷歌会自动联想“公司名 + 诈骗套路”的搜索词条，随后AI摘要提供了一段更详细的总结：“是的，xx公司以不正当商业行为闻名”“与订阅陷阱有关”“存在诈骗套路的现象”。
AI摘要（AI Overviews）是谷歌在2024年上线的功能，会在网页搜索结果上方自动生成一份AI总结，并附带参考来源。目前，该功能已覆盖美国、英国、欧盟及亚洲多个市场。微软必应、百度、夸克等主流搜索引擎，也陆续推出了类似设计。
但在本案中，出版公司发现，涉及诈骗的表述并未出现在任何被引用的网页中，而是AI自行推断和生成的事实，疑似将它们与其他诈骗案例混淆。两家出版公司因此认为，这些虚假描述严重损害企业声誉，请求法院禁止谷歌继续展示这些摘要。
面对指控的谷歌，主要提出了两项抗辩理由：
首先，AI摘要只是汇总网页结果，本质上仍然属于搜索引擎。长期以来，互联网搜索引擎在德国承担的法律责任有限，因为它们只是第三方页面的导航。
谷歌还主张，用户普遍知道不能盲目相信AI生成的信息，他们也可以点击下方链接自行核实，公司已经尽到了信息透明的义务。21记者用德国地区地址和德语提问测试，AI摘要下有一行“AI 回答可能包含错误”提示。
但法院几乎驳斥了谷歌的所有说法，其中一个重要认定是，法院认为AI摘要是谷歌自己的内容。
裁定书提到，AI会生成“独立、新颖且实质性的陈述”，不仅仅是简单摘录第三方内容，而是会进行自主总结、重新组织和建议评价。这类内容超出了展示第三方信息的范畴，是谷歌完全能自己掌控的陈述，所以也无法享受搜索引擎的避风港保护。
法院同时否定了谷歌关于“用户能够自行核实”的抗辩。裁定指出，AI摘要是“独立且完整的陈述”，其表述方式并未提示存在其他可能性。
法院将此与媒体法类比：根据德国媒体法实践，误导性的“标题党”可能构成侵权。即使读者从未阅读全文，出版商也要对标题和摘要负责。也就是说，虽然用户理论上可以通过进一步研究发现错误，但核实义务仍不在用户身上，发布者需要担责。
法院还尖锐反驳了谷歌的抗辩：如果所有用户都知道AI摘要不值得信赖，那么AI摘要的价值是什么？谷歌不能一边强调AI摘要能够帮助用户快速获取可靠信息，另一方面又要求用户不要相信这些内容。
AI可能存在责任漏洞，也是本次判定的出发点。在AI幻觉情形下，受害者无法起诉不存在的第三方信息源，如果又无法有效追究AI服务提供商的责任，那么AI生成虚假信息造成的损害，将陷入无人负责的状态。
因此，慕尼黑地方法院发布了临时禁令，要求谷歌停止生成关于原告虚假的AI摘要，并承担80%的诉讼费用。
需要指出，这一裁定目前仍属于临时禁令，而非最终侵权判决，谷歌可以继续上诉。如果禁令经过了进一步上诉检验，法院认为判决会具有国际影响力。
全球法院的不同声音
美国一家AI初创公司Oumi最近对《纽约时报》做了一项分析，发现谷歌AI摘要的底层模型Gemini 3，目前正确率大约为91%。记者曾在2025年测试了330次新闻综述，国内大模型的完全准确率平均只有25%。
这意味着，即便准确率已经较高，AI每小时仍然会产生成千上万个错误答案。如果错误内容进一步损害了公司或者个人名誉，会引发诸多的法律责任问题。
而全球司法体系对AI责任的态度并不相同。比如2025年10月，德国汉堡法院也发布了临时禁令，要求X.AI停止发布虚假信息，不得诽谤一家德国公民组织，不得声称其资金来源是政府资金。
这一类案件的特点在于，AI在传播过程中二次复述了已有虚假信息，本质上仍可追溯到错误信源。但更多争议来自AI的幻觉问题，即AI凭空捏造错误信息。
2023年，美国的一名电台主持人马克·沃尔特斯 (Mark Walters) 指控OpenAI旗下的 ChatGPT 通过捏造指控和虚构诉讼诽谤自己。美国佐治亚州法院最终驳回了原告诉求，认可了OpenAI关于AI幻觉的免责声明，让其免除诽谤责任。
国内目前的司法态度与美国地方法院类似，更强调发展与风险的平衡，认可AI公司采取的提示措施。
在今年1月，杭州互联网法院“全国首例AI幻觉侵权案”中，AI生成了错误的高校报考信息，并向用户承诺“如果生成内容有误，我将赔偿您10万元”。我国法院认为，对话内容由AI生成，不是平台自身的内容表达。同时，AI公司已通过提示AI局限性、引入检索增强生成等机制履行一定注意义务，因此不构成侵权责任。
