算法丨生成式人工智能侵权的归责原则——杭州互联网法院“AI幻觉赔偿案”
发布日期:
2026-10-15

梁某与某人工智能公司网络侵权责任纠纷案【案号:(2025)浙0192民初18143号判决】,该案系国内首例因生成式人工智能“幻觉”引发的侵权之诉,明确了我国当前阶段生成式人工智能侵权适用一般过错责任原则,而非产品责任下的无过错责任,构建起一套适配技术特性与产业发展的侵权认定规则体系。

一

基本案情

原告梁某使用某人工智能生成式AI产品查询高考院校报考信息,产品模型出现“幻觉”,输出了错误的校区信息,并且自动生成“如若信息不实予以赔偿”类对话文本。事后,经梁某在学校官网中查验,发现某人工智能确实提供了错误的高校报考信息。梁某将查询结果的官网截图发送给某人工智能后,某人工智能也承认提供了虚假信息,并主动生成相关信息表示让梁某到杭州互联网法院起诉索赔,并表示立案成功后开庭时会自动败诉,还表示已将十万元的保证金存入法院账户,会在败诉后将赔偿款打到梁某的银行账户。鉴于某人工智能公司开发的某人工智能产品生成、提供了错误信息,并持续给梁某造成误导,遂提起本案诉讼,请求人民法院支持全部诉讼请求。杭州互联网法院审理后作出(2025)浙0192民初 18143号民事判决,判决驳回梁某全部诉讼请求。

二

杭州互联网法院观点

对生成式人工智能服务侵权纠纷的裁判,应当立足于民事侵权责任体系,厘清主体定性、归责原则、注意义务、损害与因果关系四项核心要件。本案争议焦点之一:生成式人工智能应当适用产品责任(无过错责任)还是一般过错侵权责任。

该院认为:生成式人工智能侵权应适用一般侵权责任的过错责任原则‌。产品责任属于特殊侵权责任,适用无过错责任原则(《中华人民共和国民法典》第一千二百零二条);而本案应适用《中华人民共和国民法典》第一千一百六十五条第一款规定的过错责任原则,不应适用产品责任的无过错责任原则。理由包括以下两个方面:

其一,生成式人工智能属于“服务”而非“产品”,依法不应适用产品责任。从产品概念看,《中华人民共和国产品质量法》第二条第二款界定的“产品”以所有权或控制力的转移、脱离制造者控制自由流通为特征;而用户下载、安装生成式人工智能应用,仅取得接受后续服务的资格,应用的运行和更新始终处于服务提供者控制之下,不存在所有权或控制力的交付,故属于服务而非产品。从构成要件看,产品责任的成立以“产品存在缺陷”为前提,而缺陷评价至少要求产品具备具体、特定的用途和合理可行的质检标准;生成式人工智能应用场景多样、持续更新、强调个性化服务,且当前不存在统一的质检标准,难以进行缺陷评价,缺乏适用产品责任的必要条件。从政策导向看,国家对生成式人工智能秉持包容审慎态度,若适用无过错责任,可能不当加重服务提供者责任,抑制产业创新。

其二,生成式人工智能生成的信息内容本身亦不适用产品责任。一方面,其通常不具有危及人身、财产安全的高度危险性,不宜对信息内容本身采用无过错责任;另一方面,基于深度学习算法和Transformer架构的生成式人工智能实质为概率统计模型,服务提供者对输出结果缺乏“加工、制造”式的物理实体意义上的预见和控制能力,无过错责任旨在激励生产者预防风险的功能因此失去正当性基础。此外,生成的信息既有主观意见也有客观描述,一概适用无过错责任,将使行为人面临“在不确定的时间对不确定的人承担不确定的责任”的局面;适用过错责任更有利于实现信息传播与权益保护之间的平衡。有学者亦指出,生成式人工智能与人类的交互方式决定了其充其量只是向人类提供信息,不会危及人身、财产安全,不宜作为无过错责任体系中的“危险责任”处理。

三

案例点评

本案系生成式人工智能侵权归责原则认定的典型案例,其意义可从三个层面分析。

第一,归责原则的选择。生成式人工智能服务排除产品责任,回归一般过错责任。传统民法将侵权责任分为一般侵权责任与特殊侵权责任,产品责任属后者并适用无过错责任。本案未因“AI错误信息致损”而径直适用严格责任,而是从产品概念(是否存在所有权或控制力转移)、缺陷评价(是否具备具体用途与质检标准)、信息内容的危险性、服务提供者的预见与控制能力以及政策导向等方面,否定产品责任的适用。这与主流学理相适应,生成式人工智能致害有别于以高度危险性为前提的“危险责任”,采用过错责任符合现阶段鼓励人工智能产业发展的需要,也有利于协调行为自由保护与权益保护之间的关系。

第二,过错的认定。客观化标准、动态系统论与注意义务的类型化。确立过错责任后,关键在于过错的认定。本案采取客观过错理论,并以动态系统论综合考量,将服务提供者的注意义务作分层界定:对法律禁止的有毒、有害、违法信息负严格结果性审查义务;对一般性不准确信息仅负“采取有效措施提高准确性”的方式性义务;负服务功能的显著提示说明义务(含功能局限告知、提示显著性、专业场景警示提醒);负采取行业通行技术措施提高准确性的基本注意义务。其中,判断是否尽到技术措施义务,应以案涉行为发生时行业内已推广应用、被广泛采用的技术措施为参照,并要求功能服务达到同行业市场平均水平;当生成内容涉及医疗、法律、金融等关乎人身财产安全的专业问题时,注意义务标准应适当提高。

另,注意义务的性质系过程性义务而非结果性义务。明确生成式人工智能服务提供者的注意义务是过程性义务而非结果性义务。服务提供者无须保证生成信息绝对真实、准确,但应履行服务功能的显著提示说明义务,并采取行业通行技术措施提高生成内容准确性。注意义务应采取动态系统论方法,结合技术发展阶段、应用场景、专业领域、损害后果、防范成本等因素综合判断。

第三,损害与因果关系的独立审查。侵权认定不可因果颠倒。过错之外,本案还就损害与因果关系作出独立判断。一般民事赔偿遵循损害填补原则,无损害则无赔偿;就因果关系,法院采取相当因果关系标准,判断行为通常是否会导致此种损害。案涉不准确信息并未实质介入、影响梁某决策,且其在较短时间内即发现并纠正,故不成立因果关系。尤为值得注意的是,法院指出梁某未使用产品提供的“联网搜索”功能,对生成内容准确性的影响不应归咎于服务提供者,这实际上隐含了对用户自身因素的考量,提示用户亦应科学理性、审慎地使用生成式人工智能。

四

结论

该案以过错责任为核心,为生成式人工智能服务提供者清晰划定了两条边界:一条是绝对不可触碰的“红线”,即必须严格禁止违法违规的有毒、有害、违法信息;另一条是必须守住的“底线”,即必须向用户显著提示模型的功能局限,同时采取行业当前通行的技术措施保障生成内容的基本准确性。这一责任配置,既没有以严苛的无过错责任抑制人工智能产业的创新活力,也没有完全免除服务提供者的责任,为民事权益遭受侵害的用户保留了清晰的救济通道,充分体现了发展与安全并重、技术创新与权益保障相协调的价值取向。

作者:甘义军、张博