人工智能与AI幻觉的技术内涵

意思表示的传统构成要件及其对AI的排他性

（一）意思表示的核心要素

学理上，意思表示通常被认为包含三个层面的要素：行为意思、表示意思和效果意思。行为意思指表意人有意实施某种行为；表示意思指表意人意识到自己的行为具有某种法律意义；效果意思则指表意人内心意欲发生特定法律效果的意图。而民事法律行为有效须具备三项要件：行为人具有相应民事行为能力、意思表示真实、不违反法律强制性规定和公序良俗。AI模型既非自然人，也非法人或非法人组织，不具备民事行为能力，其“生成”行为不包含任何法效果意思——模型没有“意图”通过生成内容设立、变更或终止法律关系，其输出仅是算法对输入数据的概率性响应。

结合本案“AI承诺赔偿十万”场景，该承诺由AI模型自动生成，其内容虽明确、具体，但模型在生成该内容时不存在任何“意图”或“意思”，其输出仅是算法对用户输入相关问题的概率性响应。因此，该承诺不具备法律效果意思，不构成有效意思表示。

（二）AI本质是算法工具，不具备作出意思表示的主体资格

人工智能技术的迅速发展与广泛应用，正不断对既有法律制度的适用边界提出挑战。围绕人工智能体的法律地位，实践中的争议主要集中于其能否被视为独立的法律主体，从而直接承担法律责任或享有法律利益。当前，司法实践整体上仍否认人工智能体的主体地位，倾向于将其定位为人类行为的技术工具。

在深圳市某计算机系统有限公司诉上海某科技有限公司著作权权属、侵权及不正当竞争纠纷案【入库编号2023-09-2-158-005】，法院认为，如果仅将Dreamwriter软件自动运行的过程视为创作过程，这在某种意义上是将计算机软件视为创作的主体，这与客观情况不符，也有失公允。该案通过将主创团队对AI软件生成过程的个性化安排与选择纳入“创作”范畴，间接否定了AI的独立作者地位。

在全国首例利用算法设计组织实施人格权侵权的新类型案件，即何某与上海某人工智能科技有限公司网络侵权责任纠纷案【入库编号2025-07-2-369-001】，法院认定，被告公司通过算法设计，允许用户使用何某的姓名、肖像创设AI虚拟角色，实际上是被告公司将何某的整体形象投射到虚拟角色上进行商业化利用，构成侵权，AI角色只是侵权的工具和表现形式。

浙江省杭州市萧山区人民检察院诉虞某龙个人信息保护民事公益诉讼案【入库编号2025-07-2-525-001】，法院认为，未经信息主体许可，利用AI换脸伪造相关视频、图片构成对他人个人信息权益的侵害，且因侵害对象众多且具有不特定性，潜在传播风险大，已损害社会公共利益，符合法律规定机关和组织提起公益诉讼的条件。裁判中，“侵权主体”始终是实施AI换脸操作的行为人及相关组织，AI技术只是导致侵害后果的工具，并未被视为独立的权利或义务主体。

李某诉熊某升房屋租赁合同纠纷案【入库编号2026-07-2-116-001】，该类案件将AI工具定位为证据加工手段，违法后果完全由利用AI的当事人承担，而非由AI承受程序制裁。

人工智能体在自主决策与复杂行为生成方面能力的显著提升，这种以“工具”为中心的归责模式是否足以应对人工智能体所带来的新型风险，已引发广泛质疑。但AI系统无论多么智能，本质上都是人类开发的算法程序和技术工具，既无生命，亦无独立的意志和财产，不具备成为民事主体的法律基础。它不能独立享有权利，也不能独立承担义务，自然更无资格作出具有法律意义的意思表示。本案判决明确指出“某人工智能模型既不是生物学意义上的人，也并未被我国现行法律赋予民事主体资格，故此不是民事主体，不具有民事权利能力、行为能力和责任能力。”这一判断清晰地揭示了意思表示制度的主体排他性。即便未来科技高度发达，AI能够以假乱真地模仿人类的语言和情感，从法律主体资格的视角看，依然存在不可逾越的障碍。其一，缺乏自主意志。大语言模型的生成过程是基于概率统计的“文字接龙”，而非基于自由意志的决策。AI没有“内心”“意图”，更不存在“希望受自己表达内容约束”的法效意思。其二，无法承担法律责任。意思表示的法律后果由表意人承担——表意人获得权利、负担义务、承担责任。AI无财产，亦无行为能力，更无法被强制执行。若赋予AI意思表示能力，责任将悬空。其三，法律拟制的必要性与限度。法律可以为“非人”拟制主体资格，最典型的是法人。但法人拟制的正当性在于其背后有真实的民事主体意志，且有独立的财产作为责任基础。AI既无民事主体意志的输入通道，也无独立财产，拟制其主体资格缺乏逻辑起点。因此，在现行法律范围下，AI不能自主、独立地作出具有法律意义的意思表示。

（三）AI不具有形成法效意思的能力

法效意思，又称为效果意思、效力意思，是指意思表示人欲使其表示内容引起法律上效力的内在意思要素，是当事人所追求的使其发生法律拘束力的意图。法效意思是意思表示的核心，指行为人内心具有追求特定法律后果的意愿。AI的运行原理是基于Transformer架构的概率统计模型，通过预测下一个词元的概率生成文本，其过程本质上是数学计算而非意志表达。AI生成的内容，并非基于其真实意愿承担赔偿责任，而是基于服务提供者或用户的提示词和训练数据的模式匹配结果。它既不理解“赔偿”的法律含义，也无能力履行赔偿义务，更没有承担法律责任的主观意愿。这种缺乏内在法效意思的文本输出，不可能构成有效的意思表示。

AI生成内容能否视为服务提供者的意思表示

可能的例外：AI 生成内容可能构成意思表示的边界

上述分析并非意味着AI生成内容在任何情况下都不能产生法律约束力。在特定场景下，AI的表达可能通过其他法律机制产生类似于意思表示的效果。

（一）“电子代理人”理论的适用边界

美国《统一电子交易法》（UETA）和《全球与国内商务电子签名法》（ESIGN）中引入了“电子代理人”（electronic agent）的概念，指“不需要人为介入，独立用来启动一个行为或回应电子记录或履行的计算机程序”。在合同订立场景中，电子代理人的自动响应可以产生合同效力。

我国电子商务法第四十八条规定“电子商务当事人使用自动信息系统订立或者履行合同的行为，对使用该系统的当事人具有法律效力。”这为AI生成内容在特定交易场景下的法律效力提供了规范基础。然而，该规则的适用有严格的场景限制，它要求自动信息系统被用于订立或履行合同，且系统运行应当处于民事主体的可控范围之内。通用型AI定位并非“合同订立工具”，用户协议的明确排除，也表明生成式人工智能服务提供者没有将AI用于“缔约代理”的意图。

（二）服务提供者明示或默示追认

如果AI生成了某一内容后，生成式人工智能服务提供者通过书面、口头或其他方式明确表示认可该内容并愿意受其约束，则构成事后追认。此时，该内容的法律效力来源于生成式人工智能服务提供者的追认行为，而非AI的生成行为。该案判决在论述中特意留有余地“即便生成式人工智能的内容生成具有其内在的技术逻辑，却不妨害生成式人工智能服务提供者自愿的认可生成式人工智能输出的内容作为服务提供者的意思表示而受其拘束。”这意味着，如果生成式人工智能服务提供者通过某种方式向用户传达了“AI能够代表公司”的印象，则AI生成内容可能被认定为其意思表示。

（三）AI生成内容属于预设的固定回复

如果生成式人工智能服务提供者事先将某些特定回复写入程序，当用户输入特定关键词时，AI自动输出这些预设内容，则这些内容实际上是生成式人工智能服务提供者事先拟定的格式条款。此时，AI只是传达生成式人工智能服务提供者意思的工具，其生成的内容应当视为生成式人工智能服务提供者的意思表示。某电商平台使用AI客服与用户协商退货退款，AI客服明确表示“7 天无理由退换货”。若该AI客服系统是企业有意部署的、用于处理售后事务的自动系统，且平台没有在用户协议中明确排除其效力，就是服务提供者事先设定的承诺，具有法律约束力。

（四）生成式人工智能服务提供者存在明显过错导致用户合理信赖

如果生成式人工智能服务提供者故意误导用户，使用户有合理理由相信AI生成的内容是其正式承诺，则可能构成表见代理或缔约过失责任。生成式人工智能服务提供者在宣传中声称“AI作出的所有承诺均由其承担法律责任”，或者AI界面显著标注“本AI回复具有法律效力”，则用户基于该信赖与AI达成的协议，可能对生成式人工智能服务提供者产生约束力。

结语