金融·看法丨资管机构应用人工智能的法律边界与风险防范
发布日期:
2026-11-18

2026年6月18日,国家金融监督管理总局印发《关于银行业保险业人工智能安全开发应用的指导意见》(金发〔2026〕8号,以下简称“《指导意见》”),将理财公司纳入适用范围,对模型准入、风险分级、人工复核及监管报告提出要求。同年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,以下简称“《涉AI审判意见》”),明确了相关侵权纠纷的过错认定和电子数据审查规则。

本文拟在系统梳理上述规则的基础上,结合公开裁判和监管案例,围绕资管业务中人工智能(以下简称“AI”)应用的不同场景,分析机构责任的认定逻辑,并提出可落地的内控建议。


一、监管背景与责任认定的基本规则

民刑交叉案件的处理,长期存在程序与实体两个层面的分歧。在程序上,争议主要表现为民事案件是否因涉刑而不予受理,已经受理的案件是否中止,刑事立案后是否移送,以及民事执行与刑事追缴如何协调。在实体上,争议则集中于犯罪行为对合同效力、代理效果、单位责任和担保责任产生何种影响。不同问题相互交织,可能使当事人同时面对救济渠道和责任依据不清的困难。

此前,有关规则主要见于经济纠纷涉及犯罪嫌疑的司法解释、民间借贷司法解释、非法集资案件规范及相关审判工作文件。这些规范形成于不同阶段,各有适用范围和处理重点,对于部分案件已经提供了明确依据。但随着争议类型增多,既有规则在适用边界和相互衔接方面,也逐渐显现出不足。

《规定》的意义,在于将较为分散的问题纳入相对完整的处理框架。其中,有些条文是对既有裁判经验的确认,有些条文进一步细化了程序条件,还有一些条文针对长期存在分歧的实体问题提出了具体处理方式。因此,不宜将其理解为对既有规则的全面替代,也不宜认为其已经解决全部民刑交叉争议。

第一条提出程序有机衔接、整体协调的审理要求。这一要求对后续条文具有解释作用。程序协调既包括减少不必要的等待,也包括防止刑事与民事裁判对关键事实作出相互冲突的认定;权利保护既涉及债权人和被害人的损失救济,也涉及单位、担保人、案外人及其他主体的合法权益。处理结果是否妥当,需要同时考察程序安排与责任分配。

因此,“先刑后民”与“民刑并行”的适用,应建立在案件分类和事实审查之上。对于能够独立查明的民事关系,刑事程序尚未终结未必妨碍民事审理;对于确实依赖刑事结果的基本事实,等待可能具有合理依据;对于依法通过刑事程序统一处理的损失,又需要注意另行诉讼和执行的边界。不同安排各有适用条件,不能因案件出现犯罪因素便作统一处理。


二、重点业务场景中的法律问题

(一)上传内部资料生成报告:原始资料的披露边界

实践中,业务人员将项目材料上传至外部AI平台,请其归纳交易结构。最终报告可能仅在投委会内部传阅,但外部服务商在上传时已经开始接收或处理原始材料。判断资料外发风险,应从上传行为入手,查清上传了什么、由谁处理、处理后流向何处。

2025年7月,国家安全部通报,某科研人员为撰写报告,擅自将核心数据和实验成果上传至AI软件,导致涉密信息泄露。1该案适用国家秘密保护规则,与资管业务的保密判断并非同一法律基础,但其揭示的风险路径具有参考价值。

对于交易对手提供的资料,应首先核对保密范围和使用授权。《民法典》第五百零一条规定,“当事人在订立合同过程中知悉的商业秘密或者其他应当保密的信息,无论合同是否成立,不得泄露或者不正当地使用”;第五百零九条第二款规定,“当事人应当遵循诚信原则,根据合同的性质、目的和交易习惯履行通知、协助、保密等义务”。保密协议允许向律师、会计师披露时,仍应核对外部AI服务商是否属于允许接收资料的主体,以及附件留存、分包商访问、模型训练等用途是否落在授权范围内。

对于本机构的非公开业务数据,则应管理到实际访问人员。持仓、拟调仓计划、策略参数及风控阈值可能涉及未公开信息。浙江证监局曾查处一起利用未公开信息交易案件,某科技公司员工实际参与私募基金的策略开发、风控及部分交易工作,利用履职中掌握的信息操作相关证券账户进行趋同交易,最终被罚没约1.77亿元。2该案表明,技术岗位同样可能接触投资敏感信息。将持仓表、策略参数汇集到AI知识库后,应按实际岗位权限控制查询、导出和共享。即便只上传公开公告,提示词中写入的拟买入标的、仓位或退出计划,也可能暴露投资意图。

(二)AI生成宣传素材:授权审查与营销合规

《民法典》第一千零一十九条第一款规定,“未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外”;第一千零二十三条第二款规定,“对自然人声音的保护,参照适用肖像权保护的有关规定”。制作产品海报、投教视频或数字人讲解时,即便讲师曾公开演讲或同意使用录音,机构仍应核对授权是否覆盖拟声、换脸以及拟使用的宣传渠道和期限。

北京互联网法院审理的李某瑾案中,某文化公司委托主播制作卖书视频。主播使用李某瑾公开演讲的画面,并配以与其高度近似的AI合成声音,视频可直接跳转至该公司店铺。法院认定肖像权和声音权益受到侵害,并结合该公司作为委托方未审核素材来源及授权的过错,认定其与主播共同侵权,判令赔礼道歉并赔偿12万元。3在理财产品宣传中,即便制作合同约定由供应商承担侵权责任,机构仍应审查成片中人物身份和授权材料,尤其应核实是否通过合成手段使公众误以为某专家或公众人物作出推荐。

《著作权法》第二十六条规定,“使用他人作品应当同著作权人订立许可使用合同,本法规定可以不经许可的除外”。将摄影作品、插画或影视角色作为生成参考时,应核查授权或者其他合法使用依据。广州互联网法院审理的“奥特曼”案表明,生成图片与受保护的角色形象实质性相似,可能引发著作权纠纷。4机构拟长期复用原创素材的,可核对工具的商用条款并保存提示词迭代、方案筛选和人工修改记录。生成内容能否受著作权保护,取决于使用者对最终表达的独创性贡献及相应证据。

营销表述方面,《金融产品网络营销管理办法》第七条规定,金融机构“应当对网络营销内容的合法合规性负责”;第十条禁止“明示或暗示资产管理产品、投资顾问或者咨询服务保本、承诺收益、限定损失金额或比例”,也禁止“利用模拟业绩、部分客户或者个别有利时段的表现等方式误导投资者”。北京证监局认定班可可改写并传播了含上市公司订单虚假信息的文章,未采纳其关于文章由AI生成的申辩。5制作产品广告和投教文章时,机构应自行核实市场消息、收益表述和风险揭示。

《人工智能生成合成内容标识办法》第十条规定,“用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识”。《指导意见》第二十一项亦要求,“对人工智能生成内容应进行显著标识,并向金融消费者主动说明”。

(三)AI辅助投研与程序化交易:决策权限与模型管理

《指导意见》第二十二项规定,“可解释性不足的人工智能技术在高风险场景应用时,仅能作为辅助工具,应由人工进行最终决策”。该项还要求,对涉及客户权益或有实质性财务影响的关键决策,“须设置人工复核节点,完整保留原始数据、推理路径及阈值触发记录”。在AI筛选资产、提取财报指标或者生成交易指令时,复核人员应回到原始材料判断交易真实性、担保权利负担和估值依据,对影响准入、额度或定价的异常作出判断。

模型的变更权限也属于投资管理范畴。2025年一起境外案件曾披露,机构知悉投资模型存在权限漏洞后长期未整改,员工擅自修改了多个在用模型的参数,导致部分基金和账户的投资表现受到影响。机构已在调查期间向受影响的基金和账户返还1.65亿美元,并同意支付合计9000万美元民事罚款以达成和解。该境外案例对内控具有参考价值:策略、参数及交易限额的修改应按权限审批,测试和生产权限应作区分,版本及发布记录应予保留,并持续监测交易结果与预设条件是否偏离。

《证券市场程序化交易管理规定(试行)》第二条规定,“本规定所称程序化交易,是指通过计算机程序自动生成或者下达交易指令在证券交易所进行证券交易的行为”。第七条要求程序化交易投资者“真实、准确、完整、及时报告”有关信息。交易端应区分查询、拟单、下单及修改限额等权限,并核对系统配置是否准确反映产品合同与投资限制。采购外部服务时,还应关注供应商是否借软件服务实质对外提供投资建议。

(四)智能客服与运营差错:适当性与自动化决策

客户通过机构官方App或微信公众号询问赎回日期、到账时间和手续费,往往会按答复办理。杭州互联网法院审理的梁某案中,通用AI应用对某高校校区作出了不准确的答复,并生成赔偿承诺。法院结合当时的服务场景及用户是否有理由信赖该承诺,未将其认定为服务商的意思表示。在理财业务中,如官方客服就客户所持产品给出具体赎回日期,客户据此错过开放期,判断责任时应考察答复是否明确、客户是否有理由信赖、该答复是否实际导致客户错过办理机会。产品条款或开放安排发生变动的,客服系统引用的资料亦应同步更新。

使用AI辅助客户测评时,机构还需关注评分结果与客户实际回答是否一致。《金融机构产品适当性管理办法》第十二条规定,“金融机构不得向客户销售不具备适当性的产品”,并将“产品风险等级高于客户风险承受能力的”列为不具备适当性的情形。《个人信息保护法》第二十四条第一款规定,利用个人信息进行自动化决策,“应当保证决策的透明度和结果公平、公正”。机构使用客户画像辅助测评,应保留客户的原始答案、得分和评级依据;出现客户明确表示只能承受小幅亏损、系统却给出较高风险等级等情形时,应在推荐产品前予以复核。

估值、对账和指令录入一旦采用批量处理,同一处错误就可能影响多笔业务。对变更客户身份信息、资金划付和异常赎回等业务,应保留独立核验和人工复核环节。发现差错后,应先暂停相关自动化流程,再核对已处理的订单和受影响的客户,按业务规则更正,并根据差错性质和影响判断是否需要通知客户或向监管部门报告。


三、合规建议

(一)建立工具清单与数据分级相衔接的机制

机构可先盘点员工自用工具、正式采购系统及第三方业务系统内嵌的AI组件,逐项记录模型部署位置、允许使用的业务、可处理的数据类别和外部访问权限。对未经准入的工具,应通过制度和技术措施限制员工自行上传客户信息、持仓、调仓计划及受保密义务约束的业务资料。对经审查允许外部处理的资料,应明确审批岗位和最小数据范围,并在合同中约定保存期限、转委托、训练用途限制、返还删除、事件通知和审计配合。上线前应以实际配置核验上述约定,例如检查附件在会话删除后是否仍保存在日志或备份中。

(二)将素材授权、营销审核与内容标识纳入统一发布流程

业务部门确认产品条款及市场信息来源,制作方提交素材清单和授权凭证,合规审核覆盖成片、字幕、配音和投放页面。审核时应重点核对肖像和声音授权、在先作品使用依据、收益及风险表述,并确认发布渠道已按要求标识。机构可在委托制作合同中约定交付授权材料、返工和下架配合、赔偿及追偿机制。审定稿、实际发布版本、发布时间及授权凭证应对应保存,发生投诉时据此定位素材和投放渠道。

(三)按业务场景设置复核岗位与停用权限

同一模型从内部问答扩展到对客服务,或者从投资建议扩展到生成指令时,应重新评估风险、接口和执行权限,并依规履行审批和报告程序。应明确复核人可调取的依据、可驳回的输出及异常报告路径。模型、参数和知识库更新后,应测试相关功能并安排停用、人工替代及在途指令处理。《指导意见》第二十一项规定,“加强模型开发、变更管理和训练过程记录,日志保存期限应不低于业务存续期”。发生异常时,应能从记录中还原输入、模型版本、复核与执行结果,及时停用相关功能、定位影响范围。


四、结语

总体来看,《指导意见》与《涉AI审判意见》的相继出台,标志着AI在资管领域的适用,正从鼓励探索转向规范发展。一方面,监管规则通过备案、分级、审批、报告等制度,为AI应用设置了清晰的合规框架;另一方面,司法规则通过过错认定和电子数据审查标准,为相关纠纷的处理提供了可预期的裁判路径。

可以预期,随着AI在投研、营销、客服等场景中的进一步渗透,监管关注的重心将更多落在机构是否能够还原决策过程、是否建立了与风险相匹配的内控机制。将上述要求落实到数据权限、业务审核、投资授权和差错处置的日常流程中,方能在具体争议中形成完整、可验证的履职证据链。

注释与资料来源

【1】某科研机构人员违规使用AI软件导致泄密事件(国家安全部通报,央视网转引)https://news.cctv.cn/2025/07/24/ARTIjYTTYsAFVpRfdkLEyOQ5250724.shtml

【2】林某某利用未公开信息交易案(浙江证监局行政处罚决定书〔2025〕17号)https://www.csrc.gov.cn/zhejiang/c103950/c7594394/content.shtml

【3】李某瑾诉某文化公司网络侵权责任纠纷案(最高人民法院网络法治典型案例二)https://www.court.gov.cn/zixun/xiangqing/512041.html

【4】上海某文化公司诉某AI公司著作权侵权案,案号(2024)粤0192民初113号https://www.shzcfy.gov.cn/detail.jhtml?id=1001544708

【5】冯某某、班某某编造、传播虚假信息案(北京证监局行政处罚决定书)https://www.csrc.gov.cn/beijing/c105546/c7631327/content.shtml

作者:金融法律事务部  张小可、熊若超