说法 | 最高法出台涉AI案件指导意见,引领行业发展(上)
2026-09-21
黄鹏

文 | 黄鹏律师


2026年9月7日,最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,以下简称《意见》)。这是最高人民法院发布的首部涉人工智能司法裁判规则文件,共5个部分、24条,集中回应AI换脸拟声、网络开盒、模型训练、AI幻觉、大数据杀熟、自动驾驶、AI证据等新类型纠纷。


目 录

一、意见出台的背景和基本原则

二、人格权益侵权纠纷:AI换脸拟声、“AI复活逝者”、网络开盒与AI幻觉

三、模型训练中的数据与个人信息保护

四、知识产权与数据权益

五、消费者权益保护:算法差别待遇与“仿冒名人带货”

六、自动驾驶与智能产品:产品责任、交通事故与刑事边界

七、诉讼程序与律师实务

结语:在法治轨道上推动人工智能行稳致远


01 意见出台的背景和基本原则

(一)出台背景:人工智能发展带来的司法新课题


近年来,人工智能技术加速发展,万物智联、人机协同不断拓展应用边界。产业升级与社会运行效率从中受益的同时,深度伪造、算法歧视、自动驾驶事故、生成内容侵权乃至虚假诉讼等新类型纠纷,也开始批量进入法院收案范围。


《意见》的出台建立在对审判实践的总结之上。最高人民法院在总结审判实践、广泛征求意见并反复调研论证的基础上制定本文件,旨在回应人工智能发展带来的现实司法需求。按官方口径,这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件,意图通过具体裁判规则划定法律红线、厘清责任边界。


我国目前尚未制定专门的人工智能法。《意见》并非另起炉灶,而是立足《民法典》《网络安全法》《数据安全法》《著作权法》《反不正当竞争法》《消费者权益保护法》《个人信息保护法》《民事诉讼法》等现行法律框架,对涉人工智能纠纷案件的裁判理念与规则适用作出指引。


《意见》共5个部分、24条,既回应AI换脸拟声、网络开盒、模型训练、AI幻觉、大数据杀熟、自动驾驶等社会关注的具体场景,也对知识产权、技术合同、数据使用、证据审查和人工智能犯罪等问题作出安排。对当前难以形成共识的问题,《意见》有意留白,交由司法实践继续探索。


(二)三项基本原则:以人为本、支持创新发展、筑牢安全底线


第一,坚持以人为本。《意见》要求加强数字时代民生权益司法保障,依法保护自然人的姓名、肖像、声音、名誉、隐私和个人信息权益,保障个人在自动化决策中的知情权和选择权,防范和消除算法歧视,推动人工智能为民、向善。


第二,坚持支持创新发展。《意见》尊重科技创新规律和人工智能行业发展实践,探索新型权益司法保护路径,对创新成果、创新主体、创新行为和创新环境给予平等保护,同时依法规制利用人工智能实施的垄断和不正当竞争,营造鼓励探索、宽容失败的良好环境。


第三,坚持筑牢安全底线。《意见》强调,应当根据人工智能在不同应用场景中造成损害的具体情况以及风险性质、风险大小,准确认定法律责任;同时区分通用与专用、开源与闭源大模型在技术原理、风险外溢和控制能力方面的差异,合理划分开发者、提供者和使用者的责任。


三项原则并非彼此割裂的宣示,而是贯穿《意见》的裁判方法:对滥用、恶用人工智能侵害他人权益的行为依法规制;对处于探索阶段、尚未造成现实损害的技术创新,则避免课以过重的责任。


(三)归责方法与责任配置(《意见》第3条)


《意见》第三条明确,除法律另有规定适用无过错责任或者过错推定责任外,利用人工智能侵害民事权益的,原则上适用过错责任。法院判断行为人是否有过错及过错程度时,应综合考量:


  • 人工智能应用的具体场景和自主化程度;

  • 技术与信息的透明度;

  • 潜在风险及影响范围;

  • 开发者、提供者采取风险预防措施的情况以及技术上的可能性;

  • 使用者对损害的预见能力和控制能力。


有两类例外需要先行厘清。一类是产品缺陷致害:具身智能机器人、自动驾驶汽车这类以实物为载体的人工智能产品存在缺陷造成损害的,生产者、销售者依《民法典》第一千二百零二条承担无过错责任。另一类是侵害个人信息:个人信息处理者利用人工智能处理个人信息造成损害,依《个人信息保护法》第六十九条实行过错推定。真正落入一般过错责任的,主要是生成式人工智能场景。为什么对生成式人工智能不适用无过错责任?官方解读的理由较为直接:大模型与用户交互时输出的主要是信息内容,一般不直接作用于人身与财产安全,与产品缺陷所涉典型风险性质不同;对其适用无过错责任,既缺乏规范依据,也可能超出尚处发展初期的人工智能行业可承受的责任负担。


申言之,人工智能企业不能以“系统自动生成”“算法自主运行”作为当然的免责事由,权利人亦不能仅因损害结果发生,即要求技术开发者承担全部责任。控制能力、注意义务、风险大小与实际获利,才是确定涉AI案件责任归属的关键坐标。

02 人格权益侵权纠纷:AI换脸拟声、“AI复活逝者”、网络开盒与AI幻觉

(一)“AI换脸”“AI拟声”的依法规制(《意见》第4条)


《意见》第四条规定,除法律另有规定外,未经自然人同意,利用人工智能处理其姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开的,人民法院依法支持其关于姓名权、肖像权等人格权益受到侵害的主张。


未经自然人同意,使用其声音作为训练语料,模仿其音色、语调和发音风格,生成能够识别该自然人的合成人声的,人民法院依法支持其关于声音权益受到侵害的主张。


对相关经营者而言,以下两个判断要点需要特别留意。


第一,保护对象不只是传统意义上的“照片”或“录音”,还包括经过算法处理后仍然能够指向特定自然人的数字形象和合成人声。


第二,判断的重点在于可识别性。北京互联网法院审理的殷某某诉某智能科技公司等人格权侵权纠纷案(案号:(2023)京0491民初12142号)中,法院认为,AI合成声音如能使一般社会公众或相关领域公众根据音色、语调和发音风格识别出特定自然人,即具备可识别性。录音制品的著作权人对录音制品享有权利,并不当然意味着其取得了对该录音中自然人声音进行AI化使用的授权。


“AI撞脸”同样落入人格权益保护范围。入库参考案例何某诉上海自某人工智能科技公司网络侵权责任纠纷案(入库编号:2025-07-2-369-001,案号:(2020)京0491民初9526号)明确,自然人的人格权益及于其虚拟数字形象。在迪某诉杭州某公司、阜阳某公司网络侵权责任纠纷案中,被告在短剧中通过“AI换脸”嵌入与原告肖像具有可识别性的人脸,并以人脸系AI自动生成、属偶发撞脸为由抗辩,法院未予采信。其理由在于:被告作为短剧制作方,系影视行业从业者,基于对行业的了解程度和原告的知名度,在制作与审核环节即应具备基本判断能力;在原告未参演且未许可的情况下,理应主动避免使用,不能以“AI自动生成”为由免除注意义务。


对影视、教育、广告、直播、电商等广泛使用“数字人”“声音克隆”的行业而言,使用前至少应逐项核查:


1.是否取得自然人本人对肖像、姓名、声音进行人工智能处理的授权;

2.授权是否涵盖训练、生成、传播、商业推广等具体用途;

3.授权期限、地域、平台范围和可否再许可是否明确;

4.是否存在可能导致公众误认、名誉受损或商业背书误认的使用方式。


(二)“AI复活逝者”的依法规制(《意见》第4条)


《意见》同时回应了“AI复活逝者”问题。利用人工智能擅自制作、使用死者虚拟数字形象,致使死者姓名、肖像、名誉等受到侵害的,死者近亲属依据《民法典》第九百九十四条请求行为人承担民事责任的,人民法院依法支持。


这一规定的规范意旨在于:人工智能并未改变人格利益保护的基本逻辑。自然人死亡后,未经许可制作、传播其虚拟数字形象,仍可能侵害死者的人格利益,并损及近亲属的精神利益、社会评价与人格尊严。


需要指出的是,《意见》上述规则以“近亲属主张权利”为启动条件,死者生前禁止AI复活的意愿如何落实,仍属规则空白。笔者曾撰文主张,应赋予公民“禁止死后被AI复活”的权利(黄鹏:《禁止“AI 复活”的权利》),核心理由有三:其一,死者遗愿具有独立的规范价值,死后利益应受尊重;其二,《个人信息保护法》第十九条关于死者个人信息处理“死者生前另有安排的除外”的规定,为生前作出禁止安排提供了规范基础;其三,禁止AI复活可理解为一种消极的遗产安排。就实务而言,个体可通过遗嘱、个人信息处理安排或与网络平台、受托人作出约定,预先表达“死后禁止AI复活”的意思。


(三)“网络开盒”“人肉搜索”的依法规制(《意见》第5条)


现实中,行为人可能利用人工智能批量抓取电话号码、网络账号、社交媒体内容,再通过交叉比对、画像分析获取私密信息,或者将私密信息公开传播。


《意见》第五条明确:以刺探隐私为目的,利用人工智能对特定自然人的公开信息进行追踪、分析,获取私密信息,或者泄露、公开私密信息,或者侵扰私人生活安宁的,构成对隐私权的侵害。利用人工智能对私密空间、私密活动实施拍摄、窥视、窃听等行为的,也应依法认定为侵害隐私权,但法律另有规定或者本人明确同意的除外。


实务中最易产生误解的,是“公开”的规范含义。信息已经公开,只能说明其存在公开来源,不等于任何人都可以用人工智能对之进行无限聚合、画像、推断与再传播。行为是否合法,仍应考察处理目的、处理方式、信息性质、是否超出信息主体的合理预期,以及是否侵扰私人生活安宁。


条文以“以刺探隐私为目的”作为限定,具有行为界分功能:它将违法的“开盒”与正当的数据分析区分开来。市场调研、反欺诈核查等将公开信息加工为匿名化、统计性结论的分析,不在规制之列。真正引起司法机关警惕的是,人工智能已将“开盒”的技术门槛降至极低——以往需要专门技术手段方能实现的行为,如今借助一张照片、一段公开的社交动态,经交叉比对即可锁定特定个人,私密信息的保护难度显著上升。


(四)生成式人工智能服务提供者的侵权责任(《意见》第7条)


生成式人工智能可能因模型“幻觉”自动生成不准确、侮辱性或侵害他人人格权益的内容,也可能被用户通过特定提示词恶意诱导,生成针对特定个人的虚假内容。


《意见》第七条引入了与《民法典》第一千一百九十五条“通知—必要措施”规则相衔接的责任安排:生成式人工智能自动生成的内容侵害他人人格权益,经权利人通知,服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担责任。


如果网络用户通过输入侵权提示词等方式恶意诱导生成侵权内容并造成损害,首先应由该网络用户承担责任;经权利人通知后,服务提供者仍未及时停止生成、屏蔽相关生成指令,权利人请求用户和服务提供者承担民事责任的,人民法院依法支持。


这套安排并非要求服务提供者对用户生成内容逐一事先审查,而是强调:平台在接到包含初步证据和真实身份信息的合格通知后,应当及时采取与风险相适应的措施。“AI幻觉”不能当然成为平台的免责事由,“技术中立”亦不能成为恶意使用者的免责依据。


将第七条置于整体责任体系观察,其规范设计系对“避风港规则”(《民法典》第一千一百九十五条“通知—必要措施”规则)的参照适用。起草过程中并非没有争议:有观点认为,传统网络侵权为“网络用户—网络服务提供者—权利人”三方结构,而AI幻觉侵权通常仅涉及服务提供者与权利人两方,且生成内容本就由服务方参与产生,主体结构并不吻合,参照适用缺乏基础。最高法的回应着眼于运行机理的相似性——大模型生成何种内容,取决于训练数据、模型参数与用户提示词,服务提供者既难以事先预知每一用户的输入,亦无力对海量生成结果逐一审查,这与传统网络服务提供者组织、呈现海量信息所面临的困境,在本质上相同。据此参照适用避风港规则,既有利于激励创新,也可促使服务提供者尽到其能力范围内的注意义务。


参照适用不等于简单套用,生成式场景下的“通知—必要措施”规则发生了结构性调整。在传统规则中,权利人的通知通常需指向具体的侵权链接;而生成式人工智能是在与用户一对一的交互中即时生成内容,通常不形成公开可访问的链接。因此,权利人只要能合理证明人工智能生成了侵权内容——例如通过模拟普通用户输入提示词进行测试——即构成有效通知,无需提供具体链接。必要措施的重心亦由“删除”转向“停止生成侵权内容”与“屏蔽相关生成指令”:平台需要阻止的是同类侵权内容的再次生成,而不只是删除一个已经公开的网页。正因如此,条文以“及时采取与风险相适应的措施”为行为标准,而非要求服务提供者保证此后不再发生任何一次侵权。


司法实践亦已向此方向演进。杭州互联网法院审结的全国首例“AI幻觉”侵权案——梁某诉某人工智能公司网络侵权责任纠纷案(案号未对外公开)认定,人工智能不具有民事主体资格,不能独立作出具有法律约束力的意思表示,审理生成式人工智能侵权应当适用过错责任;服务提供者已就服务功能与局限作出显著提示说明,并履行了功能可靠性的基本保障义务以及服务协议约定的注意义务的,可以认定其没有过错。另一处留白同样值得关注:《意见》起草过程中曾研究是否将“红旗规则”一并写入,即服务提供者知道或者应当知道侵权存在而不采取必要措施的,与侵权人承担连带责任,最终考虑到大模型生成结果难以预测、一对一交互又具有私密性,未作统一规定。但该规则仍有适用空间——确有证据证明服务提供者知道或者应当知道用户利用其服务实施侵权的,仍可参照《民法典》第一千一百九十七条处理。


(五)人格权侵害禁令的适用(《意见》第8条)


人工智能侵权具有生成成本低、传播速度快、影响范围广、损害难以逆转的特点。若待普通诉讼程序终结后再行删除侵权内容,影响往往早已扩散而难以消除。


《意见》第八条明确,自然人、法人或者非法人组织有证据证明行为人正在实施或者即将实施侵害人格权益的违法行为,不及时制止将造成难以弥补的损害,可以向人民法院申请人格权侵害禁令。


在AI换脸造谣、深度伪造色情内容、冒用声音进行诈骗等场景中,申请人应重点固定:


  • 涉案内容、传播链接、发布时间和传播范围;

  • 内容与本人之间的可识别关联;

  • 对名誉、隐私、肖像或声音权益造成的现实风险;

  • 平台投诉、通知及平台处理情况;

  • 如不及时制止可能造成难以弥补损害的具体事实。


禁令措施本身亦不得超过必要限度。法院将根据权利类型、违法方式、损害范围与程度,精准决定是责令行为人停止行为,还是要求网络服务提供者、生成式人工智能服务提供者采取相应措施。

03 模型训练中的数据与个人信息保护(对应《意见》第6条)

大规模、高质量数据是人工智能发展的基础,但数据利用不能脱离个人信息保护规则。《意见》第六条为模型训练使用个人信息提供了一个具有条件限制的判断框架:


为人工智能模型训练,在合理范围内处理个人自行公开或者其他已经合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵害个人信息权益;但是,对个人权益有重大影响的,应当依法取得个人同意。


“合理范围”的边界,不能由企业单方界定。法院在判断时会综合考量:


1. 处理个人信息的目的,以及模型功能的必要性和适当性;

2. 信息类型、敏感程度和对个人权益的潜在影响;

3. 个人公开信息时所处的场景;

4. 个人对于公开信息被使用范围的合理预期。


质言之,“公开数据即可自由用于训练”并非当然成立的结论。更为稳妥的做法,是建立数据来源登记、数据分类分级、敏感信息识别、拒绝处理机制、训练用途记录与投诉响应机制。涉及生物识别、健康、金融、未成年人等敏感信息时,尤须审慎判断处理行为是否已对个人权益产生重大影响。


司法实践中“合理范围”的具体落点,可从入库参考案例中观察。在麦某波诉北京法某科技有限公司、北京律某信息技术有限公司网络侵权责任纠纷案(入库编号:2025-07-2-369-003,案号:(2022)粤0192民初20966号)中,某平台未经授权爬取一位律师已经公开的联系方式等信息,整理后在自己的页面上公开展示,使公众误以为该律师与平台存在合作关系。法院认定,该处理方式超出该律师公开个人信息时可合理预期的使用范围,对个人权益构成明显影响,应当取得个人同意。理解这一判断,关键在于“场景一致性”标准:个人是在什么场景、基于何种目的公开信息的,决定其对该信息后续使用范围存在相应的合理预期;处理行为距该预期越远,越难以认定仍在“合理范围”之内。至于个人自行公开与新闻报道、国家机关依法公开等其他合法公开方式,来源渠道不同、预期不同,处理时应当分别考察。个人公开时已明确表示拒绝处理,或者在得知信息被用于模型训练后明确表示反对的,平台均应停止使用。


相关律师

黄鹏
律师

上海