(一)“AI换脸”“AI拟声”的依法规制(《意见》第4条)
《意见》第四条规定,除法律另有规定外,未经自然人同意,利用人工智能处理其姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开的,人民法院依法支持其关于姓名权、肖像权等人格权益受到侵害的主张。
未经自然人同意,使用其声音作为训练语料,模仿其音色、语调和发音风格,生成能够识别该自然人的合成人声的,人民法院依法支持其关于声音权益受到侵害的主张。
对相关经营者而言,以下两个判断要点需要特别留意。
第一,保护对象不只是传统意义上的“照片”或“录音”,还包括经过算法处理后仍然能够指向特定自然人的数字形象和合成人声。
第二,判断的重点在于可识别性。北京互联网法院审理的殷某某诉某智能科技公司等人格权侵权纠纷案(案号:(2023)京0491民初12142号)中,法院认为,AI合成声音如能使一般社会公众或相关领域公众根据音色、语调和发音风格识别出特定自然人,即具备可识别性。录音制品的著作权人对录音制品享有权利,并不当然意味着其取得了对该录音中自然人声音进行AI化使用的授权。
“AI撞脸”同样落入人格权益保护范围。入库参考案例何某诉上海自某人工智能科技公司网络侵权责任纠纷案(入库编号:2025-07-2-369-001,案号:(2020)京0491民初9526号)明确,自然人的人格权益及于其虚拟数字形象。在迪某诉杭州某公司、阜阳某公司网络侵权责任纠纷案中,被告在短剧中通过“AI换脸”嵌入与原告肖像具有可识别性的人脸,并以人脸系AI自动生成、属偶发撞脸为由抗辩,法院未予采信。其理由在于:被告作为短剧制作方,系影视行业从业者,基于对行业的了解程度和原告的知名度,在制作与审核环节即应具备基本判断能力;在原告未参演且未许可的情况下,理应主动避免使用,不能以“AI自动生成”为由免除注意义务。
对影视、教育、广告、直播、电商等广泛使用“数字人”“声音克隆”的行业而言,使用前至少应逐项核查:
1.是否取得自然人本人对肖像、姓名、声音进行人工智能处理的授权;
2.授权是否涵盖训练、生成、传播、商业推广等具体用途;
3.授权期限、地域、平台范围和可否再许可是否明确;
4.是否存在可能导致公众误认、名誉受损或商业背书误认的使用方式。
(二)“AI复活逝者”的依法规制(《意见》第4条)
《意见》同时回应了“AI复活逝者”问题。利用人工智能擅自制作、使用死者虚拟数字形象,致使死者姓名、肖像、名誉等受到侵害的,死者近亲属依据《民法典》第九百九十四条请求行为人承担民事责任的,人民法院依法支持。
这一规定的规范意旨在于:人工智能并未改变人格利益保护的基本逻辑。自然人死亡后,未经许可制作、传播其虚拟数字形象,仍可能侵害死者的人格利益,并损及近亲属的精神利益、社会评价与人格尊严。
需要指出的是,《意见》上述规则以“近亲属主张权利”为启动条件,死者生前禁止AI复活的意愿如何落实,仍属规则空白。笔者曾撰文主张,应赋予公民“禁止死后被AI复活”的权利(黄鹏:《禁止“AI 复活”的权利》),核心理由有三:其一,死者遗愿具有独立的规范价值,死后利益应受尊重;其二,《个人信息保护法》第十九条关于死者个人信息处理“死者生前另有安排的除外”的规定,为生前作出禁止安排提供了规范基础;其三,禁止AI复活可理解为一种消极的遗产安排。就实务而言,个体可通过遗嘱、个人信息处理安排或与网络平台、受托人作出约定,预先表达“死后禁止AI复活”的意思。
(三)“网络开盒”“人肉搜索”的依法规制(《意见》第5条)
现实中,行为人可能利用人工智能批量抓取电话号码、网络账号、社交媒体内容,再通过交叉比对、画像分析获取私密信息,或者将私密信息公开传播。
《意见》第五条明确:以刺探隐私为目的,利用人工智能对特定自然人的公开信息进行追踪、分析,获取私密信息,或者泄露、公开私密信息,或者侵扰私人生活安宁的,构成对隐私权的侵害。利用人工智能对私密空间、私密活动实施拍摄、窥视、窃听等行为的,也应依法认定为侵害隐私权,但法律另有规定或者本人明确同意的除外。
实务中最易产生误解的,是“公开”的规范含义。信息已经公开,只能说明其存在公开来源,不等于任何人都可以用人工智能对之进行无限聚合、画像、推断与再传播。行为是否合法,仍应考察处理目的、处理方式、信息性质、是否超出信息主体的合理预期,以及是否侵扰私人生活安宁。
条文以“以刺探隐私为目的”作为限定,具有行为界分功能:它将违法的“开盒”与正当的数据分析区分开来。市场调研、反欺诈核查等将公开信息加工为匿名化、统计性结论的分析,不在规制之列。真正引起司法机关警惕的是,人工智能已将“开盒”的技术门槛降至极低——以往需要专门技术手段方能实现的行为,如今借助一张照片、一段公开的社交动态,经交叉比对即可锁定特定个人,私密信息的保护难度显著上升。
(四)生成式人工智能服务提供者的侵权责任(《意见》第7条)
生成式人工智能可能因模型“幻觉”自动生成不准确、侮辱性或侵害他人人格权益的内容,也可能被用户通过特定提示词恶意诱导,生成针对特定个人的虚假内容。
《意见》第七条引入了与《民法典》第一千一百九十五条“通知—必要措施”规则相衔接的责任安排:生成式人工智能自动生成的内容侵害他人人格权益,经权利人通知,服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担责任。
如果网络用户通过输入侵权提示词等方式恶意诱导生成侵权内容并造成损害,首先应由该网络用户承担责任;经权利人通知后,服务提供者仍未及时停止生成、屏蔽相关生成指令,权利人请求用户和服务提供者承担民事责任的,人民法院依法支持。
这套安排并非要求服务提供者对用户生成内容逐一事先审查,而是强调:平台在接到包含初步证据和真实身份信息的合格通知后,应当及时采取与风险相适应的措施。“AI幻觉”不能当然成为平台的免责事由,“技术中立”亦不能成为恶意使用者的免责依据。
将第七条置于整体责任体系观察,其规范设计系对“避风港规则”(《民法典》第一千一百九十五条“通知—必要措施”规则)的参照适用。起草过程中并非没有争议:有观点认为,传统网络侵权为“网络用户—网络服务提供者—权利人”三方结构,而AI幻觉侵权通常仅涉及服务提供者与权利人两方,且生成内容本就由服务方参与产生,主体结构并不吻合,参照适用缺乏基础。最高法的回应着眼于运行机理的相似性——大模型生成何种内容,取决于训练数据、模型参数与用户提示词,服务提供者既难以事先预知每一用户的输入,亦无力对海量生成结果逐一审查,这与传统网络服务提供者组织、呈现海量信息所面临的困境,在本质上相同。据此参照适用避风港规则,既有利于激励创新,也可促使服务提供者尽到其能力范围内的注意义务。
参照适用不等于简单套用,生成式场景下的“通知—必要措施”规则发生了结构性调整。在传统规则中,权利人的通知通常需指向具体的侵权链接;而生成式人工智能是在与用户一对一的交互中即时生成内容,通常不形成公开可访问的链接。因此,权利人只要能合理证明人工智能生成了侵权内容——例如通过模拟普通用户输入提示词进行测试——即构成有效通知,无需提供具体链接。必要措施的重心亦由“删除”转向“停止生成侵权内容”与“屏蔽相关生成指令”:平台需要阻止的是同类侵权内容的再次生成,而不只是删除一个已经公开的网页。正因如此,条文以“及时采取与风险相适应的措施”为行为标准,而非要求服务提供者保证此后不再发生任何一次侵权。
司法实践亦已向此方向演进。杭州互联网法院审结的全国首例“AI幻觉”侵权案——梁某诉某人工智能公司网络侵权责任纠纷案(案号未对外公开)认定,人工智能不具有民事主体资格,不能独立作出具有法律约束力的意思表示,审理生成式人工智能侵权应当适用过错责任;服务提供者已就服务功能与局限作出显著提示说明,并履行了功能可靠性的基本保障义务以及服务协议约定的注意义务的,可以认定其没有过错。另一处留白同样值得关注:《意见》起草过程中曾研究是否将“红旗规则”一并写入,即服务提供者知道或者应当知道侵权存在而不采取必要措施的,与侵权人承担连带责任,最终考虑到大模型生成结果难以预测、一对一交互又具有私密性,未作统一规定。但该规则仍有适用空间——确有证据证明服务提供者知道或者应当知道用户利用其服务实施侵权的,仍可参照《民法典》第一千一百九十七条处理。
(五)人格权侵害禁令的适用(《意见》第8条)
人工智能侵权具有生成成本低、传播速度快、影响范围广、损害难以逆转的特点。若待普通诉讼程序终结后再行删除侵权内容,影响往往早已扩散而难以消除。
《意见》第八条明确,自然人、法人或者非法人组织有证据证明行为人正在实施或者即将实施侵害人格权益的违法行为,不及时制止将造成难以弥补的损害,可以向人民法院申请人格权侵害禁令。
在AI换脸造谣、深度伪造色情内容、冒用声音进行诈骗等场景中,申请人应重点固定:
涉案内容、传播链接、发布时间和传播范围;
内容与本人之间的可识别关联;
对名誉、隐私、肖像或声音权益造成的现实风险;
平台投诉、通知及平台处理情况;
如不及时制止可能造成难以弥补损害的具体事实。
禁令措施本身亦不得超过必要限度。法院将根据权利类型、违法方式、损害范围与程度,精准决定是责令行为人停止行为,还是要求网络服务提供者、生成式人工智能服务提供者采取相应措施。