在人工智能（AI）时代的人机协同创作模式当中，彻底打破了传统网络领域内容提供以及技术服务所形成的二元划分。对于AI换脸、大模型幻觉、人机创作侵权等新型纠纷而言，无法再借助旧有避风港规则来进行简单的一刀切裁判。日前，在“2026第二十五届中国互联网大会”——智能时代的司法挑战与应对圆桌讨论上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰对行业问题进行了指出。

随后，王彦杰与杭州互联网法院政治部副主任王岩以及广州互联网法院审管办（研究室）主任胡剑敏，共同围绕当下AI偷脸、虚拟人商用、AI图文抄袭、大模型虚假输出等热议话题开展了深度对话。

《每日经济新闻》记者在现场获悉，AI工具大幅降低了侵权所需要的成本，从而导致批量换脸以及著作权侵权案件得以持续爆发，广州互联网法院近三年所处理的涉AI案件约700件。

而在上述这些案件当中，普遍存在着技术黑箱难以拆解、参与主体呈现多层结构、责任边界较为模糊等多方面难点。那么，在技术高速发展的背景之下，司法应当如何既有效保护受害者权益，又避免对创新活动造成扼杀？

在对话现场，王彦杰所分享的“春风案”引起了广泛关注。在这一案件当中，原告运用AI绘画软件，借助输入提示词并且历经多轮修改的方式成功生成了相关图片，随后却被他人未经授权擅自加以使用。原告对于涉案图片拥有著作权法意义上的相应权利，而被告在未经许可的情况下使用这些图片，从而构成了侵权行为。真正享有这些权利的并不是AI工具本身，而是那些通过投入智力进行选择和操控的人类创作者。这一判决由此确立了“AI是工具，人是创作主体”的核心原则。

在确认“AI创作”权利的同时，也会面临严峻的侵权风险。

记者了解到，近三年来广州互联网法院受理了涉及人工智能的案件约700件。其中，商业维权现象表现得较为突出，因为AI图文以及短视频生成工具大幅降低了侵权行为的成本，从而使得批量抄袭以及换脸商用案件持续呈现攀升态势。

胡剑敏对相关案件进行了归纳总结，认为这些案件呈现出以下几方面鲜明特点。首先，其中存在着多重参与主体，而且所涉及的法律关系特别复杂。这是因为整个人工智能的生成过程需要从数据的训练开始，依次经过提示词的输入、内容的输出以及智能体化平台的调取等环节，在执行任务的过程中会涉及不同主体，包括工具的使用者、服务的提供者等多层参与主体，甚至还会涉及内容平台。胡剑敏表示，同时技术解构的难度也很大，算法黑箱以及模型训练流程远远超出了传统法官的认知范围，再加上商业侵权呈现出规模化的趋势，AI工具使得批量侵权行为得以实现高效率、低成本的特点，从而导致传统的维权模式在应对上显得较为乏力。

不能将一切责任推给技术

在人工智能（AI）时代的人机协同创作模式当中，这种模式彻底打破了传统网络领域由内容提供以及技术服务所形成的二元划分。对于AI换脸、大模型幻觉以及人机创作侵权等新型纠纷来说，已经无法再借助旧有避风港规则来进行简单的一刀切式裁判。日前，在“2026第二十五届中国互联网大会”举办的智能时代的司法挑战与应对圆桌讨论上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰对行业问题进行了指出。

随后，王彦杰与杭州互联网法院政治部副主任王岩以及广州互联网法院审管办（研究室）主任胡剑敏，共同围绕当下AI偷脸、虚拟人商用、AI图文抄袭、大模型虚假输出等热议话题开展了深度对话。

《每日经济新闻》记者在现场获悉，AI工具大幅降低了侵权所需要的成本，从而导致批量换脸以及著作权侵权案件得以持续爆发，广州互联网法院近三年所处理的涉AI案件约700件。

而在上述这些案件当中，普遍存在着技术黑箱难以拆解、参与主体呈现多层结构、责任边界较为模糊等多方面难点。那么，在技术高速发展的背景之下，司法应当如何既有效保护受害者权益，又避免对创新活动造成扼杀？

在对话现场，王彦杰所分享的“春风案”引起了广泛关注。在这一案件当中，原告运用AI绘画软件，借助输入提示词并且历经多轮修改的方式成功生成了相关图片，随后却被他人未经授权擅自加以使用。原告对于涉案图片拥有著作权法意义上的相应权利，而被告在未经许可的情况下使用这些图片，从而构成了侵权行为。真正享有这些权利的并不是AI工具本身，而是那些通过投入智力进行选择和操控的人类创作者。这一判决由此确立了“AI是工具，人是创作主体”的核心原则。

在确认“AI创作”权利的同时，也会面临严峻的侵权风险。

记者了解到，近三年来广州互联网法院受理了涉及人工智能的案件约700件。其中，商业维权现象表现得较为突出，因为AI图文以及短视频生成工具大幅降低了侵权行为的成本，从而使得批量抄袭以及换脸商用案件持续呈现攀升态势。

胡剑敏对相关案件进行了归纳总结，认为这些案件呈现出以下几方面鲜明特点。首先，其中存在着多重参与主体，而且所涉及的法律关系特别复杂。这是因为整个人工智能的生成过程需要从数据的训练开始，依次经过提示词的输入、内容的输出以及智能体化平台的调取等环节，在执行任务的过程中会涉及不同主体，包括工具的使用者、服务的提供者等多层参与主体，甚至还会涉及内容平台。胡剑敏表示，同时技术解构的难度也很大，算法黑箱以及模型训练流程远远超出了传统法官的认知范围，再加上商业侵权呈现出规模化的趋势，AI工具使得批量侵权行为得以实现高效率、低成本的特点，从而导致传统的维权模式在应对上显得较为乏力。

对话现场，胡剑敏所提到的广州互联网法院近期一起已经生效的“AI幻觉案”极具代表性。据他介绍，当事人运用AI查询“某机构是不是正规机构”，AI所给出的回答则是：“不是正规机构。”相关机构认为这一回答侵害了自身权益，因此向法院提起了诉讼。

法院在审查过程中发现，用户所提出的问题属于封闭式问题，其答案呈现非黑即白的特征，而“正规”这一概念本身的定义较为模糊，因此用户在输入提示词时，实际上已对回答方向施加了一定引导。

最终，法院认为输出结果与提示词的结构之间存在密切关系。提示词的设计会直接影响到答案的真实性以及准确性，因此责任不能全部由服务提供者来承担。

这一情形给用户敲响了警钟，表明不能将一切责任都推给技术。胡剑敏表示，从用户角度来看，在审查其注意义务时，除了要考察用户是否存在规避平台审查的行为之外，还要判断用户是否实施了误导性的发问。

对于服务提供者而言，责任划分远非“技术中立”所能够豁免。胡剑敏表示，在上述案件当中，广州互联网法院对服务提供者的注意义务进行了考察，主要涵盖了数据来源是否可信、平台是否符合当前通行技术水平、输出结果是否存在人工干预等多个方面。

而在王彦杰看来，人工智能时代的人机协同创作模式已经彻底打破了传统网络领域内容提供以及技术服务所形成的二元结构，在面对具体侵权场景的时候，应当兼顾其同时作为内容生产者以及平台服务者的双重角色，进而对相关责任进行认定。

为了有效应对技术审理方面所存在的难点，胡剑敏透露，广州互联网法院目前也在尝试建立数字技术管理中心，这一中心或将于8月底正式挂牌成立。该机构区别于传统知识产权法院的技术调查官制度，它专门负责对数据训练以及输出逻辑等专业化知识鸿沟进行解构工作。

三方共识在于：责任分担必须根据控制力度以及过错程度来进行锚定。在AI换脸黑灰产中，不能因为算法存在黑箱而让平台背负无限连带责任，也不能让用户以“机器自动生成”为挡箭牌来实现脱责。

正如王岩所言，责任最终需要综合考量侵权后果，如果服务提供者已尽到注意义务则无需承担，并且不能以技术不可操作或结果不可预知性为由进行推卸；而运用AI的当事人，必须为自己的不当输入与诱导性发问承担不利后果，这才是智能时代司法定分止争的底层法理。

来源：从AI偷脸到大模型虚假输出，司法如何追赶技术 | 证券时报网