在AI时代下，人机协同的创作模式彻底瓦解了传统网络领域中内容提供与技术服务之间的二元划分结构，对于AI换脸、大模型幻觉以及人机创作侵权这类新型纠纷而言，已经不能再依赖旧有避风港规则来进行简单的一刀切式裁判。7月9日，在“2026第二十五届中国互联网大会”——智能时代的司法挑战与应对圆桌讨论上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰指出了这一行业问题。

随后，王彦杰与杭州互联网法院政治部副主任王岩以及广州互联网法院审管办（研究室）主任胡剑敏，共同围绕当下AI偷脸、虚拟人商用、AI图文抄袭、大模型虚假输出等热议话题开展了深度对话交流。

《每日经济新闻》记者在现场了解到，AI工具大幅度降低了侵权行为的成本，这直接使得批量换脸以及著作权侵权案件得以持续爆发，广州互联网法院近三年所受理的涉AI案件数量约为700件。

而上述案件普遍面临着技术黑箱难以拆解、参与主体呈现多层结构、责任边界较为模糊等多重难点。那么，在技术高速发展的背景下，司法应当如何在有效保护受害者权益的同时，又能够避免对创新活动造成扼杀？

在人工智能时代背景下，人机协同的创作模式已经彻底瓦解了传统网络领域当中内容提供与技术服务之间的二元划分结构。对于AI换脸、大模型幻觉以及人机创作侵权这类新型纠纷而言，目前已经不能再依赖于旧有避风港规则来开展简单的一刀切式裁判工作。7月9日，在“2026第二十五届中国互联网大会”——智能时代的司法挑战与应对圆桌讨论上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰指出了这一行业问题。
随后，王彦杰与杭州互联网法院政治部副主任王岩以及广州互联网法院审管办（研究室）主任胡剑敏，共同围绕当下AI偷脸、虚拟人商用、AI图文抄袭、大模型虚假输出等热议话题开展了深度对话交流。
《每日经济新闻》记者在现场了解到，AI工具大幅度降低了侵权行为的成本，这直接使得批量换脸以及著作权侵权案件得以持续爆发，广州互联网法院近三年所受理的涉AI案件数量约为700件。
而上述案件普遍面临着技术黑箱难以拆解、参与主体呈现多层结构、责任边界较为模糊等多重难点。那么，在技术高速发展的背景下，司法应当如何在有效保护受害者权益的同时，又能够避免对创新活动造成扼杀？

在圆桌现场，王彦杰所分享的“春风案”引发了广泛关注。在该案当中，原告借助AI绘画软件，运用输入提示词并且历经多轮修改之后生成了图片，却被他人擅自加以使用。原告对涉案图片享有著作权法意义上的权利，被告未经许可使用涉案图片，构成侵权。享有权利的并非AI，而是通过智力投入进行选择和操控的人类创作者。这确立了“AI是工具，人是创作主体”的核心原则。

在确认“AI创作”权利的同时，也面临着严峻的侵权风险。

记者了解到，近三年来，广州互联网法院受理涉及人工智能的案件数量约700件。其中，商业维权现象较为突出，这是因为AI图文以及短视频生成工具大幅降低了侵权成本，从而使得批量抄袭以及换脸商用案件持续攀升。

胡剑敏对相关案件开展了归纳总结，认为这些案件呈现出以下鲜明特点。首先是存在有多重参与主体，而且法律关系显得特别复杂。这是因为整个人工智能的生成过程所涉及到的从数据训练开始，进而到提示词的输入，再到内容输出以及智能体化平台的调用，在执行任务的过程中会涉及不同主体，其中包括工具的使用者、服务的提供者等多层主体，甚至还会涉及内容平台。胡剑敏表示，与此同时技术解构难度较大，算法黑箱以及模型训练流程超出了传统法官的认知范围；再者是商业侵权呈现规模化趋势，AI工具让批量侵权得以实现高效率、低成本，传统维权模式在应对方面显得乏力。

要打破传统“二分法”的简单划分结构，需要从控制力强弱程度以及场景化适配特点这一视角出发，对责任边界进行系统性重构工作。

当AI换脸行为侵犯肖像权、大模型搜索输出误导性结论从而引发名誉侵权时，责任链条在用户、应用方以及模型提供方之间应当如何进行切分？

在现场讨论中，胡剑敏所提及的广州互联网法院近期审结且已经生效的“AI幻觉案”具有很强代表性。据其介绍，当事人借助AI工具对“某机构是否是正规机构”这一问题开展了查询，而AI所输出的回答则是：“不是正规机构。”相关机构认为这一回答侵害了自身权益，因此向法院提起了诉讼。

法院在审查过程中发现，用户所提出的问题属于封闭式问题，其答案呈现非黑即白的明确特征，而“正规”这一概念本身的定义较为模糊，用户在输入提示词的过程中实际上已经对回答方向施加了一定程度的引导。

最终，法院认为输出结果与提示词的结构之间存在密切关系。提示词的设计会直接影响答案的真实性以及准确性，因此责任不能全部由服务提供者承担。

这给用户敲响了警钟，表明不能将一切责任简单推给技术。胡剑敏表示：“从用户角度来看，在审查其注意义务方面，除了要考察用户是否存在规避平台审查的行为之外，还要判断用户是否实施了误导性发问。”

对于服务提供者而言，责任划分远非“技术中立”所能够豁免。胡剑敏表示，在上述案件中，广州互联网法院对服务提供者的注意义务开展了考察，主要涵盖数据来源是否可信、平台是否符合当前通行技术水平、输出结果是否存在人工干预等多个方面。

而在王彦杰看来，AI时代下的人机协同创作模式已经打破了传统网络领域中内容提供以及技术服务之间的二元划分结构，在具体侵权场景当中，应当兼顾其作为内容生产者以及平台服务者的双重角色来进行责任认定。

为有效应对技术审理方面所存在的难点，胡剑敏透露，广州互联网法院目前也正在尝试着手建立数字技术管理中心，这一中心或将于8月底正式挂牌成立。这一机构有别于传统知识产权法院所采用的技术调查官制度，它专门负责对数据训练过程以及输出逻辑等方面开展解构工作，从而填补专业化知识方面的鸿沟。

三方所形成的共识重点在于：责任的分担必须牢牢锚定于控制力度的强弱以及过错程度的轻重这两个关键方面。在AI换脸黑灰产领域当中，既不能因为算法黑箱的存在就让平台承担无限连带的责任，也不能允许用户把“机器自动生成”当成挡箭牌从而脱卸责任。

正如王岩所指出的那样，责任的最终认定需要综合考量侵权行为所产生的后果，如果服务提供者已经充分尽到了注意义务，那么便不需要承担相应责任，而且也不能以技术上存在不可操作性或者不可预知性为由来开展责任推卸；而运用人工智能工具的当事人，则必须为自身所做出的不当输入以及诱导性发问承担不利后果，这正是智能时代司法工作在定分止争方面的底层法理。

来源：从“AI偷脸”到“大模型虚假输出”，司法如何追赶技术狂奔的速度？ | 每日经济新闻