国家金融监督管理总局关于银行业与保险业人工智能安全开发应用的指导意见

各金融监管局，以及各政策性银行、大型银行、股份制银行、外资银行、金融资产管理公司、理财公司；各保险集团（控股）公司、保险公司、保险资产管理公司；各金融控股公司，以及各总局管理单位：

为深入贯彻《中华人民共和国国民经济和社会发展第十五个五年规划纲要》中关于加快人工智能技术创新与加强人工智能治理的战略部署，落实《国务院关于深入实施“人工智能+”行动的意见》，旨在推动数字金融实现高质量发展，并有序推进人工智能科技创新同金融业务的深度融合，现提出以下意见，以引导金融领域的人工智能应用朝着有益、安全、公平的方向健康有序地发展。

以习近平新时代中国特色社会主义思想为指导，对新发展理念进行完整、准确、全面的贯彻落实，秉持以防范风险、强化监管、促进高质量发展为核心的工作主线，实现发展与安全之间的统筹协调，加快对金融行业新质生产力的培育与发展进程，推动人工智能应用实现合规、透明与可信赖的状态，加强对分类分级管理工作的实施力度，有效应对由人工智能发展所带来的各种风险挑战，以更好地服务于实体经济并满足人民群众的多样化需求。

坚持“谁使用、谁负责”的原则，对金融机构作为金融服务提供方和人工智能技术使用方的主体责任进行压实，强化金融机构内部各环节工作责任落实的过程，并明确人工智能开发应用各方在分工和权责义务方面的具体安排。

坚持并持续推进自主可控的发展方向，旨在不断提升人工智能相关核心技术与装备的自主可控能力。通过加大对关键平台与关键软硬件的自主研发投入，着力提高其自主化水平，从而有效增强对业务经营发展具有重大影响的环节的保障能力。同时，积极推动并深化信息技术应用创新成果的适配与融合工作。

坚持务实高效的工作导向，在人工智能开发与应用过程中，对各项资源投入进行科学规划。在此过程中，需要有效平衡成本与效益之间的关系，从而推动人工智能技术能够切实服务于经济的高质量发展，并保障金融业务的高效运转。

坚持安全发展的导向，对国家网络安全与信息化工作要求予以全面落实。在此过程中，必须恪守网络安全以及数据安全的各项法律法规制度，对技术安全与应用安全保障方面予以强化，从而全面促使安全防护与应急处置能力得到提升。

二、完善人工智能治理架构

（一）加强人工智能安全开发应用的治理工作。开展人工智能开发与应用的银行业保险业金融机构，其董事会或理事会，应当指定一个专门委员会来负责人工智能在开发与应用过程中的管理工作。该委员会需要对整体发展规划进行统筹制定，推进相关能力体系的建设工作，并制定具体的制度与规范。在组织架构上，应当明确牵头部门，并建立业务、科技与数据等职能部门之间的协同工作机制。同时，需要加强专业人才队伍的培养与建设，遵循技术发展的客观规律，从而确保人工智能的应用水平与金融机构自身的风险管理能力相匹配。

（二）建立人工智能应用管理体系。金融机构应当对人工智能应用的全生命周期管理体系进行建立健全工作，该体系需要涵盖需求分析、数据准备、训练开发、部署运行、维护迭代以及评估退出等各个阶段。同时，应当对模型的研发、应用及资产管理方面进行规范化处理，对数据安全评估、算法风险筛查、伦理审查评估以及责任追溯机制的建设工作予以加强，并对人工智能应用所涉及的风险实施分类分级管理。此外，还需要对以业务价值为导向的人工智能应用绩效评估机制进行探索建立工作。

（三）强化人工智能应用场景及业务流程的管理。金融机构应当遵循应用场景与技术适配的基本原则，通过对人工智能算法的评估工作，将合适的人工智能技术运用到恰当的业务场景当中。应当推动人工智能在服务实体经济以及加强金融风险管理等领域发挥出积极的作用，对关联交易、资金运用等重点领域所存在的风险问题进行穿透式管控。金融机构需要对人机协同的业务管理流程予以完善，科学地设定人工智能的功能边界、系统及数据权限，并对人员岗位责任予以明确，以确保业务全流程的管理责任清晰、可落实且可追溯。

三、推进高水平人工智能开发应用

（四）对开发与测评体系进行系统性完善。对于具备相应条件的金融机构，鼓励其构建一站式的专用人工智能开发平台，从而对模型从开发到部署的完整生命周期实现一体化管理。同时，着力强化面向业务人员的低代码开发工具与交互式模型验证能力建设。此外，对人工智能测评体系进行系统性完善，通过建设测试工具链、标准化测评指标与丰富的测试用例集，以实现对模型基础能力、金融业务支持能力以及安全可靠性的全面评估，进而提升自动化测评的整体水平。

（五）推动新一代人工智能技术应用。鼓励金融机构在确保风险可控的基础上，积极探索生成式人工智能技术在业务领域的应用，并同步推进相关配套能力体系的构建，审慎推进相关技术的研发工作以及金融智能体的构建。金融机构应遵循相关管理规定，对其引入的生成式人工智能模型实施准入管理机制，重点评估模型的效能表现以及其在安全与合规方面的表现。对于从外部引入的生成式人工智能模型，依据相关管理规定，须事先完成向网信部门的备案工作。

（六）加强人工智能运营服务体系建设。对模型的效能表现实施定期测评与分析工作，致力于形成一个涵盖“数据—模型—应用”的闭环反馈机制，以驱动迭代优化。鼓励具备条件的金融机构着手建设企业级的模型即服务（MaaS）平台，从而推动模型资源在企业内部的共享与复用。

（七）推动构建人工智能在金融行业的应用生态。积极推动人工智能在金融行业的应用基础设施建设工作，并促进相关应用成果在行业内部得到共享与复用。鼓励大型金融机构应当积极发挥其示范带头作用，向中小金融机构输出相关技术与管理经验。同时，支持并引导中小金融机构加强相互之间的协作，共同协作推进应用场景的落地实施。鼓励金融机构与人工智能产业加强紧密协同，借助金融应用来推动产业的创新发展，并依托产业的成果来促进金融应用质量的提升与效率的改进。

四、提升数据治理能力

（八）对数据管理运营体系予以完善。金融机构应当积极推动数据运营机制的建设工作，并建立覆盖数据全生命周期的管理流程，从而对数据服务能力进行提升。通过构建企业级数据模型以及数据资产地图，并对元数据管理进行强化，可以确保数据可寻可用，不同类型的数据实现兼容，并且数据源头得以追溯。需要加强对非结构化数据的管理工作，制定涵盖数据采集、清洗、标注、应用以及退出管理在内的规范。稳妥地选择运用技术自主、性能可靠且安全防护能力强的数据库产品。

（九）推进人工智能高质量数据集的建设工作。金融机构应当针对人工智能业务场景，持续推进高质量数据集的建设工作，确立明确的数据质量标准，并建立起高效的质量检控机制，从而确保所产生数据的准确性、相关性、一致性、完整性以及无偏见性。在此过程中，可以探索运用人工智能技术，来强化对于实时数据与非结构化数据的动态感知、智能提取以及解析处理能力。同时，需要持续对数据分布漂移情况进行监测，以确保数据集能够得到及时的更新。

（十）支持行业数据集共建共享。鼓励具备相应条件的金融机构，对来自多个源头的数据进行协同整合，融合行业积累的经验知识与专业的判断能力，通过系统性筛选、清洗、标注以及合成等多种方法，来形成高质量的数据集，并支持金融机构之间在遵守法律法规和监管要求的前提下，开展数据集的共享工作。

（十一）推进知识工程的建设工作。对金融机构构建企业级知识管理体系的工作予以支持。以服务业务的价值导向为指引，对核心知识模型进行构建，建立起涵盖知识萃取、整合以及共享的机制化流程，并对贯穿于知识创建、审核、发布、更新直至归档等各环节的全流程管理规范予以制定与落实。鼓励对人工智能技术加以运用，从而对知识的萃取、表示、融合以及对齐等能力进行提升。

五、加强智能算力建设

（十二）对智能算力设施的建设工作予以强化。金融机构应当充分依托并有效利用现有的算力资源基础，依据国家的相关政策导向与具体要求，根据实际业务需求，进行智能算力资源的规划与建设。在此过程中，需要积极应用并充分整合绿色低碳技术，以构建具备自主可控特性的安全且高效的算力基础支撑体系，从而为国家高水平科技自立自强目标的实现提供助力。鼓励具备相应条件的大型金融机构，向中小型金融机构输出其算力服务能力，并支持同行业机构在基础设施层面开展共建与共享的探索工作。支持金融机构在严格遵循安全与合规要求的前提下，规范使用并有效利用国家级的算力节点或行业共享基础设施，以降低人工智能研发与应用过程中的成本投入。同时，需要对智能算力资源所涉及的信息科技重要外包管理工作予以加强。

（十三）显著提升安全运行保障水平。金融机构需要针对其智能算力资源，构建起一套完备的云化管理体系，并对所有人工智能应用实施持续性的运行监测。在此过程中，应致力于对应用、模型、算力、网络等多个层面实施贯穿始终的集成化管理与高效协同，从而为人工智能应用的安全与可靠运行提供坚实的能力基础。

六、完善人工智能风险治理框架

（十四）健全风险治理体系。金融机构应当将人工智能所涉风险纳入到全面风险管理的体系当中，并定期对人工智能应用的相关风险及管理措施开展评估与审查工作。推动模型算法、数据资源、基础设施以及应用系统等多方面的安全能力建设工作，对业务及风险管理的相关流程予以完善，以防范模型生成结果不可靠所带来的相关风险，并防止模型黑箱导致关键业务流程难以落实责任的问题。夯实数据安全、网络安全、个人信息与隐私保护以及业务连续性等多个方面的工作基础。有效应对金融业务侧可能出现的投资策略趋同以及市场波动风险被放大的相关问题，对于滥用人工智能技术来生成虚假信息或操纵市场价格的行为，必须予以严格禁止。

（十五）对风险实施分类分级管理工作。金融机构应当依据业务场景的重要程度、应用的具体规模、对客户产生的直接影响、对模型的依赖程度以及模型本身的复杂程度等多方面因素，来对人工智能应用开展风险识别工作，并实施分类分级管理。为此，需要建立相应的管理制度，制定详细的应用清单，落实不同级别的管控措施，从而明确并压实各项管理责任。

（十六）加强高风险应用的准入管理。那些涉及资金交易、资产评估、信贷审批、承保理赔以及风险管理等领域的场景，或是与客户利益直接相关、能够直接影响金融合约达成的生成式人工智能应用，应当被认定为高风险应用范畴。对于此类人工智能高风险应用，必须在获得本机构风险管理委员会的正式批准后，方可进入实施阶段。

（十七）强化对高风险应用的监测与干预工作。金融机构需要对人工智能在业务场景中的运行状态进行持续监测，以便及时发现并管控模型风险。在高风险应用的关键环节，应当构建人工监督与干预机制，明确紧急停用和模型退出的条件，并配置备用系统或人工替代流程。

（十八）加强对外包业务的风险管控工作。当金融机构运用外部的人工智能技术时，应当就外包策略、数据安全以及业务集中度等多个管理维度，构建相应的管理机制。需要借助合同协议的形式对双方在安全管理方面的权责义务予以明确界定，从而确保金融机构能够对相关风险实施有效管控。在与外部企业建立合作关系的过程中，应当构建有效的风险隔离“防火墙”机制，对风险在不同行业之间的传递进行有效防范。对开展外包合作的机构需要实行名单制管理模式，并且应当针对所引入的外部模型，建立一套严格的内部评估框架，以便对模型自身的优缺点以及其适配性进行有效评价。

（十九）加强供应链与开源技术风险管理工作。金融机构应当对人工智能领域所涉及的算力、模型、数据、技术工具等各个环节，建立贯穿始终的安全合规管理机制，以确保人工智能应用的整个过程实现自主且可控的目标，对可能因过度依赖个别技术服务而引发的集中度风险进行有效防范。此外，对开源技术的使用规范进行完善工作，建立并维护开源软件的管理台账，针对从外部引入的开源组件，需要执行审查与评估程序，并加强对代码的审计、漏洞的扫描以及安全测试工作。定期开展对开源组件风险隐患的排查行动，从而对可能发生的供应链投毒行为进行有效防范。

七、对人工智能安全开发应用能力的提升工作

（二十）增强稳健性。金融机构需从训练数据的质量、数量以及分布特征入手，确保其符合特定建模任务的要求。在模型构建过程中，应采用与之相适配的架构和训练策略。同时，需要对对抗性样本实施检测，并开展压力测试，以此严格评估模型的敏感性、稳定性、抗噪声能力与容错性能。模型投入实际运行后，应当对其性能表现进行持续监测，并建立一套训练与反馈相结合的更新机制，从而支撑模型实现持续的迭代优化。

（二十一）对透明度的提升工作。金融机构需要对其人工智能应用的透明度管理工作予以加强，为那些处于高风险场景下的应用制定关于透明度与可解释性方面的具体标准，从而将模型在设计、数据运用、特征选择以及输出结果背后所遵循的逻辑路径清晰地揭示出来。对于由人工智能系统所生成的内容，应当实施明确的标识处理，并且需要主动向金融消费者提供相应的说明。此外，需要强化模型在开发、变更管理以及训练过程方面的记录工作，所记录的日志保存期限应当不低于业务本身的存续周期。

（二十二）对可解释性予以促进。金融机构应当为其人工智能模型制定专门的可解释性方法，并着重加强对推理过程的解释能力以及对决策依据的分析能力。当可解释性不足的人工智能技术被应用于高风险场景时，它只能作为辅助决策的工具，而必须由人工来完成最终的决策判断。在人工智能模型被用于涉及客户权益或者会产生实质性财务影响的关键决策过程中，必须设置专门的人工复核节点，需要完整地保留原始数据、推理路径以及阈值触发的相关记录，从而确保责任链条的完整与可追溯性。此外，还需要定期对人工智能模型的算法开展审计工作。

（二十三）保障伦理道德与公平性。金融机构在开发与应用人工智能的过程中，应当确保其符合国家法律法规以及社会价值观的相关要求。为此，需要建立一套覆盖人工智能开发与应用全周期的伦理审查与监测制度，并制定与之相配套的行为准则，以符合伦理道德的标准。同时，应当加强对数据集的审查工作，并对特定群体可能产生的影响进行评估，从而有效避免算法歧视等不公平性问题的出现。当运用受保护的特征或属性时，必须提供充分的正当性说明，并及时删除可能存在的偏见样本。对于那些涉及公共服务、关键信息基础设施以及可能影响公共安全的人工智能应用，应当实施严格的伦理风险监测与评估工作，并在模型运行过程中出现异常情况时，迅速采取处置措施。

（二十四）加强数据安全与个人信息保护工作。金融机构应将人工智能数据安全全面纳入企业数据安全管理体系当中，严格落实数据分类分级保护要求。需要对开发过程中的数据访问权限进行规范管理，防范数据投毒行为，对数据脱敏规范予以完善，避免运用可直接识别出个体身份的数据信息。姓名、身份证号、手机号、银行卡号等个人隐私数据不得运用于生成式人工智能模型的训练与优化环节，从而有效防止客户隐私泄露。加强模型安全护栏建设工作，对内容过滤及脱敏管理进行强化。对外包过程中的数据安全问题，也需要实施严格管理。

（二十五）强化网络安全防护体系。金融机构应当对人工智能开发与应用过程中的网络安全管理工作予以加强，对对抗性攻击测试与输出验证工作的力度进行提升。通过数据隔离以及访问控制等措施，对模型部署环节的安全保障能力进行增强，并对模型运行行为开展持续性的监测工作。此外，需要对人工智能模型以及相关系统组件定期执行漏洞扫描与修补操作，从而对提示词注入、思维链注入、多模态攻击、上下文污染等威胁实施有效防范。同时，对智能体系统的安全保障能力进行提升，对数据泄露、记忆污染、身份越权、工具滥用、运行失控等安全风险予以重点防范。

金融机构需要将人工智能应用的连续性保障工作，系统性地纳入到其整体业务连续性管理体系之中，并据此开展专项的业务影响分析工作，制定具备针对性的应急预案。同时强化日常的安全运行管理、事件应急处置流程以及整体的容灾能力建设。一旦发生系统故障，必须确保人工操作流程能够及时介入或备份系统能够即刻启用，从而切实保障人工智能相关应用的稳定运行与整体可靠性。

八、保障与监督

（二十七）加强督促指导。金融监管总局及其各级派出机构应当承担起指导职责，致力于促进人工智能技术在金融领域的安全开发与应用工作，同时督促其辖区范围内的金融机构全面落实风险治理的各项要求。各级监管部门需要压实其自身的监管责任，通过开展常规性的风险评估与监督检查工作，重点关注相关金融业务在合规方面所存在的风险状况。督促金融机构对自身的风险治理体系进行健全与完善，对于在政策落实过程中存在的不到位、执行偏离原意等问题，应当及时予以纠正，对于违反相关规定的行为，则必须采取严肃查处的措施。

（二十八）致力于推动建立安全应用的实施规范。金融监管总局联合相关职能部门，持续投入资源以推动构建银行业保险业生成式人工智能的安全开发与应用技术框架，对分类分级管理工作进行规范化处理，将安全开发标准规范予以明确化，从而引导金融机构对人工智能应用的安全开发水平进行有效提升。

（二十九）对风险监测、预警以及应对处置工作的力度进行提升。那些将生成式人工智能技术应用于面向公众的服务或高风险场景的金融机构，需要向金融监管总局或其派出机构履行报告职责。金融监管总局及其各级派出机构需要致力于建立起一套监测预警与处置机制，对风险监测预警指标体系进行优化完善，对分析与处置工作的力度予以加强，并对相关的监管工具与方法进行完善。同时，需要对金融机构予以督促，使其在事前、事中以及事后等全链条环节中，对相关风险的防控工作落实到位。此外，还应当对网络安全与数据安全等风险事件的复盘分析工作予以加强，并督促金融机构对其防御体系进行改进与优化。需要聚焦于对客服务以及高风险应用场景，制定专门的风险应急预案，从而对应急响应的能力进行提升。最后，需要加强跨部门之间的合作与协调工作，以此形成监管合力，对信息孤岛现象进行有效避免，从而对可能发生的系统性风险进行防范。

（三十）对监管定期评估机制进行建立健全工作。金融监管总局及其派出机构需要对金融机构开发与应用人工智能过程中的监督管理工作予以强化，将重点聚焦于对高风险场景应用的监管工作之上。建立起一套针对监管政策与监管效果的年度评估机制，从而推动监管适配能力得到持续性的提升。

（三十一）金融监管总局及其派出机构应致力于强化数字化与智能化相关领域的培训工作，从而对监管人员在数据分析以及智能工具运用方面的相关能力进行提升。并且致力于培养复合型的监管人才，以提升其能够与人工智能技术所具备的复杂程度相匹配的、对风险进行识别、监测以及处置的综合能力。

（三十二）推动行业交流活动。应当鼓励在人工智能领域开展沟通与交流工作，借助经验分享、培训研讨、技能竞赛以及案例宣传等多种方式，来构建有利于人工智能发展的良好文化氛围。同时，行业自律组织需要发挥其桥梁纽带的功能，从而促进行业内部的经验交流。

国家金融监督管理总局

2026年6月18日

（文章来源：金融监督管理总局）

来源：金融监督管理总局发布银行业保险业人工智能安全开发应用指导意见 | 东方财富网