金融监管总局AI安全新规解读：证券金融AI软件行业如何落地合规

金融监管总局AI安全新规解读：证券金融AI软件行业如何落地合规

一、政策概述：32项意见划定AI安全开发应用框架

2026年6月18日，国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》，从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督七个方面提出了32项指导性意见。

《指导意见》确立了四大原则：谁使用谁负责、自主可控、务实高效、安全发展。要求金融机构建立贯穿需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期管理体系。

对证券金融AI软件行业而言，这份文件虽直接面向银行保险业，但其技术框架和合规要求具有行业普适性。证监会主席吴清在2026陆家嘴论坛上已明确表示，将适时研究发布进一步规范发展资本市场人工智能的指导意见。证券行业的AI合规治理已箭在弦上。

二、证券金融AI软件行业涉及的产品与技术

2.1 主要产品类型

证券行业AI应用已从早期的“聊天机器人式问答”升级为覆盖全链路决策辅助的成熟产品体系：

智能投顾与财富管理类：覆盖持仓诊断、策略生成、动态调仓提醒、风险预警的全链路决策辅助系统。头部券商已形成“AI主动盯盘+信号预警+投顾跟进”的标准化服务流程。

Skill工具类：将成熟系统能力封装为标准化功能单元，供AI识别、调用与直接执行。典型场景包括行情查询、数据筛选、选股分析、研报解读、自选股管理等。

智能投研类：研报自动生成、财报解读、舆情分析、知识库问答等产品，利用大模型对海量金融信息进行自动化处理。

AI网关与治理平台类：统一纳管多厂商模型、实现模型路由、成本追踪、权限管控和审计日志的中间件平台（如LiteLLM等AI网关产品）。

数字人与智能客服类：基于大模型的数字人交互系统，用于客户服务、业务办理引导等场景。

2.2 核心技术栈

大语言模型（LLM）与生成式AI：证券行业已有近30家机构完成算法或模型备案，备案项目总数超40个。生成式AI被用于研报生成、代码辅助、智能问答等场景。

智能体（Agent）与Skill框架：将AI能力封装为可调用的标准化功能模块，支持复杂任务的自动化编排与执行。恒生电子等厂商提出从“执行系统AI化改造”到“流程管理AI重塑”的落地路径。

AI网关与模型路由：统一接入OpenAI、国产大模型等多厂商模型服务，实现模型切换、负载均衡、成本追踪和访问控制。

RAG（检索增强生成）与知识工程：将金融法规、研报、公告等专业知识库与LLM结合，提升回答的准确性和可追溯性。

隐私计算与数据脱敏：在模型训练和推理过程中保护客户隐私数据，防止个人信息泄露。

三、如何应对《指导意见》要求：产品方案、技术实现与运维实施

3.1 产品方案层面

（一）AI全生命周期管理平台

《指导意见》要求金融机构建立健全人工智能全生命周期管理体系，涵盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出各阶段。

产品方案建议：

证券AI软件厂商应提供AI全生命周期管理平台，包含：

• 模型资产管理：统一纳管自研模型、开源模型和第三方商业模型，记录模型版本、训练数据、评估结果、上线时间等元数据
• 审批工作流：内置模型引入审批、上线审批、变更审批、退出审批等流程，对接金融机构内部合规体系
• 效果评估与监控：自动化评估模型在特定任务上的表现，持续监控模型漂移（drift）和效果衰减
• 版本回滚机制：支持模型版本快速回退，降低上线风险

（二）AI安全护栏与内容审核系统

《指导意见》要求在高风险应用关键环节建立人工监督和干预机制。信贷审批等场景已被明确列为高风险应用。

产品方案建议：

• 输入输出过滤层：对大模型的输入prompt和输出内容进行实时检测，拦截恶意注入、敏感信息泄露和不合规内容
• 人工干预工作台：为高风险决策（如投资建议生成、自动化交易指令）提供人工审核界面，支持“机器生成+人工确认”的混合模式
• 审计追踪系统：记录每一次AI决策的输入、输出、模型版本、干预记录，形成可追溯的审计链条

（三）数据治理与隐私保护系统

《指导意见》明确要求姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化。

产品方案建议：

• 数据脱敏与匿名化工具：在数据进入模型训练或RAG流程前，自动识别并脱敏个人敏感信息
• 数据分级分类系统：根据数据敏感程度自动打标，不同级别数据适用不同的使用策略
• 数据血缘追踪：记录每一份训练数据的来源、用途和去向，满足数据溯源要求

（四）AI网关与治理平台

产品方案建议：

• 统一模型接入：屏蔽不同厂商API差异，一套接口接入多模型
• 权限与配额管理：按团队、用户、场景精细化控制模型访问权限和用量配额
• 成本与用量追踪：实时统计各业务线的AI调用成本和Token消耗
• 审计日志：记录每一次API调用的完整上下文，满足合规审计要求

3.2 技术实现层面

（一）模型开发与训练的安全合规技术

技术要点：

1. 安全需求分析：在模型开发初期即进行安全需求分析，识别业务场景中的风险点
2. 数据安全评估：对训练数据进行安全评估，确保不含敏感个人信息
3. 算法风险筛查：对模型算法进行风险筛查，识别偏见、歧视等潜在问题
4. 伦理审查评估：建立模型伦理审查机制
5. 可解释性技术：采用LIME、SHAP等可解释性工具，提升模型决策的透明度

（二）模型部署与运行的合规技术

技术要点：

1. 模型加密与安全存储：对模型权重文件进行加密存储，防止未授权访问和窃取
2. 推理过程加密：基于芯片级机密计算能力，实现Token传输与推理的全程硬件级加密
3. 国密算法支持：海光等国产芯片已原生内置国密引擎，支持SM2/SM3/SM4算法
4. 容器化与隔离部署：采用容器技术实现模型运行环境的隔离，降低安全风险
5. API安全网关：在模型API前部署安全网关，实现身份认证、流量控制和攻击防护

（三）RAG与知识工程的安全技术

技术要点：

1. 知识库访问控制：对知识库中的文档实施细粒度的访问权限控制
2. 检索结果过滤：对RAG检索结果进行安全过滤，防止敏感信息被检索和输出
3. 引用溯源：确保每一个生成结果都能追溯到具体的知识来源，满足可解释性要求
4. 知识库更新审计：记录知识库的每一次更新操作，确保可追溯

（四）AI安全护栏的技术架构

深信服等厂商提出了四阶段AI安全建设路径：

1. 上线准入评估：在模型投产前进行安全评估，守住安全关口
2. 安全护栏部署：统一管控输入输出风险，快速补齐合规短板
3. 智能体身份体系：实现精细化动态权限管控
4. 智能风险分析：依托AI自动识别异常行为，完成告警、阻断、策略优化

农业银行则提出了 “以AI对抗AI” 的实践方向，构筑智能安全防线。

3.3 运维实施层面

（一）组织与制度建设

《指导意见》要求金融机构加强顶层设计和统筹管理，董（理）事会指定专门委员会对人工智能开发应用管理负责。

实施要点：

1. 成立AI治理委员会：由合规、技术、业务多方参与，统筹AI安全治理
2. 明确责任分工：邮储银行等机构已制定大模型全生命周期管理制度，明确技术部门和业务部门在模型引入、开发、测试、投产及退出各环节的职责分工
3. 制定AI安全开发规范：将安全要求嵌入开发流程，形成标准化操作规范
4. 建立内容安全评估制度：由业务需求部门与系统建设部门联合开展内容安全评估，设定明确的内容安全准出标准

（二）模型全生命周期管理流程

实施要点：

1. 需求分析阶段：评估业务场景的风险等级，高风险场景（如信贷审批、投资建议）需额外的人工监督机制
2. 数据准备阶段：实施数据脱敏，确保个人信息不出安全边界
3. 训练开发阶段：记录训练过程、超参数、评估指标，确保可复现
4. 部署运行阶段：建立模型监控体系，持续跟踪效果和安全性
5. 维护迭代阶段：建立变更管理流程，重大变更需重新评估
6. 评估退出阶段：制定模型退出标准，确保平稳下线

（三）外包与供应链风险管理

《指导意见》要求加强外包和供应链风险管理。外部引入的生成式人工智能模型需经过网信部门备案。

实施要点：

1. 供应商安全评估：对AI模型供应商进行安全合规评估
2. 模型备案管理：确保引入的生成式AI模型已完成网信部门备案
3. 服务协议明确责任：在外包协议中明确安全责任和数据保护义务
4. 定期安全审计：对外包服务进行定期安全审计

（四）运维监控与应急响应

实施要点：

1. 实时监控：建立AI服务的实时监控体系，跟踪调用量、响应时间、错误率、Token消耗等指标
2. 异常告警：设置异常行为告警阈值，及时发现安全事件
3. 应急响应预案：制定AI服务中断、数据泄露、模型失控等场景的应急预案
4. 定期演练：定期进行安全应急演练，验证预案有效性

四、证券行业的特殊考量

证券行业相较于银行保险业，在AI应用上具有一些特殊性和更高的敏感度：

信义义务与投资者保护：证券行业特有的信义义务、利益冲突防范、适当性管理等要求，在AI场景下如何落地尚无明确说法。AI投顾产品需要在算法设计中内嵌合规逻辑，确保推荐结果符合投资者适当性要求。

AI生成内容的标识与披露：证监会要求清晰标识AI生成内容，充分揭示风险。投研报告、投资建议等AI生成内容需明确标注“由AI辅助生成”。

算法备案与信息披露：截至2026年4月，证券行业已有近30家机构完成算法或模型备案。AI算法备案将成为证券机构开展AI业务的准入门槛。

交易合规风险：AI生成的交易信号、投资建议若出现错误或误导，可能引发投资者投诉和监管处罚。需在AI输出链路中嵌入合规检查节点。

五、总结与行动建议

《关于银行业保险业人工智能安全开发应用的指导意见》虽然直接面向银行保险机构，但其32项指导性意见构成了金融AI安全开发应用的通用框架。证券金融AI软件行业应从以下维度加速合规建设：

产品层面：提供AI全生命周期管理平台、安全护栏系统、数据治理工具和AI网关等合规产品矩阵。

技术层面：在模型开发、部署、RAG、推理等全链路嵌入安全合规技术，实现“安全左移”。

运维层面：建立完善的AI治理组织、全生命周期管理流程、供应商管理和应急响应体系。

正如《指导意见》所强调的，金融机构应以提升业务价值为导向，科学规划AI开发应用投入，有效平衡成本与效益，摒弃“为新而新、为用而用”的倾向。合规不是AI创新的阻碍，而是让AI在金融领域走得更远、更稳的护栏。