行业洞察｜证券业AI透明度洞察：算法可解释性如何重塑合规底线

3周前 (10-01) 阅读数 208 #综合

德勤中国金融服务业研究中心近日发布《守正创新汇通四海：中国证券业2025年发展回顾及2026年展望》报告，涵盖了2025年宏观经济和证券业发展回顾、2025年上市证券公司业绩分析、业务观察、行业热点话题探讨及2026年宏观经济和证券业发展展望五个章节。

报告精华章节将以连载形式刊发，此文为连载第九篇。

2026年4月，中国证券投资基金业协会在《声音》杂志发表《基金行业生成式人工智能可解释性治理探讨》专题研究，首次系统性提出生成式AI可解释性的双层治理框架：面向用户层，要求以可理解方式呈现决策逻辑，满足透明度规范；面向隐藏层，通过解析模型内部机制为透明度提供技术支撑。研究同时提出梯度化监管路径――无论官方API接入、混合部署、私有化部署还是二次开发，部署方算法控制权越大，披露义务越重。

证券业AI的效率与合规矛盾正在放大。可解释性不再是技术选修课，而是合规基本功。关键不是把模型解释到多细，而是能不能拿出一套让投资者、合规、审计和监管都信服的决策证据。监管已经在行动：多地证监局已对投资建议无依据、不留痕的行为开出罚单。AI可以辅助决策，但牌照主体责任不会因此转移。国内目前尚无专门强制规则，但现有监管义务已经画出了路线――这不是新要求，是旧规则在AI场景里变得更严格了。

表：国内外AI可解释性核心监管文件对比

证券行业需要的不是单一的模型解释能力，而是四层完整证据链：数据可说明，明确输入来源、脱敏状态与偏差风险；过程可复现，记录模型版本、提示词与工具调用链路；结果可复核，清晰标注推荐依据、边界条件与不确定性；治理可追责，锁定部署、审核、放行与留痕的具体责任人。

这种证据链驱动的技术挑战在证券行业的业务场景中尤为突出。投资市场本身是高度非线性的，模型既可能受到历史数据偏差的影响，也可能在黑天鹅事件中给出不稳定的输出；叠加外部模型、检索增强、插件调用与多智能体协同后，为什么推荐这只股票已不是单个模型的输出，而是整条决策链的合成结果，解释难度随链路长度的增加而指数级递增。

AI技术正在改变证券行业的责任链条。中国证监会发布的《证券期货业网络和信息安全管理办法》（2023年）第四条明确规定：核心机构和经营机构对本机构网络和信息安全负责，相关责任不因其他机构提供产品或者服务进行转移或者减轻。《证券基金经营机构信息技术管理办法》（2018年）第四十三条也作出类似规定。这意味着，即便调用第三方大模型，券商与基金公司仍需对AI输出的合规性与合理性承担最终责任。

监管实践已经体现了这一要求。2025年以来，广东、四川、山东等地证监局先后对投资顾问业务中的投资建议“缺乏合理依据、未充分提示风险、未全程留痕”等行为采取了行政监管措施。AI嵌入投顾、营销与风控流程后，这些监管要求将更加严格，不存在因技术先进而豁免的空间。

核心原则

证券业不需要也不可能走向强制公开全部权重、代码与提示链的极端透明。更可行的路径是将解释义务转化为分层提供证据。

中国基金业协会研究提出的“解释责任与控制力挂钩原则”具有重要实践价值。官方API接入模式下，部署方对算法缺乏控制力，披露责任可适当降低，但应协助提交说明文件；开源私有化部署和二次开发模式下，部署方拥有算法设计和再训练能力，应承担更高程度的披露责任。这种差异化安排比简单的“谁提供模型谁负责”更符合行业实际，也为合同谈判和责任划分提供了参照框架和依据。

欧盟采用前置型、风险分级治理路径：高风险AI系统的提供者（provider）须通过技术文档、使用说明、性能指标及日志机制，确保部署者（deployer，即采购并在业务场景中运行该系统的机构）具备对系统行为的充分可理解性与可监督性，《欧盟人工智能法案》的核心条款将于2026年8月起全面生效。美国则坚持技术中立原则，美国金融业监管局（FINRA）在2024年6月发布的“Regulatory Notice 24-09”中强调：其规则具有技术中立性，适用于AI工具的使用；要求机构建立合理设计的监管系统，重点关注技术治理、模型可靠性与准确性。

中国证券业可以汲取两者经验：明确规则边界（借鉴欧盟目标要求），建立执行抓手（借鉴美国运营控制思路），同时结合证券业务的行业特殊性进行场景化监管。

在行业实践层面，德勤可信AI框架从组织治理视角提供了参照。该框架将可信AI拆解为安全可靠、负责任、透明可解释、公平包容与具备韧性五大属性。德勤2025年发布的《AI时代的抉择――以“信”筑基，行稳“智”远》报告显示：亚太地区91%的组织AI治理处于初级或发展中水平，多数企业重技术投入、轻治理与人才建设。这意味着，可解释性本质上是组织治理成熟度的问题，需要嵌入模型准入、上线审批、持续监测与内审问责的全生命周期。

表：德勤高可信人工智能框架^TM

一

建立高风险证券AI场景清单

优先将投顾推荐、营销适当性匹配、自动化客户分层、交易监测与风控拦截、重要经营决策支持纳入清单，针对不同场景明确最低解释证据要求，替代抽象的模型可解释表述。

二

推行解释证据包制度

每个重要模型或智能体版本上线前，形成包含业务目标、适用边界、数据来源、关键规则、测试场景、人工复核点、日志方案与退出机制的材料集，对外输出简化版，对内与监管保留完整版。

三

构建混合解释栈技术体系

将规则引擎、检索引用、理由代码、反事实说明、版本化提示、人工复核与可观测性工程结合，通过全链路追踪实现决策过程的可复现与可审计。

四

前置合同与知识产权安排

在外部模型与服务商合同中明确审计接口、日志留存、事故通报、解释协助与保密边界，写入责任不因外包而减轻条款，避免事后陷入知道出事却拿不到证据的被动局面。

从中国基金业协会的研究可以看到，可解释性监管的目的在于平衡创新效率与金融安全。欧盟基于风险的分级监管、美国的技术中立路径、中国香港的“应用为本”策略、新加坡的“软法”机制，虽路径各异，但均试图在商业秘密与监管透明之间寻找平衡点。对中国证券业而言，这一平衡的关键在于：不将商业秘密直接交给公众，而是把解释义务转化为分层证据提供，为不同对象提供各自需要和能够理解的那一层信息。

能够率先建立算法可解释性运营机制的证券机构，将在监管趋严的环境中占据更有利的竞争位置。这需要同步推进四项能力建设：分层解释能力，建立面向不同对象、不同场景的差异化解释机制；证据留痕能力，构建覆盖AI决策全流程的可审计证据体系；责任划分能力，在高风险场景中精细划定人机分工边界与责任归属；治理协同能力，将可解释性要求嵌入AI全生命周期管理。

证券机构与专业服务机构需要共同推动这一转型。证券公司通过组织与流程重构提升AI应用的能力，专业服务机构通过审计与咨询助力完善治理体系。两者协同，是证券业在AI时代稳健发展的现实保障。

点击文末“阅读原文”

下载报告原文