从模型上线到智能体治理：银行业如何构建负责任的AI丨系列文章连载
2026-07-01 · 鼎盛证券
AI 在银行里的角色正在发生变化。它不再只是一个回答问题的工具，也不只是一个提高客服效率的助手。它开始理解客户意图，调用系统工具，连接业务步骤，甚至参与下一步行动。这也让银行面对一个新的治理问题：当 AI 从“给建议”走向“做动作”，原有的模型审批、系统上线和合规检查还够不够 过去，AI 的风险更多集中在输出是否准确、
AI 在银行里的角色正在发生变化。它不再只是一个回答问题的工具，也不只是一个提高客服效率的助手。它开始理解客户意图，调用系统工具，连接业务步骤，甚至参与下一步行动。这也让银行面对一个新的治理问题：当 AI 从“给建议”走向“做动作”，原有的模型审批、系统上线和合规检查还够不够
过去，AI 的风险更多集中在输出是否准确、内容是否合规、数据是否安全。但智能体 AI 的风险，不只在于它会不会答错，更在于它会不会在错误的理解、错误的权限和错误的步骤中，把一个小偏差放大成真实的业务后果。
一旦银行 AI 从试点走向规模化，风险也会从单点问题变成组织问题。一个智能客服答错，可能只是一次投诉；但如果同类错误在大量客户中重复出现，就可能演变成客户权益、合规内控和声誉风险。一个内部助手引用错制度，可能只是一次人工纠偏；但如果它被深度嵌入审批、运营或风控步骤，就会影响一整条业务链路。
银行现在需要讨论的，不只是“能不能用 AI”，而是“能不能负责任地使用 AI”。 尤其当智能体开始进入客户经营、财富管理、授信辅助、合规审核等真实业务场景时，负责任 AI 不再是一个理念，而是一套必须落地的管理体系。
对银行来说，负责任 AI 不是限制创新，也不是给技术团队增加一套额外审批。它真正要解决的是：如何让 AI 特别是智能体 AI 能够进入真实业务，持续创造价值，同时让组织、监管和客户都能够信任它。
这套体系至少包括三根支柱：治理与合规、测试与评估、监控与韧性。
治理与合规，解决的是“谁能用、用在哪里、风险怎么分级、责任由谁承担”的问题。测试与评估，解决的是“上线前怎么证明它足够准确、稳健、公平、安全、可解释”的问题。监控与韧性，解决的是“上线之后如何持续观察它、约束它，并在异常时快速降级、兜底和恢复”的问题。
这三件事合在一起，才构成银行智能体规模化应用的基本护栏。
第一根支柱：治理与合规，先建清单、分级和责任体系
银行做负责任 AI，第一步不是写原则，而是先把家底盘清楚。一家银行到底有哪些 AI 系统和智能体分别服务哪些业务调用哪些数据面向内部员工还是外部客户由哪个部门负责
如果这些问题答不清楚，后面的治理就很容易变成抽象口号。
有了清单之后，第二步是风险分级。银行不能用同一套审批强度管理所有 AI。内部文档摘要、员工知识问答、营销文案生成、客户服务、反欺诈、授信辅助、财富建议、合规监测，风险水平显然不同。比较实用的分级方式， 是同时看两个维度：影响范围和影响严重性。
影响范围看的是系统覆盖多少客户、员工、步骤、资金和外部触点。一个只服务少数内部员工的知识助手，和一个面向千万客户的手机银行智能体，治理要求不可能一样。
影响严重性看的是一旦出错会造成什么后果。是一次体验不佳，还是客户资金损失是一次内部返工，还是错误授信、隐私泄露、合规违规或声誉事件影响范围越大、影响后果越严重，治理强度就越要提高。高风险智能体应当设置更严格的准入、测试、审批、监控、人工复核和叫停机制。
第三步，是把治理嵌入现有组织。负责任 AI 不能变成一个孤立委员会，也不能只交给科技部门。它需要嵌入现有的风险管理、内控合规、数据治理、科技管理、业务审批、信息安全、消费者保护和审计机制。
比较可行的做法，是建立跨职能的 RAI 工作组或 AI 风险委员会，让业务、科技、风险、合规、数据、安全、审计共同参与。负责任 AI 不是多开几次会，而是把责任、标准和步骤嵌入 AI 生命周期。从需求提出、数据准备、模型选择、系统开发、测试评估、上线审批到运行监控，每个环节都要有人负责，有标准可依，有记录可查。
第二根支柱：测试与评估，不能只测答案，还要测过程和边界
银行测试智能体，不能只看最终回答是否像样。因为智能体的风险往往藏在过程中。它为什么这样理解客户为什么调用这个工具为什么选择这个产品为什么跳过某个校验为什么没有转人工
一套相对完整的测试评估体系， 至少需要四个支撑：专家、工具、步骤和基准。
专家，是指测试不能只由技术团队完成。银行场景里的智能体，往往涉及业务规则、风险边界、监管要求和客户权益，需要业务专家、风险合规专家、数据安全专家和模型测试人员共同参与。
工具，是指银行需要自动化生成测试样本、执行攻击测试、记录模型表现、发现异常模式。人工测试很重要，但无法覆盖大规模场景，尤其无法持续覆盖复杂、多轮和边界问题。
步骤，是指测试不能靠临时抽查，而要形成从初始风险识别、测试计划、产品测试、结果复核到上线决策的闭环。每一次测试发现的问题，都应对应整改责任和复测结果。
基准，是指银行要为不同场景建立指标阈值。比如准确率、完整性、相关性、一致性、公平性、安全性、引用可靠性、人工转接率、越权调用率等。没有指标，测试就容易停留在“感觉还不错”。
更重要的是，测试不是一次性上线门槛，而是持续监测管理。
银行的产品规则、监管要求、利率政策、客户行为和业务步骤都会变化。智能体今天通过测试，不代表三个月后仍然可靠。一个知识库更新不及时，一个产品规则调整没同步，一个监管口径变化没纳入，都可能让系统从“正确”变成“错误”。
所以，银行需要建立标准化测试剧本，用历史案例、合成数据和边界样本扩展测试集，用自动化评估提高覆盖率，同时保留专家对关键场景的复核。测试结果不应停留在报告里，而应进入仪表盘、整改任务和上线决策。
对高风险智能体，还应引入红队测试。 也就是让测试人员有意识地挑战系统：问模糊问题、诱导越权、重复同一问题、制造极端场景、模拟不同客户群体、尝试触发不当建议。只有经得起挑战的系统，才有资格进入真实业务。
第三根支柱：监控与韧性，上线之后真正的治理才开始
很多 AI 项目容易把上线当成终点。但对银行智能体来说，上线只是治理的开始。
智能体运行在真实客户、真实员工、真实数据和真实步骤中。它面对的问题会变化，调用的工具会变化，客户的表达会变化，外部风险环境也会变化。一个系统在测试环境里表现稳定，不代表在生产环境里永远稳定。因此，银行需要为智能体建立行为边界和监控指标，持续判断它是否还在预期范围内运行。
这些指标可以包括回答准确率、引用命中率、事实性、重复问题一致性、工具调用次数、异常调用、推理时间、人工转接率、客户投诉率、权限使用、敏感数据访问、越权尝试等。
监控的重点不只是看客户看到的最后一句话，还要看智能体在后台经历了哪些步骤：它读取了哪些数据，调用了哪些工具，触发了哪些规则，是否越过权限边界，是否在低置信度情况下继续执行，是否应该转人工却没有转人工。对银行来说，监控智能体， 本质上是在监控一条新的数字化服务链路 。
同时，银行还要提前设计降级、冗余和人工接管机制。韧性不是系统出了问题之后再补救，而是在设计之初就承认系统可能失败，并提前设计失败时的处理方式。
这对银行尤其重要。因为金融服务的信任，往往不是在一切顺利时建立的，而是在出问题时能不能解释、能不能兜底、能不能负责时建立的。
负责任 AI 听起来很大，但银行不必等到完整平台建成才开始行动。更现实的路径，是先搭建四个基础能力。
这件事看似基础，却是后续所有治理的起点。没有清单，就没有分级；没有分级，就没有差异化管控；没有责任人，就没有真正的风险闭环。
第二，建立跨职能 RAI 工作组。这个工作组不应只是原则宣导组织，而应承担具体职责：定义 AI 风险分类标准，制定高风险场景准入规则，评审关键智能体上线，处理例外事项，推动测试整改，跟踪运行风险，并把治理要求转化为开发、测试、上线和运营步骤。
它的价值在于把分散在业务、科技、风险、合规、数据、安全、审计中的判断整合起来。智能体不是单一技术问题，也不是单一合规问题，它天然跨部门。
第三，把置信度评分和红队测试嵌入开发步骤。每个重要智能体上线前，都应回答几个问题：它在哪些问题上有把握，在哪些问题上应该拒答，在哪些情况下必须转人工，哪些边界场景已经被测试，哪些攻击和诱导已经被验证。
置信度评分可以帮助系统知道什么时候不该继续往下走。红队测试可以帮助银行在上线前发现低准确率、偏见、安全漏洞和越权风险。二者结合，才能让智能体不是“看起来聪明”，而是在关键时刻知道边界。
第四，为关键智能体建立监控和应急机制。凡是影响客户权益、资金安全、授信判断、投资建议、合规义务和业务连续性的智能体，都应设置更高的监控等级。银行要持续跟踪其准确性、稳定性、异常行为、客户反馈和人工接管情况，并明确何时限流、何时降级、何时暂停、何时复核。
银行业进入智能体时代，AI 治理的重心正在发生变化。过去，治理更多围绕模型本身展开：模型能不能上线，输出是否准确，内容是否合规，数据是否安全。 当智能体开始参与执行，AI 开始调用工具、连接系统、参与步骤，治理就必须从“模型管理”走向“智能体治理”。
清单，是治理的起点；分级，是差异化管理的基础；测试和红队，是上线前识别风险的手段；监控和韧性，是上线后守住边界的能力。只有把这些机制连起来，银行才能既释放智能体的效率价值，又守住客户权益、合规底线和金融信任。
负责任 AI 不是创新的刹车，而是智能体进入银行核心业务的通行证。 银行 的AI成熟度，不只体现在用了多少模型、上线了多少助手，而体现在能否让越来越能行动的智能体，始终在清晰边界内运行，在关键时刻可解释、可追踪、可接管、可恢复。
BCG董事总经理兼全球资深合伙人，25年金融与咨询行业经验，擅长战略与转型、组织与管控、数字化转型与创新，曾任职于大型金融机构总部、香港、纽约分部，芝加哥大学MBA，著有《银行转型2035》、《银行转型2025》及近百篇BCG报告、文章
BCG董事总经理兼全球合伙人，成功领导多个大中型银行的整体数字化转型项目，为客户创造超预期的业务价值。深耕产业金融、交易银行、财富管理、消费金融、手机银行、多渠道协同、智慧决策等领域，经验丰富。著有《银行转型2035》及多篇BCG报告、文章。
BCG全球智库资深顾问，曾任国有大型银行副总工、互联网银行前行长，擅长大型商业银行IT架构，银行数字化转型资深专家，银行数字化转型资深专家。著有《银行转型2035》。
(本文作者介绍：波士顿咨询公司（BCG）董事总经理，全球资深合伙人，BCG金融机构专项中国区负责人。)
新浪财经意见领袖专栏文章均为作者个人观点，不代表新浪财经的立场和观点。
欢迎关注官方微信“意见领袖”，阅读更多精彩文章。点击微信界面右上角的+号，选择“添加朋友”，输入意见领袖的微信号“kopleader”即可，也可以扫描下方二维码添加关注。意见领袖将为您提供财经专业领域的专业分析。
波士顿咨询公司（BCG）董事总经理，全球资深合伙人，BCG金融机构专项中国区负责人。
新浪财经意见反馈留言板 电话：400-052-0066 欢迎批评指正