6月18日，中国农业银行董事长、执行董事谷澍在2026陆家嘴论坛“科技创新赋能金融高质量发展”大会上表示，金融业大模型应用面临的主要风险包括模型黑箱、模型幻觉、模型自主思考和决策带来的不确定性。

　　“这种不确定性如果更进一步地说，把风险再细分，有三大类。”谷澍表示，一是参数海量带来模型可解释性的难题，海量参数的矩阵运算和深层的非线性叠加，导致其决策机制和输出结果既不透明、也难以解释；二是概率生成带来的准确性考验，大模型是根据海量训练数据，统计词元（Token）间的规律，本质上是概率统计，而不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。三是模型自主思考与决策带来的新型风险。随着大模型的进化和智能体的深度应用，它已经突破传统软件输入输出相对固化的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。

　　谷澍表示，行业能做的不是消除风险，而是一方面充分发挥大模型的作用，另一方面清醒认识到大模型的局限性，想办法尽量控制风险。

　　结合农业银行的实践，谷澍从四个方面分享了具体做法。

　　一是分类施策推进场景适配。对于不同的场景，可以建立模型黑箱分级管控机制，不同场景匹配差异化的技术路线和可解释性的要求。对于信贷决策等强监管场景，采用模型蒸馏技术，让大模型在数据合成、归因分析和决策式模型生成等方面提供助力，将大模型能力迁移至更具可解释性的、针对不同场景的小模型上；对于投研分析等高认知场景，强化思维链设计；对于产品营销等场景，可更灵活一些，充分发挥模型的创造力。

　　二是设置一定标尺约束控制模型幻觉。针对不同场景进行应用时，设置必要的参数标尺，同时强化“人机结合”——人的作用是最终做决策，比如应用AI赋能信贷调查报告的智能生成时，建立业务标尺，通过模型互检、模型反思、业务数据校准，对生成内容进行自动校验，关键内容要由业务人员进行审核，确保“结果可控”。

　　三是用AI手段应对AI应用风险。AI降低了网络攻击门槛，传统安全格局面临重塑，安全防御手段也需升级。“以AI对抗AI”，建立纵深防御体系。增强AI对抗能力，提升系统韧性，用AI手段寻找大模型AI应用里的漏洞问题。

　　四是强化银行内部的AI治理体系。健全“权责明晰与风险包容并重”的银行内部AI治理体系，确保AI既用得好、又管得好，既留住创新空间，又尽量压缩模型的黑箱、幻觉的局限性。

　　“对大模型的应用，特别是现在随着智能体范式的推广，对工具接口的调用，大模型的应用风险是在扩大的，从我们来讲，既要把大模型用好，也要把大模型应用过程中的风险防好。”谷澍表示。