金融领域合规机制建设已上升为驱动行业持续健康发展的核心命题。7月31日，由北京商报社、深蓝媒体智库主办的“AI金融双刃剑：从安全底线寻找转型机遇”沙龙在上海成功举办。作为此次沙龙的重磅环节之一，现场圆桌对话围绕“AI算法备案时代的金融合规路径”展开。多位行业专家和企业嘉宾对AI金融的未来发展趋势进行了洞察和展望。
与会嘉宾认为，金融AI合规的本质是在监管刚性要求与技术可行性之间寻找动态平衡点。在人工智能技术深度渗透金融服务的背景下，如何通过制度设计与技术管控构建合规体系，既满足监管要求又保障创新活力，成为当前金融科技发展中亟待突破的关键课题。
从被动合规到主动治理
在AI算法备案制度的框架下，金融领域业务算法，如智能投顾、信用评估、保险定价等，进行合规改造与备案准备时，面临多重系统性挑战。
具体而言，金融AI算法备案的核心是穿透算法黑箱，实现可审计、可干预的透明决策。企业需以“主动合规”重构技术伦理。
星火智云（上海）科技发展有限公司（以下简称“星火智云”）副总裁罗方舟表示，为应对监管环境变化，公司核心策略是系统采集监管文本、图片、视频及销售流程意见，将其转化为AI学习的底层知识库。通过类似“基础必修课”的规划，将正向准则植入AI训练流程，并持续丰富数据来源。例如，监管对营销内容的指导意见、保险公司提供的销售内容文件等，均被纳入知识库训练AI，形成“AI研修课”以完善合规能力，为未来AI在业务中大规模应用奠定基础。
据了解，作为一家互联网营销企业，星火智云自2018年起开展互联网保险业务。企业经营重点之一是关注安全问题，从信息流投放到客户运营、售后环节，自2019年起已大规模应用AI技术。
“具体应用场景包括内容生产等。”罗方舟表示，每日需生成大量内容，构建包含数字人、短视频混剪等技术的完整内容生产线。在此过程中，监管对通过内容引导用户进行保险消费的约束日益清晰，尤其关注保险产品介绍边界及灰色地带的合规性，各流量平台对相关内容的约束界限也逐渐明确。
“大模型本身无善恶之分，关键在于如何使用。”神州融信云科技股份有限公司研发技术中心总经理郭学超表示，当前金融市场呈现“冰火两重天”态势：表面上看热度较高，各类概念频出；但实际成熟应用模式较少。通过原有算法备案是一种方式，客户更关注模式的可靠性与准确性。此外，合规性至关重要，备案或许是很好的解决路径。
AI领域的特殊性体现在AI面客服务尚未被允许等方面。郭学超也认为，金融行业与其他行业一样，必须在合规框架内开展业务，不容许出错。目前公司主要通过应用端到端大模型、固化流程、结合小模型等方式规避合规困境，通过技术手段解决合规问题。
细分领域共探解题思路
需要关注的是，从智能投顾、信用评估到保险定价，不同细分领域的风险特征与影响范围存在显著差异，备案策略需在统一框架下实现精准适配。
“基于不同金融细分领域应用AI算法的风险特征和影响范围，从监管备案及应用层面来看，行业方向已较为明确。”上海金融与发展实验室特聘研究员潘晓俊表示，过去可从最合规的路径解决问题并控制风险，关于后续发展，可从简单、可控的场景逐步深入。例如，监管对模型专业性的要求，不仅涉及技术专业度，更需关注业务效果的专业性。若告知监管，当前应用仅聚焦于简单的图片、文字或视频生成，或可更易被接受。
潘晓俊的另一个观点是“用魔法打败魔法”。他认为，近期行业一大痛点是电信外呼受监管影响较大。从监管角度看，外呼为何被管控？因其可能影响客户体验。若明确告知监管，我们通过AI接口优化外呼形式，既可减少对客户的骚扰，又能提升效率，这或许是很好的应用方向。毕竟外呼是当前一大痛点，一旦被投诉，短期内可能无法使用，尤其是营销短信等，而新技术若具备可解释性与可控性，或可规避此类问题。
中诚信信用分析（北京）有限公司信评总监曹闰在圆桌环节表示，从监管层面而言，“幻觉”问题是需要重点考虑的。在应用AI进行输出时，始终要保持更为谨慎的态度。然而，目前的主要难点在于，AI学习过程中收集的数据来自多方，这些数据的隐私性和密集性存在差异，且缺乏完全明确的监管规定。
基于此，曹闰认为，若自行制定数据使用规则，也可能面临监管的挑战。因此，数据的保密程度及如何合规利用这些数据，成为较大的难题。公司当前的应对措施是将数据拆分为内部数据和较为敏感的数据两类，进行了一定的努力。但后续拆分是否符合监管要求以及输出是否能够满足合规性，仍需各方进行交流。“我们也相信，随着AI未来的升级和迭代，目前面临的问题将不再那么严峻，但仍需深度探索。”
作为一家面向C端的企业，罗方舟表示，虽然在算法备案方面规模较小，但同样面临显著挑战。当前流量平台核心收入依赖广告收入，星火智云需通过算法精准挖掘目标客户，如保险领域高价值用户，而平台倾向于将核心用户打包售卖，排斥低价值用户，由此引发流量场景的“算法对抗”——双方通过数据和算法能力争夺目标用户。在此过程中，数据安全问题尤为突出。平台对用户数据的采集，包括App使用行为、聊天内容等较为全面，而公司作为保险数据获取方，需在算法中明确数据使用边界：哪些数据可合法使用、哪些不可，并确保数据存储、应用及衍生数据处理的合规性。依托支付通道与监管部门的沟通，公司需验证数据流的安全性、合规性及算法可控性，以实现监管认可的合规状态。
