银行业保险业金融机构拥抱人工智能，有了“操作手册”。

　　6月18日，国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》），从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了32项指导性意见。

　　《指导意见》要求开发应用人工智能的银行业保险业金融机构统筹发展和安全，推动人工智能应用合规、透明、可信赖，加强分类分级管理，有效应对人工智能发展带来的风险挑战。同时，《指导意见》明确金融机构开发应用人工智能应坚持谁使用谁负责、自主可控、务实高效及安全发展的原则。

　　而对于金融消费者而言，这份文件的落地将带来哪些影响？一方面，《指导意见》要求金融机构避免算法歧视等不公平性问题；另一方面，明确禁止金融机构使用姓名、身份证号、手机号等个人信息和隐私数据进行模型训练和优化，避免隐私泄露。

　　鼓励“以大带小”

　　大型机构输出技术和经验

　　《指导意见》要求完善人工智能治理架构，包括金融机构董（理）事会应指定专门委员会对人工智能开发应用管理负责、建立健全人工智能全生命周期管理体系、加强应用场景和业务流程管理等。

　　在推进高水平人工智能开发应用方面，《指导意见》提出，金融机构对生成式人工智能模型要实施准入管理，评估模型效能及安全合规性。外部引入的生成式人工智能模型需经过网信部门备案。

　　值得一提的是，“以大带小”、缩小技术鸿沟，是《指导意见》的明确导向。《指导意见》鼓励大型金融机构发挥示范作用，向中小金融机构输出人工智能技术和管理经验。支持中小金融机构加强协作，共同推进应用场景落地。

　　在算力建设层面，“以大带小”的思路同样一以贯之。《指导意见》提出，按需布局建设自主可控、安全高效的智能算力底座，鼓励有条件的大型金融机构向中小金融机构输出算力服务，支持同业探索基础设施共建共享。

　　算法再精妙，若无高质量数据托底，亦如“巧妇难为无米之炊”。在提升数据治理能力方面，《指导意见》提出了多个方面的要求，例如，对于非结构化数据的管理，要求金融机构制定数据采集、清洗、标注、应用、退出管理规范；对于数据质量，要求建立高效的质量检控机制，确保数据准确性、相关性、一致性、完整性和无偏见。

　　实施风险分类分级管理

　　和高风险应用准入管理

　　人工智能在释放技术红利的同时，其伴生风险亦不容小觑。对此，《指导意见》从多个维度对金融机构提出了要求。

　　《指导意见》要求金融机构将人工智能风险纳入全面风险管理体系，有效应对金融业务侧可能产生的投资策略趋同、放大市场波动风险，严禁滥用人工智能技术生成虚假信息、操纵市场价格。

　　《指导意见》还提出，实施风险分类分级管理和高风险应用准入管理。所谓高风险应用，包括涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用。人工智能高风险应用须经本机构风险管理委员会批准后方可实施。

　　针对日益普遍的外包合作，《指导意见》同样作出了安排，要求金融机构与外部企业开展合作时，应建立有效的风险隔离“防火墙”，防范风险跨业传递。对外包合作机构实行名单制管理，对引入的外部模型建立严格的内部评估框架，有效评价模型的优缺点和适配性。

　　身份证号、手机号等信息

　　不得用于模型训练和优化

　　人工智能正加速渗透至金融核心业务，其透明度、公平性与信息安全等，直接关乎消费者的切身利益。《指导意见》从这些维度出发，为金融机构划定了清晰的行为边界。

　　《指导意见》明确，金融机构应加强人工智能应用透明度管理，为高风险场景应用制定透明度和可解释性标准，明确模型设计、数据使用、特征选择及输出结果的逻辑。对人工智能生成内容应进行显著标识，并向金融消费者主动说明。人工智能模型应用于涉及客户权益或有实质性财务影响的关键决策时，须设置人工复核节点，完整保留原始数据、推理路径及阈值触发记录，确保责任可追溯。

　　在伦理道德与公平性方面，《指导意见》要求金融机构加强数据集审查和对特定群体的影响评估，避免算法歧视等不公平性问题。

　　在数据安全与个人信息保护方面，《指导意见》要求，规范开发过程和数据访问权限，防范数据投毒，完善数据脱敏规范，避免使用可直接识别出个体的数据。姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化，有效防止客户隐私泄露。加强模型安全护栏建设，加强内容过滤及脱敏管理。严格管理外包过程中的数据安全。