蓝鲸新闻12月19日讯（记者严沁雯）“金融是安全性和可信度要求近乎苛刻的行业，必须保证金融资产和金融数据的安全，保证金融交易和金融服务的可靠性，保证账务处理和账务记录的准确性。”在12月19日举行的“第二十二届中国国际金融论坛”上，中国银行原行长李礼辉表示。

　　智能金融创新正在重构金融生态，背后所涉风险亦成为大众聚焦所在。在李礼辉看来，人工智能潜在的安全风险和技术缺陷尚未因生成式AI的算法创新而淡化。

　　一是未能消解安全风险，攻击者可利用技术漏洞实施数据投毒、参数窃取、恶意文件上传和关键组件删除等操作，破坏核心数据，影响模型的算法完整性和运行稳定性。

　　二是未能消解技术缺陷，测试证明，最新的AI大模型仍不同程度存在模型幻觉、模型歧视、算法共振、隐私泄露等缺陷。

　　三是未能消解解释性难题，算法创新增加了模型的非线性、随机性和不确定性，模型的解释更加复杂，目前尚未找到一种通用、公认的解释方法。

　　“我个人认为，中短期内智能金融创新并不要求金融模型自身具备解决数学、编程、创意等复杂问题的高超能力。”李礼辉称，智能金融创新的基石是可信任，必须统筹安全和效率，注重算法与场景的匹配性与适用性，实现模型可信，让客户信得过，让市场信得过，让政府信得过。

　　当潜在风险不可忽视，配套安全监管的建立成为必然要求，但监管的尺度是常被讨论的话题。

　　李礼辉指出，智能金融创新并非是给传统体制、传统流程加上智能化外套，而是从根本上改革体制，重构流程，再造底层系统。在智能金融治理上，过于严苛的监管可能抑制技术创新和产业发展，应该刚柔并济，洞察创新，支持创新，引导创新。

　　值得一提的是，近期某智能手机的权限过高引发关于 AI 边界的广泛讨论，AI Agent（代理）涉及金融场景的部分操作更是引发不小争议。

　　李礼辉在演讲中提到，“必须加快制度创新，确定金融智能体（Financial-Agent）的法律地位。主要是明确金融智能体的行为边界，明确金融智能体与金融客户的法理关系，明确金融机构管理者的决策责任，同时建立金融智能体评估审核制度。”

　　而金融智能体影响的不仅是用户，金融行业本身亦将逐步发生变化。

　　李礼辉认为，深度智能化将逐步改变金融业的人力资源结构，一是更多的经营管理岗位将匹配懂AI、懂金融的复合型人才，二是更多的专业性、技术性岗位将被金融智能体替代，三是更多的操作性、劳动密集型岗位将外包给应用数字化技术提供集约化服务的企业。

　　“为此，金融业人力资源管理的传统观念必须转变，人力资源管理的制度必须转变，高校人才培养方向和具体专业结构也必须转变。”李礼辉说，金融行业、金融机构的价值取向将影响AI替代的具体速度和深度，即AI替代发生的时间节点、具体岗位和替代比率。这将取决于智能体的专业性和可靠性，取决于金融监管对智能体的评估和审核，取决于劳动就业观念和政策的容纳和许可。