“尤其在医疗行业，AI的决策直接关乎生命健康与社会公平，数据滥用、算法偏见、责任模糊等问题亟待解决。”中国互联网协会副理事长、信息化百人会成员黄澄清在9月12日召开的2025Inclusion·外滩大会“AI向善·安全发展——大模型在严谨行业应用中的伦理与治理”主题论坛中表示，构建可信、可靠、可追溯的AI治理体系，已成为技术发展的内在要求，也是社会责任的必然选择。

　　“人工智能为人类各领域的发展提供了丰富的视角和价值，但也正在冲击人类的主体地位。”中国工程院院士、同济大学党委书记郑庆华指出，AI与人类的价值对齐问题，是确保人工智能科技向善的根本。郑庆华认为，要通过强化学习让大模型学习人类的价值和偏好，来让人工智能对齐人类价值，创建安全、符合伦理的人工智能系统，并做好技术发展中的长期风险防控；同时人类也要对齐AI，核心是确保人们负责任地应用AI。

　　“全球的人工智能治理正走向促发展和柔性监管的方向，即建立一个敏捷的治理体系，以政策指引促进产业主动自律，以包容审慎的态度来构建负责任的人工智能安全体系。”中国信息通信研究院副院长魏亮介绍说，2025年7月《人工智能安全承诺》已有阿里巴巴、百度、蚂蚁集团等18家行业领军企业参与披露，形成了20条实践标签、43条安全案例，不仅推动我国人工智能安全治理迈入体系化、透明化、实操化的新阶段，也为全球贡献“以人为本、智能向善”的中国方案。

　　“从风险的弹性角度而言，蚂蚁觉得光做隔离和防范还是不够的，我们还是希望通过预警、测试、修复这样的动态机制去提升能力。”作为企业界代表，蚂蚁集团资深副总裁、科技伦理委员会联席主席周志峰介绍了蚂蚁在AI大模型领域的进展与伦理方面的思考。

　　“以AI医疗应用AQ为例，AQ向用户提供的问答，都是有巡检机制的。健康模型场景会经过医疗伦理、医疗安全、医疗合规、通用安全和医学专业性5大方面的审视。”周志峰表示，蚂蚁集团不仅以长期持续的技术投入为AI伦理夯实基础，还围绕人工智能制定了“平等、尊重、可信、负责”的基本科技伦理原则；通过设立科技伦理委员会，协同内部各部门与政府指引、行业专家、用户反馈进行长期有效的互动。

　　“在医疗中大量使用AI的时候，人到底还有多大程度的自由意志？人该如何维护自身的尊严？看似是一个业界痛点问题，实际上背后涉及人类生存发展的根本问题。”复旦大学肖仰华教授主持了论坛的圆桌研讨环节，进一步聚焦“AI大模型+医疗”，来自复旦大学、中南大学、华西医院、上海交通大学的医疗与伦理领域专家，围绕AI诊疗的伦理边界、责任划分、监管框架展开激烈讨论。

　　“医疗大模型的发展，我觉得对社会最大的一个贡献就是有可能促进医疗公平公正。”复旦大学哲学系教授王国豫认为，针对我国区域医疗资源分配的不均衡性，AI在医疗领域的应用不仅是偏远地区医生的好助手，也为优势医疗资源难以触达和覆盖的病患群体，带来了希望和健康福音。然而，“在效率之外，还有很多难以量化统计的部分，比如患者的情感、心理需求和精神状态。”王国豫表示，医者治疗的不仅仅是患者的病灶，更要将患者作为一个完整的人，考虑患者的生命体验。

　　“如何让患者和医生能同步达成健康方面的共识？现在很多的穿戴设备可以帮上忙。比如心率、血压，每天运动的步数都可以监测，什么时候吃药也可以通过穿戴性设备提醒。”上海交通大学医学院附属瑞金医院信息中心主任赵艳感慨道，如今AI的出现让患者不仅在诊前就能对自身情况进行较科学的基础了解，也在诊中和诊后促进了患者对医生诊疗方案的依从性，从而可以提升配合治疗的效果。

　　“AI治理的探索永不止步，相信今天的讨论，是迈向完善AI治理规则的重要一步。”黄澄清表示，信百会研究院将与蚂蚁集团科技伦理委员会继续推动产学研合作，助力构建安全、可信的AI生态，让技术真正造福人类。