当前，全球人工智能技术创新进入前所未有的活跃期，既蕴含巨大机遇，也面临治理挑战。如何完善人工智能治理，推动人工智能朝着有益、安全、公平的方向发展，是世界各国面临的共同课题。日前，习近平主席在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话中提出，各国应当秉持以人为本、向上向善理念，携手构建公正合理的全球人工智能治理体系。这一重要论述为加强人工智能治理提供了理念指引和实践遵循，为推动人工智能健康有序发展指明了前进方向、贡献了中国智慧。
人工智能不是普通工具，已然改变人与技术、技术与规则、创新与治理之间的关系。因此，完善人工智能治理要回答的，是在新背景下如何正确看待人与人工智能之间的新型关系，如何优化制度安排防范技术风险、守住安全底线，发展好、运用好、治理好人工智能。用户信息如何使用，消费者选择是否真实，出了问题由谁负责，平台竞争是否公平……把这些问题处理好，才能让人工智能更好服务经济社会发展、更好造福人类社会。在这个过程中，坚持以人为本、向上向善，是人工智能治理必须确立的价值前提。
坚持以人为本，强调人工智能的发展必须服务于人的全面发展，不能以削弱人的主体性为代价。要确保人工智能始终处于人类控制之下，而不能使人被动适应技术规则。评价人工智能的价值，不能只看模型规模、算力水平、生成能力和商业效率等，更要看其能否增进人的福祉、维护人的尊严。人工智能越深度参与经济社会运行，越要把服务于人的需要、增强人的能力、拓展人的选择空间作为根本目的，避免人在算法推荐中被简单标签化，在自动化决策中被边缘化，在技术运行中失去自主判断能力。
坚持向上向善，强调推动人工智能创新发展要坚持正确价值方向，维护良好稳定的社会秩序。向上，体现为创新能力提升、产业变革深化，使人工智能赋能千行百业；向善，体现为维护公平竞争秩序、增进社会公共利益、推动技术普惠共享，让人工智能成为促进共同繁荣、维护共同安全的重要动力源。人工智能技术越具有通用性和渗透性，越要保证其发展方向符合公平诚信、开放共享和安全可控的要求。简言之，向上向善不仅要追求效率提升，还要关注技术成果能否更广泛惠及社会，这也是智能经济健康发展的内在要求。
还要注意到，有一种观点认为，治理会拖慢创新。这个看法只看到了治理的约束功能，并不完整、全面，没有看到治理的保障、赋能作用。治理与创新从不是此消彼长的关系。治理人工智能不能简单理解为“给人工智能立规矩”，也不能停留在抽象原则上，笼统地强调加强监管。人工智能技术迭代快，应用场景新，如果规则过于僵化，确实有可能影响其良性发展。但治理的真正作用，是通过原则和规则的结合，为技术创新提供基本秩序，让经营主体知道边界在哪里、责任在哪里、预期在哪里。边界明确了，交易信任才会增强；责任明确了，企业才更敢长期投入。正确的治理不会拖慢创新，反而会让创新走得更稳、更远。
完善人工智能治理，关键在于回应人工智能发展带来的现实问题。随着万物智联和人机协同不断拓展技术边界，人工智能正加速从“数字世界”走向“物理世界”、从“单纯辅助”走向“参与决策”，深度融入社会生活和经济运行。但要看到，算法在日益重塑人们获取信息、表达意愿和作出选择的方式的同时，也使人的主体地位和相关权益面临新的风险；算法介入交易过程，逐渐改变企业定价、流量分配和市场信任形成的机制，也对公平交易和市场竞争提出新的挑战。此外，复杂的技术链条也使风险责任难以有效落实。这都表明，人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善。要通过加强人工智能治理，构建起常态化长效化的治理机制，确保人工智能始终沿着安全可靠、可控可信、造福人类的方向发展，让这匹千里马既跑得快又跑得稳。
第一，把人的权利保护放在更基础的位置。一方面，人工智能对个人信息以及声音、肖像等人格要素的处理和生成能力不断增强，可能会削弱个人对自身身份的控制，侵犯人格尊严。对此，应坚持最小必要、目的限定和知情同意原则，筑牢数字时代人格权益保护防线。另一方面，人工智能逐渐参与信息筛选、行为预测和结果判断等决策环节，可能影响个人自我意识形成和自主决定。对此，应明确人工智能的参与程度及其影响，保障用户必要的知情、选择、人工复核和救济机会，使个人始终保有独立决定相关事项的权利。
第二，维护消费者和经营者的正当权益。对消费者而言，人工智能介入消费者的信息获取范围和交易选择过程，可能会削弱消费者基于充分信息作出自主判断的能力。对此，应建立必要的信息披露、规则约束和责任机制，保障消费者知情权和自主决策权。对经营者而言，算法通过流量分配、排序规则和资源配置影响经营者获得交易机会和参与竞争的条件，可能会影响市场竞争秩序。对此，应健全算法备案、透明度管理、安全评估等制度，提升人工智能系统的透明性、公平性和非歧视性。
第三，构建全链条责任体系。人工智能造成的权益侵害往往不是由单一行为直接导致，而是涉及数据来源、模型开发、技术部署、平台运营和具体使用等多个环节。因此，需要根据不同主体在人工智能运行中的功能定位、风险控制能力和实际获益情况合理配置责任。开发者应当对数据来源合规、模型设计缺陷和安全风险承担相应责任；部署者应当对应用场景选择和使用过程中的风险控制承担相应责任；平台经营者应当对算法运营管理、用户保护和风险处置承担相应责任；使用者滥用人工智能造成损害的，也应依法承担相应责任。
（作者系北京市习近平新时代中国特色社会主义思想研究中心特约研究员、中国政法大学民商经济法学院教授）
