联合国秘书长古特雷斯周一发出呼吁，全世界应禁用“杀手机器人”。

　　古特雷斯当天在联合国第一届全球人工智能治理对话会议上表示，应通过国际法禁止致命自主武器，这重新引发了一场关于AI安全的争议——该争议正是今年早些时候Anthropic公司与五角大楼产生分歧的核心所在。

　　“机器在没有人类控制和判断的情况下，自行选择并锁定目标，夺走生命——这在道德上令人反感，”古特雷斯在瑞士日内瓦发表的演讲中说道。“让我们直呼其名：杀手机器人(killer robots)。”

　　古特雷斯在联合国第一届全球人工智能治理对话的开幕式中还表示，随着AI持续飞速发展，目前全世界正进行一场“没有计划、也未经同意”的实验，而这种情况不能继续下去。

　　古特雷斯强调，制定AI安全法规已刻不容缓。

　　“我们不应等到暴行发生才采取行动，”他说，“有些决定必须永远留给人类来做，而其中最重大的，莫过于剥夺另一个人的生命。”

　　近年来，原本设计用于民用的AI系统和芯片，正越来越多地被部署在战场和军事指挥部中。这引发了一场关于军队何时应使用AI、人类何时应介入以及由谁来决定划定界限的争论。

　　今年年初，当Anthropic公司要求五角大楼保证其AI模型不会被用于国内监控或自主武器系统时，这场争论被彻底公开化了。当时作为Anthropic工具“重度用户”的五角大楼拒绝了这一要求，称应允许其将Anthropic的人工智能用于所有合法目的。双方目前仍在美国法庭上争执不休。

　　与此同时，在战场上，技术进步正日新月异。AI武器的支持者和国防企业认为，自主武器仍将处于人类控制之下，AI将使人类指挥官能够以更高且必要的精度和速度开展行动。反对者则指出，AI系统会犯错，因此在战况紧要关头将控制权交给机器是极其危险的。

　　一些人工智能安全活动家——其中许多人早已担心人工智能系统会脱离人类控制并反噬其创造者——认为，让AI武装起来只会加剧这种危险。

　　古特雷斯周一还警告了AI的另一种风险——即AI权力集中于少数企业、少数国家之手；而其他大多数国家对于那些将左右他们未来的相关决策，迄今仍全无话语权。

　　据悉，这场为期两天的活动将吸引来自全球各国政府、科技业、学术界等的4000多名代表，以包容态度进行讨论，并探索如何善用这项已经迅速改变世界的AI技术。联合国计划于明年发布更加全面的评估报告，并将在纽约举行第二届全球AI治理会议。