瑞典首相乌尔夫·克里斯特松近日表示他会借助ChatGPT辅助政府治理工作,此言一出,立即在北欧国家引发舆论风暴。
据报道,在接受一家北欧媒体采访时,克里斯特松表示,他有时会向ChatGPT征求“第二意见”,以参考治理策略。
他声称:“我自己经常用ChatGPT,哪怕只是为了听个不同的意见,别人是怎么做的?我们是否该反其道而行之?我会问类似的问题。”
此番言论不出意料地招致了大量批评。批评者指出,选民投票选出的领袖是克里斯特松,而不是ChatGPT。
此外,瑞典多位技术专家也公开质疑政府官员依赖生成式AI的风险,一旦政治决策基于错误信息,后果将难以估量。
由于大模型训练数据可能缺失或存在偏差,聊天机器人很容易产生“幻觉”,给出看似权威却与事实不符的答案,因此有人认为可靠性才是AI的最大瓶颈。
瑞典乌梅奥大学教授Virginia Dignum指出:“越是依赖AI处理简单事务,就越容易对系统产生过度自信。这是一条滑坡路,我们必须要求其可靠性得到保障,毕竟我们投票选出的不是ChatGPT。”
卡尔斯塔德大学计算机科学研究员Simone Fischer-Hübner认为,在处理政务时必须非常谨慎,不应将敏感信息提交给ChatGPT。
还有分析师指出,聊天机器人可能极具“迎合性”和“妄想性”。如果一位领导人用带有倾向性的问题去提问,它的算法很可能只是不断强化该领导人原有的立场。值得庆幸的是,目前似乎还没有多少政治人物有意将ChatGPT当作“军师”使用。
对于种种批评言论,克里斯特松的发言人汤姆·塞缪尔松随后回应称,称首相在使用AI时并不存在风险。“敏感的安全信息当然不会输入进去,更多只是将AI作为一个大致的参考工具来使用。”
政府官员是否该使用AI?
这并非政客首次因使用AI而遭质疑, 去年瑞典社民党议员Olle Thorell用ChatGPT一次性生成180份书面质询;今年早些时候,英国科技大臣彼得·凯尔也因使用ChatGPT而引发舆论质疑。
也有官员公开为AI背书。苏格兰议员Graham Leadbitter声称,自己用AI写演讲稿,能快速梳理海量资料,给出一个扎实底稿,但强调最终拍板的还是他自己。
欧盟层面,2024年欧盟委员会已上线内部生成式AI工具GPT@EC,以帮助工作人员试点撰写、摘要公文。
与此同时,OpenAI本周宣布与美国政府建立合作,为联邦公务员提供ChatGPT企业版访问权限,在未来一年内仅收取象征性的1美元费用。
这一消息发布前不久,特朗普政府刚刚推出了AI行动计划,旨在推动人工智能在联邦政府各部门的应用,以提升效率、减少文书处理时间等。