拿起本书读上几行，你可能就会疑心它不是人类写出来的。

　　没关系。我不会生气。

　　如果回到两年前，你根本不会有这样的想法。但在今天，机器生成的文章、图书、插图以及计算机代码与人类的创作难分伯仲。还记得乔治·奥威尔在其反乌托邦著作《1984》中描写的“小说写作机器”和“流行音乐创作器”吗？现在这些都已经成真了。科技进步如此迅猛，让公众猝不及防，人们不禁担忧如今的上班族会不会在未来一两年内就失去工作。大量白领工作者的处境突然变得岌岌可危，才华横溢的年轻插画家纠结是否还需要去读艺术学校。

　　值得注意的是，这一切发生得如此之快。我专注科技行业写作15年，从未见过哪个领域发展得像过去两年的人工智能（AI）那么快。2022年11月发布的ChatGPT（聊天机器人模型）引发了一场创造全新人工智能的竞赛，这种人工智能不仅能够处理信息，还会生成信息。当时，人工智能工具可以生成歪歪斜斜的狗的图像；而现在，它们能够大量生成唐纳德·特朗普的照片，并且照片十分逼真，特朗普的毛孔和皮肤纹理清晰可见，几乎难辨真假。

　　许多人工智能缔造者认为这项技术有望开辟一条通往乌托邦的道路，另一些开发者则认为它可能导致人类文明的崩溃。实际上，我们都被科幻小说般的情节遮蔽了双眼，没有注意到人工智能正在对社会造成危害，如延续种族主义、威胁创意产业等。

　　在这股无形力量的背后，一些公司已经控制了人工智能的发展，并竞相使其更强大。受永不满足的增长欲望的驱使，它们投机取巧，在产品方面误导公众，成为问题重重的人工智能“管家”。

　　历史上没有哪个组织能够像今天的科技巨头这样积聚如此多的力量，影响如此多的人。谷歌为全球90%的互联网用户提供网络搜索服务，而70%的电脑用户使用微软软件。但两家公司都不满足。微软想从谷歌价值1500亿美元的搜索服务中分一杯羹，谷歌想夺走微软价值1100亿美元的云业务。为了打败对方，两家公司都汲取了其他公司的创意——这就是为什么归根结底人工智能的未来仅仅由两个人书写：萨姆·奥尔特曼和德米斯·哈萨比斯。

　　奥尔特曼是身材瘦削、性格温和的企业家，年近40岁，穿运动鞋上班；哈萨比斯是年近50岁、痴迷游戏的前国际象棋冠军。他们都是智商极高、富有魅力的领导者，共同勾勒出了无所不能的人工智能图景。这些图景是如此振奋人心，以至于追随者们对两人顶礼膜拜。他们一心想赢，所以才能成功。奥尔特曼给世界带来了ChatGPT，而哈萨比斯则加速了这一技术的落地进程。他们的经历不仅定义了现在的人工智能竞赛，也揭示了我们将面临的挑战，其中之一就是如何在行业巨头的控制下艰难地引导人工智能向善发展。

　　哈萨比斯在科学界普遍不看好的情况下创办了DeepMind（深度思考），这是世界上第一家致力于开发像人一样聪明的人工智能的公司。他希望在生命起源、现实本质和疾病治疗等方面实现科学突破。他说：“发现智能的本质是解决其他问题的前提。”

　　几年后，奥尔特曼创办了OpenAI（美国人工智能研究公司）并进行同样的尝试，但他更注重为人类带来经济上的富足，增加物质财富，帮助“我们所有人过上更好的生活”。他告诉我：“这是人类迄今为止创造的最伟大的工具，让我们每一个人都能超越自己。”

　　他们甚至比硅谷最疯狂的空想家更野心勃勃，计划开发强大到可以改变社会、颠覆经济和金融体系的人工智能。而奥尔特曼和哈萨比斯将成为赋能者。

　　这也许是人类最后一项发明。在开发过程中两人都努力思索如何控制这种革命性技术。起初，他们为谷歌、微软等科技巨头不该完全掌控这一领域，因为它们将利润置于人类福祉之上。因此，多年来，他们各自在大西洋的一边摸索建设研究实验室的新方法，以保护人工智能向善发展。他们承诺要做人工智能的守护者。

　　然而，两人都想争第一。为了开发有史以来最强大的软件，他们需要资金和计算能力，硅谷是最好的资源聚集地。随着时间的流逝，奥尔特曼和哈萨比斯发现他们终究离不开这些科技巨头。尽管创造超级人工智能的努力渐渐取得成效，但令人不安的新思想也从四面八方袭来，他们做出了妥协，放弃了崇高的目标，将控制权交给了那些急于向公众出售人工智能工具并且严重缺乏监管的公司，这产生了深远的影响。人工智能领域的权力集中会导致竞争萎缩，带来对私人生活的新型侵扰，并滋生新形式的种族偏见和性别偏见。现今，如果让一个流行的人工智能工具生成女性形象，她们会是性感的、衣着暴露的，首席执行官的形象会是白人男性，而罪犯的形象则经常是黑人男性。这些工具正在被安装进我们的媒体订阅专栏、智能手机和司法系统，而未考虑它们会如何影响公众舆论。

　　这两人的经历与19—20世纪互相角逐的企业家托马斯·爱迪生和乔治·威斯汀豪斯没什么不同。爱迪生和威斯汀豪斯都想实现一个梦想，那就是创造一个为数百万消费者供电的主导系统。他们都从发明家转型成了企业家，也都明白自己的技术总有一天将赋能现代世界。但问题在于：谁的技术会脱颖而出？最终，由威斯汀豪斯提出的更高效的电力标准受到了全世界的欢迎。但他并未在所谓的“电力之战”中获胜，获胜的是通用电气。

　　在公司利益的驱使下，奥尔特曼和哈萨比斯推出了规模更大、能力更强的模型，科技巨头们也成为最后的赢家，只不过这次竞赛是复制人类自己的智能。现在，世界正走向混乱的边缘。生成式人工智能有望提高人类的生产力，通过ChatGPT等工具给我们带来更多触手可及的有用信息。但每一项创新都要付出代价。企业和政府正在适应新的现实，那就是真实和人工智能生成之间几乎没有差别。企业投入大量资金，指望人工智能软件取代员工并提高利润率。一种新的个人人工智能设备正在出现，将个人监控提高到了难以置信的新水平。

　　本书的后半部分阐述了这些风险，但首先我要解释一下我们是怎么走到这一步的，以及两位创新者想让人工智能向善发展的愿景是如何最终被垄断力量摧毁的。他们的故事充满理想主义、天真和自我，但也表明在科技巨头和硅谷炮制的泡沫中，伦理准则几乎不可能被遵守。奥尔特曼和哈萨比斯在人工智能的管理问题上乱作一团，他们明知要想避免这项技术造成不可挽回的伤害，世界就要负责任地进行管理，但如果没有世界上最大的科技公司提供资源，他们就无法打造出拥有神一般力量的人工智能。他们以改善人类生活为目标，最终却将权力交给了某些公司，让人类的幸福和未来陷入企业的霸权之争中。这就是事实真相。