• 最近访问:
发表于 2025-07-27 22:59:31 股吧网页版
直击WAIC 2025 | “AI教父”辛顿警告:未来超级智能将很容易操纵人类
来源:每日经济新闻

  他是深度学习三巨头之一,他被尊为“AI教父”,他是诺贝尔奖、图灵奖得主,他是杰弗里·辛顿。尽管因为身体原因无法久坐,他仍不远万里来访中国。

  7月26日,“2025世界人工智能大会暨人工智能全球治理高级别会议”(WAIC 2025)在上海拉开帷幕。辛顿,正是此次WAIC的重量级嘉宾,这也是他首次踏足中国。

  在大语言模型快速发展的当下,辛顿发出了他的警告:未来超级智能将很容易操纵人类,人类要避免“养虎为患”。

  有限生命之间的知识转移

  在7月26日的主旨演讲中,辛顿首先阐述了大模型的理论起源。辛顿认为,在过去60多年里,AI(人工智能)发展存在两种不同的范式和路径。一种是逻辑性范式,认为智能的本质在于推理;另一种是以生物为基础的范式,认为智能的基础是学习,理解是前提,之后才能转化。

  1985年,辛顿做了一个小型模型,尝试结合这两种理论,以此理解人们对词语的理解方式。辛顿认为,当下的大语言模型,就是其当年小型模型的“后代”。

  关于大模型领域普遍遭受诟病的幻觉问题,辛顿提出了他的看法:“我认为,人类理解语言的方式与大语言模型几乎一致,人类甚至可能和大语言模型一样产生幻觉,因为我们也会创造出一些虚构的表达。”

  关于人脑与大模型,辛顿认为,人脑是一个模拟模型,是低功耗的,但这种模拟模型进行知识转移却是低效的,一个人很难将自己脑子里的知识展示给另一个人。

  大模型是如何完成知识迁移的?是蒸馏。辛顿表示,DeepSeek的做法是将大神经网络的知识转移到小神经网络中,即“蒸馏”,类似教师与学生的关系——教师将词语在上下文中的关联教给学生,学生通过调整权重学会表达。

  不过,人类之间沟通的效率很低。辛顿称,一句话通常只有100比特的信息,即使完成理解,每秒最多传递100比特。相比之下,数字智能间的知识转移效率极高。

  一言以蔽之:生物计算功耗低,但知识分享难。

  生物计算与数字智能之间的差距,也令辛顿感到担忧。其表示:“我们创造的AI智能体已能帮我们完成任务,它们能拷贝自身、评估子目标,还会为了生存和完成目标而寻求更多控制权。有人认为,可以在AI变得过强时关掉它们,但这并不现实。它们可能会像成年人操纵3岁孩子一样操纵人类,劝说控制机器的人不要关闭它们。这就像把老虎当宠物,幼虎很可爱,但长大后可能伤人,而养老虎当宠物通常不是好主意。”

  那么,人类又将如何与AI相处?辛顿称:“AI已无法消除,它能大幅提升几乎所有行业的效率,即便有国家想消除,其他国家也不会认同。”

  因此,辛顿呼吁全球建立由各国人工智能安全研究所与国内研究网络组成的国际社群,培养不会从人类手中夺权的“好AI”。

  大佬对话:开放推动进步,也带来安全隐患

  参加此次世界人工智能大会的,不仅有辛顿这样的“AI教父”,也有前谷歌CEO埃里克·施密特这样的企业界大咖。

  在大会开幕式上,前微软执行副总裁沈向洋与施密特展开了一场关于人工智能发展的多维对话。

  与辛顿类似,施密特也强调人的尊严何以存续,迫切需要全球的沟通、合作,共同维护人对技术的控制权。

  施密特表示:“我对接下来的两年充满期待,随着智能体革命的到来,每个企业的工作流都将发生巨大变化。但是,当AI开始自我学习并做出决策时,我们需要确保这些过程不会失控。”

  其补充表示:“这是人类共同面临的问题,任何国家都要坐下来一起谈判、合作。我相信,中美可以通过对话加强互信,共同迎接AI带来的机遇与挑战,特别是在防止AI负面影响方面进行协作。”

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500