“超节点”算力集群亮相会场 词元经济最新动向
来源:央视新闻
第九届数字中国建设峰会昨天迎来公众开放日,现场体验区开放将持续至5月4日。词元是大模型处理信息的最小单元,是今年AI领域里的热词。这两天,在现场体验区记者发现,业内关于词元的讨论不断,相关新的硬件和新的服务模式也纷纷亮相。
眼下,我国词元调用量呈现指数级增长。专业人士告诉记者,这背后的关键驱动来自AI的规模化落地,特别是智能体的大爆发。
腾讯公司副总裁韩开创:词元确实反映了智能经济的发展热度,但是单就词元发展而言,应该有一个比较综合的衡量因素。好比我们开车,不能只关注油耗,还要关注引擎的经济性和输出的能力,大家其实是越来越关注词元消耗的性价比,更关注如何降低词元调用的成本。

算力越强,词元处理速度就越快,单位成本就越低。记者观察到,新一代国产算力基础设施在峰会上亮相。这样一个“超节点”算力集群被直接搬到了现场。
除了升级硬件、提升算力,各种减少词元消耗、降低成本的新服务也不断出现。有企业把100多个主流大模型都放到一个服务平台上,当用户提出需求后,平台会自动匹配最合适的模型来解决问题。
天翼云智算平台事业部产品专家王曼:如果你需要做视频,我们就给你选择最适合做视频的模型,如果你提出的是一个非常简单的查天气的问题,那就调用小模型解决。这样就不会出现小问题也用高阶模型来解决,降低了词元的使用成本。

本届峰会上,围绕词元经济延伸出的“人工智能工厂”新概念也受到关注,简单来说就是像造汽车一样造智能体。
浪潮云信息技术股份公司总经理颜亮:通过流水线生产智能体,并持续优化,能够减少无效计算,更能大幅度降低词元的消耗。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》