美团LongCat-2.0宣布开源,华为昇腾等多家国产芯片厂商同步适配
来源:广州日报
7月6日,美团宣布正式开源LongCat-2.0的模型权重、推理引擎与核心技术文档。同日,华为昇腾、摩尔线程、沐曦股份等国产芯片厂商,集体宣布完成对该模型的推理适配工作。
据悉,LongCat-2.0采用MoE(混合专家)架构,总参数规模1.6万亿,每个Token平均激活约480亿参数,原生支持1M超长上下文;训练峰值规模超过五万张国产算力卡,预训练数据规模超过30万亿Tokens。这是业界首个完全依靠国产算力完成训练和推理全流程的万亿参数大模型。
美团LongCat团队对国产算力的探索始于2023年。三年来,团队从千卡规模起步,逐步攻克算子适配、通信优化、分布式稳定性等基础难题,最终在五万卡集群上完成万亿参数模型的全流程训练与推理。
LongCat-2.0开源后,华为昇腾团队宣布迅速在昇腾910系列上完成适配。新模型总参数量达1.6万亿,如何在单卡显存仅64GB 的昇腾A2上部署且兼顾高性能推理与百万级长序列成为一个难题。CANN推理团队采用业界成熟的PD分离架构,并针对这一难题分别做了部署优化。
此外,摩尔线程、沐曦股份等国产芯片厂商,也在同日宣布完成对LongCat-2.0的推理适配。行业分析人士认为,LongCat-2.0的开源,为国产算力厂商提供了全新的万亿参数级真实测试场景,将有效激活存量国产芯片,“国芯+国模”的协同研发,正从单点突破向规模化推进。
据悉,LongCat-2.0已在GitHub和Hugging Face同步开源,提供BF16原始权重、FP8量化和INT8量化三个版本,采用MIT协议,允许免费商用。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》