美团开源万亿参数大模型LongCat-2.0
人民财讯6月30日电,美团今日,开源美团正式推出新一代万亿参数大模型 LongCat-2.0,参数并宣布全面对外开源。大模
作为业界首个在 五万卡国产算力集群上完成全流程训练与推理的美团万亿参数模型,LongCat-2.0 具备以下核心突破:
- 参数规模:总参数量达 1.6T,开源平均激活参数量约 48B,参数动态激活范围在 33B~56B之间。大模
- 训练方式:从零开始进行预训练。美团
- 上下文能力:原生支持 1M(一百万)超长上下文窗口。开源参数
相关文章:
栏目分类
最新文章
