跳到正文
品玩·· 10 小时前AI 评分67

百度开源文心5.5 Flash Base,多项基准达同尺寸SOTA

百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

AI 导读

11月5日,百度开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base)。模型采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿Token预训练,预训练上下文最高128K,微调与推理支持最长100万Token上下文。

来源:品玩 · pingwest.com

事件百度开源文心5.5 Flash Base,2800亿参数MoE基座模型

查看事件综述