雷锋网·· 3 天前AI 评分53
商汤开源 SenseNova Loop-9B-Preview：Looped Transformer 架构 9B 参数媲美 27B 模型
商汤开源 SenseNova Loop-9B-Preview：探索以计算深度释放模型潜力
AI 导读
商汤开源日日新 SenseNova Loop-9B-Preview，采用 Looped Transformer 架构，将中间层改造为参数共享的循环计算模块并引入 mHC 信息混合机制，在 9B 参数规模下媲美 27B 模型。
来源：雷锋网 · leiphone.com