严骏驰在CNCC 2026介绍JTok与xHC两项架构工作

在上海交通大学严骏驰于CNCC 2026的演讲《大模型新架构探索：JTok & xHC》中，他介绍了两项扩展Transformer模型容量的架构工作。JTok为token引入可学习的参数表，通过查表和逐元素运算调制模型更新；xHC则扩展残差流，以稠密读取、稀疏写回的方式提高模型容量。 严骏驰称，达到同样损失时，JTok-M所需训练算力约为底座的65%，也就是节省约35%，但推理延迟仍增加了约7%。xHC完成算子融合等优化后，相比mHC，吞吐性能的额外开销约为1.3%。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。