钛媒体· Leo张ToB杂谈·· 11 天前AI 评分43
每天500万亿Token背后，KV Cache正把存储墙推到台前——联想肖利民谈存算融合池化方案
每天500万亿Token背后，KV Cache正把存储墙推到台前
AI 导读
联想集团首席科学家肖利民介绍，中国每日Token消耗量已从2024年的1000亿增至2025年8月的500万亿，放大了大模型推理中的KV Cache存储墙问题。
来源：钛媒体 · tmtpost.com
每天500万亿Token背后，KV Cache正把存储墙推到台前——联想肖利民谈存算融合池化方案