雷锋网·· 6 小时前AI 评分46
雷峰网:哪里电便宜算力就往哪里跑?算电协同没那么简单
哪里电便宜,算力就往哪里跑?没那么简单
AI 导读
一项跨区域算电协同实测三天内调度28万余次AI推理请求,单位Token算力用电成本下降约31%。共绩科技CTO许钟子珩介绍,其平台通过镜像预热、模型分发和缓存提前准备任务文件,并已完成英伟达、昇腾、海光等平台的模型适配,但目前调度仍依据算力使用价格,尚未能感知电网实时电价。付智认为,国内机房调节负荷收益尚不明显,是算电协同未形成大规模商业闭环的原因之一。
来源:雷锋网 · leiphone.com