华为已为KV Cache单独做存储，专用SSD规格尚未确定

文章称，华为已为KV Cache单独做存储，但专用SSD规格尚未确定。文中提到华为推出OceanStor M900、英伟达推出CMX Context Memory Storage，用于分层管理可能复用的推理KV Cache；受访者估算，DRAM与企业级SSD按相同容量计算的成本相差数十倍，部分方案中容量替换关系可能达到一比五或一比十。