IT之家·· 15 小时前AI 评分66
英伟达优化 Kimi K3 模型推理速度，同硬件下提升 1.68 倍
英伟达优化 Kimi K3 模型推理速度，提升 1.68 倍
利好+0.48对 相关题材影响 中等
推理性能提升强化AI算力硬件需求与生态优势
stock_ai_django 新闻打标（gpt-6-luna），方向针对资产价格，不是本站判断，也不构成投资建议
AI 导读
英伟达通过一项上游 vLLM 优化，使 2.8 万亿参数量的 Kimi K3 模型在 GB300 NVL72 上达到 423 tok/s/user，较相同硬件下的对比性能提升 1.68 倍。
来源：IT之家 · ithome.com