调研纪要·· 11 天前
知识星球：作者认为人工智能基础设施进入全链路功耗升级周期
💡人工智能集群性能，本质是供电层面的问题 📌📌人工智能集群规模、算力持续提升，集群内部每一个组件，都需要实现更高吞吐、更
研究文章知识星球 · 看多长期立场归属于资料作者，不是本站判断
作者认为人工智能基础设施进入全链路功耗升级周期
核心逻辑
作者认为，人工智能集群规模和算力提升会推高计算、网络、内存、存储及散热设备的功耗，基础设施投资不应只看作半导体硬件升级周期。文中以英伟达服务器机架和网络交换机的功耗、带宽演进为例，认为更高集群性能诉求将推动全链路功耗升级。
点名公司
- 英伟达提及GPU及服务器看多文中以其服务器及机架功耗路线说明集群功耗升级
- AMD提及CPU中性DGX A100搭载双AMD EPYC
- 华硕提及系统厂商中性给出全液冷维拉鲁宾NVL72整机功耗数据
关键数字
- DGX A100最大输入功率
- 6.5千瓦
- DGX H100/H200最大输入功率
- 10.2千瓦
- GB200 NVL72机架功耗
- 约120千瓦
- GB300 NVL72机架功耗
- 约140千瓦
- 维拉鲁宾 NVL72整机功耗
- Max-Q模式187千瓦，Max-P模式227千瓦
- 交换机系统电源规格
- Tomahawk2系统850瓦；Tomahawk6系统3200瓦
来源：调研纪要 · wx.zsxq.com