大摩谈液冷技术崛起:英伟达新DGX系统引领“散热革命”
source link: https://awtmt.com/articles/3710215
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
大摩谈液冷技术崛起:英伟达新DGX系统引领“散热革命”
在2024年SIEPR经济峰会上,英伟达首席执行官黄仁勋透露,旗下下一代DGX AI系统将采用液冷散热解决方案。他还暗示新一代DGX服务器"即将到来"。
摩根士丹利分析师Sharon Shih等在报告中指出:
随着人工智能服务器的计算能力不断提高,液冷解决方案的采用率(目前为3%)将会增长。液冷将首先以闭环形式设计冷板(直接到芯片),然后扩展到机架内(TDP 60-70kw),侧车(2-3个服务器机架,TDP 200kw)和排(4-8个服务器机架,TDP高达800kw)解决方案,以及数据中心基础设施升级。
英伟达DGX系统是专为AI训练和推理优化、提供极高计算能力的高端服务器解决方案。未来,其将采用液冷技术来支持性能更加强劲的新一代GPU。
液冷散热技术在AI数据中心有着广阔的应用前景,主要有三个原因:
- AI训练/推理算力需求持续攀升,导致数据中心内算力密度和热密度持续增长。
- 降低功耗和发热量是提高AI系统能效比的关键。
- 液冷技术可提供超越传统风冷方案的散热能力。
目前,AI算力需求仍将保持高速增长。此前,国盛证券分析师曾指出,算力时代来临,GPU服务器起量,液冷落地的驱动力发生根本性变革,2024年将是液冷散热的放量元年。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK