1
广发证券：国内 AI 大模型在训练与推理阶段或产生 1.1-3.8 万台高端 AI 服务器的算力...
source link: https://www.8btc.com/article/6824468
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2023-07-02 06:04
广发证券：国内 AI 大模型在训练与推理阶段或产生 1.1-3.8 万台高端 AI 服务器的算力需求
巴比特讯，界面新闻今日发文称，AI 大模型成为风口，全球算力供不应求。据广发证券测算，国内 AI 大模型在训练与推理阶段或产生相当于 1.1 万台至 3.8 万台高端 AI 服务器的算力需求。以 GPU 产品售价 10 万元、AI 加速卡价值量占服务器整机约 70% 计算，则对应 126 亿元至 434 亿元增量 AI 服务器市场规模。
宁畅总裁秦晓宁表示，大模型火了之后，5 月 GPU 服务器用量增长 38%，大模型带来 GPU 的功耗是 400-700，一个通用机柜功耗需要达到 8 kW~10 kW。如果一个通用计算机柜功耗已经达到了 10 kW，机房就必须改造。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK