2

英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 整体能耗将节省更多

 11 months ago
source link: https://www.8btc.com/article/6825252
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2023-07-07 06:06

英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 整体能耗将节省更多

据澎湃新闻报道,今日在 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰表示,英伟达在全球数据中心计算问题上观察到两个重要趋势:一是人们对人机交互的期望大大提高,引发了全球第二波关于大模型的投入浪潮。二是很多互联网公司面临着用户需求增长、功耗越来越多的问题,特别是人工智能的大模型访问比例增加,意味着需要更多的能耗投入。针对第二个趋势,英伟达提出,如果能更多地将任务负载从 CPU 移至 GPU,那么能在支撑同样多的用户请求的同时,节省更多能耗。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK