6

三星打造全球首个基于PIM的GPU计算系统，使用96张经改造的Instinct MI100

 1 year ago
source link: https://www.expreview.com/86001.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

三星打造全球首个基于PIM的GPU计算系统，使用96张经改造的Instinct MI100

吕嘉俭发布于 2022-12-15 11:15
本文约 590 字，需 1 分钟阅读

去年三星宣布推出新款HBM2内存，其中集成了AI处理器，最高可提供1.2 TFLOPS嵌入式计算能力，使内存芯片本身可以执行CPU、GPU、ASIC或FPGA的操作。新的HBM-PIM (processing-in-memory) 芯片在每个内存模块内注入了一个AI处理器，从而将处理操作转移到HBM本身，从而减轻了内存与一般处理器之间转移数据的负担。

据Business Korea报道，三星对AMD基于CDNA架构的Instinct MI100计算卡进行改造，加入了HBM-PIM芯片，然后使用96张经过改造的Instinct MI100计算卡构建了一个大型计算系统。相比于未改造前的系统，新系统在使用训练语言模型算法T5时性能提高了2.5倍，功耗降低至原来的2.67分之一，大大提高了GPU运行AI算法的效率。

HBM2PIM_T.jpg

三星人工智能研究中心负责人表示，未来在半导体生产过程中AI技术的使用率正在增加，PIM技术的应用看起来是加速AI工作流程的有效解决方案，能让三星成为一家比任何其他公司都更好使用人工智能技术的半导体公司。目前检查良品率的方法存在局限性，需进入一个可以使用人工智能传感器和检查数据预测产量的阶段。

三星并不是唯一一家开发PIM技术的厂商，今年初SK海力士宣布已开发出具备计算功能的下一代内存半导体技术，首款基于该技术的产品为GDDR6-AiM（Accelerator-in-Memory/内存加速器），将计算功能添加到速率为16 Gbps的GDDR6上。其初步测试表明，应用GDDR6-AiM以后AI处理速度提高了16倍，功耗也降低了80%。不过SK海力士没有透露具体的操作步骤和比对方式，所以不能与三星这次的成绩直接比较。


report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK