1

寒武纪发布思元370,第三代云端AI芯片

 2 years ago
source link: https://www.expreview.com/80950.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

寒武纪发布思元370,第三代云端AI芯片

吕嘉俭发布于 2021-11-4 12:40

本文约 610 字,需 2 分钟阅读

寒武纪宣布推出第三代云端AI芯片思元370,还有基于思元370的两款加速卡MLU370-S4MLU370-X4,以及全新升级的CambriconNeuware软件栈。

思元370采用了寒武纪最新智能芯片架构MLUarch03,是寒武纪第一款采用chiplet技术的AI芯片,也是国内第一颗支持LPDDR5内存的云端AI芯片,集成了390亿个晶体管,基于7nm工艺制造。寒武纪表示,思元370的最大算力达256 TOPS(INT8),是第二代产品思元270算力的2倍,同时内存带宽是上一代产品的3倍,访存能效达GDDR6的1.5倍。

SY370_1.jpg

据寒武纪介绍,chiplet技术使得2颗AI计算芯粒可以封装在一起,为客户提供更多样化的产品,以适应不同的应用场景。思元370的MLUarch03芯片架构采用了新一代计算单元,运算能力有了大幅度提升,将业内首个基于MLIR图编译技术并商业部署的推理引擎MagicMind引入,使得新芯片变得更有竞争力。同时思元370内置了安全模块,支持国内外主流加密标准,全新视频图像编解码单元可支持132路1080p视频解码或10路8K视频解码。

此外,升级后的CambriconNeuware软件栈整合了训练和推理的全部底层软件栈,包括底层驱动、运行时库、算子库以及工具链等,将MagicMind和深度学习框架Tensorflow,Pytorch深度融合,实现训推一体。

SY370_2.jpg

MLU370-S4是采用半高半长规格的加速卡,功耗为75W,而MLU370-X4则采用全高全长的加速卡,功耗为150W,两款产品可满足不同的用户群体需要。寒武纪表示,未来会发布更多搭载思元370的产品。据了解,推训一体的思元370是在2020年第三季度流片,相关加速卡是在2021年第二季度送达测试客户,目前进入早期销售阶段。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK