5

脑子这个好东西,我们模仿得怎么样了?类脑计算报告

 1 year ago
source link: https://www.51cto.com/article/721026.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

脑子这个好东西,我们模仿得怎么样了?类脑计算报告

作者:丰色 2022-10-21 09:23:31
相比于深度学习中的DNN,类脑计算的研究主要围绕SNN网络展开。

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

技术篇:当前处于运算智能到感知智能的过渡阶段

正如我们所见,人工智能是靠着庞大的数据量和精确计算,在近些年取得了不少令人瞩目的进步。

但与人脑相比, 其基于的深度神经网络(DNN)在信息处理的效率,即速度和功耗上,表现仍不够好。

其中“速度”是指它在计算不同神经层的输出是以顺序的方式进行,导致每层都必须等待上一层的输出计算完成后才能执行下一步,缺少架构灵活性。

“功耗”则是指在冯诺依曼架构下,庞大的数据量意味着频繁且大规模的运算,随之而来的就是功耗的极速上升。

而我们的人脑靠其中的神经元以脉冲的形式进行信息传递,约870亿个神经元高度非线性地工作,每个神经元在外部和内部都与其他神经元有多达10000个连接,承载着数十万个协调的并行过程,功耗却只要20W左右。

于是人们就把一部分目光投向了类脑计算。

从定义上来看,目前的类脑计算可以分为狭义和广义两种。

狭义类脑计算指的就是模仿大脑神经结构和工作原理而创新出来的神经形态计算,学术界称其为Brain-like Computing

广义的类脑计算则是在借鉴脑的结构和工作原理的同时,又不局限于对脑的模拟,还会融合传统的人工神经网络 (ANN)等具有更多类脑特征的异构神经网络,学术界称其为Brain-inspired Computing

相比于深度学习中的DNN,类脑计算的研究主要围绕SNN网络展开

所谓SNN,全称脉冲神经网络,是第三代人工神经网络。它以0/1脉冲序列表达信息流,编码里包含了时间信息,与ANN最大的区别是具有时序性。

只有当神经元膜电压积累到特定的电压阈值时SNN的神经元才会放电(发放脉冲),并不会在每个信息传递的周期都被激活。

下面是ANN网络和SNN网络的详细对比:

图片

目前,在业内形成了四个影响较大的SNN模型,包括最接近生物神经元的H-H(Hodgkin-Huxley)、使用最广泛的LIF、结构最简单的Izhikevich以及更具通用性的SRM。

图片

BindsNET、Spyketorch等少数平台可以支持大规模SNN的构建与训练。

不过,对于各种SNN模型,目前还没有一个统一的训练算法,主流的至少包括三种:

图片

以上的SNN模型和算法,再加上仿真框架以及数据集,就构成了类脑计算技术生态的软件部分。

硬件生态部分则主要包括类脑芯片和新型存储器

其中,类脑芯片大致分为三类,包括:

  1. 支持脉冲神经网络的神经形态芯片:TrueNorth、Loihi、达尔文芯片等;
  2. 支持人工&脉冲神经网络的异构融合芯片:天机芯、Loihi2、领启KA200;
  3. 支持神经元编程的脑仿真平台:SpiNNaker、BrainScaleS、领启KA200等。

新型存储器主要指忆阻器,它结构简单、集成密度高,理论上一个就可以实现神经突触的功能,可极大的提升突触密度,是从硬件层面实现类脑神经网络的高效方式之一。

热门的研究方向集中在RRAM(阻变忆阻材料)和MRAM(磁性忆阻材料),其中已有公司在做RRAM的商业落地。

从科研进展上来看,欧美国家在整体上具有先发优势。

类脑计算这个概念最早是在上世纪80年代,由一个叫做Cuver Mead的美国科学家提出。

1995年,瑞士苏黎世联邦理工学院和苏黎世大学率先联合成立神经信息研究所(INI),正式开创了类脑计算相关研究的先河。

到了2004年左右,这项技术就开始得到了IBM、曼彻斯特大学等多所知名机构的正式“青睐”。

随后,越来越多的成员加入该队列。

总的来看,国外主要以IBM、英特尔、德国海德堡大学、曼彻斯特大学等为代表,成果包括以下这些:

图片

国内类脑计算的研究始于2014年左右,以清华大学、浙江大学、中科院等为代表,主要成果包括异构(SNN+ANN)融合的“天机”芯、达尔文芯片以及该芯片组成的类脑计算机等。

图片

据业内人士分析,整体来看,类脑智能的发展将会经历运算智能-感知智能-认知智能-自主智能四个阶段,每个阶段对应的应用价值都有所不同:

运算智能阶段的应用主要集中于低功耗的移动设备、可穿戴设备、IoT智能软件和具备实时性的端侧离线信息处理工具。

感知智能阶段的应用主要包括事件驱动视觉传感器、神经拟态触觉传感器等,应用场景分别包括手势识别、汽车高速避障、工业视觉、机器人灵巧手等。

认知-自主智能阶段则会衍生出各种自适应机器人,是很多类脑公司想要实现的长期目标。

现在,类脑智能正处在从运算智能到感知智能的阶段,除了前文提到的还没有标准化算法的实现方式以外,还面临以下4个研究难点

1、大脑信息处理的数学原理与计算模型并不完全清楚

神经网络架构是类脑研发的基础。当前遇到的问题是网络的拓扑结构、大小和确切性差异很大,尚不清楚网络应该建多大,以及必须有多少互连才能展示出更好的生物特性。

2、类脑器件和材料需要新的技术突破

新型纳米器件尚存在工艺稳定性差、规模化难度高等问题,类脑系统需要数以百亿的神经元协同工作,而现有类脑芯片硬件资源有限,难以实现大规模神经元互连集成和神经元脉冲信息高效实时传输。

3、没有公认的benchmark来衡量该领域的进展情况

4、最后就是目前观测大脑的手段单一。不过根据国内学者预测,人脑神经网络精细图谱有望在20年内完成。

尽管面临的问题还不少,但类脑的商业化落地已经在摸索中开始并前进了。

产业篇:全球已有3家实现量产

目前,类脑智能的发展处于商业化前期的探索阶段,相关类脑创企融资轮次基本都处于A轮,但融资金额基本都在亿元以上。

根据量子位智库的调研,在现在这个阶段,商业化公司瞄准的均是端侧/边缘类市场, 其中主要有两个方向:感知类芯片和计算类芯片

整体来看,类脑计算(处理器)的公司要多于类脑感知(传感器)的公司

国内方面,约有10家相关创企,成立时间基本集中于2017年和2018年。

专注类脑研究的公司和创新转化平台则有3-5家左右,代表玩家之一灵汐科技已在去年实现类脑芯片(或产品)量产,时识科技(前身为瑞士苏黎世的aiCTX)也将在今年年底或明年实现量产出货。

其中灵汐科技在成立年限上虽属于创业公司范畴,但其研发早在2013年清华大学成立类脑研究中心时便开始。

图片

国内其他类脑创企则包括下面这几家(完整名单见报告):

图片

海外方面,相关创业公司多集中于欧洲和美国,公司数量略多于中国。

其中有不少和灵汐科技一样,也是直接从相关大学或研究所的类脑研究成果中孵化而来。

图片
图片

值得注意的是,国外出现了全球唯一一家上市的类脑计算公司:成立于2014年的Brainchip

不过它的股价长期低迷,营业收入也不够可观(去年营收仅160万美元)。

这可能与Brainchip的产品在性能上并没有呈现出明显优势有关,也侧面反应出类脑的商业价值在二级市场上可能受到争议。

再来看生态建设的情况。

这方面基本还是大型半导体企业比如英特尔在做。

在国内,未出现大型公司主导类脑计算研究的情况,但代表玩家灵汐科技在战略目标上与英特尔、SpiNNaker一致,希望成为新一代算力基础设施提供商。

分析师将类脑生态的上游总结为硬件制造商、IP授权方及类脑公司的商业化伙伴(国内的类脑公司选择的多为国产芯片制造商)。

中游划分为类脑研发机构与商业化公司;下游则为类脑当前已经展开合作与布局的应用领域。

最终形成如下的类脑生态图:

图片

具体应用场景上,目前的类脑解决方案基本都是首先从低维度信息处理和高速视觉处理开始,主要面向端侧可穿戴设备、摄像头和终端设备

在此基础上,未来将加入在复杂环境中的实时决策能力,对应场景为无人机和自动驾驶。

随着类脑技术(大规模并行计算、自主学习等)和类脑产业的成熟,在更长的维度上,类脑的应用场景将覆盖数据中心以及自主机器人。

此外,类脑芯片由于其低功耗的特征,非常适合人体植入(可植入式疾病治疗)、脑机接口等应用领域。

图片

目前国内外总共仅有3家左右实现类脑产品的初步量产,量子位智库分析行业遇到的商业化阻碍主要包括以下几方面:

首先对于创业公司来说,存在着客户替换成本高的问题。

因为芯片行业的发展是围绕产品建立庞大生态的过程,类脑在产品化过程中,由于其底层逻辑(高度仿脑)与现有计算机的逻辑存在根本差异,导致其融合过程的难度增加,相关客户想要做替代的成本/难度将会非常高。

另外,类脑的价值建立在多项基础科学的突破和交叉融合之上,如新型器件需要材料的创新,算法的有效性建立在神经科学的突破上,初创公司还缺乏相应的资源和资金进行创新

其次,对于大型半导体公司来说,类脑计算在一定程度与其现有核心业务之间存在竞争关系。他们一般会等到前沿技术在市场上得到充分验证后,再进行商业化。

而且对于一些公司来说,其研发投入来自国家或政府,而不是靠商业化盈利。在这种情况下其研发资金有充足保障,在投资方撤资前,这项技术通常不会将商业化纳入考虑范围,比如IBM的TrueNorth项目,其主要服务于美国军方部门。

最后,从整体上来看,目前围绕类脑的研究人员和开发者数量有限,这也是限制类脑智能规模化发展的因素之一。

但尽管如此,分析师认为,眼下类脑计算还是存在着两条非常有潜力的商业化路径

大规模并行计算硬件平台(计算类)和基于事件驱动特性的产品(传感类)。

其中,后者是最有可能率先实现商业化落地的方向。

一方面因为事件驱动特性能够解决 AI 细分市场当前面临的迫切问题——能耗高;另一方面,事件驱动的技术成熟度更高,已有公司开发出完整的解决方案。

c64094494e346bc1de93102aa971fd813ee064.jpg

责任编辑:张燕妮 来源: 量子位

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK