模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

芯东西(公众号:aichip001)
作者 |  ZeR0
编辑 |  漠影

美国半导体传奇人物卡沃·米德(Carver Mead)的一生,有过太多开创性的工作。

无论是创造“摩尔定律”术语,还是提出构建超大规模集成电路的设想,都足以使他的名望在世界芯片历史长河中经久不息。在达成这些微电子学领域的辉煌成就后,1980年代,他毅然转身,踏入一条全新的研究河流——模拟生物计算系统,并创造了“神经拟态”这个新概念。

毕竟“脑子”是个好东西,计算机想模仿,芯片设计也想借鉴。但至今科学家们仍未参透其中的真谛,因此神经拟态计算发展这么30多年来,仍然是照猫画虎,仿其形,却不得其神。

但随着硅基芯片制造逼近物理极限,称霸集成电路近半个世纪的摩尔定律已濒临尾声,面对算力需求持续暴涨、下游客户愈发苛刻的成本要求,计算机体系结构亟待冲出新的黑马。坐拥大幅节省能耗这一突出优势的神经拟态计算,已经是为未来计算挑大梁的热门候选路线之一。

2022年,神经拟态计算的新进展愈发“高频”,来自德国海德堡大学、奥地利格拉茨科技大学理论科学研究所、美国加州大学圣地亚哥分校等不同机构的多篇相关论文发表于国际学术顶级期刊。

今天,这个概念不再仅束之于科学殿堂的研究探索,距离应用普及也更近一步。

一、神经拟态,模拟大脑的哪些关键特征?

分辨猫与狗,对于人类来说,轻而易举。

通过视觉等感官捕捉并解读周围的世界,这是人类与生俱来的天赋。但计算速度远超人类的计算机,至今仍要依靠“勤能补拙”的笨办法来练就感知分析世界的能力。

大型数据中心基于TB级数据库训练出的图像识别能力,才能跟一个普通小孩的水平相提并论,但功耗开销却远比人脑大得多。拥有超强思考能力的人类大脑,功耗仅约20W。

那么如果让计算系统去模拟生物大脑的结构及运作机制,是不是就能用更少的资源,更快速、更准确地处理计算任务,复刻人类“思考”的过程?

神经拟态计算便在探索这样一个方向,仿照大脑皮层突触电流产生和传播的基本机制,为计算系统构建更高效的记忆/存储、学习、通信、分析能力,来支持感觉、知觉、语言、推理等功能,最终为实际数据分析问题提供改进的解决方案。

“由于生物体的复杂性,到目前为止,人的大脑乃至更低等生物的大脑,还没有特别清晰的研究结果。”英特尔中国研究院高级研究员曹露在近期接受芯东西等媒体采访时解释道,“我们只有从最简单的基本结构和特征开始,开启新的学习方式和计算范式。”

据曹露分享,在国内,神经拟态计算和类脑计算的含义较为相似。“类脑”概念的界定相对更宽泛,只要与脑搭边都可以用这个词。“神经拟态”则具有4个特点:细粒度并行性、事件驱动计算、低精度与随机性、自适应性和自我修正能力。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

这些都与生物大脑的机制类似。生物大脑是由大量的微小神经元通过复杂的相互连接,形成一种高度复杂、非线性、可并行处理信息的系统;在处理问题时,大脑并非一直保持工作状态,而是有事件到来,才开始计算、耗能、执行任务,没有事件时就处在一个静默状态,能耗极低。

此外,生物大脑是低精度模式。人们在估计距离时只有一个大概的空间感觉,并不能准确测算具体距离,而是凭借空间感觉进行一些精细操作。其计算方式有些类似于概率计算,即今天处理和明天处理同一个事件,大部分情况下结果是一致的,但可能因当天的身体、心情状况有所出入。

还有一个重要特征,是生物大脑具备自适应性、自我修正持续学习和提升的能力,之前没有遇到过的情况,经历之后下一次就有印象,知道该如何面对。

基于这些特点,产学界都在尝试如何借鉴生物体,寻找新的结构研究方向。

二、跑深度学习算法,能效比优势已获验证

在神经拟态计算中,处理和存储都由神经元和突触控制。与传统冯·诺依曼计算将信息编码为由二进制值表示的数值不同,神经拟态计算以脉冲为输入,其发生的相关时间、脉冲大小及形状均可用于编码信息。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

区别于传统标准计算和并行计算,神经拟态计算有3个特点:1、从小样本数据中持续学习;2、基于脉冲的异步处理方式;3、并行、稀疏计算模式。

遵循这些特点,2017年底,英特尔研究院推出了第一代神经拟态芯片Loihi。Loihi采用传统的CMOS工艺,通过神经元核堆叠实现,内置有128个神经元核,每个神经元核拥有1000个神经元,整个芯片面积大约是60平方毫米。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

2021年9月,英特尔推出第二代神经拟态芯片Loihi 2。相比Loihi一代,Loihi 2的芯片面积从以前的60mm²缩小到了31mm²,并通过升级至Intel 4制程节点、3D堆叠,在更小面积内集成了更多资源,速度有了10倍的提升;单核依然保留了128个神经元核,但每个神经元核内的神经元数量由以前的1000个提高到了8000个,因此整个单芯片支持的总神经元数量由之前的12.8万增加到了100万。此外,因其内部片上网络带宽提升几十倍,整体带宽提高显著。

Loihi一代采用纯异步电路设计,与其他计算设备互连时存在“语言不通”的问题,中间转换过程会影响到使用的便捷性。而Loihi 2可通过网口直接与其他计算设备进行芯片通信,还引入了更好的编程性,从以前只支持带泄漏整合发放模型(LIF)优化至可以支持更多种模型,比如说共振发放模型,或者是LIF++、ALIF等不同的神经元模型,从而能够实现更多的神经元行为。

最后,Loihi 2通过分级脉冲进一步提高做深度学习任务时的精度,即不仅支持二值,而且能携带一个整型的精确值,可将事件强度及信息表征到分级数据上来更精确地提高表征能力。Loihi 2还在学习能力上引入了调控因子,让芯片能够根据小样本更高效地实现在线学习。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

今年5月,奥地利格拉茨科技大学(TU Graz)理论科学研究所的论文《基于脉冲神经拟态硬件,用于人工智能应用的长短期记忆网络》(A Long Short-Term Memory for AI Applications in Spike-based Neuromorphic Hardware)发表于国际学术顶刊Nature的子刊Nature Machine Intelligence上,验证了在由32个Loihi 2组成的神经形态硬件上运行大型深度神经网络时,能效相较非神经形态硬件高出4~16倍。

三、三类应用优势明显,专用软件框架降低部署门槛

芯片造出来了,用在哪儿是关键问题。

Loihi一代推出之后,2018年3月,英特尔开始组建神经拟态研究社区INRC(Intel Neuromorphic Research Community),集聚产学界力量共同探索神经拟态计算的研究与应用。截至今年9月份,其成员数量已经超过了180家。

按应用场景划分,小到在设备端与传感器紧密耦合,大到大规模并行解决一些更复杂、需要更多神经元的任务,都是神经拟态计算芯片的用武之地。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

2021年,英特尔曾对其三年多以来的研究工作做了总结和展望,认为神经拟态计算在三类应用领域呈现出较明显的优势:一是与近传感器结合,完成基于传感和感知相关的处理,如进行手势识别和气味分析;二是做优化,能够比基于CPU的路径速度更快、性能更高;三是在像智能机器人这样的应用场景中,能够促进对环境的持续感知和不断学习。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

例如,INRC曾与苏黎士理工合作,基于Loihi探索无人机飞行路线和自主避障。英特尔中国研究院也一直推动神经拟态研究社区的发展,包括与中科院自动化所合作探索触觉感知方面的实验。

对于机械臂灵巧操控,触觉是非常重要的感知信息,其中夹爪与物体接触时的力觉反馈对于成功率影响很大。比如夹鸡蛋和夹石头,用的力不一样,用力小了物体会掉,用力过大就会把像鸡蛋这样脆弱的物品夹碎。机器人可通过检测标记点的形变,间接获取触觉信息,识别出所夹物体的材质,将触觉信息编码成脉冲,输入神经拟态计算芯片中,通过模型训练与学习,分析判断夹爪与物体之间是否发生滑动,如果发生滑动就立即动态调整,增加夹爪的加持力,完成操作过程。

为了让更多机构可以接触和试用神经拟态芯片,今年9月,英特尔推出基于Loihi 2的Kapoho Point开发板。它大约三英寸见方,正面、背面各有4个Loihi 2芯片,整体设计非常紧凑,同时可通过接插件实现多块Kapoho Point的板间直连,因此能够扩展更多资源来做更复杂的事情。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

从应用角度来看,单个PCB板可以达到800万神经元,可以运行包含多达10亿个参数的AI模型,也能解决涵盖多达800万个变量的优化问题。

Kapoho Point现已逐步向社区的成员开放,以供探索性研究实验。社区成员既可租借硬件,又可以通过INRC提供的基于Loihi的云平台接入,进行前期研究及实验。

仅有硬件,很难在实际应用起来,软件则是将芯片与应用连接的桥梁。因此,英特尔在2021年9月推出了模块化、可支持多平台的开源软件框架Lava。这套框架基于事件的运作方式,即有事做事,没事就进入休息状态。Lava不光支持神经拟态芯片Loihi的部署,也可以支持在CPU和GPU上完成神经拟态应用的模拟。

模仿大脑4个特点!神经拟态计算揭秘,距离产业化还有多远?

结语:仍在探索阶段,应用日益广泛

理解大脑结构及功能,是21世纪最具挑战性的前沿科学问题之一。近年来,全球多国均启动脑科学研究计划,中国脑计划也在“十三五”期间正式启动。中国脑科学计划的“一体两翼”结构中,其中“一翼”是利用脑科学研究推动新一代人工智能技术的发展,其中便涵盖了神经拟态计算。

目前,神经拟态计算仍在探索阶段,虽然在解决一些特定问题上已展现出远高于传统计算硬件的能效比,在机器人、AIoT智能家居等应用场景的落地进展也渐有起色,但它的最佳硬件架构及算法仍在探索中,至今也尚未找到明确的“杀手级”应用,距离产业化预计还有一段旅程。

但随着相关研究与应用的不断深入与拓展,以及更多关于脑启发计算系统的融资机会的出现,神经拟态计算正逐步覆盖更广泛的领域。