近日，英特爾發(fā)布了第二代神經(jīng)形態(tài)芯片Loihi，面積為31mm2，最多可封裝100萬(wàn)個(gè)人工神經(jīng)元，而上一代面積為60mm2，支持13.1萬(wàn)個(gè)神經(jīng)元。同時(shí)，Loihi 2比上一代快10倍，資源密度提高了15倍，且能效更高。

Loihi 2有128個(gè)神經(jīng)形態(tài)核心，相較于第一代，每個(gè)核心都有此前數(shù)量8倍的神經(jīng)元和突觸，這些神經(jīng)元通過(guò)1.2億個(gè)突觸相互連接。據(jù)英特爾的早期評(píng)估，與在第一代Loihi上運(yùn)行的標(biāo)準(zhǔn)深度網(wǎng)絡(luò)相比，在準(zhǔn)確性沒(méi)有降低的情況下，Loihi 2上每次推理運(yùn)算的次數(shù)減少到原來(lái)的至少60分之一。

英特爾神經(jīng)形態(tài)計(jì)算實(shí)驗(yàn)室總監(jiān)Mike Davies表示：“第二代芯片極大地提高了神經(jīng)形態(tài)處理的速度、可編程性和容量，擴(kuò)大了在功耗和時(shí)延受限的智能計(jì)算應(yīng)用上的用途。英特爾正在開(kāi)源Lava，以滿足在實(shí)踐中對(duì)軟件融合、基準(zhǔn)測(cè)試和跨平臺(tái)合作的需求，并加快商業(yè)可行性的進(jìn)程?！?/p>

Davies認(rèn)為，Loihi 2等芯片擅長(zhǎng)于處理賦予計(jì)算機(jī)感官（例如視覺(jué)和嗅覺(jué)）的任務(wù)。因?yàn)樾屎芨?，神?jīng)形態(tài)芯片非常適合電源有限且不受傳統(tǒng)計(jì)算機(jī)網(wǎng)絡(luò)束縛的移動(dòng)設(shè)備。

為什么需要神經(jīng)形態(tài)芯片？

在曾經(jīng)很長(zhǎng)一段時(shí)間內(nèi)，規(guī)則式（rule-based）方法都在人工智能領(lǐng)域占據(jù)主流，對(duì)計(jì)算機(jī)進(jìn)行編程需要編寫(xiě)分步說(shuō)明。以教計(jì)算機(jī)學(xué)會(huì)識(shí)別狗舉例，這會(huì)涉及列出一組規(guī)則來(lái)指導(dǎo)其判斷，如檢查它是否有四只腳等等。但如果計(jì)算機(jī)遇到一只只有三只腿的小狗怎么辦？這時(shí)也許就需要更多規(guī)則，但是列出無(wú)窮無(wú)盡的規(guī)則，并讓計(jì)算機(jī)每次做出類(lèi)型決策時(shí)都重復(fù)該過(guò)程是低效且不切實(shí)際的。

而人類(lèi)的學(xué)習(xí)方式則與此相異，在區(qū)分狗與貓時(shí)無(wú)需被告知任何相關(guān)規(guī)則，于是學(xué)習(xí)人類(lèi)大腦的運(yùn)行方式成為人工智能發(fā)展的一個(gè)重要方向。

20世紀(jì)40年代，科學(xué)家們開(kāi)始用數(shù)學(xué)方法對(duì)神經(jīng)元進(jìn)行建模，此后則開(kāi)始用計(jì)算機(jī)對(duì)神經(jīng)元網(wǎng)絡(luò)進(jìn)行建模。人工神經(jīng)元和突觸比大腦中的要簡(jiǎn)單得多，但它們的運(yùn)作原理相同——大腦中的神經(jīng)元通過(guò)跨突觸相互發(fā)送尖峰信號(hào)（Spiking Signals）來(lái)進(jìn)行交流。

許多簡(jiǎn)單的單元（“神經(jīng)元”）連接到許多其他單元（通過(guò)“突觸”），一個(gè)神經(jīng)元接收來(lái)自許多其他神經(jīng)元的信號(hào)，當(dāng)刺激達(dá)到某個(gè)閾值時(shí)，它會(huì)將自己的信號(hào)發(fā)送給周?chē)纳窠?jīng)元，大腦則通過(guò)調(diào)整神經(jīng)元之間的連接強(qiáng)度來(lái)學(xué)習(xí)。

人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks）通常由層組成，具有許多此類(lèi)層的網(wǎng)絡(luò)稱為深度學(xué)習(xí)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)的一種形式，是計(jì)算機(jī)根據(jù)經(jīng)驗(yàn)調(diào)整其行為的過(guò)程，在今天用于自動(dòng)駕駛、人臉識(shí)別等領(lǐng)域。

康奈爾大學(xué)的神經(jīng)生物學(xué)家Thomas Cleland曾說(shuō)，神經(jīng)形態(tài)計(jì)算（Neuromorphic Computing）“將成為搖滾明星”，“它不會(huì)把一切都做得更好，但它將完全擁有計(jì)算領(lǐng)域的一小部分”。

然而模仿大腦的計(jì)算成本非常高，人腦有數(shù)十億個(gè)神經(jīng)元和數(shù)萬(wàn)億個(gè)突觸，即使模擬一小塊大腦也可能需要對(duì)每塊輸入進(jìn)行數(shù)百萬(wàn)次計(jì)算。運(yùn)行所有這些小計(jì)算并不適合必須一次處理一條指令的經(jīng)典計(jì)算架構(gòu)（CPU），而今天常用的圖形處理單元(GPU)仍然沒(méi)有像大腦那樣有效地執(zhí)行深度學(xué)習(xí)——人類(lèi)的大腦可以一邊駕駛汽車(chē)，一邊談?wù)撟詣?dòng)駕駛的未來(lái)，但使用的瓦數(shù)比燈泡還少。

常規(guī)計(jì)算機(jī)架構(gòu)與神經(jīng)形態(tài)架構(gòu)的對(duì)比

于是，解決神經(jīng)形態(tài)計(jì)算問(wèn)題的芯片出現(xiàn)了。最初是在20世紀(jì)80年代，工程師Carver Mead創(chuàng)造了術(shù)語(yǔ)“神經(jīng)形態(tài)處理器”（neuromorphic processors）來(lái)描述以基于大腦的松散方式運(yùn)行的計(jì)算機(jī)芯片，為這個(gè)領(lǐng)域奠定了基礎(chǔ)。

神經(jīng)形態(tài)芯片如何運(yùn)行？

Loihi芯片包含通過(guò)通信網(wǎng)絡(luò)連接的128個(gè)獨(dú)立內(nèi)核，每個(gè)獨(dú)立內(nèi)核中都有大量單獨(dú)的“神經(jīng)元”或執(zhí)行單元，每一個(gè)神經(jīng)元都可以接收來(lái)自任何其他神經(jīng)元脈沖形式的輸入——同一核心中的鄰居、同一芯片上不同核心中的一個(gè)單元或完全來(lái)自另一個(gè)芯片。隨著時(shí)間的推移，神經(jīng)元會(huì)整合它接收到的尖峰信號(hào)（Spiking Signals，神經(jīng)元通過(guò)跨突觸相互發(fā)送尖峰信號(hào)進(jìn)行交流），并根據(jù)其編程的行為來(lái)確定何時(shí)將自己的尖峰信號(hào)發(fā)送到與其連接的任何神經(jīng)元。

所有尖峰信號(hào)都是異步發(fā)生的。在設(shè)定的時(shí)間間隔內(nèi)，同一芯片上的嵌入式x86內(nèi)核會(huì)強(qiáng)制同步。屆時(shí)，神經(jīng)元將重新計(jì)算其各種連接的權(quán)重——本質(zhì)上，是決定對(duì)所有向其發(fā)送信號(hào)的單個(gè)神經(jīng)元給予多少關(guān)注。

具體運(yùn)行過(guò)程是，芯片上的部分執(zhí)行單元充當(dāng)樹(shù)突，部分基于從過(guò)去行為得出的權(quán)重處理來(lái)自通信網(wǎng)絡(luò)的傳入信號(hào)，以確定活動(dòng)何時(shí)超過(guò)臨界閾值，并在超過(guò)時(shí)觸發(fā)其自身的峰值。然后執(zhí)行單元的“軸突”查找它與哪些其他執(zhí)行單元進(jìn)行通信，并向每個(gè)執(zhí)行單元發(fā)送一個(gè)尖峰信號(hào)。

與普通處理器不同，神經(jīng)形態(tài)芯片沒(méi)有外部RAM（Random-access memory，隨機(jī)存儲(chǔ)器），而是每個(gè)神經(jīng)元都有自己專用的小型內(nèi)存，這包括它分配給來(lái)自不同神經(jīng)元的輸入的權(quán)重，最近活動(dòng)的緩存，以及發(fā)送尖峰信號(hào)的所有其他神經(jīng)元的列表。

神經(jīng)形態(tài)芯片與傳統(tǒng)處理器間的另一大區(qū)別則是能效。IBM于2014年推出的TrueNorth芯片，使用的功率還不到在傳統(tǒng)處理器上模擬尖峰神經(jīng)網(wǎng)絡(luò)所需的0.0001%。英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室主任Mike Davies 表示，Loihi在某些特定工作負(fù)載上可以比傳統(tǒng)處理器高2,000倍。

最新的Loihi 2取得了什么樣的新進(jìn)展？

Loihi 2使用了更先進(jìn)的制造工藝——英特爾第一個(gè)EUV工藝節(jié)點(diǎn)Intel 4，現(xiàn)在每個(gè)內(nèi)核只需要原來(lái)所需空間的一半。同時(shí)，Loihi 2不僅能夠通過(guò)二維連接網(wǎng)格進(jìn)行芯片間的通信，還可以在三維尺度上進(jìn)行通信，從而大大增加了能處理的神經(jīng)元總數(shù)。每個(gè)芯片的嵌入式處理器數(shù)量從三個(gè)增加到六個(gè)，每個(gè)芯片的神經(jīng)元數(shù)量增加了八倍。

同時(shí)，英特爾表示，它已經(jīng)通過(guò)并優(yōu)化了所有異步硬件，使 Loihi 2在更新神經(jīng)元狀態(tài)時(shí)的性能提高了一倍，并將尖峰生成的性能提高了十倍。

另一個(gè)主要變化是處理器評(píng)估神經(jīng)元狀態(tài)以確定是否發(fā)送尖峰信號(hào)的部分。在原始處理器中，用戶可以執(zhí)行一些簡(jiǎn)單的數(shù)學(xué)運(yùn)算來(lái)做出決定。在Loihi 2中，則可以訪問(wèn)簡(jiǎn)化的可編程管道，執(zhí)行比較和控制指令流。據(jù)科技媒體《Ars》表示，Davies在接受其采訪時(shí)表示，“你可以將這些程序指定到每個(gè)神經(jīng)元級(jí)別，這意味著兩個(gè)相鄰的神經(jīng)元可以運(yùn)行完全不同的程序?！?/p>

不僅如此，“每個(gè)神經(jīng)元處理其內(nèi)部記憶的方式也更加靈活——會(huì)有一個(gè)固定分配和一個(gè)可以更動(dòng)態(tài)劃分的內(nèi)存池?！?/p>

與Loihi 2同時(shí)推出的開(kāi)源軟件框架——Lava

雖然尖峰神經(jīng)網(wǎng)絡(luò)（spiking neural networks）可以非常有效地解決很多問(wèn)題，但目前的一個(gè)困難在于，這是一種非常不同的編程類(lèi)型，需要以同樣不同的方式思考算法開(kāi)發(fā)，要怎樣找到了解如何使用的人？Davies表示，目前精通它的大多數(shù)人都來(lái)自理論神經(jīng)生物學(xué)背景。

到目前為止，這意味著英特爾主要將Loihi推向了研究社區(qū)，這限制了其市場(chǎng)銷(xiāo)售范圍。

從長(zhǎng)遠(yuǎn)來(lái)看，英特爾希望看到Loihi衍生品最終出現(xiàn)在更廣泛的系統(tǒng)中，從充當(dāng)嵌入式系統(tǒng)中的協(xié)處理器到數(shù)據(jù)中心的大型Loihi集群。那么，英特爾就需要很容易找到可以為其編程的人。

為此，英特爾將Loihi 2的發(fā)布與Lava的開(kāi)源軟件框架的發(fā)布結(jié)合起來(lái)?！癓ava旨在幫助神經(jīng)形態(tài)編程傳播到更廣泛的計(jì)算機(jī)科學(xué)界，”Davies在接受外媒采訪時(shí)表示。