數(shù)據(jù)量和計算需求的指數(shù)級增長,以及目前性能已經(jīng)趨于飽和的傳統(tǒng)晶體管計算系統(tǒng),激發(fā)了人們對新型計算基元的興趣。迄今為止,仿生或神經(jīng)形態(tài)人工智能的硬件方法主要依賴于復(fù)雜的晶體管電路來模擬生物功能,還沒有一種單一的電子元件可以模擬神經(jīng)元的功能。周期尖峰只需要二階復(fù)雜度,但在電路元件中產(chǎn)生神經(jīng)形態(tài)動作電位,理論上至少需要三階復(fù)雜度?;诰w管的傳統(tǒng)數(shù)字芯片在模擬代表神經(jīng)元豐富的非線性動力學的復(fù)雜方程的過程中會變的復(fù)雜、龐大且能量低下。而設(shè)計和制備高階電子元件將能夠?qū)崿F(xiàn)極為高效的神經(jīng)形態(tài)人工智能。

近日,惠普實驗室的Suhas?Kumar等人通過實驗和建模,利用多個電物理過程(包括Mott轉(zhuǎn)變動力學在內(nèi))構(gòu)建了具有三階復(fù)雜度的納米電路元件。并組建了基于這種三階元件的無晶體管簡單集成網(wǎng)絡(luò)。集成網(wǎng)絡(luò)能夠執(zhí)行布爾運算,并為圖像分割這一計算難題提供了模擬解決方案。這項工作為非常緊湊和密集的功能性神經(jīng)形態(tài)計算基元和高效能的神經(jīng)科學模型驗證鋪平了道路。該研究以題為“Third-order nanocircuit elements for neuromorphic engineering”的論文發(fā)表在最新一期的《Nature》上。

?惠普實驗室Nature:傳統(tǒng)計算機讓路,新型三階納米電路元件實現(xiàn)高效神經(jīng)形態(tài)運算

【三階納米元件的結(jié)構(gòu)】

作者制備了小于100?nm的元件,每個元件中包含NbO2易失性Mott憶阻開關(guān),一個內(nèi)部并聯(lián)電容器,以及一個內(nèi)部串聯(lián)電阻(圖1a-c)。電流-電壓曲線表明器件在低電流時呈現(xiàn)S形的負微分電阻(negative differential resistance, NDR),高電流時為箱形遲滯(圖1d)。這里展示的與Mott轉(zhuǎn)變相關(guān)的獨特動力學之前從未被詳細研究過,這種轉(zhuǎn)變提供的額外狀態(tài)變量可以用來產(chǎn)生神經(jīng)形態(tài)功能。為了獲得想要的高階Mott轉(zhuǎn)變動力學,對元件的幾何結(jié)構(gòu)進行了優(yōu)化,提升了電學性質(zhì)和熱學性質(zhì),同時對材料的成分也進行了微調(diào)(圖1h)。

?惠普實驗室Nature:傳統(tǒng)計算機讓路,新型三階納米電路元件實現(xiàn)高效神經(jīng)形態(tài)運算

圖1?元件結(jié)構(gòu)與靜態(tài)測試

【利用Mott轉(zhuǎn)變產(chǎn)生神經(jīng)動作電位】

元件與可調(diào)的電壓相連。通過調(diào)節(jié)施加的電壓,可以訪問其電流-電壓曲線的不同部分(圖2a)。當偏壓剛好低于遲滯時(Vext=1.8 V),可以觀察到自維持的正弦振蕩。當偏壓在遲滯內(nèi)部時(Vext=1.95 V),能夠觀察到周期性的雙尖峰爆裂(two-spike bursting),并在較高的電壓下(Vext=2.05 V)轉(zhuǎn)變?yōu)橹芷谛缘膯渭夥?,與神經(jīng)元的動作電位類似(圖2b,c)。在更高的電壓下(Vext=2.1 V),這些峰會突然呈現(xiàn)出類似于神經(jīng)元的超閾值阻尼尖峰的低強度周期性特征。通過調(diào)節(jié)施加在元件上的偏壓,這種三階元件能夠表現(xiàn)出15種不同的神經(jīng)形態(tài)反應(yīng)。隨后,作者建立了一個簡單緊湊的有限元模型,在仿真中探討了動力學問題。建立的三階模型中有三個狀態(tài)變量,每一個狀態(tài)變量都有一個獨特的動力學方程:T,Vm以及Rmet(T為溫度變量,Vm為施加于NbO2上的電壓,Rmet為NbO2高導(dǎo)態(tài)時的可變歐姆導(dǎo)體,用來表示Mott轉(zhuǎn)變動力學)。該模型的數(shù)值模擬與實驗數(shù)據(jù)一致(圖2e g),從而證明Mott絕緣體能夠作為非線性響應(yīng)的基礎(chǔ),在電路中產(chǎn)生動態(tài)行為。

生物神經(jīng)元的動作電位包含三部分,即相對于靜息態(tài)的上升、降低和下降(up-shoot, lowering and under-shoot,圖2h,i)。作者利用模型將其與Mott轉(zhuǎn)變驅(qū)動的特定溫度響應(yīng)相聯(lián)系,闡明了納米元件產(chǎn)生神經(jīng)形態(tài)動作電位的機理(圖2i-k)。

?惠普實驗室Nature:傳統(tǒng)計算機讓路,新型三階納米電路元件實現(xiàn)高效神經(jīng)形態(tài)運算

圖2?動作電位的實驗測量與建模

【三階元件實現(xiàn)傳統(tǒng)邏輯運算】

作者構(gòu)建了一個包含三個這種三階元件以及一個可調(diào)耦合電阻的簡單電路(圖3a)。通過對輸入電壓和耦合電阻的調(diào)節(jié),實現(xiàn)了信號的傳導(dǎo),進一步成功完成了晶體管電路中的NAND(與非門)和NOR(或非門)的操作(圖3b,c)。

?惠普實驗室Nature:傳統(tǒng)計算機讓路,新型三階納米電路元件實現(xiàn)高效神經(jīng)形態(tài)運算

圖3?三階元件實現(xiàn)通用的布爾邏輯門操作

【納米元件解決圖像分割計算難題】

最后,作者構(gòu)建了一個包含24個三階納米元件的集成陣列用來實驗演示模擬計算。該系統(tǒng)與人腦中的丘腦-皮層計算有相似之處,它發(fā)生在振蕩神經(jīng)元網(wǎng)絡(luò)中,這些神經(jīng)元通過可調(diào)節(jié)的突觸或是處理和傳輸神經(jīng)信號的中樞/丘腦連接在一起(圖4a,c,d)。這導(dǎo)致了神經(jīng)振蕩動態(tài)的同步,從而導(dǎo)致了時空的分類,如自然語言以及人臉識別等(圖4b)。作者利用構(gòu)建的系統(tǒng)來解決病毒準種重建問題(通常表示為圖像最大分割問題)。實驗結(jié)果與對應(yīng)圖片劃分的最優(yōu)解相一致(圖4h-j),證明了基于這種三階元件在模擬計算時相對于傳統(tǒng)晶體管電路的高效性。

?惠普實驗室Nature:傳統(tǒng)計算機讓路,新型三階納米電路元件實現(xiàn)高效神經(jīng)形態(tài)運算

圖4?神經(jīng)形態(tài)模擬計算的實驗演示

總結(jié):作者以NbO2中Mott轉(zhuǎn)變?yōu)轭~外的動力學過程,構(gòu)建了一個單獨的具有三階復(fù)雜度的納米電路元件。在恒壓下元件能夠產(chǎn)生神經(jīng)形態(tài)的動作電位行為?;谶@種元件,作者演示了完整的邏輯電路操作,并進一步演示其在目前基于馮·諾伊曼的傳統(tǒng)數(shù)字計算機難以解決的計算難題上的優(yōu)越性,推動了高性能的神經(jīng)形態(tài)計算基元的發(fā)展。

來源:

https://www.nature.com/articles/s41586-020-2735-5

微信
微信
電話 QQ
返回頂部