神經形態晶元的關鍵：麻省理工單通道人工神經突觸

選自：MIT NEWS

作者：Jennifer Chu

參與：劉曉坤、李澤南、路雪

在構建神經形態晶元的任務中，如何實現穩定的突觸結構是目前人們面臨的主要挑戰。近日，來自麻省理工學院（MIT）的研究人員利用硅鍺晶元實現了高度可再現的單通道人工神經突觸，克服了非晶態介質的非均勻性缺陷，該研究被視為實現類腦計算道路上的重要一步。目前，這項研究已發表在Nature Materials上。

提到處理能力，人腦是無法被打敗的。

這個足球大小的器官包含了大約1000億個神經元。在任何時候，一個神經元都可以通過突觸傳遞指令給數以千計的其他神經元，神經遞質通過突觸進行傳播。大腦中有超過100萬億突觸負責傳導神經元信號，它們會加強一些連接，同時抑制另一些連接，使大腦可以以超快的速度識別模式、記憶事實，並執行其他學習任務。

在「神經形態計算」這一新興領域中，研究者正試圖設計出像人腦一樣工作的晶元。與現在基於二進位、0/1信號執行計算的數字晶元不同，「類腦晶元」的元件將以模擬（analog）方式工作，交換信號梯度或「權重」，非常類似於神經元之間突觸交換離子的形式。

通過這種方式，小型神經形態晶元可以像大腦一樣高效處理數以百萬計的并行計算流——這是目前只有大型超級計算機才能做到的事情。然而，在這種攜帶型人工智慧的方法中，人們面臨的一項重大挑戰是如何製造神經突觸——它非常難以在硬體中進行再生產。

現在，MIT的工程師設計出了一種人工突觸，它可以精確地控制通過自身的電流，就像生物體內的突觸控制神經元之間流動的離子一樣。該團隊已經構建了一個由硅鍺製成、帶有人工突觸的小型晶元。在模擬測試中，研究人員發現這塊晶元和其中的突觸可以用於識別手寫文字樣本，準確度高達95%。

這一設計被發表在最近一期的《Nature Materials》上，是構建攜帶型、低功耗神經形態晶元，並用於模式識別和其他學習任務的重要一步。

這項研究由MIT機械工程、材料科學和工程系助理教授 Jeehwan Kim領導。其他作者為MIT的Shinhyun Choi（第一作者）、Scott Tan（共同第一作者）、Zefan Li、Yunjo Kim、Chanyeol Choi和Hanwool Yeon，以及亞利桑那州立大學的Pai-Yu Chen和Shimeng Yu。

過多通路

大多數神經形態晶元的設計是通過由「交換媒介」或類突觸空間（synapse-like space）分離開的兩個傳導層，來試圖模仿神經元之間的突觸連接。當使用電壓時，離子會在「交換媒介」中移動形成導電絲，類似突觸的「權重」變化。

但是在現有設計中，想要控制離子流動是非常困難的。Kim表示這是因為大多數交換媒介是由非晶態材料構成的，離子在其中有無限種可能的通路，這就有點像彈球盤（一種機械街機遊戲，玩家利用彈簧將小鋼球彈射入箱型的遊戲機中，如穿過的釘子空隙進入特定的孔內時，可滾出很多鋼球，以換取獎品）。

像彈球盤一樣，現有的交換媒介擁有多個通路，這讓我們難以預測離子是如何通過的。Kim表示，這在突觸中會導致突觸性能的非均勻性。

「一旦你使用電壓代表人工神經元的一些信息，你就必須準備擦除它，並能夠用同樣的方式進行複寫。」Kim介紹道。「但在非晶態固體中，當你再次寫入時，離子會走向不同的方向，因為材料中有很多缺陷。離子流處於變化中，很難控制。這就是最大的問題——人工突觸的非均勻性。」

完全不匹配

與其他人工突觸所用的非晶材料不同，Kim和他的同僚們將目光轉向單晶硅，一種由連續有序排列的原子構成的無缺陷導電材料。MIT的團隊試圖通過可預測離子流向的單晶硅創造一種精確的一維線缺陷或錯位。

為了做到這一點，研究人員開始研究硅晶圓，它在顯微解析度下呈現網眼狀圖案。隨後，他們基於硅晶圓研製出一種硅鍺的類似版本——這種硅鍺也是常用於晶體管的材料。硅鍺的晶格稍大於硅的晶格，Kim等人發現將這兩種完全不匹配的材料結合在一起可以形成漏斗狀的錯位，創造出可以讓離子流動的單一路徑。

研究人員製造了一個神經形態晶元，由硅鍺製成的人工突觸組成，每個突觸的長度約為25納米。研究者對每個突觸施加電壓，發現所有突觸都展現了類似的電流或離子流，突觸之間的差異大約為4%——與非晶材料相比，該結構的性能顯然好很多。

研究者還多次實驗了同一個突觸，在700次循環實驗中施加了相同的電壓，結果發現突觸呈現了相同的電流，每次循環之間的差異大約為1%。

「這是我們能夠達到的性狀最為一致的設備，它會是通向人工神經網路的關鍵。」Kim表示。

識別手寫體

Kim的團隊在最後的測試中探索了設備在執行實際學習任務時的表現——具體來說，研究者將識別手寫樣本作為神經形態晶元的第一個實際測試。該晶元將由「輸入/隱藏/輸出神經元」構成，每個神經元通過基於導電絲的人工突觸和其它神經元連接。

科學家認為這種神經網路的堆疊可以賦予其「學習」的能力。例如，當饋送的輸入為「1」的手寫體時，輸入神經元和人工突觸的權重將激活標籤為「1」的特定輸出神經元。如果用更多的「1」手寫體樣本饋送到相同的晶元，當輸出神經元發現了相同數字的不同樣本之間的相似特徵時，可能會激活相同的輸出，這和大腦的學習機制類似。

Kim和同事用計算機模擬了一個人工神經網路，包含三個以兩層人工突觸連接起來的神經層，其屬性源自對其真實神經形態晶元的測量。他們向模擬神經網路饋送了來自手寫體識別數據集（神經形態晶元設計者常用的數據集）的成千上萬個樣本，發現他們的神經網路硬體在95%的時間中能夠正確識別樣本，而現有軟體演算法的準確率為97%。

該團隊正在製作一個可以執行手寫體識別任務的真實神經形態晶元，而不局限於模擬實驗。Kim說該團隊的人工突觸設計允許開發更輕量的便攜神經網路設備，並可以執行目前僅能用大型超級計算機實現的複雜計算。

「歸根結底，我們希望能設計出手指甲大小的晶元來取代大型超級計算機，」Kim說。「這項研究為生產實際的人工硬體奠定了基礎。」

論文：SiGe epitaxial memory for neuromorphic computing with reproducible high performance based on engineered dislocations

論文地址：https://www.nature.com/articles/s41563-017-0001-5

雖然很多類型的架構通過結合記憶單元和晶體管來模擬人工突觸陣列，但是這些架構的擴展性較差，並且能耗很高。無晶體管的模擬轉換設備也許能克服這些局限性，然而通常的轉換過程依賴於在非晶體介質上進行導電絲成型，這很難控制，妨礙了相同性能的時空可再現性。本文展示了模擬電阻式轉換設備，該設備利用在硅（作為轉換介質）上外延生長的單晶硅鍺層，得到最小性能方差的神經形態計算網路。這種外延隨機存取存儲器利用硅鍺內部的線狀錯位將金屬導電絲限定在預製的一維通路中。這種限定顯著增強了轉換的均勻性，並長期保持高模擬開/關比率。使用MNIST手寫體識別數據集進行的模擬實驗表明外延隨機存取存儲器可以獲得95.1%的在線學習準確率。