澳洲雪梨大學研究團隊發表以奈米銀線建構的神經型態人工智慧
神經型態的人工智慧
目前人工智慧領域最常使用的演算法是仿神經多層次網路的深度學習系統。然而，儘管命名相似，深度學習系統的運作方式仍與神經系統有所不同。例如，在神經系統中並沒有現行AI計算架構中的處理器和記憶體的區分，一個神經元既具有運算能力，也具有記憶能力。在效能使用上，神經系統也與現有的人工智慧系統截然不同。一顆大腦僅消耗20瓦特的能量，遠低於現行所有的人工智慧運算晶片。以輝達Nvidia的最新GPU運算晶片為例，其功耗在300W至700W之間，遠高於大腦。因此，借鏡於真實神經系統，科學家正在研發神經型態的人工智慧。其中包括矽晶體的神經型態人工智慧，例如脈衝神經網路(SNN)，或者利用材料的物理或化學特性來產生類似突觸的可塑性記憶(memristive)的特性。這些神經型態的人工智慧將開啟低耗能高效率的人工智慧時代。
研究重點
來自澳洲雪梨大學與美國加州大學洛杉磯分校（UCLA）的研究團隊在Nature Communications 期刊發表了一項研究，他們利用奈米銀線網路實現了機器學習演算法，最終成功達到了93.4%的手寫辨識準確率。該團隊使用了直徑約十億分之一米的奈米銀線，當通過電脈衝後，奈米銀線的交接處會產生斷開或連結，就像神經突觸一樣。這種奈米網路可以作為類神經網路中的儲備池（Reservoir Computing），避免了在訓練類神經網路時需要進行大量運算的需求。該團隊使用手寫資料庫（MNIST）中的影像，將其轉換為連續性的數位訊號（電位表示筆跡深度，低電位表示無筆跡），然後輸入到具有4x4電極的奈米銀線網路中。這些奈米銀線網路通過16個電極來產生各個字母的特徵，然後使用遞迴最小平方法（Recursive Least Squares）來不斷地訓練分類器。研究團隊發現，其辨識準確度達到了九成，如果使用5個字母特徵，準確率更可達到93.4%。更特別的是，這種奈米銀線網路也可以用於訓練記憶序列，利用後續訊號判斷之前的訊號。舉例來說，當輸入一串數字1475時，可以利用4、7、5的特徵來判斷前述輸入中的1。研究顯示這種奈米銀線網路可以用來簡化類神經網路訓練時候的運算需求。
思考
這項研究展示了一種更有效率且效能更低的運算方式。作者解釋了奈米銀線網路受到一些物理定律的限制，因此比起現有的隨機式的調整節點的權重更有效率。舉例來說，克希荷夫定律限制了流入電流必須等於流出電流的總量，且各節點的電壓差總和為零。根據我的理解，受限於這些物理定律，每個節點的變化不太可能出現極值，因此訓練結果也不太可能落在極端值或局部極端值之中。此外，與現有的機器學習需要調整超參數不同，此系統中不具有需要調整的超參數。儘管目前的論文只用於辨識簡單的圖像，未來團隊將持續開發此技術，以應用於自動導航、邊緣運算等領域。
圖片來源:
修改自原始論文，獲CC BY 4.0授權
報導:
https://newsroom.ucla.edu/releases/experimental-brain-like-computing-system-custom-algorithm
論文: https://www.nature.com/articles/s41467-023-42470-5
#神經科技
#神經型態計算
#類神經網路
