市政府
活動+

革命性AI訓練方法 可望打造人腦規模神經網路

  • 林姿君
最新稀疏式AI進化訓練,可望在未來打造出接近人腦規模的神經網路。法新社

人工神經網路(Artificial Neural Networks;ANN)是人工智慧(AI)革命的核心,正在形塑社會與科技的各層面發展。然而,目前ANN仍遠不足以處理非常複雜的問題。近日由數間國際知名大學所組成的研究團隊便針對此問題,研發出革命性的訓練方法,可大幅提升訓練AI演算法的速度,最終可望打造出接近人腦規模的ANN。

據PHYS.org網站報導,由荷蘭恩荷芬理工大學(Eindhoven University of Technology)、美國德州大學奧斯丁分校(University of Texas at Austin)與英國德比大學(University of Derby)科學家所組成的研究團隊,於《Nature Communications》期刊發表新AI訓練方法:稀疏式進化訓練(Sparse Evolutionary Training;SET)。

SET的靈感來自生物網路以及特定神經網路,而這些特定神經網路之所以運作效率高有三個特徵,包括網路連接性相對較低、神經中樞稀少以及路徑短。

研究團隊指出,常見的AI訓練是採用完全連結的人工神經網路,不過新訓練方法則隨機從稀疏的網路著手,不斷演進至無尺度網路(scale-free network),在過程中較弱的連結會被消除,並隨機增加新連結,近似於被稱為突觸萎縮(synaptic shrinking)的生物過程。

透過SET,一般電腦也能獲得全面的AI能力,而超級電腦更可望於1~2年內打造出遠超越今日規模的ANN。目前最新款超級電腦在處理1,600萬個神經元網路(約為青蛙大腦規模)就已相當吃力,而一台功能強大的桌上型電腦要訓練僅10萬個神經元網路,就需要耗費十幾天的時間。

此新訓練方式能大幅提升AI演算法的速度,使AI技術可用於解決當前棘手的問題。在智慧電網與社會系統等複雜快速變動的環境中,需要非常頻繁地重複訓練ANN,因此在不影響準確度之下提高學習速度顯得至關重要。

此外,由於這類的訓練可在有限的運算資源之下達成,對於連接至大型系統的分散式裝置嵌入式智慧系統,SET訓練方法可望成為首選。

具體而言,透過SET任何使用者都能透過自身筆記型電腦打造神經元達到100萬規模的ANN,但過去只有昂貴的雲端運算系統才有辦法透過先進訓練方法達到此規模。

目前最新超級電腦所打造出的最大型ANN,規模等同於青蛙大腦(約1,600萬神經元)。未來在部分技術挑戰被克服後,則可望藉由SET在同款超級電腦上打造出接近人腦規模(約800億個神經元)的ANN。

該研究主要作者Decebal Mocanu表示,目前確實需要規模如此龐大的神經網路。舉例而言,以ANN檢測癌症有很好的成效。這代表透過SET,可望提升醫療照護品質,並使個人化醫療變得更為平價。

更多關鍵字報導: 人工智慧(AI) 神經網路