sponsored links

Science:神經再生電子器件助推人工智慧硬體整合

Science:神經再生電子器件助推人工智慧硬體整合

效仿人類大腦神經結構的類腦計算由於其在人工智慧領域高效率和低能耗的特性,有望成為未來的大資料晶片構架,已經成為世界各國激烈爭奪的新前沿和新制高點。大腦是一個不斷進化的生命體器官,具有顯著的可塑性。大腦的可塑性包括神經元的形成以及突觸的形成,統稱為神經再生。這一現象在人類和其他動物中已經被廣泛發現,並且對於生物體的持續學習和腦損傷後神經迴路的修復至關重要。

關於神經再生的早期研究主要集中在歌唱鳥(sing bird),這緣於這類鳥兒即使在成年後仍可在一生中隨季節不斷更換自己的歌曲曲目。這種可以終身學習的能力對於行為能力的提高和神經系統恢復具有重要意義。假設我們可以在神經電子器件中模仿這類動態神經再生行為,我們就可以製造出能夠終身學習的“活機器”。

另外,傳統中靜態的、固定功能的神經器件網路在人工智慧訓練領域也有著明顯的不足。這類模型通常在固定靜態資料上進行訓練,因此在實際應用過程中當新資料以不斷增加的方式呈現給神經網路時,它會干擾前期學習的知識,導致效能不佳,被稱為災難性遺忘。近期理論研究結果表明,製備一種動態的、多功能的、可以實現人工突觸和人工神經元等多種神經功能動態轉換的器件網路可能有效地解決這一難題。並且進一步研究發現,在提供相同訓練資源的情況下,動態網路與靜態網路相比顯示出更好的學習效能。

在此研究領域背景下,由普渡大學(PurdueUniversity)材料工程學院Shriram Ramanathan教授團隊聯合美國賓夕法尼亞州立大學、能源部阿貢國家實驗室和布魯克海文國家實驗室、加州大學聖克拉拉分校等研究團隊,透過納秒級電壓脈衝在鈣鈦礦強關聯氧化物中驅動質子遷移,成功的展示了電子器件中的動態神經再生:在單器件中按需展示神經元、神經突觸和記憶電容器等不同功能,並且實現這些功能的動態電壓脈衝轉換。該研究成果於2022年2月4日以 “Reconfigurable perovskite nickelate electronics for artificial intelligence”為題, 以Research Article的形式發表於頂級期刊Science

Science:神經再生電子器件助推人工智慧硬體整合

文章通訊作者為北京航空航天大學教授張海天 (原普渡大學Gilbreth Research Fellow)、普渡大學博士生Tae Joon Park以及普度大學教授Shriram Ramanathan。Hai-Tian Zhang、Tae Joon Park、A. N. M. Nafiul Islam, Dat S. J. Tran, Sukriti Manna, Qi Wang 為共同第一作者。在同一期Science雜誌中還推出了觀點評述,專門介紹和討論了這一最新的研究結果並提出了建設性的意見。

Science:神經再生電子器件助推人工智慧硬體整合

圖1. 神經再生電子器件的工作示意圖

圖1展示了這一神經再生動態器件的工作示意圖。稀土鈣鈦礦鎳酸鹽(如SmNiO3和NdNiO3)是一類在氫離子摻雜時可以產生室溫電子相變的強關聯量子材料。在氫離子摻雜後,可以透過電場調控這類材料中的氫離子分佈,實現動態多功能神經器件。基於第一性原理的模擬工作也表明,氫離子在鎳基相變材料中存在著大量的亞穩態(~125個),並且不同亞穩態的能量分佈大不相同,其能量分佈區間高達160 meV/atom 。因此這些不同的亞穩態對鎳基相變材料能帶調控行為也差別巨大,可以達到~0.9 eV的禁頻寬度調控區間。分子動力學分析也發現氫離子在不同亞穩態之間的電場遷移動力學行為大不相同,其遷移能壘可以低至~0.2 eV或者高達~0.7 eV。低的遷移能壘有利於實現人工神經突觸的模擬型(analog)漸變電阻行為;高的遷移能壘有利於實現人工神經元的數字型(digital)突變電阻行為,從而在同一器件中實現多種神經功能的可編譯性轉化與調控。透過電場我們可以控制氫離子在這些亞穩態之間遷移,實現多種類腦計算功能。

為了展示這一動態多功能類腦器件的應用例項,我們在Reservoir Computing (RC) 框架(圖 1(c))中使用基於NdNiO3(NNO)器件的實驗資料進行機器學習。RC,一般稱為儲備池計算或者蓄水池計算,是一種受大腦啟發的機器學習架構,可以解決傳統遞迴神經網路 (RNN) 中常見的訓練複雜性和引數爆表問題。訓練結果表明,基於NNO的器件在MNIST, Isolated Spoken Digits和ECG Heartbeat等多種學習任務和應用場景中均可以用更少的資源實現高效學習。此外,這一器件的多功能動態電場轉換特性為它開啟了在下一代人工智慧構架中的新應用,比如動態神經網路領域。Grow-When-Required (GWR) 網路(“按要求增長”自組織神經網路)就是這樣一個很好的例子(圖 1(d) 和圖2),它根據競爭性 Hebbian 學習建立新節點及其互連,並且擴充套件了自組織神經網路的概念。這一網路透過以無監督的方式新增或刪除網路節點,以準確地逼近輸入資料。在實際模擬學習過程中,基於NNO的動態神經網路在消耗同樣資源的情況下的識別準確率最高可以比靜態網路高250%。

Science:神經再生電子器件助推人工智慧硬體整合

圖2. 基於動態神經器件實驗資料的GWR動態神經網路模擬

動態神經網路作為新興的神經網路概念,可以使AI機器在複雜多變的環境中比傳統的靜態網路做出更準確的決策。與此同時,多功能神經器件可以在芯片面積和功率受限的硬體環境中簡化計算任務和人工智慧電路設計。這一多功能動態器件未來將在動態環境的人工智慧領域具有潛在應用,例如自動駕駛、機器人、虛擬和增強現實等。

最後,特別感謝阿貢國家實驗室APS光源的Hua Zhou博士和布魯克海文國家實驗室的Shaobo Cheng博士和Yimei Zhu博士以及伊利諾伊大學芝加哥分校的Nan Jiang教授對該工作的大力協助。

論文連結:

https://www.science.org/doi/10.1126/science.abj7943

評論連結:

https://www.science.org/doi/10.1126/science.abn6196

分類: 娛樂
時間: 2022-02-05

相關文章

秋日帶娃野餐,這本書記得帶

秋日帶娃野餐,這本書記得帶
關於北京的秋天,我覺得老舍在<北平的秋>裡描寫得最美(不接受反駁): 如果趕上這"人間天堂"的季節,必須趁週末天氣晴好,帶上孩子,帶上零食和玩具,約上三五小夥伴,找個公 ...

6種花草植物上牆就揭瓦,你家要有,栽種時記得遠離牆壁

6種花草植物上牆就揭瓦,你家要有,栽種時記得遠離牆壁
光禿禿的牆面有些難看,如果能爬上一些植物,並且是觀賞價值高的植物,牆面就變成另外一種景象.但在選擇爬牆植物的時候,一定要考慮它們會不會破壞牆體.有些花草植物爬牆是對牆面沒有影響的,而有些花草植物爬牆, ...

站樁時,十指帶上勁
2011年5月25日 陰 "要像錢塘江的浪一樣,捲回來,劃一弧線,再擊出去". "盤架時,要似有人,如此,透過盤架才能練出功,才有意義". "腰以下穩 ...

鄭和下西洋時不帶少女,反而帶著一船老嫗和接生婆,到底為何?

鄭和下西洋時不帶少女,反而帶著一船老嫗和接生婆,到底為何?
鄭和之後,再無鄭和.--梁啟超 在歷史的漫漫長河中,鄭和猶如一顆星星始終閃爍著不可磨滅的光輝. 鄭和當時七下西洋,開發先進的航海技術,他不懼風險,征服自然的決心也令人敬佩. 鄭和敬業.報效國家.和平友 ...

帶上法拉利尋找詩和遠方 陸地超級遊艇Dembell Motorhomes房車

帶上法拉利尋找詩和遠方 陸地超級遊艇Dembell Motorhomes房車
如今旅行是大多數人放鬆的一個重要途徑,而開著房車去旅行也逐漸被大眾所接受,路上看到的房車也越來越多. 但一般房車提供的功能對於一個有品位.對品質有更高要求的消費者來講差的還很遠.所以歐洲房車品牌新貴D ...

葉挺遇難時,飛機上還有三人,地位都不在葉挺之下,他們是何人

葉挺遇難時,飛機上還有三人,地位都不在葉挺之下,他們是何人
1946年,經過我黨的長期努力,被關押了許久的葉挺將軍終於被釋放,重新獲得了自由.當時很多人都因為,作為我黨早期的高階領導人,葉挺將軍被釋放後一定能做出更大的成就,然而天不遂人意,你永遠不知道明天和意 ...

漲知識:這個水果被宇航員帶上太空吃?它有什麼魔力?

漲知識:這個水果被宇航員帶上太空吃?它有什麼魔力?
被宇航員帶上太空吃的水果?一定是很貴的吧?會不會普通老百姓根本就買不到?其實這個被宇航員厚愛的水果非常常見,就是蘋果.可以帶上太空的水果肯定要有一些本身的特點:儲存時間長,汁水不會到處都是.蘋果除了這 ...

秋天愛吃龍蝦?還不帶上裝備出動,釣龍蝦的全套攻略送給大家

秋天愛吃龍蝦?還不帶上裝備出動,釣龍蝦的全套攻略送給大家
大家好,我是小刀,秋天在我們南方說到吃的就不得不提一口這個龍蝦了,小刀有時間也會自己在家裡做,那龍蝦汁才是精華,不嗦兩口都對不起自己的勞動.以前小時候一般拿個細繩子搞個雞腸子就往山溝走,現在釣魚釣久了 ...

癌症正在發生轉移時,身體上通常會有三種表現,多留心

癌症正在發生轉移時,身體上通常會有三種表現,多留心
癌症患者死亡並不是因為腫瘤本身,而是癌症轉移.浸潤和擴散後,引發的各種併發症.癌症復發轉移造成的死亡,佔癌症總死亡人數的90%以上!有80%以上的癌症復發轉移都是在手術後的三年內,1年內復發轉移也較為 ...

被帶上月球的“玉兔”它還好嗎?

被帶上月球的“玉兔”它還好嗎?
中秋節 HAPPY MID AUTUMN FESTIVAL 快樂 還記得月球上的玉兔嗎? 我們說的可不是它! 而是 月兔號月球車和月兔二號月球車 這姐妹倆現在還好嗎? 玉兔號會醒過來嗎? 她們冷不冷? ...

秋天5條最美自駕線路!帶上你的家人,出發吧

秋天5條最美自駕線路!帶上你的家人,出發吧
進入仲秋,天氣溦寒,節氣變幻帶來了景色變化.秋高氣爽,天高雲淡,最適宜去戶外走走,解讀感受靜謐秋意.中秋節你打算去哪兒玩?北京周邊有5條沿途風景很不錯的自駕遊玩線路,快看看你打算去哪個吧! 線路1:市 ...

中秋節,無論多缺錢,6種“吉祥果”記得擺上,寓意中秋大吉大利

中秋節,無論多缺錢,6種“吉祥果”記得擺上,寓意中秋大吉大利
導讀:中秋節,又稱祭月節.拜月節,是中國傳統的四大節日之一.而在中秋節時,自古就有祭月.賞月.吃月餅.飲桂花酒等等傳統民俗,流傳至今,經久不息.而在這一天,家家戶戶要設"月光位", ...

夷陵之戰時,如果劉備帶上馬超,東吳有哪些大將可以抵擋?
在關羽襄樊之戰失敗之後,劉備便無時無刻不在想著替關羽報仇,直到公元221年7月,劉備終於率軍出擊!兵鋒直指東吳,意在掃平東吳所有城池.不管劉備的本意如何,最終能夠傾國之兵伐吳,這也算對得起關羽了,不枉 ...

八一特別策劃:我還記得,上艦後的第一次夜航
客戶端八一特別策劃:我還記得-- 不管歲月行走了多少路程,有些人.有些事,我們一直記得.那或許是一段拔節的成長經歷,抑或是一份來自戰友的真摯情感-- 回憶,像陳墨,一旦受了思念的浸潤,便可在宣紙上留下 ...

帶上它們,用一場說走就走的旅行去尋找自由
旅行,讓你擁抱未知的世界.我一直渴望能夠迷失在地圖上的道道風和日麗中,去看日月星辰.山川湖海:去看世間永珍.人生百態.所以秋天來了,也是個出遊的好時節,一起出行吧! 但在出行之前,無論是應對這太陽的強 ...

​蜜蜂振動翅膀就是要攻擊?先別跑!3招教你看懂蜜蜂翅膀上的語言

​蜜蜂振動翅膀就是要攻擊?先別跑!3招教你看懂蜜蜂翅膀上的語言
蜜蜂是我們的生活中比較常見的一種小昆蟲,而且蜜蜂還擁有嚴格的等級制度,雖然只是一個小昆蟲的世界,但是卻看起啦如果我們人類的世界一樣井井有條. 如果我們接觸到一群蜜蜂,可能最先看到的蜜蜂就是蜂門口的蜜蜂 ...

駕車親近大自然 別忘記帶上這些必需品
伴隨小長假的即將到來,很多車主已經躍躍欲試,期待利用5.1假期去郊遊.相信很多車主都希望可以真正貼近一下大自然,找尋那份原始的感覺.那麼,去找尋原始的感覺都要帶什麼呢?今天讓我們來看看這些郊遊裝備吧. ...

從追尋者到保護者,這位攝影師把大熊貓、金絲猴帶上聯合國生物多樣性大會

從追尋者到保護者,這位攝影師把大熊貓、金絲猴帶上聯合國生物多樣性大會
10月11日,聯合國<生物多樣性公約>締約方大會第十五次會議第一階段會議將在雲南省昆明市召開.中國攝影家協會會員.金絲猴文化學者薛康是參會的四川代表團成員之一.由他編組的<金絲猴-- ...

司馬南:起風了,帶上刀

司馬南:起風了,帶上刀
冷兵器時代結束之後,鮮以見到這樣的場面,兩個核大國,邊境線,兩軍對壘,竟是這樣的裝備. 這個叫朴刀,又名播刀,俗稱雙手帶,出現於宋代.看清了沒有?就是木柄上安有長而寬的鋼刀的兵器,既不是關公耍的那個大 ...

重陽節|帶上爸媽來英山四季花海,踏秋、賞花、泡湯、住宿...

重陽節|帶上爸媽來英山四季花海,踏秋、賞花、泡湯、住宿...
明天就是重陽節了 你有多久沒有給爸媽打電話了 又有多久沒有陪爸媽吃飯了 上一次陪爸媽出去玩不會還是小時候吧 出遊踏秋,登高遠眺 正是重陽節的傳統民俗 這個週末 不妨帶上爸媽來英山四季花海踏個秋 陪父母 ...