文檔幫助中心
模擬電路人工智能神經(jīng)網(wǎng)絡(luò)的前景
模擬電路人工智能神經(jīng)網(wǎng)絡(luò)的前景
來(lái)源:IEEE電氣電子工程師學(xué)會(huì)
在驅(qū)動(dòng)AI當(dāng)前爆炸的深層神經(jīng)網(wǎng)絡(luò)中，最基本的計(jì)算是乘法累加（MAC）運(yùn)算。深度神經(jīng)網(wǎng)絡(luò)由人工神經(jīng)元層組成，在MAC操作中，每一層的輸出乘以它們與下一層連接的強(qiáng)度或“權(quán)重”值，然后將這些貢獻(xiàn)相加。
現(xiàn)代計(jì)算機(jī)有專門(mén)用于MAC操作的數(shù)字元件，但從理論上講，模擬電路可以用更少的能量進(jìn)行這些計(jì)算。這種被稱為模擬AI、內(nèi)存中計(jì)算或內(nèi)存中處理的策略通常使用非易失性存儲(chǔ)器設(shè)備（如閃存、磁阻RAM（MRAM）、電阻RAM（RRAM）、相變存儲(chǔ)器（PCM）和更為深?yuàn)W的技術(shù)）來(lái)執(zhí)行這些乘法累加操作。
然而，韓國(guó)的一個(gè)團(tuán)隊(duì)正在探索基于鐠鈣錳氧化物電化學(xué)RAM（ECRAM）設(shè)備的神經(jīng)網(wǎng)絡(luò)，這種設(shè)備就像微型電池，以電導(dǎo)變化的形式存儲(chǔ)數(shù)據(jù)。研究在韓國(guó)浦項(xiàng)科技大學(xué)的主要作者ChuljunLee指出，神經(jīng)網(wǎng)絡(luò)硬件在訓(xùn)練期間和應(yīng)用期間經(jīng)常有不同的需求。例如，低能量屏障有助于神經(jīng)網(wǎng)絡(luò)快速學(xué)習(xí)，但高能量屏障有助于它們保留所學(xué)知識(shí)，以便在應(yīng)用過(guò)程中使用。
德國(guó)尤利希研究中心彼得·格倫伯格神經(jīng)形態(tài)計(jì)算節(jié)點(diǎn)研究所所長(zhǎng)、電氣工程師JohnPaulStrachan沒(méi)有參加這項(xiàng)研究。他說(shuō)：“在訓(xùn)練過(guò)程中，將設(shè)備加熱到100攝氏度左右，可以產(chǎn)生有利于訓(xùn)練的特性。當(dāng)它冷卻下來(lái)時(shí)，他們獲得了更長(zhǎng)的保留時(shí)間和更低的電流操作的優(yōu)勢(shì)。只需調(diào)整一個(gè)旋鈕，熱量，他們就可以在多個(gè)計(jì)算維度上看到改進(jìn)?！毖芯咳藛T于12月14日在舊金山舉行的IEEE國(guó)際電子設(shè)備會(huì)議（InternationalElectronDevicesMeeting(IEDM)）上詳細(xì)描述了他們的發(fā)現(xiàn)。
Strachan指出，這項(xiàng)工作面臨的一個(gè)關(guān)鍵問(wèn)題是，經(jīng)過(guò)多次加熱和冷卻后，ECRAM可能會(huì)面臨何種劣化。不過(guò)，“這是一個(gè)非常有創(chuàng)意的想法，他們的工作證明了這種方法可能有一些潛力?！?br/>
另一組研究了鐵電場(chǎng)效應(yīng)晶體管(FEFET)。研究主要作者、圣母大學(xué)的KhandkerAkifAabrar解釋說(shuō)，F(xiàn)EFET在每個(gè)晶體管內(nèi)以電極化的形式存儲(chǔ)數(shù)據(jù)。
FEFET面臨的一個(gè)挑戰(zhàn)是，當(dāng)它們縮小時(shí)，它們是否仍然可以顯示對(duì)AI應(yīng)用程序有價(jià)值的模擬行為，或者它們是否會(huì)突然切換到只存儲(chǔ)一位信息的二進(jìn)制模式，極化狀態(tài)為一種狀態(tài)或另一種狀態(tài)。
“這個(gè)團(tuán)隊(duì)工作的優(yōu)勢(shì)在于他們對(duì)所涉及材料的洞察，”Strachan說(shuō)，他沒(méi)有參與這項(xiàng)研究，“鐵電材料可以被認(rèn)為是由許多小磁疇組成的塊體，就像鐵磁體可以被認(rèn)為是上下磁疇一樣。為了實(shí)現(xiàn)他們所希望的模擬行為，他們希望所有這些磁疇在外加電場(chǎng)的作用下緩慢地向上或向下排列，而不是出現(xiàn)一個(gè)失控的過(guò)程，在這個(gè)過(guò)程中它們都會(huì)向上或向下移動(dòng)。”因此，他們用多個(gè)介電層物理分解了鐵電超晶格結(jié)構(gòu)，以減少這種失控過(guò)程。
該系統(tǒng)實(shí)現(xiàn)了94.1%的在線學(xué)習(xí)準(zhǔn)確率，這與其他FEFET和RRAM技術(shù)相比非常好，科學(xué)家在12月14日的IEDM會(huì)議上詳細(xì)介紹了這一發(fā)現(xiàn)。Strachan指出，未來(lái)的研究可以尋求優(yōu)化屬性，如當(dāng)前水平。
來(lái)自日本和臺(tái)灣科學(xué)家的一種新型微芯片，采用c軸定向晶體氧化銦鎵鋅制成。這項(xiàng)研究的合著者、日本半導(dǎo)體能源實(shí)驗(yàn)室公司的SatoruOhshita指出，他們的氧化物半導(dǎo)體場(chǎng)效應(yīng)晶體管（OSFET）的超低電流操作低于每個(gè)電池1毫安，操作效率為143.9萬(wàn)億次/秒/瓦，這是迄今為止模擬AI芯片中報(bào)道得最好的，12月14日在IEDM會(huì)議上詳細(xì)介紹了調(diào)查結(jié)果?！斑@些都是極低電流的設(shè)備，”Strachan說(shuō)，“由于所需的電流非常低，您可以將電路塊變大，從而獲得512×512個(gè)存儲(chǔ)單元的陣列，而RRAM的典型數(shù)字更像是100×100。這是一個(gè)巨大的勝利，因?yàn)檩^大的電路塊在存儲(chǔ)權(quán)重方面具有二次優(yōu)勢(shì)。”當(dāng)OSFET與電容器結(jié)合時(shí)，它們可以以90%以上的準(zhǔn)確度保留信息30小時(shí)。Strachan說(shuō)：“這可能是一段足夠長(zhǎng)的時(shí)間，可以將這些信息轉(zhuǎn)移到一些波動(dòng)性較小的技術(shù)上。幾十小時(shí)的保留時(shí)間并不是交易的破壞者。”總之，“研究人員正在探索的這些新技術(shù)都是概念驗(yàn)證案例，提出了關(guān)于他們未來(lái)可能面臨的挑戰(zhàn)的新問(wèn)題，”Strachan說(shuō)，“他們還指出了通往代工廠的道路，這是他們生產(chǎn)大批量、低成本商業(yè)產(chǎn)品所需要的。”
