北理工在光電融合儲(chǔ)備池計(jì)算用于語(yǔ)言學(xué)習(xí)方面取得重要進(jìn)展
發(fā)布日期：2021-05-18 供稿：物理學(xué)院
編輯：王莉蓉 審核：姜艷 閱讀次數(shù)：
日前，北京理工大學(xué)物理學(xué)院院長(zhǎng)姚裕貴團(tuán)隊(duì)孫林鋒教授與韓國(guó)高等科學(xué)技術(shù)研究院Heejun Yang教授，香港大學(xué)Wang Zhongrui教授合作，提出了一種基于低維材料體系的新型多維度光電融合憶阻器件，實(shí)現(xiàn)了傳感器內(nèi)儲(chǔ)備池計(jì)算，并成功用在語(yǔ)言符號(hào)識(shí)別與學(xué)習(xí)上。在考慮相似度極高的干擾項(xiàng)存在的前提下，對(duì)復(fù)雜的語(yǔ)言句子體系實(shí)現(xiàn)了91%的識(shí)別率。該項(xiàng)成果為機(jī)器學(xué)習(xí)和邊緣計(jì)算應(yīng)用提供了一種處理時(shí)序信號(hào)事件的低成本訓(xùn)練方案。此項(xiàng)工作于五月十四日發(fā)表在《Science》子刊 Science Advances上。
近年來(lái)，受生物啟發(fā)的機(jī)器視覺(jué)在發(fā)展迅速，因?yàn)橐曈X(jué)感知掌握了人類(lèi)與周?chē)h(huán)境互動(dòng)過(guò)程中約80%左右以上的信息量。盡管人們?cè)谀M人腦的視覺(jué)皮層以實(shí)現(xiàn)“看”的功能方面付出了巨大的努力，物理上分離的傳感、內(nèi)存和處理單元導(dǎo)致了大量的能量耗費(fèi)、時(shí)間延遲和額外的硬件成本。特別是隨著物聯(lián)網(wǎng)的快速發(fā)展以及爆炸式增長(zhǎng)的數(shù)據(jù)量，物聯(lián)網(wǎng)上的傳感器節(jié)點(diǎn)數(shù)也隨之持續(xù)增加。此外，傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法過(guò)于復(fù)雜、計(jì)算量過(guò)于龐大，收斂速度較慢，網(wǎng)絡(luò)結(jié)構(gòu)也很難優(yōu)化，進(jìn)一步加劇了這一挑戰(zhàn)。而儲(chǔ)備池計(jì)算已經(jīng)被證明可以顯著降低計(jì)算成本，為開(kāi)發(fā)用于時(shí)間模式分類(lèi)、混沌態(tài)預(yù)測(cè)等提供了一個(gè)很好的解決方案。但是，目前的儲(chǔ)備池計(jì)算在信息處理過(guò)程中是串行的，無(wú)法實(shí)現(xiàn)更具潛力的傳感并行機(jī)制。因此，如何實(shí)現(xiàn)傳感器內(nèi)儲(chǔ)備池計(jì)算將是信息處理速度進(jìn)一步提高的關(guān)鍵，有利于儲(chǔ)備池計(jì)算朝著高速、低功耗和易于集成的方向發(fā)展。此項(xiàng)研究工作克服了物理上分離的傳感器和儲(chǔ)備池計(jì)算這一技術(shù)瓶頸，大大降低了系統(tǒng)學(xué)習(xí)復(fù)雜度和計(jì)算成本。此方法可以應(yīng)對(duì)物聯(lián)網(wǎng)時(shí)代對(duì)爆炸式增長(zhǎng)的大數(shù)據(jù)處理的迫切要求，為實(shí)現(xiàn)更有效的機(jī)器學(xué)習(xí)和類(lèi)腦計(jì)算提供了技術(shù)上的突破。
物理學(xué)院孫林鋒教授為該工作的第一作者，Heejun Yang教授為通訊作者。該工作得到北京理工大學(xué)青年學(xué)者項(xiàng)目研究獎(jiǎng)金，韓國(guó)三星研究基金會(huì)，三星電子孵化基金以及韓國(guó)國(guó)家研究基金的支持。
Linfeng Sun, Zhongrui Wang, Jinbao Jiang, Yeji Kim, Bomin Joo, Shoujun Zheng, Seungyeon Lee, Woo Jong Yu, Bai Sun Kong and Heejun Yang*, “In-sensor reservoir computing for language learning via two-dimensional memristors”, Science Advances, 7, 20, 2021 (eabg1455).
文章鏈接：https://advances.sciencemag.org/content/7/20/eabg1455
分享到：