- 首頁(yè)
- 民文
- English
- 舉報專(zhuān)區
- 登錄
功耗毫瓦級 基于注意力機制的類(lèi)腦芯片問(wèn)世
人民網(wǎng)北京6月5日電 (記者趙竹青)人腦能夠運行復雜且龐大的神經(jīng)網(wǎng)絡(luò ),總功耗卻僅約20瓦,遠小于現有的人工智能系統。因此,在算力比拼加速、能耗日益攀升的今天,借鑒人腦的低功耗特性發(fā)展新型智能計算系統成為極具潛力的方向。近日,中國科學(xué)院自動(dòng)化研究所李國齊、徐波課題組與時(shí)識科技公司等單位合作設計了一套能夠實(shí)現動(dòng)態(tài)計算的算法—軟件—硬件協(xié)同設計的類(lèi)腦神經(jīng)形態(tài)SOC(System on Chip,系統級芯片)“Speck”,展示了類(lèi)腦神經(jīng)形態(tài)計算在融合高抽象層次大腦機制時(shí)的天然優(yōu)勢,相關(guān)研究在線(xiàn)發(fā)表于《自然·通訊》。
該研究提出了“神經(jīng)形態(tài)動(dòng)態(tài)計算”的概念,設計了一種類(lèi)腦神經(jīng)形態(tài)芯片“Speck”,來(lái)實(shí)現基于注意力機制的動(dòng)態(tài)計算。該芯片在硬件層面做到“沒(méi)有輸入,沒(méi)有功耗”,在算法層面做到“有輸入時(shí),根據輸入重要性程度動(dòng)態(tài)調整計算”,從而在典型視覺(jué)場(chǎng)景任務(wù)功耗可低至0.7毫瓦,進(jìn)一步挖掘了神經(jīng)形態(tài)計算在性能和能效上的潛力。
Speck是一款異步感算一體類(lèi)腦神經(jīng)形態(tài)SoC,采用全異步設計,在一塊芯片上集成了動(dòng)態(tài)視覺(jué)傳感器(DVS相機)和類(lèi)腦神經(jīng)形態(tài)芯片,具有極低的靜息功耗(僅為0.42毫瓦)。Speck能夠以微秒級的時(shí)間分辨率感知視覺(jué)信息,并以全異步方式設計替代了全局時(shí)鐘控制信號,避免時(shí)鐘空翻帶來(lái)的能耗開(kāi)銷(xiāo),僅在有事件輸入時(shí)才觸發(fā)稀疏加法運算。
針對脈沖神經(jīng)網(wǎng)絡(luò )(SNN)在更高層面,比如時(shí)間維度中不能根據輸入難易度調整其脈沖發(fā)放等“動(dòng)態(tài)失衡”問(wèn)題,該研究基于注意力機制的神經(jīng)形態(tài)脈沖動(dòng)態(tài)計算框架,在多種粒度上實(shí)現對不同的輸入進(jìn)行有區分地動(dòng)態(tài)響應;同時(shí)Speck軟件工具鏈Sinabs編程框架支持動(dòng)態(tài)計算SNN算法訓練和部署。實(shí)驗結果表明,注意力機制可使得SNN具備動(dòng)態(tài)計算能力,即根據輸入難易度調整其脈沖發(fā)放模式解決“動(dòng)態(tài)失衡”問(wèn)題,在顯著(zhù)降低功耗的同時(shí),提升任務(wù)性能。在DVS128 Gesture數據集上,融合脈沖動(dòng)態(tài)計算的Speck在任務(wù)精度提升9%的同時(shí),平均功耗由9.5毫瓦降低至3.8毫瓦。
該工作的實(shí)踐證實(shí),高、低抽象層次大腦機制的融合能進(jìn)一步激發(fā)類(lèi)腦計算潛力,這為以后將大腦進(jìn)化過(guò)程中產(chǎn)生的各種高級神經(jīng)機制融合至神經(jīng)形態(tài)計算提供了積極啟發(fā)。
分享讓更多人看到
客戶(hù)端下載
熱門(mén)排行
- 1云海深處有茶園 云南綠春“老樹(shù)”發(fā)“新芽”
- 2深入學(xué)習貫徹習近平強軍思想有力服務(wù)國防和軍隊現代化建設
- 3云南:靶向發(fā)力 推動(dòng)營(yíng)商環(huán)境再上新臺階
- 4緊盯民生展監督力度力求實(shí)效促政有所為
- 5云南推動(dòng)義務(wù)教育招生入學(xué)“一件事”高效辦
- 6王予波與中國石油董事長(cháng)戴厚良在京座談工作
- 7站在對黨忠誠的高度抓好巡視整改 以高質(zhì)量整改成效推動(dòng)高質(zhì)量發(fā)展
- 82024麗江露營(yíng)季啟幕
- 9云南推進(jìn)新生兒出生 “一件事”聯(lián)辦落地見(jiàn)效
- 10云南省文化科技衛生“三下鄉”集中示范活動(dòng)扎實(shí)開(kāi)展