我國科學家開源深度脈沖神經(jīng)網(wǎng)絡學習框架，比其他框架快11倍

脈沖神經(jīng)網(wǎng)絡被譽為第三代神經(jīng)網(wǎng)絡，它既是神經(jīng)科學中研究大腦原理的基本工具，又因其超低功耗等特性備受關注。隨著深度學習方法的引入，脈沖深度學習成為新興研究熱點。傳統(tǒng)脈沖神經(jīng)網(wǎng)絡框架致力于構建精細脈沖神經(jīng)元并仿真生物神經(jīng)系統(tǒng)，無法充分利用圖形處理器的大規(guī)模并行計算能力，也缺乏對神經(jīng)形態(tài)傳感器和計算芯片的支持。

為了解決上述問題，中國科學院自動化研究所李國齊研究員與北京大學計算機學院田永鴻教授團隊合作構建并開源了深度脈沖神經(jīng)網(wǎng)絡學習框架SpikingJelly（中文名：驚蜇）。“驚蜇”提供了全棧式的脈沖深度學習解決方案，支持神經(jīng)形態(tài)數(shù)據(jù)處理、深度脈沖神經(jīng)網(wǎng)絡的構建、替代梯度訓練等功能。相關論文于日前在《科學》子刊《科學進展》在線發(fā)表。

脈沖深度學習作為計算神經(jīng)科學與深度學習的交叉學科，要求研究者同時掌握兩個領域的知識體系，但實際情況是研究者可能只對一個領域有深度了解。“驚蜇”框架提供了簡單易用的教程、活躍友善的討論社區(qū)，也一并給出了常用的網(wǎng)絡模型和訓練腳本，研究者可以快速進行跨領域的學習和使用，通過寥寥數(shù)行代碼輕松構建并訓練深度脈沖神經(jīng)網(wǎng)絡。

研究者期望能夠自由地定義和擴展新模型，僅需少量代碼改動就對模型行為產(chǎn)生巨大改變。這一開發(fā)理念與“驚蜇”的設計哲學不謀而合，既為開發(fā)者降低了開發(fā)成本，也給用戶提供了定義新模型的范例。

深度學習涉及大規(guī)模數(shù)據(jù)處理、大尺度模型訓練，脈沖深度學習亦不例外，對計算資源的需求更高。與來自英特爾、時識科技、加州大學圣克魯斯分校、海德堡大學、瑞典皇家理工學院等其他框架相比，“驚蜇”具有最快的仿真速度，比其他框架快11倍。

題圖來源：圖蟲 圖片編輯：曹立媛

來源：作者：黃海華