一種多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核的制作方法
【技術領域】
[0001] 本發(fā)明涉及一種神經(jīng)形態(tài)網(wǎng)絡核。
【背景技術】
[0002] 神經(jīng)網(wǎng)絡是一種模仿生物大腦突觸-神經(jīng)元結構進行數(shù)據(jù)處理的計算系統(tǒng)，由分 為多層的計算節(jié)點和層間的連接組成。每個節(jié)點模擬一個神經(jīng)元，執(zhí)行某個特定運算，例如 激活函數(shù)，節(jié)點之間的連接模擬神經(jīng)突觸，連接對于來自上一層節(jié)點輸入的加權值代表了 突觸權重。神經(jīng)網(wǎng)絡具有強大的非線性、自適應信息處理能力。
[0003] 人工神經(jīng)網(wǎng)絡中的神經(jīng)元將來自連接輸入的累加值用激活函數(shù)處理后作為自身 的輸出。對應于不同的網(wǎng)絡拓撲結構、神經(jīng)元模型和學習規(guī)則，人工神經(jīng)網(wǎng)絡又包括感知 器、Hopfield網(wǎng)絡、波耳茲曼機等數(shù)十種網(wǎng)絡模型，可以實現(xiàn)多種多樣的功能，在模式識別、 復雜控制、信號處理和最優(yōu)化等方面都有應用。傳統(tǒng)的人工神經(jīng)網(wǎng)絡數(shù)據(jù)可以認為是通過 神經(jīng)元脈沖的頻率信息編碼，各層神經(jīng)元依次串行運行。人工神經(jīng)網(wǎng)絡模擬了生物的神經(jīng) 系統(tǒng)分層結構，但是未能完全匹配皮層的信息處理結構.例如時間序列對學習的影響，而 作為真正的生物皮層在處理信息上來說，對信息數(shù)據(jù)的學習不是獨立靜態(tài)的，而是隨著時 間有著上下文的聯(lián)系的。脈沖神經(jīng)網(wǎng)絡是近十幾年來出現(xiàn)的新型神經(jīng)網(wǎng)絡，被稱為是第三 代神經(jīng)網(wǎng)絡。脈沖神經(jīng)網(wǎng)絡中的數(shù)據(jù)以神經(jīng)元脈沖信號的時空信息編碼，網(wǎng)絡的輸入輸出 以及神經(jīng)元之間的信息傳遞表現(xiàn)為神經(jīng)元發(fā)送的脈沖和發(fā)送脈沖的時間信息，神經(jīng)元需要 同時并行運行。與傳統(tǒng)的人工神經(jīng)網(wǎng)絡相比，脈沖神經(jīng)網(wǎng)絡在信息處理方式、神經(jīng)元模型、 并行性等方面有較大不同，運行方式更接近于真實的生物系統(tǒng)。脈沖神經(jīng)網(wǎng)絡應用精確定 時的脈沖序列對神經(jīng)信息進行編碼和處理，這種包含時間計算元素的計算模型更具生物解 釋性，是進行復雜時空信息處理的有效工具，可以處理多模態(tài)的信息并且信息處理更加實 時。但脈沖神經(jīng)網(wǎng)絡的神經(jīng)元模型的不連續(xù)性、時空編碼的復雜性、網(wǎng)絡結構的不確定性導 致很難在數(shù)學上完成對網(wǎng)絡整體的描述，因此難以構建有效且通用的有監(jiān)督學習算法，限 制了其的計算規(guī)模和精確度。

【發(fā)明內容】

[0004] 有鑒于此，確有必要提供一種既可以進行人工神經(jīng)網(wǎng)絡計算也可以進行脈沖神經(jīng) 網(wǎng)絡計算的神經(jīng)形態(tài)網(wǎng)絡核。
[0005] -種多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核，包括：模式寄存器、軸突輸入單元、突觸權重存儲單 元、樹突單元和神經(jīng)元計算單元；
[0006] 所述模式寄存器與所述軸突輸入單元、樹突單元以及神經(jīng)元計算單元連接，控制 上述單元運行在人工神經(jīng)網(wǎng)絡模式或脈沖神經(jīng)網(wǎng)絡模式；
[0007] 所述軸突輸入單元與所述樹突單元連接，接收并存儲軸突輸入；
[0008] 所述突觸權重存儲單元與所述樹突單元連接，存儲突觸權重矩陣；
[0009] 所述樹突單元與所述神經(jīng)元計算單元連接，包括樹突乘加單元與樹突累加單元， 運行在人工神經(jīng)網(wǎng)絡模式時，所述軸突輸入向量與突觸權重矩陣送入所述樹突乘加單元進 行乘加運算，運行在脈沖神經(jīng)網(wǎng)絡模式時，所述軸突輸入向量與突觸權重矩陣送入所述樹 突累加單元進行累加運算；
[0010] 所述神經(jīng)元計算單元包括第一計算單元與第二計算單元，運行在人工神經(jīng)網(wǎng)絡模 式時，所述樹突乘加單元發(fā)來的乘加運算結果送入所述第一計算單元進行人工神經(jīng)網(wǎng)絡運 算，運行在脈沖神經(jīng)網(wǎng)絡模式時，所述樹突累加單元發(fā)來的累加運算結果送入所述第二計 算單元進行脈沖神經(jīng)網(wǎng)絡計算。
[0011]與現(xiàn)有技術相比，本發(fā)明提供的多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核既可以進行人工神經(jīng)網(wǎng)絡 運算，也可以進行脈沖神經(jīng)網(wǎng)絡運算，且可以按照需要在人工神經(jīng)網(wǎng)絡運行模式和脈沖神 經(jīng)網(wǎng)絡運行模式間切換，能夠進行實時快速、多模態(tài)或復雜時空信號計算并能保證計算的 精確度。
【附圖說明】
[0012] 圖1為本發(fā)明第一實施例提供的人工神經(jīng)網(wǎng)絡和脈沖神經(jīng)網(wǎng)絡的混合計算系統(tǒng) 中基本計算單元結構圖。
[0013] 圖2為本發(fā)明的串聯(lián)結構示意圖
[0014] 圖3為本發(fā)明的并聯(lián)結構示意圖。
[0015] 圖4為本發(fā)明的并行結構示意圖。
[0016] 圖5為本發(fā)明的學習結構示意圖。
[0017] 圖6為本發(fā)明的反饋結構示意圖。
[0018] 圖7為本發(fā)明提供的混合計算系統(tǒng)中計算單元層級結構示意圖。
[0019] 圖8為本發(fā)明提供的人工神經(jīng)網(wǎng)絡和脈沖神經(jīng)網(wǎng)絡的混合計算系統(tǒng)。
[0020] 圖9為本發(fā)明第二實施例中將人工神經(jīng)網(wǎng)絡輸出的數(shù)值量轉換為脈沖序列的示 意圖。
[0021] 圖10為本發(fā)明第二實施例中將脈沖神經(jīng)網(wǎng)絡輸出的頻率編碼脈沖序列轉換為數(shù) 值量示意圖。
[0022] 圖11為本發(fā)明第二實施例中將脈沖神經(jīng)網(wǎng)絡輸出的群體編碼脈沖序列轉換為數(shù) 值量示意圖。
[0023] 圖12為本發(fā)明第二實施例中將脈沖神經(jīng)網(wǎng)絡輸出的時間編碼脈沖序列轉換為數(shù) 值量示意圖。
[0024] 圖13為本發(fā)明第二實施例中將脈沖神經(jīng)網(wǎng)絡輸出的二值編碼脈沖序列轉換為數(shù) 值量示意圖。
[0025] 圖14為本發(fā)明第三實施例提供的多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核結構框圖。
[0026] 圖15為本發(fā)明第三實施例提供的多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核運行在人工神經(jīng)網(wǎng)絡時 的結構框圖。
[0027] 圖16為人工神經(jīng)網(wǎng)絡模式下多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核一個時間步的運行流程圖。
[0028] 圖17為本發(fā)明第三實施例提供的多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核運行在脈沖神經(jīng)網(wǎng)絡時 的結構框圖。
[0029] 圖18為脈沖神經(jīng)網(wǎng)絡模式下多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核一個時間步的運行流程圖。
[0030] 圖19為本發(fā)明第四實施例提供的人工神經(jīng)網(wǎng)絡和脈沖神經(jīng)網(wǎng)絡的混合系統(tǒng)。
[0031] 圖20為本發(fā)明第四實施例中路由節(jié)點結構框圖。
[0032] 圖21為本發(fā)明第四實施例中路由數(shù)據(jù)包結構圖。
[0033] 圖22為本發(fā)明第四實施例中路由節(jié)點工作流程圖。
[0034] 主要元件符號說明
[0035]
[0036] 如1下【具體實施方式】將結合?述附圖進1步說明本發(fā)明。 ' '
【具體實施方式】
[0037] 下面將結合附圖及具體實施例對本發(fā)明提供的多模態(tài)神經(jīng)形態(tài)網(wǎng)絡核作進一步 的詳細說明。
[0038] 本發(fā)明第一實施例提供一種人工神經(jīng)網(wǎng)絡和脈沖神經(jīng)網(wǎng)絡的混合計算系統(tǒng)100， 包括至少兩個基本計算單元110,該至少兩個基本計算單元110中，至少一個為人工神經(jīng)網(wǎng) 絡計算單元，承擔人工神經(jīng)網(wǎng)絡計算，至少一個為脈沖神經(jīng)網(wǎng)絡計算單元，承擔脈沖神經(jīng)網(wǎng) 絡計算，該至少兩個基本計算單元Iio按照拓撲結構相互連接，共同實現(xiàn)神經(jīng)網(wǎng)絡計算功 能。
[0039] 請參見圖1，所述至少一人工神經(jīng)網(wǎng)絡計算單元與所述至少一脈沖神經(jīng)網(wǎng)絡計算 單元分別可以看作一個獨立的神經(jīng)網(wǎng)絡，該神經(jīng)網(wǎng)絡中包括多個神經(jīng)元115,該多個神經(jīng)元 115之間通過突觸116連接，組成單層或多層結構。突觸權重代表突觸后神經(jīng)元接收突觸前 神經(jīng)元輸出的加權值。
[0040] 所述至少一脈沖神經(jīng)網(wǎng)絡計算單元用于對接收到的數(shù)據(jù)執(zhí)行脈沖神經(jīng)網(wǎng)絡計算。 所述至少一脈沖神經(jīng)網(wǎng)絡計算單元的輸入數(shù)據(jù)、輸出數(shù)據(jù)以及神經(jīng)元115間傳遞的數(shù)據(jù)為 尖峰脈沖序列，所述至少一脈沖神經(jīng)網(wǎng)絡計算單元中所述神經(jīng)元115的模型為基于尖峰 脈沖計算的神經(jīng)元模型，可以為但不限于泄漏-積分-點火模型、尖峰脈沖響應模型以及 Hodgkin-Huxley模型中的至少一種。
[0041] 所述至少一人工神經(jīng)網(wǎng)絡計算單元用于對接收到的數(shù)據(jù)執(zhí)行人工神經(jīng)網(wǎng)絡計算。 所述至少一人工神經(jīng)網(wǎng)絡計算單元的輸入數(shù)據(jù)、輸出數(shù)據(jù)以及神經(jīng)元115間傳遞的數(shù)據(jù)為 數(shù)值量。所述至少一人工神經(jīng)網(wǎng)絡計算單元進一步按照神經(jīng)元模型、網(wǎng)絡結構、學習算法的 不同，可以為感知器神經(jīng)網(wǎng)絡計算單元、BP神經(jīng)網(wǎng)絡計算單元、Hopfield神經(jīng)網(wǎng)絡計算單 元、自適應諧振理論神經(jīng)網(wǎng)絡計算單元、深度信念神經(jīng)網(wǎng)絡計算單元和卷積神經(jīng)網(wǎng)絡計算 單元中的至少一種。
[0042] 所述至少一人工神經(jīng)網(wǎng)絡計算單元以及至少一脈沖神經(jīng)網(wǎng)絡計算單元拓撲連接 以形成一復合神經(jīng)網(wǎng)絡計算單元。
[0043] 所述拓撲連接的拓撲結構包括串聯(lián)結構、并聯(lián)結構、并行結構、學習結構以及反饋 結構中的至少一種。
[0044] 請參見圖2,所述兩個基本計算單元110串聯(lián)連接以形成一串聯(lián)復合計算單元 120a。所述兩個基本計算單元110分別為第一基本計算單元IlOa與第二基本計算單元 ll〇b，所述第一基本計算單元IlOa的輸出端連接第二基本計算單元IlOb的輸入端。所述 第一基本計算單元IlOa與第二基本計算單元IlOb中，一個為人工神經(jīng)網(wǎng)絡計算單元，另 一個為脈沖神經(jīng)網(wǎng)絡計算單元。系統(tǒng)輸入首先經(jīng)過第一基本計算單元IlOa處理，處理后的 結果作為第二基本計