專利名稱：神經網絡模式識別系統(tǒng)和模式識別方法
技術領域：
本發(fā)明涉及模式識別，特點是一種基于神經元工作方式的神經網絡模式識別系統(tǒng)和模式識別方法。
背景技術：
基于神經元工作原理的神經網絡起步是從1983年，自1983年W. B. Levy和O. Steward兩名科學家通過實驗發(fā)現哺乳動物大腦中的可塑性原理之后，眾多神經科學家和腦科學家開始常年探索大腦內的學習方式和工作原理，經過不懈努力，在1992年由Y. Dan和M. Poo兩位科學家發(fā)現了大腦的一種認知機理，即脈沖時間依賴可塑性學習方式，后又由瑞士洛桑理工學院的Henry Markram教授完善并豐富了該學說。這種基于神經元工作原理的神經網絡也稱為脈沖神經網絡，它被譽為第三代神經網絡。該網絡的基本組成單元，即神經元，是利用其觸發(fā)的脈沖時序進行信息的處理，目前大部分的研究工作集中在理 論和算法等方面。所述的基于神經元工作方式的神經網絡模式識別系統(tǒng)和實現方法詳細闡述了其進行模式識別的實現步驟，并加入了延時更新的有監(jiān)督學習機制。目前神經網絡的應用范圍非常廣泛，其應用范圍主要包括生物信號的檢測與自動分析、醫(yī)學專家系統(tǒng)、計算機領域、數據挖掘、自動駕駛，甚至美國的郵件系統(tǒng)里也應用了神經網絡。世界各地的科學家和工程師不斷嘗試把新發(fā)現的技術應用到實際工作中，正是由于應用領域的發(fā)展使得人工神經網絡達到了一個新的高度達到了一個新的繁榮點。

發(fā)明內容
本發(fā)明提出一種基于神經元工作方式的神經網絡模式識別系統(tǒng)和模式識別方法?；谏窠浽ぷ鞣绞降木W絡不會受到太多的限制，比如步長、輸入數據的規(guī)模等，相對于傳統(tǒng)的BP網絡來說，步長增大導致訓練時間增加而且收斂性也隨之變差，甚至有的時候不會收斂，而基于神經元工作方式的網絡沒有步長的需求，并且輸入規(guī)模加大確實會導致學習時間增長，但這并不影響收斂性。對于規(guī)模相當的輸入，基于神經元工作方式的網絡收斂速度快，識別率也比BP網絡要高。本發(fā)明的技術解決方案如下 一種基于神經元工作方式的神經網絡模式識別系統(tǒng)，其特點在于該系統(tǒng)由時間發(fā)出模塊、輸入層神經元處理模塊、中間層神經元信息處理模塊、突觸可塑性模塊和系統(tǒng)輸出模塊構成，其連接方式如下所述的時間發(fā)出模塊分別與所述的輸入層神經元處理模塊的第一輸入端、中間層神經兀信息處理模塊的第一輸入端、突觸可塑性模塊第一輸入端和系統(tǒng)輸出模塊第一輸入端相連，所述的輸入層神經元處理模塊的第二輸入端為外界圖像接收端，該輸入層神經元處理模塊的輸出端與所述的中間層神經元信息處理模塊的第二輸入端相連，所述的中間層神經元信息處理模塊的第一輸出端與所述的系統(tǒng)輸出模塊的輸入端相連，所述的中間層神經元信息處理模塊的第二輸出端和第三輸入端之間連接所述的突觸可塑性模塊，所述的系統(tǒng)輸出模塊的輸出端為系統(tǒng)輸出端。一種基于神經元工作原理的模式識別系統(tǒng)的模式識別方法，其特點在于該方法包括以下步驟I)、系統(tǒng)初始化在輸入層神經元處理模塊中包括輸入層膜電位矩陣A、膜電位重置矩陣V'輸入層當前時刻矩陣c°ld、輸入層電脈沖發(fā)出時刻矩陣Cn 和輸入矩陣I五個I Xn的矩陣，其中輸入層膜電位矩陣A的元素為Ai,矩陣Ψ的元素為F/，矩陣C°ld的元素為Cfrf，矩陣Cn 的元素為C廣，矩陣I的元素為Ii, i的取值均為I η ;所述的輸入層膜電位矩陣A和矩陣I初始化為零矩陣，所述的矩陣V的所有η個分量K/都初始化為恒定的常量VMsrt，所述的矩陣C°ld中所有η個分量均為從時間發(fā)出模塊接收到的當前時刻t，矩陣Cn 初始化為零矩陣；一個nXn的輸入層電脈沖判斷矩陣B，矩陣B的元素為Bu，i和j的取值均為I n，B初始化為一個零矩陣；一個PXq的圖像矩陣Q，矩陣Q的元素為Qfs，f的取值為I P，s的取值為I q，其中P代表了輸入圖像每一列的像素點個數，q代表了輸入圖像每一行的像素點個數，而且pXq = n，u代表了需要識別圖像的個數，Q初始化為一個零矩陣；中間層神經元信息處理模塊中包括中間層當前時刻矩陣H、中間層電脈沖發(fā)出時刻矩陣R和中間層膜電位矩陣G三個IXm的矩陣，他們的元素分別為Hk、Rk、Gk，k的取值均為I m，其中矩陣H的所有m個分量均為從時間發(fā)出模塊接收到的當前時刻t，矩陣R和G都初始化為零矩陣；三個mXm的矩陣，中間層電脈沖判斷矩陣D、中間層神經元關系矩陣S和中間層脈沖時間差矩陣ΛΤ，他們的元素分別為Dgk、Sgk和ATgk，g和k的取值均為I m，其中，矩陣D和Λ T均初始化為零矩陣，矩陣S在初始化時必須保證其每一行和每一列只能有一個值是1，其余的值均為零；一個nXm的前端突觸矩陣P，其元素為Pik，i的取值為I n，k的取值為I m，矩陣P的所有元素Pik初始化為O O. 5的隨機數；m個mXm的矩陣Ei, i的取值為I m, Ei中的元素為eM,當p = q= i時，eM= I,其他元素均為零；突觸可塑性模塊中包括權重改變量矩陣Λ W和中間層權重矩陣M兩個mXm的矩陣，他們的元素分別為八胃81;和11;4和1^的取值均為I m，其中矩陣AW初始化為零矩陣，矩陣M的所有元素Mgk初始化為O O. 5的隨機數；系統(tǒng)輸出模塊中包括時間系數矩陣T、延時代更新矩陣Y°ld和延時矩陣Ynew三個mXu的矩陣，他們的元素分別為Tkh 和g'k的取值為I m，h的取值為I U，其中矩陣T的所有元素Tkh初始化為1，矩陣Y°ld的所有元素1^^初始化為O I的隨機數，矩陣Yn 初始化為零矩陣；脈沖系數矩陣X、輸出層電脈沖判斷矩陣L和判斷系數矩陣N三個uXl的矩陣，他們的元素分別為Xh、Lh和Nh，h的取值均為I U，其中矩陣X和矩陣N的所有元素初始化為1，這兩個矩陣是常矩陣，在計算過程中所有元素的值保持不變，矩陣L初始化為零矩陣；u AuXl的模式矩陣K%這u個矩陣為常矩陣，不隨時間變化，c的取值為I U，每一個矩陣Γ的元素為A ，h的取值為I U，矩陣Γ的初始化依照的規(guī)律為Γ的第c位為I,其他元素均為零；一個IXm的衰減系數矩陣Ζ,其元素為Zk, k的取值為I m,該矩陣的所有元素Zk全部初始化為I ;一個IXu的輸出層膜電位矩陣V，其元素為Vh，h的取值為I U，矩陣V初始化為零矩陣；
所述的神經網絡模式識別系統(tǒng)，涉及到的恒定常量包括閾值Vth、重置膜電位Vresrt、神經元樹突電位隨指數衰減的時間常數τ d、神經元膜電位隨指數衰減的時間常數τ m、神經元樹突電阻Rd、神經元細胞膜的膜電阻Rm、神經元細胞體電位隨指數衰減的時間常數Ts、突觸正向增益A+、突觸負向增益A—、突觸權重隨時間指數衰減常量τ+、突觸權重隨時間指數遞增常量τ_、權重最大值Wmax、權重最小值Wmin、學習速率11、延時偏移量Ad = O. I和希爾伯特-施密特范數閾值入th ;2)、時間發(fā)出模塊是控制整個神經網絡的時鐘模塊，該模塊每間隔Ims向輸入層神經元處理模塊、中間層神經元信息處理模塊、突觸可塑性模塊和系統(tǒng)輸出模塊發(fā)出當前時刻t，t從O開始，每次遞增I ; 3)、當所述的輸入層神經元處理模塊接收到所述的時間發(fā)出模塊發(fā)出的時間觸發(fā)脈沖信號t時，所述的輸入層神經元處理模塊接收外界輸入的圖像，通過MATLAB軟件將該輸入圖像讀到所述的圖像矩陣Q中；4)、在所述的圖像矩陣Q前乘以一個系數O. 5，并把矩陣Q第一行的q個元素寫到所述的輸入矩陣I的第I q個元素上，矩陣Q第二行的q個元素寫到矩陣I的第q+Ι 2q個元素上，以此類推，直到把矩陣Q的最后一行元素寫到矩陣I的最后q個元素上，至此得到了所述的輸入矩陣I ;5)、通過公式⑴計算輸入層膜電位矩陣A
_ ΘA = [ABe、+ Vr(E - B)] +(1)其中B為輸入層電脈沖判斷矩陣，Rm為神經元細胞膜的膜電阻，τπ為神經元膜電位隨指數衰減的時間常數，E為nXn的單位矩陣，Θ為一個計數器，從O開始每次遞增O. 1，共遞增8次，之后清零，Ψ矩陣的每個元素均為常量'eset ；6)、將所述的輸入層膜電位矩陣A的每一個分量Ai與一個恒定閾值Vth做比較并進行相應的處理當Ai大于閾值Vth，所述的矩陣B的第i行第i列的元素Bii置為1，當Ai小于或等于閾值Vth，則所述的矩陣B的第i行第i列的元素Bii不變；把A的所有η個分量與閾值Vth比較過之后，得到輸入層電脈沖判斷矩陣B ;7)、利用公式(2)計算輸入層電脈沖發(fā)出時刻矩陣Cn Cnew = ColdB (2)其中C°ld是輸入層當前時刻矩陣，Cnew為輸入層電脈沖發(fā)出時刻矩陣；8)、當所述的輸入層神經元處理模塊接收到所述的時間發(fā)出模塊發(fā)出的時間觸發(fā)脈沖信號t時，將所述的矩陣B和矩陣Cn 發(fā)送給中間層神經元信息處理模塊(3);同時所述的輸入層神經元處理模塊進入步驟5)；9)、當所述的中間層神經元信息處理模塊接收到所述的時間發(fā)出模塊發(fā)出的時間觸發(fā)脈沖信號t時，利用公式計算中間層膜電位矩陣G
J-R J-RJ-Cnew J-CnewG = G + a、e τ- - e ”P + bRdie Trf - e 、)BM(3)其中
權利要求
1.一種基于神經元工作方式的神經網絡模式識別系統(tǒng)，其特征在于該系統(tǒng)由時間發(fā)出模塊(I)、輸入層神經元處理模塊(2)、中間層神經元信息處理模塊(3)、突觸可塑性模塊(4)和系統(tǒng)輸出模塊(5)構成，其連接方式如下 所述的時間發(fā)出模塊(I)分別與所述的輸入層神經元處理模塊(2)的第一輸入端、中間層神經兀信息處理模塊(3)的第一輸入端、突觸可塑性模塊(4)第一輸入端和系統(tǒng)輸出模塊(5)第一輸入端相連，所述的輸入層神經元處理模塊(2)的第二輸入端為外界圖像接收端，該輸入層神經元處理模塊(2)的輸出端與所述的中間層神經元信息處理模塊(3)的第二輸入端相連，所述的中間層神經兀信息處理模塊(3)的第一輸出端與所述的系統(tǒng)輸出模塊(5)的輸入端相連，所述的中間層神經兀信息處理模塊(3)的第二輸出端和第三輸入端之間連接所述的突觸可塑性模塊(4)，所述的系統(tǒng)輸出模塊(5)的輸出端為系統(tǒng)輸出端。
2.利用權利要求I所述的模式識別系統(tǒng)的模式識別方法，其特征在于該方法包括以下步驟 I)、系統(tǒng)初始化 在輸入層神經元處理模塊(2)中包括輸入層膜電位矩陣A、膜電位重置矩陣輸入層當前時刻矩陣C°ld、輸入層電脈沖發(fā)出時刻矩陣Cn 和輸入矩陣I五個I Xn的矩陣，其中輸入層膜電位矩陣A的元素為Ai,矩陣V的元素為K/，矩陣C°ld的元素為C廣，矩陣Cn 的元素為C廣，矩陣I的元素為Ii, i的取值均為I n ;所述的輸入層膜電位矩陣A和矩陣I初始化為零矩陣，所述的矩陣V的所有n個分量K/都初始化為恒定的常量VMsrt，所述的矩陣C°ld中所有n個分量均為從時間發(fā)出模塊(I)接收到的當前時刻t，矩陣Cn 初始化為零矩陣；一個nXn的輸入層電脈沖判斷矩陣B，矩陣B的元素為Bu，i和j的取值均為I n，B初始化為一個零矩陣；一個PXq的圖像矩陣Q，矩陣Q的元素為Qfs，f 的取值為I p，s的取值為I q，其中P代表了輸入圖像每一列的像素點個數，Q代表了輸入圖像每一行的像素點個數，而且PXq = n，u代表了需要識別圖像的個數，Q初始化為一個零矩陣； 中間層神經元信息處理模塊(3)中包括中間層當前時刻矩陣H、中間層電脈沖發(fā)出時亥IJ矩陣R和中間層膜電位矩陣G三個IXm的矩陣，他們的元素分別為Hk、Rk、Gk, k的取值均為I m，其中矩陣H的所有m個分量均為從時間發(fā)出模塊⑴接收到的當前時刻t，矩陣R和G都初始化為零矩陣；三個mXm的矩陣，中間層電脈沖判斷矩陣D、中間層神經元關系矩陣S和中間層脈沖時間差矩陣AT，他們的元素分別為Dgk、Sgk和ATgk，g和k的取值均為I m，其中，矩陣D和A T均初始化為零矩陣，矩陣S在初始化時必須保證其每一行和每一列只能有一個值是1，其余的值均為零；一個nXm的前端突觸矩陣P，其元素為Pik，i的取值為I n，k的取值為I m，矩陣P的所有元素Pik初始化為O 0. 5的隨機數；m個mXm的矩陣Ei, i的取值為I m, Ei中的元素為eM,當p = q = i時，eM= I,其他元素均為零； 突觸可塑性模塊(4)中包括權重改變量矩陣A W和中間層權重矩陣M兩個mXm的矩陣，他們的元素分別為八胃81;和11;4和1^的取值均為I m，其中矩陣AW初始化為零矩陣，矩陣M的所有元素Mgk初始化為0 0. 5的隨機數； 系統(tǒng)輸出模塊(5)中包括時間系數矩陣T、延時代更新矩陣Y°ld和延時矩陣Yn 三個mXu的矩陣，他們的元素分別為Tkh、7:w和的取值為I m，h的取值為I U，其中矩陣T的所有元素Tkh初始化為1，矩陣Y°ld的所有元素初始化為O I的隨機數，矩陣Yn 初始化為零矩陣；脈沖系數矩陣X、輸出層電脈沖判斷矩陣L和判斷系數矩陣N三個uXl的矩陣，他們的元素分別為Xh、Lh和Nh，h的取值均為I U，其中矩陣X和矩陣N的所有元素初始化為1，這兩個矩陣是常矩陣，在計算過程中所有元素的值保持不變，矩陣L初始化為零矩陣；u AuXl的模式矩陣K%這u個矩陣為常矩陣，不隨時間變化，c的取值為I U，每一個矩陣r的元素為，h的取值為I U，矩陣r的初始化依照的規(guī)律為r的第C位為I,其他元素均為零；一個IXm的衰減系數矩陣Z,其元素為Zk, k的取值為I m,該矩陣的所有元素Zk全部初始化為I ;一個IXu的輸出層膜電位矩陣V，其元素為Vh，h的取值為I U，矩陣V初始化為零矩陣； 所述的神經網絡模式識別系統(tǒng)，涉及到的恒定常量包括閾值Vth、重置膜電位、神經元樹突電位隨指數衰減的時間常數T d、神經元膜電位隨指數衰減的時間常數Tm、神經元樹突電阻Rd、神經元細胞膜的膜電阻Rm、神經元細胞體電位隨指數衰減的時間常數T s、突觸正向增益A+、突觸負向增益A—、突觸權重隨時間指數衰減常量T +、突觸權重隨時間指數遞增常量T _、權重最大值Wmax、權重最小值Wmin、學習速率n、延時偏移量Ad = 0. I和藍爾伯特-施密特范數閾值入th ； 2)、時間發(fā)出模塊(I)是控制整個神經網絡的時鐘模塊，該模塊每間隔Ims向輸入層神經元處理模塊(2)、中間層神經元信息處理模塊(3)、突觸可塑性模塊(4)和系統(tǒng)輸出模塊(5)發(fā)出當前時刻t，t從0開始，每次遞增I ; 3)、當所述的輸入層神經元處理模塊(2)接收到所述的時間發(fā)出模塊(I)發(fā)出的時間觸發(fā)脈沖信號t時，所述的輸入層神經元處理模塊(2)接收外界輸入的圖像，通過MATLAB軟件將該輸入圖像讀到所述的圖像矩陣Q中； 4)、在所述的圖像矩陣Q前乘以一個系數0.5，并把矩陣Q第一行的q個元素寫到所述的輸入矩陣I的第I q個元素上，矩陣Q第二行的q個元素寫到矩陣I的第q+1 2q個元素上，以此類推，直到把矩陣Q的最后一行元素寫到矩陣I的最后q個元素上，至此得到了所述的輸入矩陣I ; 5)、通過公式(I)計算輸入層膜電位矩陣
全文摘要
一種基于神經元工作方式的神經網絡模式識別系統(tǒng)和模式識別方法，該模式識別系統(tǒng)由時間發(fā)出模塊、輸入層神經元輸入處理模塊、中間層神經元信息處理模塊、突觸可塑性模塊和系統(tǒng)輸出模塊構成。本發(fā)明的不會受到太多的限制，比如步長、輸入數據的規(guī)模等，相對于傳統(tǒng)的BP網絡來說，步長增大導致訓練時間增加而且收斂性也隨之變差，甚至有的時候不會收斂，而基于神經元工作方式的網絡沒有步長的需求，并且輸入規(guī)模加大確實會導致學習時間增長，但這并不影響收斂性。對于規(guī)模相當的輸入，基于神經元工作方式的網絡收斂速度快，識別率比BP網絡略高。
文檔編號G06K9/62GK102663428SQ20121008848
公開日2012年9月12日 申請日期2012年3月29日 優(yōu)先權日2012年3月29日
發(fā)明者夏知拓, 王昊, 阮昊 申請人:中國科學院上海光學精密機械研究所