專利名稱：多權值突觸的神經(jīng)元構造方法
技術領域：
本發(fā)明屬于計算機領域，本發(fā)明提供一種多權值突觸的神經(jīng)元構造方法。
后來發(fā)展的神經(jīng)元有代表性的是徑向基函數(shù)(RBF)網(wǎng)絡采用的神經(jīng)Y=f[Σi=0n(Wi-Xi)2-θ2]]]>元模型，如下式所示?？梢钥闯?，神經(jīng)元的每個輸入(突觸)依然是只有一個可以調(diào)整的權值。與普通的神經(jīng)元模型不同的是，該神經(jīng)元構成了高維空間的一個超球面而不是開放的超平面，通過調(diào)整權值W，可以調(diào)整該超球面的中心點。各種實驗證明，該類型的神經(jīng)網(wǎng)絡性能優(yōu)于普通的神經(jīng)元構成的網(wǎng)絡。
從上述介紹可以看到，只有一個權值突觸的神經(jīng)元，所構成的超曲面比較簡單，不能適應復雜曲面的需要。而且，普通的神經(jīng)元在用軟件或硬件實現(xiàn)神經(jīng)元網(wǎng)絡的時候，由于神經(jīng)元結構不同，需要針對不同的神經(jīng)元網(wǎng)絡進行設計和實現(xiàn)，浪費了資源和時間，特別在硬件實現(xiàn)時，這種浪費更是巨大的。本申請專利在充分研究已有神經(jīng)元結構的基礎上，提出了多權值突觸的神經(jīng)元結構，使神經(jīng)元的通用性更好，功能更強大，靈活性也更好。
本發(fā)明一種多權值突觸的神經(jīng)元構造方法，其特征在于，包括如下步驟(1)確定神經(jīng)元的突觸數(shù)量；(2)構造多權值的突觸；(3)根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限；(4)根據(jù)系統(tǒng)特性和激活門限選擇激勵函數(shù)；(5)形成多權值突觸神經(jīng)元。
其中所述的構造多權值的突觸，是指在神經(jīng)元的每個輸入中，包含兩個或兩個以上可調(diào)整的權值。
其中所述的突觸函數(shù)是指突觸函數(shù)是任意的，可以根據(jù)神經(jīng)元所在具體應用的實際情況采用任意形式的函數(shù)。
其中所述的神經(jīng)元是在具體應用的實際情況采用任意形式的函數(shù)。
其中所述的突觸函數(shù)，是指每個神經(jīng)元輸入Xi、其上的各個權值Wij和最終輸入到神經(jīng)元的值Fi所形成的關系，即Fi＝F(Xi，Wi1，Wi2，...，Win)；F即為突觸函數(shù)。
圖2是多權值突觸的神經(jīng)元結構圖；圖3是本發(fā)明的流程圖；圖4是本發(fā)明實施例中的神經(jīng)元構造出的部分形體圖。
如圖2，本發(fā)明的神經(jīng)元模型如下式所示Y＝f(∑Fi-θ)其中，F(xiàn)i＝F(Xi，Wi1，Wi2，...，Wij...，Wim)Y為神經(jīng)元的輸出，Xi為神經(jīng)元的輸入，F(xiàn)為神經(jīng)元的突觸函數(shù)，Wij為神經(jīng)元第i個突觸的第j個權值，m為每個突觸的權值數(shù)目(在本方案中，m＞1)，θ為神經(jīng)元的激活門限值，f為神經(jīng)元的激勵函數(shù)。在本方案中，F(xiàn)的形式可以是任意的，既可以是連續(xù)的函數(shù)，也可以是非連續(xù)的函數(shù)。本申請專利中F函數(shù)的特點在于權值不僅僅是一個，即m＞1。
從本方案的模型可以看出，現(xiàn)有的各種神經(jīng)元模型只是本方案一個簡單的特例。依據(jù)本方案構造的多個權值突觸的神經(jīng)元比現(xiàn)有的一個權值突觸的神經(jīng)元明顯具有更廣泛的通用性、更強的功能和更大的靈活性。
請參閱圖3，本發(fā)明一種多權值突觸的神經(jīng)元構造方法，包括如下步驟1、確定神經(jīng)元的突觸數(shù)量；2、構造多權值的突觸，是指在神經(jīng)元的每個輸入中，包含兩個或兩個以上可調(diào)整的權值；3、根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限，其中所述的突觸函數(shù)是指突觸函數(shù)是任意的，可以根據(jù)神經(jīng)元所在具體應用的實際情況采用任意形式的函數(shù)；其中所述的突觸函數(shù)，是指每個神經(jīng)元輸入Xi、其上的各個權值Wij和最終輸入到神經(jīng)元的值Fi所形成的關系，即Fi＝F(Xi，Wi1，Wi2，…，Win)。F即為突觸函數(shù)；4、根據(jù)系統(tǒng)特性和激活門限選擇激勵函數(shù)；是在具體應用的實際情況采用任意形式的函數(shù)；5、形成多權值突觸神經(jīng)元，根據(jù)突觸函數(shù)、激勵函數(shù)、輸入數(shù)據(jù)以及突觸數(shù)量確定閾值θ。
權利要求
1.一種多權值突觸的神經(jīng)元構造方法，其特征在于，包括如下步驟(1)確定神經(jīng)元的突觸數(shù)量；(2)構造多權值的突觸；(3)根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限；(4)根據(jù)系統(tǒng)特性和激活門限選擇激勵函數(shù)；(5)形成多權值突觸神經(jīng)元。
2.根據(jù)專利要求1所述的多權值突觸的神經(jīng)元構造方法，其特征在于，其中所述的構造多權值的突觸，是指在神經(jīng)元的每個輸入中，包含兩個或兩個以上可調(diào)整的權值。
3.根據(jù)專利要求1所述的多權值突觸的神經(jīng)元構造方法，其特征在于，其中所述的突觸函數(shù)是指突觸函數(shù)是任意的，可以根據(jù)神經(jīng)元所在具體應用的實際情況采用任意形式的函數(shù)。
4.根據(jù)專利要求1所述的多權值突觸的神經(jīng)元構造方法，其特征在于，其中所述的神經(jīng)元是在具體應用的實際情況采用任意形式的函數(shù)。
5.根據(jù)專利要求1或3所述的多權值的神經(jīng)元構造方法，其特征在于，其中所述的突觸函數(shù)，是指每個神經(jīng)元輸入Xi、其上的各個權值Wij和最終輸入到神經(jīng)元的值Fi所形成的關系，即Fi＝F(Xi，Wil，Wi2，…，Win)；F即為突觸函數(shù)。
全文摘要
一種多權值突觸的神經(jīng)元構造方法，包括如下步驟(1)確定神經(jīng)元的突觸數(shù)量；(2)構造多權值的突觸；(3)根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限；(4)形成多權值突觸神經(jīng)元；(5)根據(jù)突觸函數(shù)、激勵函數(shù)、輸入數(shù)據(jù)以及突觸數(shù)量確定閾值。
文檔編號G06N3/06GK1464477SQ02122638
公開日2003年12月31日 申請日期2002年6月18日 優(yōu)先權日2002年6月18日
發(fā)明者王守覺, 石寅, 魯華祥, 王志海 申請人:中國科學院半導體研究所