用于對初級視皮層簡單細(xì)胞和其他神經(jīng)電路的輸入突觸進(jìn)行無監(jiān)督訓(xùn)練的方法和設(shè)備的制作方法
【專利摘要】本公開的某些方面呈現(xiàn)了一種用于對初級視皮層（V1）簡單細(xì)胞和其他神經(jīng)電路的輸入突觸進(jìn)行無監(jiān)督訓(xùn)練的技術(shù)。所提出的無監(jiān)督訓(xùn)練方法利用視網(wǎng)膜神經(jīng)節(jié)細(xì)胞（RGC）層和V1層兩者的簡單神經(jīng)元模型。該模型簡單地加總每一細(xì)胞的加權(quán)輸入，其中這些輸入可具有正值或負(fù)值。所得的輸入加權(quán)總和代表激活，這些激活也可以是正的或負(fù)的。在本公開的一方面，每一個V1細(xì)胞的各權(quán)重可取決于相對應(yīng)的RGC輸出的符號以及該V1細(xì)胞的激活的符號在增加該激活的絕對值的方向上來調(diào)節(jié)。這些RGC到V1權(quán)重可以是正的和負(fù)的以分別對ON?RGC和OFF?RGC進(jìn)行建模。
【專利說明】用于對初級視皮層簡單細(xì)胞和其他神經(jīng)電路的輸入突觸進(jìn)行無監(jiān)督訓(xùn)練的方法和設(shè)備
[0001]背景
[0002]領(lǐng)域
[0003]本公開的某些方面一般涉及神經(jīng)系統(tǒng)工程，更具體地涉及用于對初級視皮層細(xì)胞和其他神經(jīng)電路的輸入突觸進(jìn)行無監(jiān)督訓(xùn)練的方法和設(shè)備。
[0004]背景
[0005]圖像識別和運動檢測系統(tǒng)可被劃分為基于機(jī)器視覺(即，人工智能(Al))技術(shù)的系統(tǒng)以及利用視皮層技術(shù)(即，生物學(xué)似真系統(tǒng))的系統(tǒng)。機(jī)器視覺系統(tǒng)具有制定完善的訓(xùn)練方法，但具有較差的識別準(zhǔn)確性。例如，對狗與貓進(jìn)行區(qū)分對于機(jī)器視覺系統(tǒng)而言仍然是具有50/50結(jié)果的具有挑戰(zhàn)性的任務(wù)。
[0006]另一方面，生物學(xué)似真系統(tǒng)使用人類視皮層結(jié)構(gòu)。基于這些系統(tǒng)的各種方法有望比機(jī)器視覺系統(tǒng)更準(zhǔn)確。然而，用于生物學(xué)似真系統(tǒng)的、導(dǎo)致其自組織的訓(xùn)練方法并未開發(fā)健全。這是由于對視皮層組織和自訓(xùn)練方法的了解貧乏所導(dǎo)致的。
[0007]概述
[0008]本公開的某些方面提供一種電路。該電路一般包括:多個視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)電路，其中這些RGC電路中的每一個RGC電路在輸出處生成來自與該RGC電路相關(guān)聯(lián)的各受體電路的加權(quán)輸入的總和；多個初級視皮層細(xì)胞(Vl)電路，其中這些Vl電路中的每一個Vl電路生成這些RGC電路的子集的加權(quán)輸出的另一總和；以及被配置成調(diào)節(jié)對用以生成該另一總和的各輸出施加的權(quán)重的電路，其中對這些權(quán)重之一的調(diào)節(jié)基于以下各項中的至少一者:這些輸出之中被施加以該權(quán)重的一個輸出或者該另一總和。
[0009]本公開的某些方面提供一種用于實現(xiàn)神經(jīng)系統(tǒng)的方法。該方法一般包括:在該神經(jīng)系統(tǒng)中的多個視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)電路中的每一個RGC電路的輸出處，生成來自與該RGC電路相關(guān)聯(lián)的各受體電路的加權(quán)輸入的總和；由該神經(jīng)系統(tǒng)中的多個初級視皮層細(xì)胞(Vl)電路中的每一個Vl電路生成這些RGC電路的子集的加權(quán)輸出的另一總和；以及調(diào)節(jié)對用以生成該另一總和的各輸出施加的權(quán)重，其中對這些權(quán)重之一的調(diào)節(jié)基于以下各項中的至少一者:這些輸出之中被施加以該權(quán)重的一個輸出或者該另一總和。
[0010]本公開的某些方面提供了一種設(shè)備。該設(shè)備一般包括:用于在該設(shè)備中的多個視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)電路中的每一個RGC電路的輸出處生成來自與該RGC電路相關(guān)聯(lián)的各受體電路的加權(quán)輸入的總和的裝置；用于由該設(shè)備中的多個初級視皮層細(xì)胞(Vl)電路中的每一個Vl電路生成這些RGC電路的子集的加權(quán)輸出的另一總和的裝置；以及用于調(diào)節(jié)對用以生成該另一總和的各輸出施加的權(quán)重的裝置，其中對這些權(quán)重之一的調(diào)節(jié)基于以下各項中的至少一者:這些輸出中被施加以該權(quán)重的一個輸出或者該另一總和。
[0011]附圖簡要說明
[0012]為了能詳細(xì)地理解本公開的上述特征所用的方式，可以參照各方面來對以上簡要概述的內(nèi)容進(jìn)行更具體的描述，其中一些方面在附圖中解說。然而應(yīng)該注意，附圖僅解說了本公開的某些典型方面，故不應(yīng)被認(rèn)為限定其范圍，因為本描述可以允許有其他等同有效的方面。
[0013]圖1解說根據(jù)本公開的某些方面的示例神經(jīng)系統(tǒng)。
[0014]圖2解說了根據(jù)本公開的某些方面的與不同類型的視網(wǎng)膜神經(jīng)節(jié)(RG)細(xì)胞連接的受體的示例模型。
[0015]圖3解說了根據(jù)本公開的某些方面的與RG細(xì)胞連接的受體的示例模型，其中該RG細(xì)胞取決于連接該RG細(xì)胞和初級視皮層(Vl)細(xì)胞的突觸的符號而可能為ON (開)細(xì)胞或OFF (關(guān))細(xì)胞。
[0016]圖4解說了根據(jù)本公開的某些方面的在各受體與RG細(xì)胞之間的連接的示例模型以及在各RG細(xì)胞與Vl細(xì)胞之間的連接的示例模型。
[0017]圖5解說了根據(jù)本公開的某些方面的可在神經(jīng)系統(tǒng)處執(zhí)行的用于訓(xùn)練各RG細(xì)胞與Vl細(xì)胞之間突觸權(quán)重的示例操作。
[0018]圖5A解說能夠執(zhí)行圖5中解說的操作的示例組件。
[0019]詳細(xì)描述
[0020]以下參照附圖更全面地描述了本公開的各個方面。然而，本公開可用許多不同的形式實施并且不應(yīng)解釋為被限定于本公開通篇所給出的任何特定結(jié)構(gòu)或功能。確切而言，提供這些方面使得本公開將是透徹和完整的，并使得本公開將向本領(lǐng)域技術(shù)人員完全傳達(dá)本公開的范圍。基于本文中的教導(dǎo)，本領(lǐng)域的技術(shù)人員應(yīng)領(lǐng)會，本公開的范圍旨在覆蓋本文中所披露的本公開的任何方面，不論其是與本公開的任何其他方面相獨立地還是組合地實現(xiàn)的。例如，可以使用本文所闡述的任何數(shù)目的方面來實現(xiàn)裝置或?qū)嵺`方法。另外，本公開的范圍旨在覆蓋使用作為本文中所闡述的本公開的各種方面的補(bǔ)充或者與之不同的其他結(jié)構(gòu)、功能性、或者結(jié)構(gòu)及功能性來實踐的此類裝置或方法。應(yīng)當(dāng)理解，本文中所披露的本公開的任何方面可以由權(quán)利要求的一個或更多個元素來實施。
[0021]措辭“示例性”在本文中用于表示“用作示例、實例或解說”。本文中描述為“示例性”的任何方面不必被解釋為優(yōu)于或勝過其他方面。
[0022]盡管本文中描述了特定方面，但這些方面的眾多變體和置換落在本公開的范圍之內(nèi)。雖然提到了優(yōu)選方面的一些益處和優(yōu)點，但本公開的范圍并非旨在被限定于特定益處、用途或目標(biāo)。相反，本公開的各方面旨在能寬泛地應(yīng)用于不同的技術(shù)、系統(tǒng)配置、網(wǎng)絡(luò)和協(xié)議，其中一些作為示例在附圖以及以下對優(yōu)選方面的詳細(xì)描述中解說。詳細(xì)描述和附圖僅僅解說本公開而非限定本公開，本公開的范圍由所附權(quán)利要求及其等效技術(shù)方案來定義。
[0023]示例神經(jīng)系統(tǒng)
[0024]圖1解說根據(jù)本公開的某些方面的具有多級神經(jīng)元的示例神經(jīng)系統(tǒng)100。神經(jīng)系統(tǒng)100可包括神經(jīng)元級102,該級神經(jīng)元102通過突觸連接網(wǎng)絡(luò)104連接到另一級神經(jīng)元106。為簡單起見，圖1中僅解說兩級神經(jīng)元，但在典型的神經(jīng)系統(tǒng)中可以存在更多級神經(jīng)
J Li ο
[0025]如圖1所解說的，級102中的每一神經(jīng)元可以接收可由前一級(圖1中未示出)的多個神經(jīng)元所生成的輸入信號108。信號108可以表示級102的神經(jīng)元的輸入電流。該電流可以在神經(jīng)元膜上累積以對膜電位進(jìn)行充電。當(dāng)膜電位達(dá)到其閾值時，該神經(jīng)元可以激發(fā)并生成輸出尖峰，該輸出尖峰將被傳遞到下一級神經(jīng)元(例如，級106)。
[0026]尖峰從一級神經(jīng)元到另一級神經(jīng)元的傳遞可以通過突觸連接(或簡稱“突觸”)網(wǎng)絡(luò)104來實現(xiàn)，如圖1所解說的。突觸104可從級102的神經(jīng)元接收輸出信號(即，尖峰)，根
據(jù)可調(diào)節(jié)突觸權(quán)重w^+1)來縮放那些信號(其中P是級102的神經(jīng)元與級106
的神經(jīng)元之間的突觸連接的總數(shù))，并且將經(jīng)縮放的信號組合為級106中的每一個神經(jīng)元的輸入信號。級106中的每個神經(jīng)元可以基于對應(yīng)的經(jīng)組合的輸入信號來生成輸出尖峰110。隨后可以使用另一突觸連接網(wǎng)絡(luò)(圖1中未示出)將這些輸出尖峰110傳遞到另一級神經(jīng)
J Li ο
[0027]神經(jīng)系統(tǒng)100可以通過電路來仿真并且可以在大范圍的應(yīng)用中使用，諸如圖像和模式識別、機(jī)器學(xué)習(xí)、電機(jī)控制、及類似應(yīng)用等。神經(jīng)系統(tǒng)100中的每一神經(jīng)元可被實現(xiàn)為神經(jīng)元電路。被充電至發(fā)起輸出尖峰的閾值的神經(jīng)元膜可被實現(xiàn)為例如對流經(jīng)其的電流進(jìn)行積分的電容器。
[0028]在一方面，電容器作為神經(jīng)元電路的電流積分設(shè)備可以被除去，并且可以使用較小的憶阻器(memristor)元件來替代之。這種辦法可以應(yīng)用于神經(jīng)元電路中，以及其中大容量電容器被用作電流積分器的各種其他應(yīng)用中。另外，突觸104中的每一個可以基于憶阻器元件來實現(xiàn)，其中突觸權(quán)重改變可以與憶阻器電阻的變化相關(guān)。使用納米特征尺寸的憶阻器，可以顯著地減小神經(jīng)元電路和突觸的面積，這可以使得實現(xiàn)超大規(guī)模神經(jīng)系統(tǒng)硬件實現(xiàn)變得可行。
[0029]本公開提出了一種用于彩色視覺的初級視皮層(Vl)細(xì)胞和視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)的簡化結(jié)構(gòu)，其中這些Vl細(xì)胞和RGC可被實現(xiàn)為來自圖1的神經(jīng)系統(tǒng)100的神經(jīng)元電路。在本公開的一方面，RGC可與神經(jīng)元102相對應(yīng)，而Vl細(xì)胞可與神經(jīng)元106相對應(yīng)。
[0030]Vl輸入突觸(例如，神經(jīng)系統(tǒng)100的突觸104)可要求以無監(jiān)督方式被訓(xùn)練以實現(xiàn)簡單細(xì)胞涌現(xiàn)。本公開提出了 一種訓(xùn)練Vl細(xì)胞層和RGC細(xì)胞層之間的連通性的高效方法，該方法可導(dǎo)致在Vl層內(nèi)自主形成特征檢測器(簡單細(xì)胞)。所提出的辦法可使得能對圖像識別和運動檢測系統(tǒng)進(jìn)行硬件高效的且生物學(xué)似真的實現(xiàn)。
[0031]所提出的無監(jiān)督訓(xùn)練方法可對RGC層和Vl層兩者利用簡單神經(jīng)元模型。該模型簡單地加總每一細(xì)胞的加權(quán)輸入，其中這些輸入可具有正值或負(fù)值。所得的輸入加權(quán)總和被稱為激活，其中這些激活也可以是正的或負(fù)的。在本公開的一方面，每一個Vl細(xì)胞的各權(quán)重可取決于相對應(yīng)的RGC輸出的符號以及與該Vl細(xì)胞相關(guān)聯(lián)的激活的符號在增加該激活的絕對值的方向上來調(diào)節(jié)。這些Vl權(quán)重可以是正的或負(fù)的。
[0032]所提出的突觸權(quán)重訓(xùn)練方法可適于用軟件和硬件的高效實現(xiàn)。而且，該方法運行起來可比依賴于尖峰定時的可塑性(STDP)訓(xùn)練辦法快得多。
[0033]對初級視皮層細(xì)胞的輸入突觸的無監(jiān)督訓(xùn)練方法
[0034]根據(jù)某些方面，RG細(xì)胞(RGC)可被劃分為ON (開)細(xì)胞和OFF (關(guān))細(xì)胞。ON細(xì)胞可以區(qū)分比背景亮的對象。例如，外圍視覺全都基于ON細(xì)胞，從而人類能夠更好地看見暗背景上的亮點。另一方面，RG OFF細(xì)胞可區(qū)分比背景暗的對象。應(yīng)該注意，點亮包括RG ON細(xì)胞和RG OFF細(xì)胞兩者的整個感受域?qū)GC激發(fā)速率具有有限影響。
[0035]圖2解說了根據(jù)本公開的某些方面的在光受體202和RG ON細(xì)胞204之間的連接的示例模型200a以及在光受體206和RG OFF細(xì)胞208之間的連接的示例模型200b。受體電路202和206可被組織為圖像像素的正交陣列。因此，ON細(xì)胞和OFF細(xì)胞的感受域可具有矩形形狀(而非圓形)。[0036]在一方面,每一個RGC可從九個受體接收輸入,其中與各受體相關(guān)聯(lián)的輸入權(quán)重可形成拉普拉斯濾波器(即，可對來自這些受體的信號施加拉普拉斯窗函數(shù))，如圖2中所解說的。這些權(quán)重可取決于各受體是連接到ON-RG細(xì)胞還是連接到OFF-RG細(xì)胞，如模型200a和200b中所解說的。應(yīng)該注意到，圖2中所解說的RG細(xì)胞204和208可以不與巨神經(jīng)節(jié)細(xì)胞相對應(yīng)，巨神經(jīng)節(jié)細(xì)胞能夠從多得多的受體接收輸入。
[0037]在本公開的一方面，作為在RGC陣列中混合ON細(xì)胞和OFF細(xì)胞的替代，每一個RG細(xì)胞(例如，圖3中所解說的模型300中從受體302接收輸入的RG細(xì)胞304)或可為ON細(xì)胞或可為OFF細(xì)胞。這可取決于與將該RG細(xì)胞304連接到Vl簡單細(xì)胞310的突觸308相關(guān)聯(lián)的權(quán)重306的符號。
[0038]如圖3中所解說的，Vl細(xì)胞310的輸入y可通過對來自受體302的、可被輸入到RG細(xì)胞304中的輸入信號Xy施加權(quán)重w來獲得:
[0039]
【權(quán)利要求】
1.一種電路,包括: 多個視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)電路，其中所述RGC電路中的每一個RGC電路在輸出處生成來自與該RGC電路相關(guān)聯(lián)的各受體電路的加權(quán)輸入的總和； 多個初級視皮層細(xì)胞(Vl)電路，其中所述Vl電路中的每一個Vl電路生成所述RGC電路的子集的加權(quán)輸出的另一總和；以及 配置成調(diào)節(jié)對用以生成所述另一總和的輸出施加的權(quán)重的電路，其中對所述權(quán)重之一的調(diào)芐基于以下各項中的至少一者:所述輸出中被施加以該權(quán)重的一個輸出或者所述另一總和。
2.如權(quán)利要求1所述的電路，其特征在于，對該權(quán)重的調(diào)芐基于該輸出的符號以及所述另一總和的符號。
3.如權(quán)利要求1所述的電路，其特征在于，對該權(quán)重的調(diào)芐基于該輸出的符號以及所述另一總和的值。
4.如權(quán)利要求1所述的電路，其特征在于: 在該輸出和所述另一總和兩者均為正或均為負(fù)的情況下，增加該權(quán)重，以及 在該輸出的符號與所述另一總和的符號不相同的情況下，減小該權(quán)重。
5.如權(quán)利要求1所述的電路，其特征在于，在由該Vl電路生成的所述另一總和超過一閾值的情況下，該Vl電路輸出一信號。
6.如權(quán)利要求1所述的電路，其特征在于，所述電路還被配置成通過執(zhí)行二進(jìn)制移位運算來調(diào)節(jié)所述權(quán)重中的每一個權(quán)重。
7.如權(quán)利要求1所述的電路，其特征在于，來自所述各受體電路的輸入是根據(jù)拉普拉斯窗函數(shù)來加權(quán)的。
8.一種用于實現(xiàn)神經(jīng)系統(tǒng)的方法，包括: 在所述神經(jīng)系統(tǒng)中的多個視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)電路中的每一個RGC電路的輸出處，生成來自與該RGC電路相關(guān)聯(lián)的各受體電路的加權(quán)輸入的總和； 由所述神經(jīng)系統(tǒng)中的多個初級視皮層細(xì)胞(Vl)電路中的每一個Vl電路生成所述RGC電路的子集的加權(quán)輸出的另一總和；以及 調(diào)節(jié)對用以生成所述另一總和的輸出施加的權(quán)重， 其中對所述權(quán)重之一的調(diào)芐基于以下各項中的至少一者:所述輸出中被施加以該權(quán)重的一個輸出或者所述另一總和。
9.如權(quán)利要求8所述的方法，其特征在于，對該權(quán)重的調(diào)芐基于該輸出的符號以及所述另一總和的符號。
10.如權(quán)利要求8所述的方法，其特征在于，對該權(quán)重的調(diào)芐基于該輸出的符號以及所述另一總和的值。
11.如權(quán)利要求8所述的方法，其特征在于: 在該輸出以及所述另一總和兩者均為正或均為負(fù)的情況下，增加該權(quán)重，以及 在該輸出的符號與所述另一總和的符號不相同的情況下，減小該權(quán)重。
12.如權(quán)利要求8所述的方法，其特征在于，進(jìn)一步包括: 在由該Vl電路生成的所述另一總和超過一閾值的情況下，在該Vl電路的輸出處生成一信號。
13.如權(quán)利要求8所述的方法，其特征在于，調(diào)節(jié)所述權(quán)重中的每一個權(quán)重包括: 執(zhí)行二進(jìn)制移位運算。
14.如權(quán)利要求8所述的方法，其特征在于，來自所述各受體電路的輸入是根據(jù)拉普拉斯窗函數(shù)來加權(quán)的。
15.一種設(shè)備，包括: 用于在所述設(shè)備中的多個視網(wǎng)膜神經(jīng)節(jié)細(xì)胞(RGC)電路中的每一個RGC電路的輸出處生成來自與該RGC電路相關(guān)聯(lián)的各受體電路的加權(quán)輸入的總和的裝置； 用于由所述設(shè)備中的多個初級視皮層細(xì)胞(Vl)電路中的每一個Vl電路生成所述RGC電路的子集的加權(quán)輸出的另一總和的裝置；以及 用于調(diào)節(jié)對用以生成所述另一 總和的輸出施加的權(quán)重的裝置， 其中對所述權(quán)重之一的調(diào)芐基于以下各項中的至少一者:所述輸出中被施加以該權(quán)重的一個輸出或者所述另一總和。
16.如權(quán)利要求15所述的設(shè)備，其特征在于，對該權(quán)重的調(diào)芐基于該輸出的符號以及所述另一總和的符號。
17.如權(quán)利要求15所述的設(shè)備，其特征在于，對該權(quán)重的調(diào)芐基于該輸出的符號以及所述另一總和的值。
18.如權(quán)利要求15所述的設(shè)備，其特征在于: 在該輸出以及所述另一總和兩者均為正或均為負(fù)的情況下，增加該權(quán)重，以及 在該輸出的符號與所述另一總和的符號不相同的情況下，減小該權(quán)重。
19.如權(quán)利要求15所述的設(shè)備，其特征在于，還包括: 用于在由該Vl電路生成的所述另一總和超過一閾值的情況下在該Vl電路的輸出處生成一信號的裝置。
20.如權(quán)利要求15所述的設(shè)備，其特征在于，用于調(diào)節(jié)所述權(quán)重中的每一個權(quán)重的裝置包括: 用于執(zhí)行二進(jìn)制移位運算的裝置。
21.如權(quán)利要求15所述的設(shè)備，其特征在于，來自所述各受體電路的輸入是根據(jù)拉普拉斯窗函數(shù)來加權(quán)的。
【文檔編號】G06N3/063GK103548042SQ201280024956
【公開日】2014年1月29日 申請日期:2012年5月25日 優(yōu)先權(quán)日:2011年5月25日
【發(fā)明者】V·阿帕林 申請人:高通股份有限公司