專利名稱：學(xué)習(xí)設(shè)備和方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種基于通過學(xué)習(xí)獲得的數(shù)據(jù)(在下文中稱為“學(xué)習(xí)數(shù)據(jù)”)建立貝葉斯(Bayesian)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)設(shè)備以及建立該網(wǎng)絡(luò)結(jié)構(gòu)的方法。
背景技術(shù)：
最近幾年中，信息處理技術(shù)應(yīng)用的范圍已經(jīng)擴展，并且能夠根據(jù)各種環(huán)境和各種用戶操作的信息處理機制已經(jīng)變得重要。就是說，具有不確定性的處理對象(例如，可能預(yù)先沒有被假定的對象、或可能沒有被完全觀測的對象)已經(jīng)變得日益重要。因此，可以要求即使在僅不確定信息可用的情況下處理智能信息來盡可能精確地理解環(huán)境并且執(zhí)行適當(dāng)處理的機制。
由于這些需要，使用網(wǎng)絡(luò)結(jié)構(gòu)描述感興趣對象、并由觀測到的事件概率性地預(yù)測將要得知的對象的概率模型已經(jīng)引起了注意。借助有向圖在表示變量的節(jié)點之間指示起因和結(jié)果之間關(guān)系(聯(lián)系)的貝葉斯網(wǎng)絡(luò)是一種已知的典型概率模型。
Cooper，G，和Herskovits，E.，“A Bayesian method for theinduction of probabilistic networks from Data(一種從數(shù)據(jù)歸納概率網(wǎng)絡(luò)的貝葉斯方法)”，Machine Learning(機器學(xué)習(xí))，Vol.9，pp.309-347，1992。
Hongjun Zhou，Shigeyuki Sakane，“Sensor Planning forMobile Robot Localization Using Structure Learing and Inference of BayesianNetwork(使用貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)學(xué)習(xí)和推理的移動機器人定位的傳感器設(shè)計)”，Journal of the Japan Robotics Society(日本機器人學(xué)會學(xué)報)，Vol.22，No.2，pp.245-255，2004。

發(fā)明內(nèi)容
為了將貝葉斯網(wǎng)絡(luò)應(yīng)用于處理真實對象中，建立合適的模型是重要的。
在實際應(yīng)用的許多現(xiàn)有實施例中，通過利用在要處理的領(lǐng)域中精通的專家的知識和經(jīng)驗來建立模型。需要一種基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的方法。然而，基于學(xué)習(xí)數(shù)據(jù)建立網(wǎng)絡(luò)結(jié)構(gòu)是一個NP-hard(nondeterministic polynomial-hard，非確定性的多項式地難)問題。而且，可能需要確保網(wǎng)絡(luò)結(jié)構(gòu)的有向非循環(huán)性。因此，不容易建立最佳網(wǎng)絡(luò)結(jié)構(gòu)。
因此，為了實際建立一個網(wǎng)絡(luò)結(jié)構(gòu)，已經(jīng)提出使用試探法的K2算法(參見非專利文獻1)。K2算法包括步驟1)選擇對于每個節(jié)點都能是親節(jié)點的受限制的候選；2)選擇一個子節(jié)點，一個接一個地添加候選親節(jié)點，并且建立網(wǎng)絡(luò)結(jié)構(gòu)；3)如果并且只有估計值變大時，采用該節(jié)點作為親節(jié)點；以及4)如果沒有任何其它能夠作為親節(jié)點添加的節(jié)點，或者如果不能通過節(jié)點的添加使估計值增加時，處理轉(zhuǎn)向其它子節(jié)點。對每個子節(jié)點執(zhí)行上述步驟1)到步驟4)。因此，能夠建立準(zhǔn)最佳網(wǎng)絡(luò)結(jié)構(gòu)。在上述步驟1)，因為以下原因，限制能變?yōu)槊總€節(jié)點的親節(jié)點的候選。在預(yù)先設(shè)計節(jié)點之間的次序的情況下，限制尋找網(wǎng)絡(luò)結(jié)構(gòu)的范圍，因此減少計算量。而且，確保網(wǎng)絡(luò)結(jié)構(gòu)的非循環(huán)性。
雖然這個K2算法能夠在實際中建立網(wǎng)絡(luò)結(jié)構(gòu)，但也存在限制，即節(jié)點之間的次序可能基于設(shè)計者的現(xiàn)有知識而預(yù)先設(shè)計。
另一方面，也已經(jīng)提出一種在使用遺傳算法確定節(jié)點之間的次序后使用K2算法確定節(jié)點之間的連接的方法(參見非專利文獻2)。
然而，以這些相關(guān)技術(shù)算法，根據(jù)設(shè)計者設(shè)計的次序，或者根據(jù)使用遺傳算法確定的次序，通過以自下而上的方式確定節(jié)點之間的連接來建立網(wǎng)絡(luò)結(jié)構(gòu)。因此，這些算法不適用于網(wǎng)絡(luò)結(jié)構(gòu)的附加學(xué)習(xí)。另外，除了在要處理的領(lǐng)域中精通的專家之外，許多人也具有一些關(guān)于連接的知識。以相關(guān)技術(shù)算法，在網(wǎng)絡(luò)結(jié)構(gòu)中反映關(guān)于連接的現(xiàn)有知識已經(jīng)是困難的。
考慮到在相關(guān)技術(shù)方面的這樣的實際情況，當(dāng)存在NP-hard問題時，希望提供一種能夠基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)(即，次序和連接)的學(xué)習(xí)設(shè)備和方法，該學(xué)習(xí)設(shè)備和方法能夠反映關(guān)于網(wǎng)絡(luò)結(jié)構(gòu)中次序和連接的全部或者某些知識，并且允許網(wǎng)絡(luò)結(jié)構(gòu)的附加學(xué)習(xí)。
根據(jù)本發(fā)明的一個實施例，學(xué)習(xí)設(shè)備基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，在貝葉斯網(wǎng)絡(luò)中以有向圖形式代表多個節(jié)點之間的起因和結(jié)果之間的關(guān)系。學(xué)習(xí)設(shè)備包括(a)存儲學(xué)習(xí)數(shù)據(jù)的存儲裝置和(b)用于基于學(xué)習(xí)數(shù)據(jù)建立網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)裝置。學(xué)習(xí)裝置準(zhǔn)備由每個均具有基因型的個體組成的初期個體群，在該基因型中規(guī)定了節(jié)點之間的次序以及起因和結(jié)果之間的關(guān)系，基于遺傳算法在初期個體群上重復(fù)地執(zhí)行交叉和/或突變，基于學(xué)習(xí)數(shù)據(jù)為每個個體計算估計值，尋找最佳個體，并將最佳個體的表現(xiàn)型(phenotype)作為前述網(wǎng)絡(luò)結(jié)構(gòu)。
在根據(jù)上述實施例的學(xué)習(xí)設(shè)備中，基因型能夠根據(jù)規(guī)定的次序?qū)才旁诘谝环较蛏系亩鄠€節(jié)點作為親節(jié)點，將根據(jù)規(guī)定的次序安排在垂直于第一方向的第二方向上的多個節(jié)點作為子節(jié)點，并且通過在每個基因位置上的等位基因來規(guī)定相應(yīng)節(jié)點之間的起因和結(jié)果關(guān)系的存在或不存在，在該基因位置(gene loci)上親節(jié)點和子節(jié)點相互對應(yīng)。
本發(fā)明的另一個實施例是建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)方法，其中貝葉斯網(wǎng)絡(luò)以有向圖形式表示多個節(jié)點之間的起因和結(jié)果之間關(guān)系。此方法開始于準(zhǔn)備由每個均具有基因型的個體組成的初期個體群，在該基因型中規(guī)定了節(jié)點之間的次序以及起因和結(jié)果之間的關(guān)系。基于遺傳算法重復(fù)地執(zhí)行初期個體群的交叉和/或突變?；趯W(xué)習(xí)數(shù)據(jù)為每個個體計算估計值，并尋找最佳個體。將最佳個體的表現(xiàn)型作為前述網(wǎng)絡(luò)結(jié)構(gòu)。
根據(jù)本發(fā)明的實施例的學(xué)習(xí)設(shè)備和方法，當(dāng)存在NP-hard問題時能夠有效地建立準(zhǔn)最佳網(wǎng)絡(luò)結(jié)構(gòu)。而且，在初期個體群中能夠反映出設(shè)計者關(guān)于網(wǎng)絡(luò)結(jié)構(gòu)(次序和連接)的全部或者一些知識。此外，使能網(wǎng)絡(luò)結(jié)構(gòu)的附加學(xué)習(xí)。


圖1為根據(jù)本發(fā)明的一個實施例的學(xué)習(xí)設(shè)備的原理圖。
圖2是示出了當(dāng)建立貝葉斯網(wǎng)絡(luò)模型時所使用的一組學(xué)習(xí)數(shù)據(jù)條目的例子的表。
圖3A和3B是示出了一個二維基因型及其基因型的例子的示意圖。
圖4為說明使用遺傳算法尋找最佳個體的過程的流程圖。
圖5A和5B為說明用于BD度量(metric)的計算公式的示意圖。
圖6A和6B是示出了在經(jīng)典遺傳算法中次序交叉和次序突變期間產(chǎn)生的致命(lethal)基因的例子的示意圖。
圖7A和7B是示出了在親個體的次序相同時連接交叉的例子的示意圖。
圖8A和8B是示出了在親個體的次序不同時次序交叉的例子的示意圖。
圖9A和9B是示出了用于連接要突變的處理的例子的示意圖。
圖10A和10B是示出了用于次序突變的處理的例子的示意圖。
圖11A、11B和11C是示出了在次序突變處理之后執(zhí)行用于連接突變的處理的例子的示意圖。
圖12A和12B是示出了作為次序交叉處理的結(jié)果、具有一些子節(jié)點的具有起因和結(jié)果關(guān)系的親節(jié)點的數(shù)目超出上限的例子的示意圖。
圖13A和13B是示出了調(diào)整基因以防止具有起因和結(jié)果關(guān)系的親節(jié)點的數(shù)目超過上限的例子的示意圖。
圖14示出了四個有向非循環(huán)圖和在N′ijk＝1條件下計算的估計值的示意圖。
圖15A和15B是說明創(chuàng)建當(dāng)計算圖14的估計值時所用的學(xué)習(xí)數(shù)據(jù)的過程的示意圖。
圖16是示出了四個有向非循環(huán)圖和通過一個實施例的過程計算的估計值的示意圖。
圖17為說明用于獲得具體學(xué)習(xí)數(shù)據(jù)的過程的示意圖。
圖18為說明用于獲得具體學(xué)習(xí)數(shù)據(jù)的過程的示意圖。
圖19為說明用于獲得具體學(xué)習(xí)數(shù)據(jù)的過程的示意圖。
圖20為說明用于獲得具體學(xué)習(xí)數(shù)據(jù)的過程的示意圖。
圖21是示出了基于學(xué)習(xí)數(shù)據(jù)通過K2算法獲得的網(wǎng)絡(luò)結(jié)構(gòu)的示意圖。
圖22示出了使用圖21的網(wǎng)絡(luò)結(jié)構(gòu)作為初期結(jié)構(gòu)進行附加學(xué)習(xí)時的第二十代網(wǎng)絡(luò)結(jié)構(gòu)的示意圖。
圖23示出了使用圖21的網(wǎng)絡(luò)結(jié)構(gòu)作為初期結(jié)構(gòu)進行附加學(xué)習(xí)時的第四十代網(wǎng)絡(luò)結(jié)構(gòu)的示意圖。
圖24示出了使用圖21的網(wǎng)絡(luò)結(jié)構(gòu)作為初期結(jié)構(gòu)進行附加學(xué)習(xí)時的第六十代網(wǎng)絡(luò)結(jié)構(gòu)的示意圖。
圖25示出了使用圖21的網(wǎng)絡(luò)結(jié)構(gòu)作為初期結(jié)構(gòu)進行附加學(xué)習(xí)時的第八十代網(wǎng)絡(luò)結(jié)構(gòu)的示意圖。
具體實施例方式
在下文中將結(jié)合附圖具體說明本發(fā)明的具體實施例。在一個實施例中，本發(fā)明應(yīng)用于一種基于關(guān)于學(xué)習(xí)的數(shù)據(jù)(學(xué)習(xí)數(shù)據(jù))來構(gòu)建貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)設(shè)備。
首先，根據(jù)本發(fā)明實施例的學(xué)習(xí)設(shè)備的結(jié)構(gòu)在圖1中示意出來。如圖1中所示，根據(jù)本實施例的學(xué)習(xí)設(shè)備1包括學(xué)習(xí)數(shù)據(jù)存儲部分10、學(xué)習(xí)部分11和模型存儲部分12。
在建立貝葉斯網(wǎng)絡(luò)模型時使用的學(xué)習(xí)數(shù)據(jù)被存儲到學(xué)習(xí)數(shù)據(jù)存儲部分10。離散數(shù)據(jù)的全集的一個實施例在圖2中示出，其中具有從X0到X4的五個節(jié)點。在圖2中，以Xijk的形式表示學(xué)習(xí)數(shù)據(jù)的每個條目，其中i表示節(jié)點ID，j表示事件ID(即，從首先獲得的學(xué)習(xí)數(shù)據(jù)條目計數(shù)的數(shù)據(jù)條目號)，以及k表示狀態(tài)ID(即，在每個節(jié)點的狀態(tài))。那就是說，Xijk代表在節(jié)點Xi獲得的學(xué)習(xí)數(shù)據(jù)條目的狀態(tài)，并且第j個數(shù)據(jù)條目由狀態(tài)ID＝k表示。
基于存儲于學(xué)習(xí)數(shù)據(jù)存儲部分10中的學(xué)習(xí)數(shù)據(jù)，學(xué)習(xí)部分11構(gòu)建貝葉斯網(wǎng)絡(luò)模型。具體地，學(xué)習(xí)部分11通過使用遺傳算法來同時確定在構(gòu)成貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的節(jié)點間的次序以及連接二者。當(dāng)存在NP-hard問題時，遺傳算法的使用使得有效地構(gòu)建準(zhǔn)最佳網(wǎng)絡(luò)結(jié)構(gòu)成為可能。通過學(xué)習(xí)部分11建立的模型存儲于模型存儲部分12中。
由學(xué)習(xí)部分11用于構(gòu)建網(wǎng)絡(luò)結(jié)構(gòu)的處理下面具體說明。接下來，為了簡單，假定具有5個節(jié)點，從X0到X4。
根據(jù)本發(fā)明，根據(jù)如圖3A中所示的二維基因型，學(xué)習(xí)部分11表示在貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)即遺傳算法中使用的個體。在圖3A中，在行和列中的X0，X1，X2，X3和X4表示節(jié)點之間的次序。在行和列中的次序一直是同樣的。位于對角線部分以上的三角形區(qū)域中的基因位置具有等位基因“0”和“1”，該等位基因表示從親節(jié)點到子節(jié)點的連接。“0”表示在親節(jié)點和子節(jié)點之間沒有起因和結(jié)果關(guān)系。“1”表示在親節(jié)點和子節(jié)點之間存在起因和結(jié)果關(guān)系。每個對角線部分相應(yīng)于一個自循環(huán)。位于對角線部分以下的三角形區(qū)域中的基因位置具有等位基因“0”和“1”，該等位基因表示從子節(jié)點到親節(jié)點的連接。為保證網(wǎng)絡(luò)結(jié)構(gòu)的非循環(huán)性，假定位于對角線部分以下的基因沒有特性(trait)的表現(xiàn)。因此，圖3A中所示的具有二維基因型的個體具有如圖3B中所示的表現(xiàn)型。
學(xué)習(xí)部分11把許多具有這樣的二維基因型的個體作為初期個體群。使用遺傳算法在初期個體群中尋找最佳個體。個體的表現(xiàn)型被作為準(zhǔn)最佳網(wǎng)絡(luò)結(jié)構(gòu)。
在圖4的流程圖中將說明使用遺傳算法尋找最佳個體的過程。
首先，在步驟S1，學(xué)習(xí)部分11創(chuàng)建初期個體群。在這個時候，學(xué)習(xí)部分11可以隨機創(chuàng)建初期個體群。在具有關(guān)于網(wǎng)絡(luò)結(jié)構(gòu)(次序和連接)知識的設(shè)計者的情況下，通過將表現(xiàn)型轉(zhuǎn)換為二維基因型并執(zhí)行突變處理來創(chuàng)建初期個體群。后面的方法允許設(shè)計者的關(guān)于網(wǎng)絡(luò)結(jié)構(gòu)的知識全面或者部分地反映在初期個體群中。而且，學(xué)習(xí)部分11可以從由學(xué)習(xí)結(jié)果表示的個體中創(chuàng)建初期個體群。在這種情況下，使能網(wǎng)絡(luò)結(jié)構(gòu)的附加學(xué)習(xí)。
然后，在步驟S2，學(xué)習(xí)部分11基于存儲于學(xué)習(xí)數(shù)據(jù)存儲部分10中的學(xué)習(xí)數(shù)據(jù)來計算每個個體的估計值(遺傳算法中的擬合)。具體地，根據(jù)下面的公式(1)計算出BD度量(P(D|Bs))，并且計算的值的對數(shù)作為估計值。
P(D|Bs)=Πi=0n-1Πj=0qi-1Γ(N′ij)Γ(N′ij+Nij)Πk=0ri-1Γ(N′ijk+Nijk)Γ(N′ijk)---(1)]]>在這個公式(1)中，D為存儲在學(xué)習(xí)數(shù)據(jù)存儲部分10中的學(xué)習(xí)數(shù)據(jù)，Bs表示在貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)即遺傳算法中使用的個體，P(D|Bs)為在Bs條件下D的概率，Γ為伽馬(gamma)函數(shù)并且由Γ(n)＝(n-1)！給出。從(n-1)！＝n！/n，認(rèn)為0?。?！/1＝1。因此，為了方便，引入關(guān)系0?。?。而且，如圖5A中所示，令n為節(jié)點的數(shù)目。令Xi為第i個節(jié)點。令vik為Xi能夠假定的第k個值。令ri為Xi能夠假定的值(狀態(tài)的數(shù)目)的數(shù)目。如圖5B中所示，令Πi為Xi的親節(jié)點模式(pattern)。令Wij為Πi的第j個模式(能夠假定的值)。qi為Πi的模式的數(shù)目。Nijk為學(xué)習(xí)數(shù)據(jù)D中數(shù)據(jù)條目的數(shù)目，該學(xué)習(xí)數(shù)據(jù)D使Xi具有值vik并且Πi具有值wij。根據(jù)下面公式(2)計算出Nij。N′ijk和N′ij與設(shè)計者的先前知識有關(guān)并且能夠被以類似于Nijk和Nij的方式處理。它們的具體內(nèi)容將在下文中敘述。
Nij=Σk=0ri-1Nijk---(2)]]>實際上，存儲于學(xué)習(xí)數(shù)據(jù)存儲部分10中的學(xué)習(xí)數(shù)據(jù)可能具有丟失數(shù)據(jù)條目或者可能是連續(xù)數(shù)量而不是離散數(shù)據(jù)。例如，在Richard E.Neapolitan所著“LEARNING BAYESIAN NETWORKS(學(xué)習(xí)貝葉斯網(wǎng)絡(luò))”，ISBN0-13-012534-2中描述了一種應(yīng)對丟失數(shù)據(jù)條目或連續(xù)數(shù)量的方法。
接下來，在步驟S3，學(xué)習(xí)部分11作出關(guān)于結(jié)束條件是否滿足的決定。
實際上，結(jié)束條件的一個例子是代(generation)的數(shù)目已經(jīng)超過了閾值。另外一個例子是估計值變化率減小到閾值以下。如果結(jié)束條件不滿足，則控制進行到S4。如果結(jié)束條件是滿足的，則選擇產(chǎn)生最高估計值的個體，并且處理結(jié)束。
接下來，在步驟S4，學(xué)習(xí)部分11基于估計值從現(xiàn)在的個體群中選擇下一個體群。就是說，當(dāng)許可重疊時，學(xué)習(xí)部分基于估計值從現(xiàn)在的個體群中選擇希望的個體的數(shù)目。諸如旋轉(zhuǎn)輪選擇(roulette wheel selection)、聯(lián)賽選擇(tournament selection)、和精華保留(elite reservation)的在遺傳算法中通常使用的方法能被用作選擇方法。然而，作為估計值的BD度量的對數(shù)為負(fù)值，并且因此難以直接利用如旋轉(zhuǎn)輪選擇的對估計值執(zhí)行具有概率比例的選擇的方法。因此，使用玻爾茲曼分布(Boltzmann distribution將估計值)預(yù)先轉(zhuǎn)換為正值。
接下來，在步驟S5和S6，學(xué)習(xí)部分11根據(jù)希望的交叉概率來執(zhí)行包含在現(xiàn)在的個體群中的個體交叉的處理。而且，學(xué)習(xí)部分根據(jù)希望的突變率執(zhí)行突變處理。在這個交叉處理中，從兩個親個體創(chuàng)建兩個子個體。在突變處理中，從一個親個體創(chuàng)建一個子個體。同時，所創(chuàng)建的子個體可以取代親個體?？梢允棺觽€體和親個體共存。
特別地，在次序交叉的處理和次序突變的處理中，使用遺傳算法的經(jīng)典過程情況下，如圖6A和6B所示，很容易產(chǎn)生致命基因。例如，如圖6A所示，在具有次序X0、X1、X2、X3和X4的個體與具有次序X3、X1、X0、X4和X2的個體使用在第三和第四節(jié)點之間的點作為交叉點而交叉的情況下，在同一個體中存在具有相同節(jié)點ID的節(jié)點，導(dǎo)致致命基因的產(chǎn)生。而且，如圖6B所示，在執(zhí)行在具有次序X0、X1、X2、X3和X4的個體的位置X2處產(chǎn)生突變的處理從而產(chǎn)生X4的情況下，在同一個體中出現(xiàn)了具有相同節(jié)點ID的節(jié)點。這樣引起致命基因。在以這種方式很容易產(chǎn)生致命基因的情況下，學(xué)習(xí)效率低。因此，防止致命基因產(chǎn)生的框架是必須的。
當(dāng)使用遺傳算法建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)時，次序交叉或次序突變本質(zhì)上等同于旅行推銷員(travelling salesman)問題，并且已經(jīng)提出了各種方法(見，由P.Larranaga、C.Kuijpers、R.Murga和Y.Yurramendi所著“以遺傳算法尋找最佳次序來學(xué)習(xí)貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)”，IEEE Transactions on Systems，Man and Cybemetics(IEEE系統(tǒng)、人、和控制論學(xué)報)，26(4)，pp.487-493，1996)。
接下來，首先敘述當(dāng)發(fā)生具體例子時在步驟S5的交叉處理。
在圖7A和7B中示出了在親個體具有相同次序的情況下交叉處理的例子。在這個交叉處理中，僅處理連接。如圖7A所示，關(guān)于具有次序X0、X1、X2、X3和X4的兩個親個體，第三和第四節(jié)點之間的點作為交叉點。后面的基因進行交換。結(jié)果，獲得了如圖7B中所示的子個體。如從圖7B中能夠看到的，親個體的連接遺傳地傳給子個體。
在圖8A和8B中示出了在親個體具有不同次序的情況下次序交叉處理的例子。對于次序交叉的處理，例如，可以使用PMX(部分映射交叉)。在此PMX中，1)隨機選擇兩個交叉點，2)在兩個交叉點之間的節(jié)點互換，3)如果每個節(jié)點在個體內(nèi)都沒有被使用(3-1)，那么該節(jié)點被無損地(intact)使用，如果該節(jié)點已經(jīng)被使用(3-2)，那么它與這樣的節(jié)點交換，從該節(jié)點將要映射未交換的節(jié)點，如果該節(jié)點也已經(jīng)被使用了(3-3)，則該節(jié)點與這樣的節(jié)點交換，從該節(jié)點將要映射未交換的節(jié)點。此時，已交換節(jié)點繼承與親節(jié)點或親節(jié)點本身的子節(jié)點的連接。如圖8A所示，關(guān)于具有次序X0、X1、X2、X3和X4的親個體和具有次序X2、X0、X4、X3和X1的另一個親個體，如果分別在第二和第三節(jié)點之間和在第四和第五節(jié)點之間的交叉點之間的節(jié)點根據(jù)PMX方法互換，則獲得如圖8B所示的子個體。如能從圖8B看出的，親個體的次序和連接已經(jīng)遺傳地傳給子個體。
在親個體具有與圖7A中所示相同的次序的情況下，如果根據(jù)PMX過程執(zhí)行次序交叉，那么獲得如圖7B中的相同的子個體。那就是，圖7A和7B中所示的連接交叉的處理是次序交叉處理中的具體情況(即，親個體具有相同的次序)。僅當(dāng)執(zhí)行用于次序交叉的處理時，也執(zhí)行用于連接交叉的處理。
接下來，采用具體例子描述在步驟S6中的突變處理。
圖9A和9B中示出了用于連接突變的處理的例子。通過將位于任意基因位置的基因反轉(zhuǎn)到等位基因來實現(xiàn)此用于連接突變的處理。如圖9A中所示，關(guān)于具有次序X0、X1、X2、X3和X4的親個體，如果在親節(jié)點為X3且子節(jié)點為X1的情況下的基因位置處的基因“0”反轉(zhuǎn)到等位基因“1”，并且如果在親節(jié)點為X4且子節(jié)點為X0的情況下的基因位置處的基因“1”反轉(zhuǎn)到等位基因“0”，那么獲得如圖9B中所示的子個體。
圖10A和10B中示出了用于次序突變處理的例子。例如，反轉(zhuǎn)突變(IVM)可以用于次序突變的處理。此反轉(zhuǎn)突變(IVM)包括1)隨機選擇多個相繼連續(xù)的節(jié)點并且去除它們，并且2)反轉(zhuǎn)去除的節(jié)點的次序并且將次序插入到隨機位置。如圖10A中所示，關(guān)于具有次序X0、X1、X2、X3和X4的親個體，選擇并去除兩個相繼連續(xù)的節(jié)點X2和X3。它們的次序被反轉(zhuǎn)。如果然后在X4之后插入次序，那么獲得如圖10B中所示的子個體。
由于圖9A和9B中所示的用于連接突變的處理和圖10A和10B中所示的用于次序突變的處理的相互獨立的，這兩種類型的處理都能夠執(zhí)行。然而，根據(jù)首先執(zhí)行的一種處理類型，獲得的子個體不同。圖11A-11C中示出了在執(zhí)行次序突變的處理之后執(zhí)行連接突變的處理的例子。如圖11A中所示，關(guān)于具有次序X0、X1、X2、X3和X4的親個體，選擇并去除兩個相繼連續(xù)的節(jié)點X2和X3。它們的次序被反轉(zhuǎn)并且然后在X4之后插入。那就是，執(zhí)行用于次序突變的處理。結(jié)果，獲得如圖11B中所示的個體。而且，關(guān)于這個個體，在親節(jié)點為X3且子節(jié)點為X1情況下的基因位置處的基因“0”反轉(zhuǎn)到等位基因“1”。在親節(jié)點為X4且子節(jié)點為X0的情況下的基因位置處的基因“1”反轉(zhuǎn)到等位基因“0”。那就是，執(zhí)行用于連接突變的處理。結(jié)果，獲得了如圖11C所示的個體。
回頭參考附圖4，在步驟S7限制親節(jié)點的數(shù)目，然后處理跳回步驟S2。那就是，對于每個個體的每個子節(jié)點，關(guān)于具有與其自身的起因和結(jié)果關(guān)系的親節(jié)點(FanIn)的數(shù)目，預(yù)先設(shè)置上限(MaxFanIn)。如果作為在步驟S5和S6的用于交叉的處理和用于突變的處理的結(jié)果，與任意子節(jié)點具有起因和結(jié)果關(guān)系的親節(jié)點的數(shù)目超出了上限，則基因因此調(diào)整為保持關(guān)系FanIn≤MaxFanIn。如圖12A、12B、13A和13B中所示的例子，其中親節(jié)點的數(shù)目以這種方式得到限制。如圖12A所示，關(guān)于具有次序X0、X1、X2、X3和X4的親個體和另一個具有次序X2、X0、X4、X3和X1的親個體，如果分別在位于第二和第三節(jié)點之間和位于第四和第五節(jié)點之間的交叉點之間的節(jié)點根據(jù)PMX過程互換，則獲得如圖12B中所示的子個體。在這個圖中，關(guān)于在左側(cè)的子個體，與子節(jié)點X0具有起因和結(jié)果關(guān)系的親節(jié)點(FanIn)的數(shù)目為4，超過了上限(MaxFanIn)3。因此，通過在圖13A中所示的個體中選擇親節(jié)點為X3且子節(jié)點為X0的基因位置處的基因“1”，并將所選擇的基因“1”反轉(zhuǎn)到等位基因“0”，來產(chǎn)生如圖13B中所示的個體，以實現(xiàn)FanIn≤MaxFanIn的關(guān)系。
當(dāng)基因被反轉(zhuǎn)為它們的等位基因時，就實現(xiàn)了FanIn≤MaxFanIn的關(guān)系，所反轉(zhuǎn)的基因可以是隨機選擇的。選擇也可以使得個體的估計值變得最大。在后面的情況中，可能需要計算關(guān)于具有其親節(jié)點數(shù)目超過上限的子節(jié)點的個體的估計值。關(guān)于這個個體，可以不需要在步驟S2計算該估計值。能夠利用在步驟S7中計算的估計值。
這樣，根據(jù)本實施例的學(xué)習(xí)設(shè)備1，根據(jù)二維基因型，通過表示貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)(次序和連接)(即，在遺傳算法中使用的個體)，將一定數(shù)目的具有二維基因型的個體作為初期個體群，使用遺傳算法尋找初期個體群中的最佳個體，并將個體的表現(xiàn)型作為貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，可以建立對NP-hard問題有效的準(zhǔn)最佳網(wǎng)絡(luò)結(jié)構(gòu)。
而且，通過將表現(xiàn)型轉(zhuǎn)換為二維基因型，并且在設(shè)計者具有關(guān)于網(wǎng)絡(luò)結(jié)構(gòu)(次序和連接)的知識的情況下執(zhí)行突變處理，學(xué)習(xí)設(shè)備1使得可以全部或部分反映設(shè)計者關(guān)于在初期個體群中網(wǎng)絡(luò)結(jié)構(gòu)的知識。在希望在一些節(jié)點固定次序和連接的情況下，不同于固定次序和連接的具有二維基因型的個體被認(rèn)為是致命基因并在上面的步驟S4從選擇對象中去除。
此外，通過從作為學(xué)習(xí)結(jié)果而獲得的個體中創(chuàng)建初期個體群，學(xué)習(xí)設(shè)備1能夠進行網(wǎng)絡(luò)結(jié)構(gòu)的附加學(xué)習(xí)。
在圖4中的流程說明圖的敘述中，學(xué)習(xí)設(shè)備11執(zhí)行交叉處理和突變處理。也可以執(zhí)行兩種類型的處理中的僅一種。
如公式(1)中所示，BD度量主要由(i)由網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)數(shù)據(jù)確定的Nijk和(ii)由設(shè)計者的現(xiàn)有知識確定的N′ijk組成。通常，在設(shè)計者的現(xiàn)有知識能針對關(guān)于某節(jié)點Xi和諸如p(vik，wij)的它們的親節(jié)點的所有i′s和j′s而定義的情況下，則根據(jù)隨后的公式(3)計算出N′ijk。在公式(3)中，N′為等同樣本大小(equivalent sample size)，并且是假定多少數(shù)目的樣本用于代表從現(xiàn)有知識中獲得的信息的參數(shù)。
N′ijk＝p(vik，wij)×N′(3)在設(shè)計者具有關(guān)于網(wǎng)絡(luò)結(jié)構(gòu)的現(xiàn)有知識的情況下，設(shè)計者的現(xiàn)有知識能夠通過把以這種方式計算出的N′ijk代入上述公式(1)中而反映。
同時，在設(shè)計者不具有這樣的現(xiàn)有知識的情況下，一般在N′ijk＝1的條件下計算BD度量。在N′ijk＝1的條件下計算的BD度量特別被稱為K2度量。
然而，在以此方式假定N′ijk＝1的情況下，如果有向非循環(huán)圖(DAG)屬于導(dǎo)致相同推論結(jié)果的相同的馬爾可夫(Morkov)等同類，那么有向非循環(huán)圖的計算出的BD度量值也可能不同。
作為一個例子，現(xiàn)在考慮如圖14中所示的陰天、灑水裝置、下雨和濕草四個節(jié)點組成的網(wǎng)絡(luò)結(jié)構(gòu)。
在圖14中所示的有向非循環(huán)圖(DAG)中，G1到G3具有相同的鏈接并且具有相同的非耦接的頭頭相遇(uncoupled head-to-head meeting)(灑水裝置→濕草←下雨)，并且因此，這三個圖能夠以相同的DAG模式gp表示出。然而，G4具有與G1到G3相同的鏈接，但是具有另外的非耦接的頭頭相遇(灑水裝置→陰天←下雨)并且因此不能以DAG模式gp表示。在圖14中還示出了當(dāng)向四個DAG給出一些學(xué)習(xí)數(shù)據(jù)時，在N′ijk＝1條件下計算出的估計值(BD度量的對數(shù))。
如圖15A中所示，以在下面使用具有條件概率表(CPT)的DAG的方式來創(chuàng)建學(xué)習(xí)數(shù)據(jù)。那就是，在作為親子關(guān)系的最高等級節(jié)點的陰天上，基于條件概率表，首先概率性確定該節(jié)點是真還是假?，F(xiàn)在假定陰天＝真。在作為陰天的子節(jié)點的灑水裝置和下雨中的每個，然后基于在親條件下的條件概率表，概率性地作出關(guān)于該節(jié)點是真還是假的結(jié)論。在此假定灑水裝置＝假并且下雨＝真。則在作為灑水裝置和下雨的子節(jié)點的濕草，基于在親條件下的條件概率表，概率性地確定該節(jié)點是真還是假。這樣，則創(chuàng)建了關(guān)于一個事件的學(xué)習(xí)數(shù)據(jù)。如圖15B中所示，類似地創(chuàng)建了關(guān)于1000個事件的學(xué)習(xí)數(shù)據(jù)。
如圖14中所示，其中作出N′ijk＝1的假定，G1和G3的估計值與G2的估計值不同。在以此方式假定N′ijk＝1的情況下，應(yīng)該產(chǎn)生相同估計值、并且屬于相同Markov等式類的DAG，即能夠以相同DAG模式表示的DAG，可以產(chǎn)生不同的BD度量的計算值。
因此，當(dāng)如上所述將BD度量的對數(shù)作為估計值并且基于該估計值尋找最佳網(wǎng)絡(luò)結(jié)構(gòu)時，假定N′ijk＝1是不合適的。
因此，在本實施例中，如下確定N′ijk，使屬于相同Markov等式類的DAG產(chǎn)生相同的BD度量的計算值。
首先，在第一方法中，在節(jié)點Xi的狀態(tài)的數(shù)目設(shè)為ri。根據(jù)下面的公式(4)計算所有的它們各自的連接概率分布p(X0，X1，......，Xn-1)。
p(x0,x1,Λxn-1)=1/Πi=0n-1ri---(4)]]>同時發(fā)生頻率c(X0，X1，......，Xn-1)全部設(shè)為1，使現(xiàn)有知識的影響最小化。在這種狀態(tài)下，由下面給出的公式(5)確定N′ijk。
Nijk'=(Πi=0n-1ri)/riqi---(5)]]>在這個第一方法中，N′ijk的值隨著節(jié)點n的數(shù)目的增大和狀態(tài)ri的數(shù)目的增大而增大。因此，存在學(xué)習(xí)數(shù)據(jù)的影響Nijk變得比現(xiàn)有知識的影響N′ijk的小的可能性。因此，在第二方法中，N′ijk＝0的關(guān)系被引入以消除現(xiàn)有知識的影響。
關(guān)于如圖14中所示的四個DAG，圖16示出由第一和第二方法確定的N′ijk來計算估計值。如圖16中所示，在由第一和第二方法確定N′ijk的情況下，G1到G3的估計值全部相同。
下面描述一種具體實施例。在這個實施例中，假定通過安裝到電視接收器(下文中縮寫為TV接收器)的攝像機來觀察用戶從而推斷用戶行為的貝葉斯網(wǎng)絡(luò)模型。根據(jù)以前準(zhǔn)備的學(xué)習(xí)數(shù)據(jù)來構(gòu)建網(wǎng)絡(luò)結(jié)構(gòu)。
學(xué)習(xí)數(shù)據(jù)已經(jīng)以下面所述的方式準(zhǔn)備好。
首先，在TV接收器前進行操作的使用者的照片由攝像機提取。從輸入的圖像，如圖17-20中所示已經(jīng)認(rèn)知四種類型的參數(shù)((1)FaceDir(FaceDirection)臉部的方向；(2)FacePlace臉部的位置；(3)FaceSize臉部的大??；和(4)OptiFlow(OpticalFlowDirection)用戶的運動)。關(guān)于臉部的方向(FaceDir)，如圖17中所示，每個輸入圖像在上下方向被分成3段并且在左右方向被分為5段。假設(shè)用戶的臉部在中心位置?？偣泊嬖?6個狀態(tài)。那就是，該臉部定向于15個區(qū)域中的任意一個。在第16狀態(tài)，在輸入的圖像中不存在用戶的臉部。
關(guān)于臉部的位置(FacePlace)，分類由所有學(xué)習(xí)數(shù)據(jù)指示的關(guān)于臉部位置的信息，例如，如圖18中所示采用矢量量化過程?？偣伯a(chǎn)生10個狀態(tài)。那就是，判定用戶的臉部存在于9個區(qū)域中的任意一個。在第10狀態(tài)，用戶的臉部不存在于輸入圖像中。
關(guān)于臉部的大小(FaceSize)，總共產(chǎn)生5個狀態(tài)。那就是，判定用戶臉部的大小最接近于如圖19中所示的4個大小中的任意一個。在第5狀態(tài)，判定用戶的臉部不存在于輸入圖像中。關(guān)于用戶的運動(OptiFlow)，總共產(chǎn)生9個狀態(tài)。那就是，判定用戶的運動方向最接近于如圖20中所示的8個方向中的任意一個。在第9狀態(tài)，在輸入圖像中沒有發(fā)現(xiàn)任何運動。
以下面的四種方式來標(biāo)記認(rèn)知的結(jié)果(1)Channel(通信信道)用戶是否面對TV接收器。
(2)ComSignal(通信信號)用戶是否正在操作TV接收器。
(3)UserGoalTV用戶是否意識到TV接收器。
(4)UserPresence用戶是否出現(xiàn)在TV接收器之前。所有的標(biāo)記結(jié)果均由二元化形式是或否來表示。
而且，為了處理動態(tài)事件，討論上述認(rèn)知結(jié)果以及標(biāo)記操作發(fā)生的時序。在某時刻發(fā)生的數(shù)據(jù)條目加后綴“＿t＿0”。一個時間單位(tick)之前發(fā)生的數(shù)據(jù)條目加后綴“_t_1”。兩個時間單位之前發(fā)生的數(shù)據(jù)條目加后綴“_t_2”。表示的一個例子為“FacePlace_ t_0”。
在四種認(rèn)知結(jié)果和四種標(biāo)記每個用于3個時間單位的情況下，節(jié)點的數(shù)目是24。假定時間單位間隔為1秒，從大約90分鐘的運動圖片序列(30幀/秒)已經(jīng)準(zhǔn)備關(guān)于165,000個事件的學(xué)習(xí)數(shù)據(jù)。
基于如圖21中所示的學(xué)習(xí)數(shù)據(jù)，使用K2算法建立網(wǎng)絡(luò)結(jié)構(gòu)。在這個時候，在節(jié)點之間的次序設(shè)置如下FacePlace_t_0，F(xiàn)aceSize_t_0，F(xiàn)aceDir_t_0，OptiFlow_t_0，Channel_t_0，ComSignal_t_0，UserGoalTV_t_0，UserPresence_t_0，F(xiàn)acePlace_t_1FaceSize_t_1，F(xiàn)aceDir_t_1，OptiFlow_t_1，Channel_t_1，ComSignal_t_1，UserGoalTV_t_1，UserPresence_t_1，F(xiàn)acePlace_t_2，F(xiàn)aceSize_t_2，F(xiàn)aceDir_t_2，OptiFlow_t_2，Channel_t_2，ComSignal_t_2，UserGoalTV_t_2，UserPresence_t_2。
在本實施例中，使用圖21中所示的網(wǎng)絡(luò)結(jié)構(gòu)作為初始結(jié)構(gòu)、并且基于與前述學(xué)習(xí)數(shù)據(jù)相同的學(xué)習(xí)數(shù)據(jù)，進行網(wǎng)絡(luò)結(jié)構(gòu)的附加學(xué)習(xí)。圖22-25中所示為在學(xué)習(xí)處理期間的網(wǎng)絡(luò)結(jié)構(gòu)變化，分別示出了第20代、第40代、第60代和第80代的網(wǎng)絡(luò)結(jié)構(gòu)。從圖21-25能夠看出，隨著重復(fù)代改變，精華個體的估計值(BD度量的對數(shù))增加。從第80代到第200代估計值不改變。因此，可以說在大約第80代達到收斂并且建立準(zhǔn)最佳網(wǎng)絡(luò)結(jié)構(gòu)。在節(jié)點之間的最終次序如下
FaceDir_t_0，F(xiàn)aceSize_t_0，F(xiàn)acePlace_t_0，Channel_t_0，OptiFlow_t_0，UserPresence_t_0，F(xiàn)aceDir_t_1，UserGoalTV_t_0，F(xiàn)aceSize_t_1，F(xiàn)acePlace_t_1，ComSignal_t_1，Channel_t_2，Channel_t_1，ComSignal_t_0，OptiFlow_t_1，F(xiàn)aceSize_t_2，F(xiàn)aceDir_t_2，F(xiàn)acePlace_t_2，ComSignal_t_2，OptiFlow_t_2，UserGoalTV_t_1，UserGoalTV_t_2，UserPresence_t_1，UserPresence_t_2。
盡管到目前為止已經(jīng)描述了實施本發(fā)明的最佳模式，但本發(fā)明不限于上述的實施例。當(dāng)然，在不偏離權(quán)利要求所描繪的本發(fā)明的范圍的情況下，能夠作出各種修改。
相關(guān)申請的交叉參考本發(fā)明包含分別于2005年10月31日和2006年4月19日向日本專利局提交的日本專利申請JP2005-317031和JP2006-116038的相關(guān)主題，在此并入上述申請的全文作為引用。
權(quán)利要求
1.一種學(xué)習(xí)設(shè)備，用于基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，在貝葉斯網(wǎng)絡(luò)中由有向圖代表多個節(jié)點之間的起因和結(jié)果之間的關(guān)系，所述學(xué)習(xí)設(shè)備包括存儲裝置，存儲學(xué)習(xí)數(shù)據(jù)；以及學(xué)習(xí)裝置，用于基于學(xué)習(xí)數(shù)據(jù)建立網(wǎng)絡(luò)結(jié)構(gòu)；其中，所述學(xué)習(xí)裝置準(zhǔn)備由每個均具有基因型的個體組成的初期個體群，在該基因型中規(guī)定了節(jié)點之間的次序以及起因和結(jié)果之間的關(guān)系，基于遺傳算法在初期個體群上重復(fù)地執(zhí)行交叉和/或突變處理，基于學(xué)習(xí)數(shù)據(jù)計算每個個體的估計值，尋找最佳的一個個體，并將該最佳個體的表現(xiàn)型作為網(wǎng)絡(luò)結(jié)構(gòu)。
2.如權(quán)利要求1所述的學(xué)習(xí)設(shè)備，其中，所述基因型根據(jù)規(guī)定的次序?qū)才旁诘谝环较蛏系亩鄠€節(jié)點作為親節(jié)點，將根據(jù)規(guī)定的次序安排在垂直于第一方向的第二方向上的多個節(jié)點作為子節(jié)點，并且通過在每個基因位置上的等位基因來規(guī)定相應(yīng)節(jié)點之間的起因和結(jié)果關(guān)系的存在或不存在，在該基因位置上每個親節(jié)點和每個子節(jié)點相互對應(yīng)。
3.如權(quán)利要求2所述的學(xué)習(xí)設(shè)備，其中，在子節(jié)點具有對于或高于親節(jié)點次序的次序的基因位置處的基因顯示沒有特征的表現(xiàn)。
4.如權(quán)利要求2所述的學(xué)習(xí)設(shè)備，其中，在與任意子節(jié)點具有起因和結(jié)果關(guān)系的親節(jié)點的數(shù)目超過給定數(shù)目的情況下，所述學(xué)習(xí)裝置將與該子節(jié)點相關(guān)聯(lián)的至少一個基因位置上的基因反轉(zhuǎn)為其等位基因，使與子節(jié)點具有起因和結(jié)果關(guān)系的親節(jié)點的數(shù)目變得比給定數(shù)目小。
5.如權(quán)利要求1所述的學(xué)習(xí)設(shè)備，其中，所述初期個體群反映設(shè)計者的全部或者一些現(xiàn)有知識。
6.如權(quán)利要求1所述的學(xué)習(xí)設(shè)備，其中，所述初期個體群基于作為學(xué)習(xí)結(jié)果而獲得的個體。
7.如權(quán)利要求1所述的學(xué)習(xí)設(shè)備，其中，所述估計值為BD度量的對數(shù)，并且其中，當(dāng)n個節(jié)點中的第i個節(jié)點作為子節(jié)點Xi時，子節(jié)點Xi能從vi0到viri-1假定ri值，并且與子節(jié)點Xi具有起因和結(jié)果關(guān)系的所有親節(jié)點能夠假定的值的模式數(shù)目為qi，如果子節(jié)點Xi的值為vik并且產(chǎn)生數(shù)據(jù)，其中與子節(jié)點Xi具有起因和結(jié)果關(guān)系的所有親節(jié)點的值假定第j模式，則根據(jù)下面的公式計算出在獲取學(xué)習(xí)數(shù)據(jù)之前預(yù)期的次數(shù)N′ijkN'ijk=(Πi=0n-1ri)/riqi.]]>
8.如權(quán)利要求1所述的學(xué)習(xí)設(shè)備，其中，所述估計值為BD度量的對數(shù)，并且其中，當(dāng)n個節(jié)點中的第i節(jié)點作為子節(jié)點Xi時，子節(jié)點Xi能從vi0到viri-1假定ri值，并且與子節(jié)點Xi具有起因和結(jié)果關(guān)系的所有親節(jié)點能夠假定的值的模式的數(shù)目為qi，如果子節(jié)點Xi的值為vik并且產(chǎn)生數(shù)據(jù)，其中在與子節(jié)點Xi具有起因和結(jié)果關(guān)系的所有親節(jié)點的值假定為第j模式，則在學(xué)習(xí)數(shù)據(jù)獲取之前預(yù)期的次數(shù)N′ijk被設(shè)置為等于零(N′ijk＝0)。
9.一種基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)方法，在所述貝葉斯網(wǎng)絡(luò)中，由有向圖表示在多個節(jié)點之間的起因和結(jié)果之間關(guān)系，此學(xué)習(xí)方法包括步驟準(zhǔn)備由每個均具有基因型的個體組成的初期個體群，在所述基因型中規(guī)定了在多個節(jié)點之間的次序以及起因和結(jié)果之間的關(guān)系；基于遺傳算法在初期個體群上重復(fù)執(zhí)行交叉和/或突變的處理；基于學(xué)習(xí)數(shù)據(jù)計算每個個體的估計值；尋找個體中的最佳一個；以及將該最佳個體的表現(xiàn)型作為網(wǎng)絡(luò)結(jié)構(gòu)。
10.一種學(xué)習(xí)設(shè)備，用于基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，在所述貝葉斯網(wǎng)絡(luò)中，通過有向圖表示在多個節(jié)點之間的起因和結(jié)果之間的關(guān)系，所述學(xué)習(xí)設(shè)備包括存儲部分，存儲學(xué)習(xí)數(shù)據(jù)；以及學(xué)習(xí)部分，可操作為基于學(xué)習(xí)數(shù)據(jù)建立網(wǎng)絡(luò)結(jié)構(gòu)；其中，所述學(xué)習(xí)部分準(zhǔn)備由每個均具有基因型的個體組成的初期個體群，在所述基因型中規(guī)定了節(jié)點之間的次序以及起因和結(jié)果之間的關(guān)系，基于遺傳算法在初期個體群上重復(fù)執(zhí)行交叉和/或突變處理，基于學(xué)習(xí)數(shù)據(jù)計算每個個體的估計值，尋找個體中的最佳一個，以及將最佳個體的表現(xiàn)型作為網(wǎng)絡(luò)結(jié)構(gòu)。
全文摘要
一種基于學(xué)習(xí)數(shù)據(jù)建立貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)設(shè)備。在貝葉斯網(wǎng)絡(luò)中，通過有向圖來表示在多個節(jié)點之間的起因與結(jié)果之間的關(guān)系。學(xué)習(xí)設(shè)備包括存儲學(xué)習(xí)數(shù)據(jù)的存儲部分和基于學(xué)習(xí)數(shù)據(jù)建立網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)部分。學(xué)習(xí)部分準(zhǔn)備由每個具有其中規(guī)定了節(jié)點間次序以及起因和結(jié)果之間的關(guān)系的基因型的個體形成的初期個體群，基于遺傳算法在初期個體群中重復(fù)執(zhí)行交叉處理和/或突變處理，基于學(xué)習(xí)數(shù)據(jù)計算每個個體的估計值，尋找個體中的最佳一個，并且將最佳個體的表現(xiàn)型作為網(wǎng)絡(luò)結(jié)構(gòu)。
文檔編號G06F15/18GK1983308SQ20061006391
公開日2007年6月20日 申請日期2006年10月31日 優(yōu)先權(quán)日2005年10月31日
發(fā)明者澤田務(wù) 申請人:索尼株式會社