專利名稱：基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種圖像處理技術(shù)領(lǐng)域的方法，具體是一種基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法?？捎糜谝曨l監(jiān)控系統(tǒng)、自動門衛(wèi)系統(tǒng)、軍事目標(biāo)跟蹤識別系統(tǒng)等各類民用及軍用系統(tǒng)中。
背景技術(shù)：
人臉識別技術(shù)已經(jīng)成為當(dāng)今研究的熱點(diǎn)。該項(xiàng)技術(shù)已成功應(yīng)用于身份鑒別、人機(jī)界面、自動取款機(jī)、視頻監(jiān)控等領(lǐng)域。目前人臉識別的難點(diǎn)主要是人臉在發(fā)生光照、膚色、表情、姿態(tài)等變化情況下，識別精度比較低。
作為人臉識別關(guān)鍵環(huán)節(jié)之一的特征提取方法，就是將原始的高維數(shù)據(jù)映射到一個低維的特征空間。該技術(shù)已經(jīng)成為機(jī)器學(xué)習(xí)和模式識別的一個研究熱點(diǎn)。常用的特征提取方法可分為兩類基于全局幾何結(jié)構(gòu)的分析方法和基于局部結(jié)構(gòu)信息的分析方法。在基于全局幾何結(jié)構(gòu)的分析法中，主成分分析方法(PCA)是一種經(jīng)典的特征提取和數(shù)據(jù)表出技術(shù)，它保留了原始數(shù)據(jù)空間的全局結(jié)構(gòu)，而且投影矩陣任意兩個互異的基向量是統(tǒng)計不相關(guān)且正交的。不相關(guān)和正交性是模式識別中兩個非常重要的特性。不相關(guān)能使數(shù)據(jù)具有最小的冗余，而正交性可以保持人臉空間的度量結(jié)構(gòu)，實(shí)現(xiàn)原始數(shù)據(jù)的重構(gòu)。局部保留映射方法(LPP)基于數(shù)據(jù)的局部結(jié)構(gòu)分析，是最近發(fā)展的一種線性的特征提取方法，算法簡單且易于實(shí)現(xiàn)。局部保留映射方法只保留原始數(shù)據(jù)空間的局部信息，而在人臉識別中，局部信息起到了非常重要的作用。
經(jīng)對現(xiàn)有技術(shù)文獻(xiàn)的檢索發(fā)現(xiàn)，X.He等人在《IEEE Trans.on PatternAnalysis and Machine Intelligence》(模式分析與機(jī)器智能IEEE雜志，2005，vol.27，no.3，pp.328-340)上發(fā)表“Face Recognition Using Laplacianfaces”(基于拉普拉斯臉的人臉識別方法)。該文首先提出了利用局部保留映射的特征提取方法進(jìn)行人臉識別。文章通過實(shí)驗(yàn)說明，該方法能夠得到優(yōu)于主成分分析的識別結(jié)果。但是，局部保留映射方法的投影矩陣基向量是統(tǒng)計相關(guān)和非正交的，因此提取的特征含有冗余，交迭的信息會導(dǎo)致特征的實(shí)際分布發(fā)生歪曲，而且非正交的特征也不利于原始數(shù)據(jù)的重構(gòu)，這兩個缺點(diǎn)嚴(yán)重影響了局部保留映射算法的性能。迄今為止，還沒有人提出能夠同時滿足統(tǒng)計不相關(guān)和正交特性的局部保留映射方法。

發(fā)明內(nèi)容
本發(fā)明的目的在于克服現(xiàn)有局部保留映射方法的不足，提供一種基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法，使其用于人臉識別，能夠提高人臉識別的精度。
本發(fā)明是通過以下技術(shù)方案實(shí)現(xiàn)的，本發(fā)明建立一個連接圖，得到任意兩個節(jié)點(diǎn)的相似性，在相似性中按照最近鄰原則，確定所有節(jié)點(diǎn)的鄰接點(diǎn)，得到輸入數(shù)據(jù)的相似矩陣，并計算出對角矩陣和拉普拉斯矩陣；再將這一相似矩陣應(yīng)用到局部保留映射方法中，加入統(tǒng)計不相關(guān)和正交兩個約束條件，采用迭代算法，根據(jù)特征值問題求出不相關(guān)且正交的投影矩陣，得到訓(xùn)練投影系數(shù)矩陣和測試投影系數(shù)矩陣，最后進(jìn)行識別。由于人臉圖像是稀疏超高維向量，其維數(shù)遠(yuǎn)遠(yuǎn)高于人臉的圖片數(shù)，為保證數(shù)據(jù)矩陣非奇異，在上述技術(shù)方案前還必須對輸入數(shù)據(jù)先進(jìn)行主成分分析。本發(fā)明應(yīng)用到FERET/ORL數(shù)據(jù)庫中，獲得了比其它幾種特征提取算法(主成分分析法、局部保留映射法、不相關(guān)的局部保留映射法、正交拉普拉斯臉?biāo)惴?更好的識別性能。
以下對本發(fā)明方法作進(jìn)一步的說明，具體步驟如下第一步，主成分分析將每張人臉圖像表示為一個列向量，組成訓(xùn)練樣本集，計算訓(xùn)練樣本集的協(xié)方差矩陣的特征值，并選取大的特征值對應(yīng)的特征向量作為基向量，從而構(gòu)成主成分分析的投影矩陣；第二步，相似矩陣確定建立一個連接圖，使得屬于同一類的節(jié)點(diǎn)完全連接，得到任意兩個節(jié)點(diǎn)的相似性，再根據(jù)最近鄰原則，求出輸入節(jié)點(diǎn)的相似矩陣，并由這一相似矩陣推出對角矩陣和拉普拉斯矩陣；第三步，統(tǒng)計不相關(guān)且正交的局部保留映射投影矩陣確定根據(jù)第二步中得到的相似矩陣，再根據(jù)局部保留映射的思想，并加入統(tǒng)計不相關(guān)和正交兩個約束條件，采用迭代算法，解特征值問題求出投影矩陣，最后再將此投影矩陣與第一步中得到的主成分分析投影矩陣相乘，求出不相關(guān)且正交的局部保留映射投影矩陣；
第四步，識別將所有訓(xùn)練圖像向量投影到第三步中得到的投影矩陣，得到訓(xùn)練系數(shù)矩陣，再將測試圖像投影到投影矩陣，得到測試系數(shù)矩陣，采用最小距離分類器進(jìn)行分類識別。
本發(fā)明同傳統(tǒng)的局部保留映射方法相比，能夠在保留原始數(shù)據(jù)空間的局部信息的同時，使提取的特征滿足統(tǒng)計不相關(guān)和正交性，從而具有最小的冗余，并有利于實(shí)現(xiàn)原始數(shù)據(jù)的重構(gòu)，應(yīng)用到人臉識別中，可以提高識別性能。本發(fā)明可應(yīng)用于視頻監(jiān)控系統(tǒng)、視頻會議系統(tǒng)、軍事目標(biāo)跟蹤識別系統(tǒng)等各類民用及軍用系統(tǒng)中，具有廣闊的市場前景和應(yīng)用價值。


圖1為本發(fā)明方法總體框圖。
圖2為本發(fā)明與其它幾種特征提取算法的識別率比較，其中橫坐標(biāo)為特征值的維數(shù)，縱坐標(biāo)為識別率。
具體實(shí)施例方式
為了更好地理解本發(fā)明的技術(shù)方案，以下結(jié)合附圖對本發(fā)明的實(shí)施方式作進(jìn)一步描述。
如圖1所示，首先通過主成分分析，計算主成分分析的投影矩陣，然后計算出相似矩陣，根據(jù)相似矩陣解特征值問題求出投影矩陣，再聯(lián)合主成分分析的投影矩陣得到統(tǒng)計不相關(guān)且正交的局部保留映射投影矩陣，最后將訓(xùn)練圖像和測試圖像都投影到投影矩陣中，得到訓(xùn)練系數(shù)矩陣和測試系數(shù)矩陣，利用最小距離分類器進(jìn)行識別。各部分具體實(shí)施細(xì)節(jié)如下1.主成分分析令人臉圖Γ(x，y)為一個2維的N×N矩陣，它同時也可以表示為一個N2的向量Γn。令訓(xùn)練庫的人臉圖為Γ1，Γ2，Γ3，…，ΓM。庫中人臉的平均值定義為ψ=1MΣn=1MΓn---(1)]]>每張人臉與平均值的差值為Φn＝Γn-Ψ。協(xié)方差矩陣由下式確定C=1MΣn=1MΦnΦnT=AAT---(2)]]>
其中矩陣A＝[Φ1，Φ2，…，ΦM]，投影矩陣可以通過計算C的特征向量un得到。
僅取前M′個最大特征值對應(yīng)的特征向量構(gòu)成投影矩陣，這樣，特征向量的數(shù)目由M降為M′。令主成分分析的投影矩陣為ΦPCA，則一張新的人臉圖?？捎上率接成涞玫剿奶卣髟蛄?amp;Omega;T=ΦPCAT(Γ-ψ)---(3)]]>2.相似矩陣的確定在訓(xùn)練樣本集{Γ1，Γ2，…，ΓM}中，M為訓(xùn)練數(shù)據(jù)的個數(shù)，令每一訓(xùn)練數(shù)據(jù)代表一個節(jié)點(diǎn)，并假設(shè)每一節(jié)點(diǎn)的鄰接點(diǎn)個數(shù)為K，建立一個連接圖，使得屬于同一類的節(jié)點(diǎn)完全連接，任意兩個節(jié)點(diǎn)的相似性可以表示成Sij=Sji=xiTxji≠jandi,jbelongtothesameclass0otherwise---(4)]]>相似性Sij反映了兩個節(jié)點(diǎn)的相似程度。在相似性中按照最近鄰原則，找出所有節(jié)點(diǎn)的近鄰節(jié)點(diǎn)，得到輸入數(shù)據(jù)的相似矩陣Wij，Wij可以表示為Wij=Sijifxiisamongknearstneighboursofxjorxjisamongknearstneighboursofxi0otherwise---(5)]]>最后，再根據(jù)相似矩陣W，分別計算出對角矩陣D和拉普拉斯矩陣LD＝diag(Dii) (6)L＝D-W(7)其中Dii=Σjwij(i,j=1,2,···,M)。]]>3.統(tǒng)計不相關(guān)且正交的局部保留映射投影矩陣的確定設(shè)訓(xùn)練樣本集X＝{x1，x2，…，xM}，SL＝XLXT，SD＝XDXT，I＝diag(1，1，...，1)，協(xié)方差矩陣ST＝E[(X-EX)(X-EX)T]，Φ＝[φ1，φ2，...，φk]為投影矩陣，并定義Φk-1＝[φ1，φ2，...，φk-1] (8)局部保留映射方法的目標(biāo)函數(shù)是minΣi,j‖yi-yj‖2wij---(9)]]>其中，yi是節(jié)點(diǎn)xi對應(yīng)于低維空間的投影結(jié)果。通過一些簡單的幾何知識，上述目標(biāo)函數(shù)可化為如下的最小化問題argmintrace(ΦTXLXTΦ)ΦΦTXDXTΦ=1---(10)]]>滿足最小化目標(biāo)函數(shù)的投影矩陣可以轉(zhuǎn)化為一般的特征值問題XLXTФ＝λXDXTФ(11)為了得到不相關(guān)且正交的投影向量φk，在式(11)的基礎(chǔ)上增加統(tǒng)計不相關(guān)和正交兩個約束φkTSTφi=0φkTφi=0(i=1,2,···,-1)---(12)]]>由于φk是歸一化的向量，滿足φkTφk=1]]>，則局部保留映射又增加了一個約束φkTSDφk=1---(13)]]>采用拉格朗日乘子法，聯(lián)合式(11)～(13)進(jìn)行求解，問題等價于求φk使下述函數(shù)取到最大值L(φk)=φkTSLφk-λ(φkTSDφk-1)-Σi=1k-1γiφkTSTφi-Σi=1k-1μiφkTφi---(14)]]>關(guān)于φk求導(dǎo)數(shù)，并令導(dǎo)數(shù)為零，可得到2SLφk-2λSDφk-Σi=1k-1γiSTφi-Σi=1k-1μiφi=0---(15)]]>在式(15)的兩邊左乘上φkT，利用式(12)的約束，可知后兩項(xiàng)為零，于是可解得λ=φkTSLφkφkTSDφk---(16)]]>問題就是要使λ取到最大值。
再在式(15)的兩邊分別左乘上φjTSTSD-1和φjTSD-1，推導(dǎo)整理可得2φjTSTSD-1SLφk-Σi=1k-1γiφjTSTSD-1STφi-Σi=1k-1μiφjTSTSD-1φi=0---(17)]]>2φjTSD-1SLφk-Σi=1k-1γiφjTSD-1STφi-Σi=1k-1μiφjTSD-1φi=0---(18)]]>
其中j＝1，2，...，k-1。
設(shè)μ＝[μ1，μ2，...，μk-1]，γ＝[γ1，γ2，...，γk-1]，則式(17)和(18)可表示成2Φk-1TSTSD-1SLφk-Φk-1TSTSD-1STΦk-1γ-Φk-1STSD-1Φk-1Tμ=0---(19)]]>2ΦkSD-1SLφk+1-ΦkSD-1STΦkTγ-ΦkSD-1ΦkTμ=0---(20)]]>聯(lián)合式(19)和(20)求出μ和γ，并根據(jù)Σi=1k-1γiSTφi=STΦk-1γ,Σi=1k-1μiφi=Φk-1μ,]]>式(15)進(jìn)一步表示為2SLφk-2λSDφk-STΦk-1γ-Φk-1μ＝0 (21)將γ和μ的解代入式(21)，并經(jīng)過一系列數(shù)學(xué)推導(dǎo)和整理，最終，不相關(guān)且正交的投影向量φk可按照如下步驟迭代計算(a)計算矩陣SD-1SL的特征值，并選取最小特征值對應(yīng)的特征向量作為投影向量φ1。
(b)求解如下特征方程(式(22))的特征值，并取最小特征值對應(yīng)的特征向量作為不相關(guān)且正交的投影向量φk。
R(k)SLφ＝λSDφ (22)其中R(k)＝I-STΦk-1M-1N-Φk-1P-1Q(23)M=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1STΦk-1)-(Φk-1TSD-1Φk-1)-1(Φk-1TSD-1STΦk-1)----(24)]]>N=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1)-(Φk-1TSD-1Φk-1)-1(Φk-1TSD-1)---(25)]]> Q=(Φk-1TSTSD-1STΦk-1)-1(Φk-1TSTSD-1)-(Φk-1TSD-1STΦk-1)-1(Φk-1TSD-1)(27)]]>最后，令投影矩陣Φ*＝[φ1，φ2，...，φd]，聯(lián)合步驟(1)得到的主成分分析的投影矩陣ΦPCA，則統(tǒng)計不相關(guān)且正交的局部保留映射投影矩陣ΦUOLPP可表示為
ΦUOLPP＝ΦPCAΦ*(28)設(shè)x為測試圖像，則測試圖像在投影矩陣中的投影系數(shù)向量可表示為y=ΦUOLPPTx---(29)]]>4.識別將訓(xùn)練圖像和測試圖像分別投影到投影矩陣中，得到訓(xùn)練系數(shù)矩陣和測試系數(shù)矩陣。采用最小距離分類器，即可獲得識別結(jié)果。
實(shí)驗(yàn)選用FERET人臉數(shù)據(jù)庫，從中選取了72個對象，每個對象有6張圖像。實(shí)驗(yàn)中，分別在每個對象中隨機(jī)選取Num張(Num＝2，3，4，5)圖像創(chuàng)建訓(xùn)練庫，并用剩余的圖像組成相應(yīng)的測試庫。在每個訓(xùn)練庫和相應(yīng)的測試庫上都重復(fù)實(shí)驗(yàn)20次，并取平均值作為識別結(jié)果。
圖2顯示了主成分分析法(PCA)、拉普拉斯臉?biāo)惴?局部保留映射法，LPP)、不相關(guān)的局部保留映射法(ULPP)、正交的拉普拉斯臉?biāo)惴?OLPP)以及本發(fā)明提出的算法(UOLPP)在FERET數(shù)據(jù)庫中的識別結(jié)果(取Num＝3)。從圖中可看出，本發(fā)明提出的UOLPP方法明顯優(yōu)于其它幾種特征提取算法，能獲得更具判別性的特征，應(yīng)用到人臉識別中，可以提高識別性能。
權(quán)利要求
1.一種基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法，其特征在于，具體步驟如下第一步，主成分分析將每張人臉圖像表示為一個列向量，組成訓(xùn)練樣本集，計算訓(xùn)練樣本集的協(xié)方差矩陣的特征值，并選取大的特征值對應(yīng)的特征向量作為基向量，從而構(gòu)成主成分分析的投影矩陣；第二步，相似矩陣確定建立一個連接圖，使得屬于同一類的節(jié)點(diǎn)完全連接，得到任意兩個節(jié)點(diǎn)的相似性，再根據(jù)最近鄰原則，求出輸入節(jié)點(diǎn)的相似矩陣，并由這一相似矩陣推出對角矩陣和拉普拉斯矩陣；第三步，統(tǒng)計不相關(guān)且正交的局部保留映射投影矩陣確定根據(jù)第二步中得到的相似矩陣，再根據(jù)局部保留映射的思想，并加入統(tǒng)計不相關(guān)和正交兩個約束條件，采用迭代算法，解特征值問題求出投影矩陣，最后再將此投影矩陣與第一步中得到的主成分分析投影矩陣相乘，求出不相關(guān)且正交的局部保留映射投影矩陣；第四步，識別將所有訓(xùn)練圖像向量投影到第三步中得到的投影矩陣，得到訓(xùn)練系數(shù)矩陣，再將測試圖像投影到投影矩陣，得到測試系數(shù)矩陣，采用最小距離分類器進(jìn)行分類識別。
2.根據(jù)權(quán)利要求1所述的基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法，其特征是，所述第二步，具體實(shí)現(xiàn)如下設(shè)訓(xùn)練樣本集{Γ1，Γ2，…，ΓM}，M為訓(xùn)練數(shù)據(jù)的個數(shù)，令每一訓(xùn)練數(shù)據(jù)代表一個節(jié)點(diǎn)，并假設(shè)每一節(jié)點(diǎn)的鄰接點(diǎn)個數(shù)為K，建立一個連接圖，使得屬于同一類的節(jié)點(diǎn)完全連接，則任意兩個節(jié)點(diǎn)的相似性表示成Sij=Sij=xiTxji≠jandi,jbelongtothesameclass0otherwise]]>在相似性中按照最近鄰原則，找出所有節(jié)點(diǎn)的近鄰節(jié)點(diǎn)，得到輸入數(shù)據(jù)的相似矩陣Wij，Wij表示為Wij=Sijifxiisamongknearestneighboursofxjorxjisamongknearestneighboursofxi0otherwise]]>最后，再根據(jù)相似矩陣W，分別計算出對角矩陣D和拉普拉斯矩陣LD＝diag(Dii)L＝D-W其中Dii=Σjwij(i,j=1,2,...,M).]]>
3.根據(jù)權(quán)利要求1所述的基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法，其特征是，所述第三步，具體實(shí)現(xiàn)如下根據(jù)求得的相似矩陣Wij，對角矩陣D和拉普拉斯矩陣L，設(shè)訓(xùn)練樣本集X＝{x1，x2，…，xM}，SL＝XLXT，SD＝XDXT，I＝diag(1，1，...，1)，協(xié)方差矩陣ST＝E[(X-EX)(X-EX)T]，Φ＝[φ1，φ2，...，φk]為投影矩陣，并定義Φk-1＝[φ1，φ2，...，φk-1]局部保留映射方法的目標(biāo)函數(shù)是minΣi,j||yi-yj||2wij]]>其中，yi是節(jié)點(diǎn)xi對應(yīng)于低維空間的投影結(jié)果，通過幾何知識，滿足最小化目標(biāo)函數(shù)的投影矩陣最終轉(zhuǎn)化為一般的特征值問題XLXTΦ＝λXDXTΦ為了得到不相關(guān)且正交的投影向量φk，在式XLXTΦ＝λXDXTΦ的基礎(chǔ)上增加統(tǒng)計不相關(guān)和正交兩個約束ΦkTSTΦi=0ΦkTΦi=0(i=1,2,...,k-1)]]>由于φk是歸一化的向量，滿足ΦkTΦk=1,]]>則局部保留映射又增加了一個約束ΦkTSDΦk=1]]>采用拉格朗日乘子法，聯(lián)合以上公式進(jìn)行求解，統(tǒng)計不相關(guān)且正交的投影向量φk，按照如下步驟迭代計算a.計算矩陣SD-1SL的特征值，并選取最小特征值對應(yīng)的特征向量作為投影向量φ1；b.求解如下特征方程式的特征值，并取最小特征值對應(yīng)的特征向量作為不相關(guān)且正交的投影向量φk，R(k)SLφ＝λSDφ其中R(K)=I-STΦk-1M-1N-ΦK-1P-1Q]]>M=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1STΦk-1)-(Φk-1TSD-1Φk-1)-1(Φk-1TSD-1STΦk-1)]]>N=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1)-(Φk-1TSTΦk-1)-1(Φk-1TSD-1)]]> Q=(Φk-1TSTSD-1STΦk-1)-1(Φk-1TSTSD-1)-(Φk-1TSD-1STΦk-1)-1(Φk-1YSD-1)]]>最后，令投影矩陣Φ*＝[φ1，φ2，...，φd]，并聯(lián)合主成分分析的投影矩陣ΦPCA，則統(tǒng)計不相關(guān)且正交的局部保留映射投影矩陣ΦUOLPP表示為ΦUOLPP＝ΦPCAΦ*。
全文摘要
一種圖像處理技術(shù)領(lǐng)域的基于統(tǒng)計不相關(guān)和正交特性的局部保留映射人臉識別方法。本發(fā)明首先對輸入訓(xùn)練樣本圖像進(jìn)行主成分分析，得到主成分分析的投影矩陣；然后建立一個連接圖，得到任意兩個節(jié)點(diǎn)之間的相似性，并按照最近鄰原則，確定所有節(jié)點(diǎn)的鄰接點(diǎn)，計算出輸入數(shù)據(jù)的相似矩陣；再將這一相似矩陣應(yīng)用到局部保留映射方法中，加入統(tǒng)計不相關(guān)和正交兩個約束條件，采用疊代算法，根據(jù)特征值問題并結(jié)合主成分分析的投影矩陣求出不相關(guān)且正交的投影矩陣，得出訓(xùn)練投影系數(shù)矩陣和測試投影系數(shù)矩陣；最后再用最小距離方法進(jìn)行識別。本發(fā)明具有最小的冗余，并有利于實(shí)現(xiàn)原始數(shù)據(jù)的重構(gòu)，應(yīng)用到人臉識別中，可以提高識別性能。
文檔編號G06K9/00GK1936924SQ20061011704
公開日2007年3月28日 申請日期2006年10月12日 優(yōu)先權(quán)日2006年10月12日
發(fā)明者敬忠良, 邱亞丹, 趙海濤 申請人:上海交通大學(xué)