本發(fā)明屬于模式識別
技術(shù)領(lǐng)域：
，特別涉及一種單分類SVM的特征選擇和參數(shù)同步優(yōu)化方法。
背景技術(shù)：
：：在紡織行業(yè)中，織物在織造過程中產(chǎn)生的疵點(diǎn)嚴(yán)重影響著產(chǎn)品的質(zhì)量。紡織企業(yè)可以通過對疵點(diǎn)檢測人員的技能培訓(xùn)、灌輸質(zhì)量意識和增加檢測人員數(shù)等方法來降低疵點(diǎn)對產(chǎn)品質(zhì)量的影響，但隨著機(jī)器視覺的發(fā)展，基于機(jī)器視覺進(jìn)行織物疵點(diǎn)檢測方法已經(jīng)成為企業(yè)提高產(chǎn)品質(zhì)量和降低生產(chǎn)成本的有效途徑。對于織物疵點(diǎn)檢測，可以認(rèn)為是“異常檢測”或是“單分類問題”。在織物加工過程中，絕大多數(shù)情況下是正常(無疵點(diǎn))樣本，疵點(diǎn)樣本的數(shù)目很少。并且，疵點(diǎn)的類型會有很多，如斷紗、破洞、油污等，其表現(xiàn)在織物上的形狀、大小、方向不一，即不同類型疵點(diǎn)的紋理特征也會不同。支持向量數(shù)據(jù)描述(SVDD)是基于超球體思想提出的一種單分類支持向量機(jī)(SVM)方法，可以用于解決織物疵點(diǎn)檢測問題。在模式識別領(lǐng)域，研究在眾多提取的特征中選擇最優(yōu)的特征子集的方法是構(gòu)造分類和預(yù)測模型的一個重要研究方向。降低特征的維數(shù)對于提高預(yù)測的準(zhǔn)確率和減少模型的復(fù)雜度具有重要的意義。另一方面，SVDD中的參數(shù)值的確定也能夠提高其預(yù)測準(zhǔn)確率。在構(gòu)造SVDD時，懲罰參數(shù)C和核函數(shù)參數(shù)(如高斯尺度參數(shù)σ)需要先進(jìn)行優(yōu)化。因此，選擇最優(yōu)的特征子集和參數(shù)的優(yōu)化對于SVDD的預(yù)測準(zhǔn)確率的提高具有重要影響。而特征選擇和參數(shù)優(yōu)化又相互作用、相互影響，所以研究特征選擇和參數(shù)同步優(yōu)化方法對于提高SVDD的預(yù)測能力具有重要意義。公開于該
背景技術(shù)：
部分的信息僅僅旨在增加對本發(fā)明的總體背景的理解，而不應(yīng)當(dāng)被視為承認(rèn)或以任何形式暗示該信息構(gòu)成已為本領(lǐng)域一般技術(shù)人員所公知的現(xiàn)有技術(shù)。技術(shù)實(shí)現(xiàn)要素：：本發(fā)明的目的在于提供一種單分類SVM的特征選擇和參數(shù)同步優(yōu)化方法，從而克服上述現(xiàn)有技術(shù)中的缺陷。為實(shí)現(xiàn)上述目的，本發(fā)明提供了一種單分類SVM的特征選擇和參數(shù)同步優(yōu)化方法，其步驟為：(1)獲取訓(xùn)練用織物圖像，提取特征；(2)構(gòu)造和訓(xùn)練RDPSO-SVM系統(tǒng)，同步優(yōu)化特征子集和SVDD參數(shù)；(3)應(yīng)用RDPSO-SVM系統(tǒng)對待檢測的織物圖像進(jìn)行疵點(diǎn)判別。優(yōu)選地，上述技術(shù)方案中，步驟(2)中構(gòu)造和訓(xùn)練的具體步驟為：(2.1)構(gòu)造二進(jìn)制編碼的RDPSO(BRDPSO)；(2.2)構(gòu)造適應(yīng)度函數(shù)；(2.3)構(gòu)造RDPSO-SVM系統(tǒng)；(2.4)訓(xùn)練RDPSO-SVM系統(tǒng)，同步優(yōu)化特征子集和SVDD參數(shù)。優(yōu)選地，上述技術(shù)方案中，步驟(3)中，進(jìn)行檢測判別的步驟為：(3.1)對于待檢測的織物圖像，提取特征，選擇最優(yōu)特征子集；(3.2)應(yīng)用RDPSO-SVM系統(tǒng)進(jìn)行疵點(diǎn)判別。與現(xiàn)有技術(shù)相比，本發(fā)明具有如下有益效果：在眾多的特征中選擇最優(yōu)的特征子集，能有效降低系統(tǒng)的復(fù)雜度，提高系統(tǒng)檢測速度，保證系統(tǒng)實(shí)時性要求；同步優(yōu)化特征子集和SVDD參數(shù)，能效提高系統(tǒng)檢測準(zhǔn)確率。附圖說明：圖1為本發(fā)明單分類SVM的特征選擇和參數(shù)同步優(yōu)化方法的流程示意圖。具體實(shí)施方式：下面對本發(fā)明的具體實(shí)施方式進(jìn)行詳細(xì)描述，但應(yīng)當(dāng)理解本發(fā)明的保護(hù)范圍并不受具體實(shí)施方式的限制。除非另有其它明確表示，否則在整個說明書和權(quán)利要求書中，術(shù)語“包括”或其變換如“包含”或“包括有”等等將被理解為包括所陳述的元件或組成部分，而并未排除其它元件或其它組成部分。如圖1所示，單分類SVM的特征選擇和參數(shù)同步優(yōu)化方法，其步驟為：(1)獲取訓(xùn)練用織物圖像，提取特征；對于訓(xùn)練用織物圖像，應(yīng)用統(tǒng)計法(如自相關(guān)函數(shù)、共生矩陣和數(shù)學(xué)形態(tài)法等)和頻域法(如傅里葉變換、小波變換和Gabor變換等)，提取幾何和紋理特征；(2)構(gòu)造和訓(xùn)練RDPSO-SVM系統(tǒng)，同步優(yōu)化特征子集和SVDD參數(shù)；(2.1)構(gòu)造二進(jìn)制編碼的RDPSO(BRDPSO)；RDPSO算法是在PSO算法基礎(chǔ)上，根據(jù)在隨機(jī)標(biāo)準(zhǔn)有限溫度下外部電場的金屬導(dǎo)體自由電子模型而提出的優(yōu)化方法；在優(yōu)化過程中，粒子可像一個在導(dǎo)體的外部電場中移動的電子，其運(yùn)動可由隨機(jī)的熱運(yùn)動和受電場影響的漂移運(yùn)動共同組成；RDPSO算法已被證明可保證全局收斂，能找到全局最優(yōu)解；假設(shè)粒子的搜索空間(粒子的維數(shù))為D，粒子的個數(shù)為M。第n時刻，粒子的速度為位置為第n+1時刻，第i個粒子的第j維(j＝1，2，…，D)的速度和位置的更新公式如下：vi,jn+1=α|Cjn-xi,jn|φi,jn+1+β(pi,jn-xi,jn),---(1)]]>xi,jn+1=xi,jn+vi,jn+1---(2)]]>其中α和β分別為熱系數(shù)和漂移系數(shù)；為一個(0，1)區(qū)間上正態(tài)分布的隨機(jī)數(shù)；Cn為平均最好位置，可計算如下：Cn=(C1n,...,CDn)=1MΣi=1MPin---(3)]]>其中為粒子收斂過程中的吸引子，在n次迭代時，其坐標(biāo)為：pi,jn=ri,jnPi,jn+(1-ri,jn)Gjn---(4)]]>其中為一個(0，1)區(qū)間上均勻分布的隨機(jī)數(shù)；第n時刻，每個粒子的個體最好位置當(dāng)n＝1時，粒子的個體最好位置即為該粒子的初始位置；否則按下式更新每個粒子的個體最好位置(假設(shè)適應(yīng)度函數(shù)F的值越大為越優(yōu))：Pin=xin,ifF(xin)>F(Pin-1)Pin-1,ifF(xin)≤F(Pin-1)---(5)]]>第n時刻，整個粒子群的全局最好位置其值為其中g(shù)由下式確定：g=argmax1≤i≤MF(Pin)---(6)]]>在RDPSO基礎(chǔ)上，可提出二進(jìn)制編碼的RDPSO算法(BRDPSO)；BRDPSO是RDPSO算法用于離散空間搜索的版本；在BRDPSO中，粒子的速度更新公式與RDPSO算法相同(式(1))，但式中和為0或1；粒子速度值可被sigmoid函數(shù)映射到[0,1]區(qū)間：s(vi,jn)=11+e-vi,jn---(7)]]>粒子的位置通過下式進(jìn)行更新：xi,jn=1,ifrand()≤s(vi,jn)0,otherwise---(8)]]>其中rand()為一個(0，1)區(qū)間上均勻分布的隨機(jī)數(shù)；在BRDPSO算法中，平均最好位置Cn的計算方法與RDPSO算法(式(3))也不同；Cn的每一維的值由群體中每個粒子個體最好位置的對應(yīng)維上0或1出現(xiàn)的次數(shù)決定；具體來說，就是首先統(tǒng)計所有粒子的上0或1出現(xiàn)的次數(shù)，如果0的次數(shù)多，則的值為0；如果1的次數(shù)多，的值為1；如果0或1的次數(shù)相同，隨機(jī)取0或1；在BRDPSO算法中，吸引子可以通過類似遺傳算法中的交叉操作獲得，即通過個體最好位置和全局最好位置Gn的交叉產(chǎn)生兩個子代，隨機(jī)地選擇一個子代作為(2.2)構(gòu)造適應(yīng)度函數(shù)；支持向量機(jī)(SVM)是一種統(tǒng)計學(xué)習(xí)理論基礎(chǔ)上的機(jī)器學(xué)習(xí)方法，以結(jié)構(gòu)風(fēng)險最小化為目的；SVM能夠避免傳統(tǒng)的統(tǒng)計模式識別方法如神經(jīng)網(wǎng)絡(luò)、決策樹等，局部極值、過學(xué)習(xí)和欠學(xué)習(xí)等問題，能有效提升系統(tǒng)的泛化能力，保證系統(tǒng)的檢測準(zhǔn)確率要求。一般情況下，SVM用于解決二分類問題，即在兩類樣本中尋找一個最優(yōu)超平面，不僅能夠?qū)深悩颖緶?zhǔn)確地區(qū)分開，而且該超平面離兩類樣本中最近的那些樣本點(diǎn)距離最遠(yuǎn)。而對于織物疵點(diǎn)檢測，可以認(rèn)為是“異常檢測”或是“單分類問題”。在織物加工過程中，絕大多數(shù)情況下是正常(無疵點(diǎn))樣本，疵點(diǎn)樣本的數(shù)目很少。并且，疵點(diǎn)的類型會有很多，如斷紗、破洞、油污等，其表現(xiàn)在織物上的形狀、大小、方向不一，即不同類型疵點(diǎn)的紋理特征也會不同。因此，單分類方法應(yīng)該更適合解決織物疵點(diǎn)檢測問題。支持向量數(shù)據(jù)描述(SVDD)是基于超球體思想提出的一種單分類SVM方法。SVDD的基本原理是尋找一個超球體，在最小化其半徑的同時，讓訓(xùn)練樣本盡可能地被包圍在超球體中，即最小化如下目標(biāo)函數(shù)：F(R,a)=R2+CΣiξi---(9)]]>約束條件為：||fi-a||2≤R2+ξi，ξi≥0(10)其中fi為第i個訓(xùn)練樣本，超球體半徑為R，球心為a，ξi為松馳變量，C為懲罰參數(shù)。松馳變量ξi的引入是假設(shè)在訓(xùn)練樣本中可能會有異常樣本的出現(xiàn)，這些樣本可位于最優(yōu)超球體外，但同時在目標(biāo)函數(shù)值上引入懲罰參數(shù)C，用于均衡超球大小和在球體外的異常樣本的比例。前面所述的內(nèi)容是假設(shè)訓(xùn)練樣本是線性可分的，當(dāng)訓(xùn)練樣本非線性可分時，可以將訓(xùn)練數(shù)據(jù)用一個非線性映射投影到高維特征空間，使得這些數(shù)據(jù)在高維空間中能夠線性可分，這樣就需引入核函數(shù)φ的方法。因此，式(10)可改寫為：||φ(fi)-a||2≤R2+ξi，ξi≥0(11)由式(9)和式(11)可定義如下的拉格朗日表達(dá)式：L(R,a,αi,γi,ξi)=R2+CΣiξi-Σiαi(R2+ξi-||φ(fi)-a||2)-Σiγiξi---(12)]]>其中αi≥0和γi≥0分別為拉格朗日乘子。式(12)要求在變量為R，a，ξi情況下最小化，而在變量為αi和γi情況下最大化。這樣的問題可轉(zhuǎn)化為一個凸二次優(yōu)化問題，可以通過基于序貫最小優(yōu)化算法的快速算法來求解得到最優(yōu)拉格朗日乘子αi并滿足如下三個條件：||φ(fi)-a||2＜R2→αi＝0，γi＝0(13)||φ(fi)-a||2＝R2→0＜αi＜C，γi＝0(14)||φ(fi)-a||2＞R2→αi＝C，γi＞0(15)實(shí)際上，絕大多數(shù)αi都為0，那些少數(shù)的對應(yīng)于αi＞0的訓(xùn)練樣本fi稱為支持向量。訓(xùn)練后的超球體球心a可由下式得到：a=Σiαifi---(16)]]>超球體的半徑R可由在球面上任一支持向量(即0＜αi＜C對應(yīng)的訓(xùn)練樣本)到球心a的距離得到。確定超球體的球心a和半徑R后，對一個待測試樣本z，若為正常樣本，則需滿足下式：||φ(z)-a||2≤R2(17)在求解凸二次優(yōu)化問題前，需要給定參數(shù)C的值和核函數(shù)φ的具體函數(shù)類型及其參數(shù)值。在選擇核函數(shù)時，高斯核函數(shù)因其通用性強(qiáng)，且只涉及一個尺度參數(shù)σ，在實(shí)際應(yīng)用中被廣泛使用。設(shè)計性能優(yōu)越的SVDD，選擇合適的懲罰參數(shù)C和高斯尺度參數(shù)σ至關(guān)重要。懲罰參數(shù)C控制著訓(xùn)練結(jié)果中支持向量的比率。較大的C和較小的σ會導(dǎo)致較大的超球體，包圍在超球體內(nèi)的訓(xùn)練樣本較多，實(shí)際測試時漏檢率會高；隨著C的減小和σ的增大，超球體半徑變小，離聚類中心較遠(yuǎn)的樣本點(diǎn)會出現(xiàn)在超球體外，實(shí)際測試時誤檢率會高。SVDD的參數(shù)可通過訓(xùn)練優(yōu)化得到。在本發(fā)明中，可采用同步優(yōu)化特征子集和SVDD的參數(shù)的方法。在構(gòu)造目標(biāo)函數(shù)時，分類準(zhǔn)確率、超球的半徑和特征子集的個數(shù)是需要考慮的三個因素。也就是說，對于某個粒子，若由該粒子得到分類準(zhǔn)確率高，超球的半徑小，特征子集小，則相應(yīng)的目標(biāo)函數(shù)的值就越大。因此，在訓(xùn)練時，可用下式作為目標(biāo)函數(shù)F：F=wA×acc+wRR+ωF×(1-Σi=1nFfinF)---(18)]]>其中wA、wR和wF分別為對應(yīng)分類準(zhǔn)確率acc、超球半徑R和特征子集的權(quán)值，在使用中可根據(jù)實(shí)際情況設(shè)定。分類準(zhǔn)確率acc為分類準(zhǔn)確的樣本與總的樣本的比值。fi為特征掩模，其值為1或0，其中1表示選擇第i個特征，0表示不選擇第i個特征。nF為特征的總數(shù)。(2.3)構(gòu)造RDPSO-SVM系統(tǒng)；為同步優(yōu)化特征子集和SVDD參數(shù)，可采用RDPSO算法。具體來說就是采用RDPSO算法優(yōu)化SVDD參數(shù)(懲罰參數(shù)C和高斯尺度參數(shù)σ)，采用BRDPSO算法優(yōu)化得到特征子集。因此，粒子可由三部分組成：特征掩模(離散值)，懲罰參數(shù)C(連續(xù)值)和高斯尺度參數(shù)σ(連續(xù)值)。粒子的維數(shù)即為nF+2，nF為特征的總數(shù)。(2.4)訓(xùn)練RDPSO-SVM系統(tǒng)，同步優(yōu)化特征子集和SVDD參數(shù)；a、設(shè)迭代次數(shù)n＝1。初始化粒子群，包括確定最大迭代次數(shù)、搜索空間(粒子的維數(shù)D＝nF+2)、粒子的個數(shù)M、隨機(jī)初始化粒子的位置其中的值分別為0或1，i＝1，2，…，M；b、由式(18)求得每個粒子對應(yīng)的適應(yīng)度函數(shù)值c、如果當(dāng)前迭代次數(shù)n＝1，即為第一次迭代，每個粒子的個體最好位置即為該粒子的初始位置否則按式(5)更新每個粒子的個體最好位置整個粒子群的全局最好位置其值為其中g(shù)由式(6)確定；d、如果終止條件滿足(達(dá)到最大迭代次數(shù))，訓(xùn)練結(jié)束，整個粒子群的全局最好位置Gn即為最優(yōu)的特征子集、SVDD的參數(shù)C和σ；否則，由式(1)對每個粒子的速度進(jìn)行更新，由式(2)對每個粒子的位置中的連續(xù)值進(jìn)行更新，由式(8)對每個粒子位置中的離散值進(jìn)行更新，轉(zhuǎn)到步驟b。(3)應(yīng)用RDPSO-SVM系統(tǒng)對待檢測的織物圖像進(jìn)行疵點(diǎn)判別；(3.1)對于待檢測的織物圖像，提取特征，選擇最優(yōu)特征子集；與步驟(1)相同，對于待檢測的織物圖像，提取特征，根據(jù)步驟(2.4)的訓(xùn)練結(jié)果，選擇最優(yōu)特征子集。(3.2)應(yīng)用RDPSO-SVM系統(tǒng)進(jìn)行疵點(diǎn)判別。對于輸入樣本(由步驟3.1得到的最優(yōu)特征子集)，若式(17)成立，即該樣本包含在SVDD超球體范圍內(nèi)，則為無疵點(diǎn)樣本(正常樣本)；若不滿足式(17)，則該樣本在SVDD超球體范圍外，則為疵點(diǎn)樣本。前述對本發(fā)明的具體示例性實(shí)施方案的描述是為了說明和例證的目的。這些描述并非想將本發(fā)明限定為所公開的精確形式，并且很顯然，根據(jù)上述教導(dǎo)，可以進(jìn)行很多改變和變化。對示例性實(shí)施例進(jìn)行選擇和描述的目的在于解釋本發(fā)明的特定原理及其實(shí)際應(yīng)用，從而使得本領(lǐng)域的技術(shù)人員能夠?qū)崿F(xiàn)并利用本發(fā)明的各種不同的示例性實(shí)施方案以及各種不同的選擇和改變。本發(fā)明的范圍意在由權(quán)利要求書及其等同形式所限定。當(dāng)前第1頁1 2 3