神經(jīng)元Vi的狀態(tài),接著根據(jù)重構(gòu)出的可見層神經(jīng)元 Vi的狀態(tài)再重構(gòu)出隱含層神經(jīng)元hj.的狀態(tài),完成一次受限玻爾茲曼機(jī)RBM訓(xùn)練學(xué)習(xí)過程, 調(diào)整權(quán)重; 可見層和隱含層的權(quán)重更新公式如下: AWU=e(<Vihj〉data-<Vihj〉rec〇n) 式中e為學(xué)習(xí)率,i為可見層神經(jīng)元個(gè)數(shù),j為隱含層神經(jīng)元個(gè)數(shù);Vi為可見層神經(jīng)元,hj為隱含層神經(jīng)元;<Vj旨可見層神經(jīng)元與隱含層神經(jīng)元在輸入數(shù)據(jù)下的二進(jìn)制狀態(tài) 乘積;指可見層神經(jīng)元與隱含層神經(jīng)元在重構(gòu)數(shù)據(jù)下的二進(jìn)制狀態(tài)乘積; 步驟32:將每一層RBM的隱含層與下一層RBM的可見層合并為一層,該樣依此合并展 開得到自編碼網(wǎng)絡(luò),對(duì)一層RBM進(jìn)行學(xué)習(xí)調(diào)整權(quán)值得到的輸出,作為學(xué)習(xí)下一個(gè)RBM的輸 入;設(shè)置第2, 3,...,m層RBM結(jié)構(gòu),逐層學(xué)習(xí),得到最終的初始權(quán)值;完成自編碼網(wǎng)絡(luò)的預(yù) 訓(xùn)練過程; 步驟33;輸入的數(shù)據(jù)樣本集D= {X。,…X?!?,X。}先經(jīng)過編碼網(wǎng)絡(luò)得到低維編碼,再經(jīng) 過解碼網(wǎng)絡(luò)得到重構(gòu)數(shù)據(jù)。編碼函數(shù)為fe,解碼函數(shù)為ge,
參數(shù)0 = {w,b,r,山,其中b、d分別為編碼器和解碼器的偏差向量,W、W'分別為編 碼器和解碼器的權(quán)重矩陣; 輸入高維數(shù)據(jù)經(jīng)過編碼器得到的低維編碼如下: Yi=f0(Xi),i= (1,2,. . ,n); 低維編碼經(jīng)過解碼器得到的重構(gòu)數(shù)據(jù)如下: X'i=g0 如),i= (1,2,. .,n); 步驟34 ;通過k-nearest算法,計(jì)算輸入值Xi(i= 1,2,. .,n)的重構(gòu)權(quán)重集Si和Xi(i =l,2,..,n)的重構(gòu)集Q。其中Si=怯u,Sik......},Sy為輸入值Xi和輸入值xj通過 k-nearest算法計(jì)算得出的相似性,Sik為輸入值Xi和輸入值Xk之間通過k-nearest算法 計(jì)算得出的相似性,{j,k……}; 步驟35 ;通過隨機(jī)梯度下降算法調(diào)整重構(gòu)誤差使其達(dá)到最小。基于重構(gòu)誤差最小的原 則調(diào)整權(quán)重0= (w,r),整體重構(gòu)誤差為:
其中參數(shù)0= (w,w' ),w為輸入層與隱含層之間權(quán)重,r為隱含層與輸出層之間權(quán) 重,L(Xj.,Xi')為重構(gòu)誤差函數(shù),重構(gòu)誤差函數(shù)的選取通常根據(jù)輸入樣本的取值范圍和特 征決定,若輸入數(shù)據(jù)為連續(xù)實(shí)數(shù),則重構(gòu)誤差函數(shù)如公式: L(Xj,X' 1) =IIX廣X'J 若輸入數(shù)據(jù)為二進(jìn)制數(shù),選取重構(gòu)誤差函數(shù)為交叉滴損失函數(shù)如公式:
通過最小化整體重構(gòu)誤差E(w,r)來更新權(quán)重0= (w,r);
步驟36 ;計(jì)算隱含層值{y。y2......y。},同樣通過k-nearest算法更新y;的重構(gòu)權(quán)重 Si和重構(gòu)集Q1,其中Si=怯U,S化......},S。'為輸入值Xi和輸入值XJ通過k-nearest算 法計(jì)算得出的相似性,Sik為輸入值Xi和輸入值Xk之間通過k-nearest算法計(jì)算得出的相 似性,ni=化k......}; 重復(fù)步驟35中通過最小化整體重構(gòu)誤差E(w,r)來更新權(quán)重0 = (w,r); 步驟37 ;重復(fù)步驟35和步驟36直到收斂; 步驟4 ;電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè);采用一種改進(jìn)的深度信念網(wǎng)絡(luò)構(gòu)建具有多輸入多輸出的 深度學(xué)習(xí)態(tài)勢(shì)預(yù)測(cè)模型,利用深度學(xué)習(xí)態(tài)勢(shì)預(yù)測(cè)模型對(duì)訓(xùn)練樣本集進(jìn)行迭代訓(xùn)練,從而確 定電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)模型,再結(jié)合降維后的數(shù)據(jù)樣本預(yù)測(cè)當(dāng)前時(shí)刻T之后T+1,T+2,....., T+n時(shí)刻的電網(wǎng)安全態(tài)勢(shì)。
2.根據(jù)權(quán)利要求1所述的一種基于改進(jìn)深度學(xué)習(xí)模型的電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)方法,其特 征在于,步驟4的具體步驟如下: 步驟41 ;通過改進(jìn)的受限玻爾茲曼機(jī)的疊置構(gòu)建具有多輸入多輸出結(jié)構(gòu)的改進(jìn)的深 度信念網(wǎng)絡(luò)電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)模型; 所述受限波茲曼機(jī)由兩層網(wǎng)絡(luò)構(gòu)成,分別稱為可見層和隱含層;受限玻爾茲曼機(jī)具備 的能量定義為:
a= {",,/7,,^^K, |店受限波爾茲曼機(jī)的參數(shù),v康示第i個(gè)可見層神經(jīng)元,11捧示第j個(gè)隱 含層神經(jīng)元,Wy表示Vi和hj.的連接權(quán)值,ai表示第i個(gè)可見層單元的闊值,bj.表示第j個(gè) 隱含層單元的闊值; 基于該能量函數(shù),得到聯(lián)合概率分布:
其中,z(巧為歸一化項(xiàng),也稱為配分函數(shù); 第j個(gè)隱含層節(jié)點(diǎn)的激活概率為:
當(dāng)給定隱含層狀態(tài)時(shí),第i個(gè)可見層節(jié)點(diǎn)的激活概率為:
式中0 (X) =l/(l+e乃為激活函數(shù),選取sigmoid函數(shù)作為激活函數(shù),a。bj.分別為第i個(gè)可見層節(jié)點(diǎn)的闊值和第j個(gè)隱含層節(jié)點(diǎn)的闊值,Wy=Wj,為Vi和hj.之間的連接權(quán)值, hj.表示第j個(gè)隱含層神經(jīng)元; 步驟42 ;結(jié)合訓(xùn)練樣本集U= (1。,…,Im,p},{/}::,為降維后的數(shù)據(jù)樣本,該里P為對(duì)應(yīng) 下一時(shí)間檢測(cè)點(diǎn)的安全態(tài)勢(shì)值,對(duì)輸入的那一層進(jìn)行無監(jiān)督訓(xùn)練,訓(xùn)練的目標(biāo)在于學(xué)習(xí)出 參數(shù)3 =柄為,巧則勺值,^擬合給定的訓(xùn)練數(shù)據(jù),保持能量巧^訓(xùn)巧守恒,參數(shù)5通過求在 訓(xùn)練集上的極大對(duì)數(shù)似然函數(shù)得到;隱含層神經(jīng)元輸出值計(jì)算公式如下:
式中:Vi為第i個(gè)可見層單元,函數(shù)4j.的表達(dá)式如下:
N^O, 1)表示零均值、單位方差的高斯隨機(jī)變量,Ij.為函數(shù)4j.的變量。 常數(shù)C和Nパ0,1)共同產(chǎn)生了一個(gè)噪聲輸入分量nj=CNj化1),其概率分布為;
戶是漸近線在01^和目H處的sigmoid函數(shù),目L為sigmoid函數(shù)S型漸近線曲 線的參數(shù)趨向--時(shí)函數(shù)值的極限,eH為參數(shù)趨向+ 時(shí)函數(shù)值的極限,參數(shù)CJ控制著 sigmoid曲線的斜率,為噪聲控制變量; 步驟43 ;更新改進(jìn)的RBM的權(quán)值{Wy'}W及"噪聲控制"參數(shù)
n,為預(yù)訓(xùn)練的學(xué)習(xí)率,<?>d。,。為訓(xùn)練數(shù)據(jù)集所定義的分布之上的數(shù)學(xué)期望,< ?> t。。。。為重構(gòu)的模型所定義的分布上的數(shù)學(xué)期望; 步驟44 ;輸入層與第一個(gè)隱含層hi(X)之間構(gòu)成一個(gè)RBM,通過上述步驟的訓(xùn)練方法 使其達(dá)到能量平衡;第一層改進(jìn)的RBM1訓(xùn)練完成之后,把其隱含層節(jié)點(diǎn)的激活概率矢量 作為輸入數(shù)據(jù)來訓(xùn)練下一層h2 (X)的RBM2,W此類推,訓(xùn)練L層改進(jìn)的RBM,L為深度神經(jīng) 網(wǎng)絡(luò)隱含層的層數(shù),最終完成改進(jìn)的深度信念網(wǎng)絡(luò)算法的訓(xùn)練過程,得到初始權(quán)重i= 1, 2, 3,. . . . ,L,; 步驟45 ;完成無監(jiān)督的逐層預(yù)訓(xùn)練之后,對(duì)于原始的輸入,W目標(biāo)輸出作為監(jiān)督信號(hào), 構(gòu)造損失函數(shù),采用梯度下降法,使用有監(jiān)督的學(xué)習(xí)對(duì)改進(jìn)的DBN進(jìn)行微調(diào),微調(diào)過程調(diào)整 權(quán)重ri(i= 1,2,. . . .,L),L為深度神經(jīng)網(wǎng)絡(luò)隱含層的層數(shù),W使重構(gòu)誤差達(dá)到最?。煌?成改進(jìn)的DBN的訓(xùn)練和微調(diào)過程,得到確定的基于改進(jìn)的深度信念網(wǎng)絡(luò)的電網(wǎng)安全態(tài)勢(shì)預(yù) 測(cè)模型; 步驟46 :根據(jù)改進(jìn)的DBN,結(jié)合電網(wǎng)實(shí)時(shí)數(shù)據(jù)樣本預(yù)測(cè)當(dāng)前時(shí)刻T之后T+1,T+2……T+n時(shí)刻的電網(wǎng)安全態(tài)勢(shì)。
3.根據(jù)權(quán)利要求1所述的一種基于改進(jìn)深度學(xué)習(xí)模型的電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)方法,其特 征在于,所述的電網(wǎng)安全態(tài)勢(shì)評(píng)估,具體如下: (1)根據(jù)指標(biāo)兩兩之間的相對(duì)重要性給出比較值,建立模糊互補(bǔ)判斷矩陣,矩陣公式 為:
其中fij為指標(biāo)兩兩之間的比較值,i= 1,2,…,n;j= 1,2,…,n; 將模糊互補(bǔ)判斷矩陣A'轉(zhuǎn)換為模糊一致判斷矩陣A,計(jì)算公式為A= (au)"x。;
計(jì)算出各指標(biāo)的權(quán)重向量Wi,權(quán)重向量Wi計(jì)算公式為;
式中i= 1,2,.....,n,n為指標(biāo)個(gè)數(shù),若">^,a越大,權(quán)重間的差異越小;a越小, 權(quán)重間的差異越大;若u= ^,權(quán)重間的差異最大; (2) 構(gòu)造隸屬度矩陣; 將電力系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的評(píng)語(yǔ)等級(jí)劃分為5級(jí),即很安全、安全、中等、危險(xiǎn)和很危 險(xiǎn),評(píng)語(yǔ)集記為Vj,j= 1,2,. . .m,,指標(biāo)集為i= 1,2,. . .n,,對(duì)不同的風(fēng)險(xiǎn)指標(biāo)等級(jí)進(jìn) 行劃分,若對(duì)于指標(biāo)Ui,有wu個(gè)Vj.評(píng)語(yǔ),則指標(biāo)Ui隸屬于評(píng)語(yǔ)Vj.的隸屬度rU如下:
通過W上計(jì)算即得到隸屬度矩陣R= (3) 模糊綜合評(píng)判; 多級(jí)模糊綜合評(píng)判矩陣B計(jì)算公式如下:
其中"0 "稱為模糊合成算子,當(dāng)權(quán)重向量集W= (wi,W2,. .W。)和隸屬度矩陣R均歸一 化時(shí),即為矩陣乘法運(yùn)算;多級(jí)模糊綜合評(píng)判結(jié)果為評(píng)判矩陣B; (4) 系統(tǒng)綜合評(píng)分值; 采用加權(quán)平均法對(duì)不同的等級(jí)的評(píng)語(yǔ)集Vj.規(guī)定值0j.,綜合評(píng)分結(jié)果如下:
其中k=l,bj.為多級(jí)模糊綜合評(píng)判矩陣元素,j= 1,2,…,m; 根據(jù)W上計(jì)算過程,計(jì)算得出電網(wǎng)安全態(tài)勢(shì)值P。
【專利摘要】本發(fā)明公開了一種基于改進(jìn)深度學(xué)習(xí)模型的電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)方法,屬于電力系統(tǒng)安全技術(shù)領(lǐng)域。所述方法通過電網(wǎng)數(shù)據(jù)采集和預(yù)處理進(jìn)行電網(wǎng)安全態(tài)勢(shì)評(píng)估;針對(duì)電網(wǎng)安全態(tài)勢(shì)評(píng)估的指標(biāo)數(shù)據(jù)具有關(guān)聯(lián)性強(qiáng)、維數(shù)高的特點(diǎn),提出一種改進(jìn)的自編碼網(wǎng)絡(luò)方法降低指標(biāo)數(shù)據(jù)的維數(shù),利用降維后的數(shù)據(jù)樣本和對(duì)應(yīng)下一時(shí)間監(jiān)測(cè)點(diǎn)的電網(wǎng)安全態(tài)勢(shì)值構(gòu)造訓(xùn)練樣本集;最后采用一種改進(jìn)的深度信念網(wǎng)絡(luò)構(gòu)建具有多輸入多輸出的深度學(xué)習(xí)態(tài)勢(shì)預(yù)測(cè)模型進(jìn)行電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)。本發(fā)明可以有效的提高電網(wǎng)安全態(tài)勢(shì)預(yù)測(cè)的速度和預(yù)測(cè)精度。
【IPC分類】G06Q50-06, G06Q10-04
【公開號(hào)】CN104794534
【申請(qǐng)?zhí)枴緾N201510179404
【發(fā)明人】孫海波, 張永新, 吳曉賓, 姬帥, 路長(zhǎng)祿
【申請(qǐng)人】國(guó)網(wǎng)山東省電力公司臨沂供電公司
【公開日】2015年7月22日
【申請(qǐng)日】2015年4月16日...