本發(fā)明涉及電力變壓器故障診斷，具體涉及一種基于知識(shí)蒸餾與協(xié)同增量學(xué)習(xí)的變壓器故障診斷方法。

背景技術(shù)：

1、近年來，計(jì)算機(jī)技術(shù)與傳感技術(shù)發(fā)展迅猛，隨著大量智能設(shè)備在電力系統(tǒng)內(nèi)的大規(guī)模部署，在線監(jiān)測(cè)、智能巡檢等電力物聯(lián)網(wǎng)所采集的實(shí)時(shí)數(shù)據(jù)量呈指數(shù)級(jí)增長，但隨之而來也帶來許多挑戰(zhàn)：首先，深度學(xué)習(xí)模型部署對(duì)計(jì)算資源要求較高，難以在資源受限的邊緣端實(shí)現(xiàn)，而輕量級(jí)模型則面臨著特征提取能力不足、泛化能力有限的問題；其次，變壓器故障類型多樣且復(fù)雜，如局放信號(hào)受缺陷幾何特征、外部電場(chǎng)條件及缺陷位置設(shè)備材料等因素影響較大，可能導(dǎo)致新出現(xiàn)的樣本與模型學(xué)習(xí)的樣本差異顯著，重新訓(xùn)練所需的資源配置在邊緣側(cè)難以滿足；此外，將大量監(jiān)測(cè)數(shù)據(jù)傳輸至云端進(jìn)行集中處理，雖然能解決計(jì)算與存儲(chǔ)能力問題，但數(shù)據(jù)傳輸過程中會(huì)占用大量通信帶寬，造成通信信道負(fù)載過重，而邊緣端計(jì)算資源有限，難以應(yīng)對(duì)高計(jì)算需求的任務(wù)。如何在邊緣計(jì)算環(huán)境中有效處理和利用這些數(shù)據(jù)是目前亟需解決的問題。

2、為緩解數(shù)據(jù)傳輸壓力，合理分配計(jì)算資源并提高系統(tǒng)運(yùn)行效率，可采用云邊協(xié)同的方式，指在云計(jì)算和邊緣計(jì)算之間實(shí)現(xiàn)協(xié)同工作的一種運(yùn)行機(jī)制。核心思想是在于整合云計(jì)算與邊緣計(jì)算的優(yōu)勢(shì)，實(shí)現(xiàn)更為靈活高效的數(shù)據(jù)處理與計(jì)算能力。在云邊協(xié)同架構(gòu)下，邊緣端負(fù)責(zé)數(shù)據(jù)的實(shí)時(shí)處理和初步分析，僅將重要的識(shí)別結(jié)果或摘要數(shù)據(jù)上傳至云端，減輕數(shù)據(jù)傳輸壓力，優(yōu)化通信資源的利用。

3、然而，單純的云邊協(xié)同仍然面臨一些問題，隨著電力系統(tǒng)的運(yùn)行，與模型學(xué)習(xí)樣本差異較大的新樣本數(shù)據(jù)不斷增加，現(xiàn)有的診斷模型可能會(huì)出現(xiàn)失準(zhǔn)的情況。重新訓(xùn)練可能導(dǎo)致歷史樣本數(shù)據(jù)的“遺忘”(識(shí)別能力下降)或?qū)ι倭啃聵颖緮?shù)據(jù)的“淹沒”(學(xué)習(xí)效果不佳)。采用漸進(jìn)式修正模型的增量學(xué)習(xí)能夠有效應(yīng)對(duì)這一問題。但受限于計(jì)算資源，傳統(tǒng)的增量學(xué)習(xí)方法在邊緣計(jì)算環(huán)境中的應(yīng)用，對(duì)新樣本的學(xué)習(xí)效果不佳。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明的目的是為了解決邊緣計(jì)算環(huán)境中模型更新的難題，提供一種基于知識(shí)蒸餾與協(xié)同增量學(xué)習(xí)的變壓器故障診斷方法。按照本發(fā)明的技術(shù)方案，通過協(xié)同增量學(xué)習(xí)機(jī)制實(shí)現(xiàn)云端與邊緣端模型的同步更新，確保了模型在邊緣計(jì)算環(huán)境中能夠持續(xù)有效地學(xué)習(xí)和適應(yīng)新樣本，提升故障診斷的準(zhǔn)確性。

2、為了實(shí)現(xiàn)上述目的，本發(fā)明提供了一種基于知識(shí)蒸餾與協(xié)同增量學(xué)習(xí)的變壓器故障診斷方法，該方法包括以下步驟：

3、(1)利用現(xiàn)場(chǎng)采集的變壓器歷史數(shù)據(jù)，構(gòu)建云端高性能模型和輕量級(jí)模型的訓(xùn)練數(shù)據(jù)集；

4、(2)在邊緣側(cè)部署初始狀態(tài)的輕量級(jí)模型，等待云端下發(fā)經(jīng)過訓(xùn)練的模型參數(shù)；

5、(3)在云端構(gòu)建模式識(shí)別模型，并將數(shù)據(jù)集輸入高性能模型進(jìn)行訓(xùn)練，隨后通過知識(shí)蒸餾技術(shù)，用高性能模型指導(dǎo)輕量級(jí)模型的訓(xùn)練，完成訓(xùn)練后將模型參數(shù)保存到云端；

6、(4)通過無線通訊將云端訓(xùn)練好的輕量級(jí)模型權(quán)重參數(shù)下發(fā)至邊緣側(cè)，實(shí)現(xiàn)模型部署；

7、(5)邊緣側(cè)設(shè)備在接收到監(jiān)測(cè)數(shù)據(jù)后，先對(duì)原始數(shù)據(jù)進(jìn)行適當(dāng)處理，再輸入識(shí)別模型進(jìn)行故障識(shí)別，根據(jù)模型輸出結(jié)果，判斷最高類別概率是否超過80％，若超過80％，則執(zhí)行步驟(6)；若低于80％，則轉(zhuǎn)至步驟(7)；

8、(6)將邊緣側(cè)的識(shí)別結(jié)果加密后上傳至云端，并將對(duì)應(yīng)的監(jiān)測(cè)數(shù)據(jù)存儲(chǔ)在本地?cái)?shù)據(jù)庫中，根據(jù)需要上傳至云端，同時(shí)向運(yùn)維人員發(fā)送故障類型提示，以便進(jìn)行后續(xù)維護(hù)和檢修工作；

9、(7)當(dāng)邊緣側(cè)模型的輸出結(jié)果可信度不達(dá)標(biāo)時(shí)，將輸入數(shù)據(jù)和輸出結(jié)果加密后上傳至云端，由云端高性能模型進(jìn)行判別，若結(jié)果達(dá)標(biāo)，則通過增量學(xué)習(xí)的方式更新輕量級(jí)模型；若結(jié)果不達(dá)標(biāo)，則由運(yùn)維人員對(duì)數(shù)據(jù)進(jìn)行判別和標(biāo)注，通過增量學(xué)習(xí)的方式更新高性能模型后，重復(fù)步驟(3)至(5)，以實(shí)現(xiàn)邊緣側(cè)輕量級(jí)模型的同步更新。

10、優(yōu)選地，在步驟(1)中，以局部放電數(shù)據(jù)為例，將采集的原始局放數(shù)據(jù)通過局部放電信號(hào)可用式(1)表示：

11、s(t)＝f(t)+ε(t)?(1)

12、其中，s(t)為含有噪聲的局部放電監(jiān)測(cè)信號(hào)；f(t)為信號(hào)的有效部分；ε(t)為噪聲信號(hào)。

13、優(yōu)選地，對(duì)含噪信號(hào)s(n)進(jìn)行離散小波變換，得到下式(2)：

14、∫s(t)ψj,k(t)dt＝∫f(t)ψj,k(t)dt+∫ε(t)ψj,k(t)dt?(2)

15、其中，ψj,k(t)為小波基函數(shù)；j為小波基函數(shù)的尺度參數(shù)；k為小波基函數(shù)的平移參數(shù)。

16、優(yōu)選地，小波去噪的目標(biāo)即為最大限度地消除噪聲信號(hào)ε(t)的影響，從而保留有效信號(hào)f(t)，小波去噪過程包括以下三個(gè)部分：

17、1)小波分解：首先，將待處理的信號(hào)s通過小波變換分解成不同尺度和頻率的子帶信號(hào)，分解后的信號(hào)稱為近似系數(shù)和細(xì)節(jié)系數(shù)，近似系數(shù)ai為信號(hào)的低頻部分，近似系數(shù)主要反映了信號(hào)的整體趨勢(shì)，而細(xì)節(jié)系數(shù)di則反映了信號(hào)的細(xì)節(jié)和高頻成分；

18、2)閾值處理：在小波域中，通常假設(shè)信號(hào)的細(xì)節(jié)系數(shù)主要包含噪聲，而近似系數(shù)主要包含信號(hào)的有效信息；

19、3)重構(gòu)信號(hào)：經(jīng)過閾值處理后，將處理后的近似系數(shù)和細(xì)節(jié)系數(shù)通過小波逆變換進(jìn)行重構(gòu)，得到去噪后的信號(hào)s`。

20、優(yōu)選地，在步驟(3)中，利用歷史數(shù)據(jù)對(duì)高性能模型進(jìn)行訓(xùn)練，通過最小化輕量級(jí)模型與高性能模型的軟標(biāo)簽輸出差異實(shí)現(xiàn)先驗(yàn)知識(shí)的繼承。

21、優(yōu)選地，軟標(biāo)簽是數(shù)值在0到1之間的概率標(biāo)簽形式，相較于常規(guī)神經(jīng)網(wǎng)絡(luò)輸出的0和1的二值標(biāo)簽，既表明類別屬性，又蘊(yùn)含了不同類別間的隱含信息。

22、優(yōu)選地，神經(jīng)網(wǎng)絡(luò)通過使用“softmax”層來輸出各類型概率，其表達(dá)式為：

23、

24、式中：zi,zj為數(shù)據(jù)輸入網(wǎng)絡(luò)后的logits輸出；qi為softmax的輸出，即模型預(yù)測(cè)結(jié)果。

25、優(yōu)選地，引入蒸餾溫度t后，softmax表達(dá)式變?yōu)椋?/p>

26、

27、隨著蒸餾溫度t值增大，模型的輸出結(jié)果分布會(huì)越平緩，分布熵變小；

28、并在先驗(yàn)知識(shí)的指導(dǎo)下，盡量縮小硬標(biāo)簽輸出與真實(shí)標(biāo)簽間的差異，其函數(shù)表達(dá)式如下：

29、

30、losshard＝-∑ipilogqi??(7)

31、式中pi為標(biāo)簽。

32、優(yōu)選地，采用知識(shí)蒸餾訓(xùn)練時(shí)，首先教師網(wǎng)絡(luò)在蒸餾溫度t＝t下預(yù)測(cè)一個(gè)軟標(biāo)簽，軟標(biāo)簽作為知識(shí)傳遞給學(xué)生網(wǎng)絡(luò)；然后在蒸餾溫度t＝t下，將學(xué)生網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果與教師網(wǎng)絡(luò)的軟標(biāo)簽通過計(jì)算得到蒸餾損失losssoft。

33、優(yōu)選地，將學(xué)生網(wǎng)絡(luò)在蒸餾溫度t＝1時(shí)得到的結(jié)果與真實(shí)標(biāo)簽通過計(jì)算得到分類損失losshard，由于訓(xùn)練過程中兩種損失函數(shù)所提供的梯度量不同，因此計(jì)算總損失函數(shù)loss時(shí)，需要在蒸餾損失losssoft前乘以t2，總損失函數(shù)表達(dá)式如下：

34、loss＝αlhard+(1-α)t2lsoft?(8)

35、式中α為權(quán)重系數(shù)。

36、與現(xiàn)有技術(shù)相比，本發(fā)明具有如下優(yōu)點(diǎn)：

37、(1)云邊協(xié)同增量學(xué)習(xí)：通過云邊協(xié)同增量學(xué)習(xí)機(jī)制，實(shí)現(xiàn)了邊緣側(cè)模型的持續(xù)更新和優(yōu)化，解決了傳統(tǒng)方法中邊緣計(jì)算環(huán)境中難以有效處理新樣本的問題，提升了模型的適應(yīng)性和準(zhǔn)確性；

38、(2)分層處理與決策機(jī)制：通過知識(shí)蒸餾技術(shù)，將云端高性能模型的知識(shí)轉(zhuǎn)移到輕量級(jí)模型中，使得在邊緣計(jì)算環(huán)境中部署的模型既具備較強(qiáng)的識(shí)別能力，又能夠滿足資源受限的要求。采用分層處理與決策機(jī)制，邊緣側(cè)模型能夠獨(dú)立進(jìn)行初步故障識(shí)別，并根據(jù)結(jié)果的可信度決定是否需要上傳云端進(jìn)一步分析。這種機(jī)制不僅提高了系統(tǒng)的實(shí)時(shí)性，還減輕了通信帶寬的負(fù)擔(dān)。