本發(fā)明涉及一種井漏預(yù)警，是一種基于非平穩(wěn)transformer的井漏預(yù)警模型構(gòu)建方法、井漏預(yù)警方法及相關(guān)裝置。

背景技術(shù)：

1、數(shù)字信息化時(shí)代，使用計(jì)算機(jī)和自動(dòng)化技術(shù)處理油氣鉆井中處理油氣鉆井中遇到的各種問題越來越成為一種趨勢(shì)。面對(duì)井下滲漏問題，處理措施不當(dāng)會(huì)導(dǎo)致封堵成功率低，鉆井液持續(xù)滲漏，現(xiàn)場工作時(shí)間損失增加，甚至?xí)?dǎo)致棄井發(fā)生。頻繁的井漏問題耗費(fèi)了大量的施工時(shí)間，堵漏施工會(huì)增加鉆井周期，大大增加了鉆井成本。

2、目前鉆井過程中伴隨著各種的隨機(jī)、模糊、不確定、不可控因素，并且隨著開采范圍的延伸、生產(chǎn)能力的提高及開采深度的增加，其井下作業(yè)情況越來越復(fù)雜，井下涌水量進(jìn)一步增大，井漏問題也更為突出，面對(duì)井漏問題，若處理措施不當(dāng)會(huì)導(dǎo)致封堵成功率低，鉆井液持續(xù)滲漏，現(xiàn)場工作時(shí)間損失增加，甚至?xí)?dǎo)致棄井發(fā)生。

3、隨著數(shù)字信息化的發(fā)展，使用計(jì)算機(jī)和自動(dòng)化技術(shù)對(duì)于井漏進(jìn)行預(yù)警越來越成為一種趨勢(shì)，現(xiàn)有用于井漏預(yù)警的方法多為使用卷積神經(jīng)網(wǎng)絡(luò)、lstm等算法進(jìn)行深度學(xué)習(xí)，構(gòu)建井漏預(yù)警模型，完成井漏預(yù)警，例如：

4、現(xiàn)有公開專利文獻(xiàn)一，公開號(hào)為cn118410701a，公開了一種基于地層巖性重構(gòu)的可解釋連續(xù)學(xué)習(xí)井漏預(yù)測(cè)方法，包括：s1，構(gòu)建基于井深的地質(zhì)工程數(shù)據(jù)集，重構(gòu)，得到基于地層巖性的地質(zhì)工程數(shù)據(jù)集；s2，按巖性抽取不同巖性地層數(shù)據(jù)，通過信號(hào)時(shí)頻分析方法提取不同巖性地層典型井漏特征；s3，基于不同巖性地層典型井漏特征建立不同巖性地層井漏特征的激勵(lì)函數(shù)，基于多個(gè)激勵(lì)函數(shù)構(gòu)建激勵(lì)函數(shù)自適應(yīng)進(jìn)化機(jī)制，以此機(jī)制作為井漏預(yù)測(cè)模型的連續(xù)學(xué)習(xí)機(jī)制，對(duì)井漏預(yù)測(cè)模型進(jìn)行驗(yàn)證和優(yōu)化；s4，將目標(biāo)井設(shè)計(jì)數(shù)據(jù)輸入井漏預(yù)測(cè)模型，得到輸出結(jié)果。本發(fā)明解決了傳統(tǒng)機(jī)器學(xué)習(xí)井漏預(yù)測(cè)方法普適性差的問題，并提高了井漏預(yù)測(cè)的準(zhǔn)確性。

5、現(xiàn)有公開專利文獻(xiàn)二，公開號(hào)為cn117540277b，公開了一種基于wgan-gp-tabnet算法的井漏預(yù)警方法，包括：收集現(xiàn)場數(shù)據(jù)；篩選與漏失流量相關(guān)性強(qiáng)的特征參數(shù)并刪除現(xiàn)場數(shù)據(jù)中相關(guān)性不強(qiáng)的參數(shù)，從而形成初始參數(shù)；根據(jù)漏失流量對(duì)初始參數(shù)進(jìn)行分級(jí)，根據(jù)分級(jí)后各級(jí)參數(shù)的數(shù)量將各等級(jí)分為多數(shù)類和少數(shù)類；將初始參數(shù)輸入wgan-gp模型，生成少數(shù)類數(shù)據(jù)；利用初始參數(shù)和生成的少數(shù)類數(shù)據(jù)來訓(xùn)練并評(píng)估井漏預(yù)警模型tabnet；采集現(xiàn)場數(shù)據(jù)并利用通過訓(xùn)練的tabnet模型預(yù)測(cè)漏失程度。本發(fā)明有效解決了深度學(xué)習(xí)防漏堵漏中類不平衡導(dǎo)致的召回率和少數(shù)類預(yù)測(cè)精度不高的問題，具有穩(wěn)定可靠，準(zhǔn)確率高，便于操作，反應(yīng)速度快，可遷移性強(qiáng)等優(yōu)勢(shì)。

6、現(xiàn)有公開專利文獻(xiàn)三，公開號(hào)為cn110766192b，公開了一種基于深度學(xué)習(xí)的鉆井井漏預(yù)測(cè)系統(tǒng)及方法，方法包括：1)獲取鉆井生產(chǎn)運(yùn)行數(shù)據(jù)；2)對(duì)獲取的數(shù)據(jù)進(jìn)行預(yù)處理，獲取進(jìn)行深度學(xué)習(xí)的樣本數(shù)據(jù)；3)特征提取和分類訓(xùn)練；采用vgg卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行深度學(xué)習(xí)，通過特征提取和分類訓(xùn)練，獲得訓(xùn)練完成的鉆井井漏預(yù)測(cè)模型；4)結(jié)果輸出和結(jié)果確認(rèn)：使用訓(xùn)練完成的鉆井井漏預(yù)測(cè)模型對(duì)實(shí)時(shí)驗(yàn)證數(shù)據(jù)作驗(yàn)證，給出井漏判斷結(jié)果。

7、上述技術(shù)主要存在以下幾個(gè)方面的問題待解決：

8、井漏歷史數(shù)據(jù)的長期依賴問題：鉆井過程中存在微量漏失和地層壓裂等快速漏失，微量漏失需要在較長的時(shí)間步上才能發(fā)現(xiàn)，而上述模型無法很好解決時(shí)間步的長期依賴問題，因此難以捕捉微量漏失的相關(guān)特征；

9、無法獲取井漏數(shù)據(jù)的非平穩(wěn)特性：部分井漏數(shù)據(jù)（例如總池體積）存在非平穩(wěn)性，現(xiàn)有模型無法有效提取非平穩(wěn)信息，從而降低對(duì)井漏事件的識(shí)別能力；

10、井漏預(yù)警與建模任務(wù)的不匹配：二分類的任務(wù)是對(duì)井漏和正常樣本進(jìn)行分類，現(xiàn)有模型在理想情況下只能識(shí)別某一時(shí)刻是否發(fā)生井漏，無法有效實(shí)現(xiàn)井漏的提前預(yù)警。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明提供了一種基于非平穩(wěn)transformer的井漏預(yù)警模型構(gòu)建方法、井漏預(yù)警方法及相關(guān)裝置，克服了上述現(xiàn)有技術(shù)之不足，其能有效解決現(xiàn)有井漏預(yù)警方法存在的不能有效提取非平穩(wěn)性特征，造成井漏預(yù)警不準(zhǔn)確的問題。

2、本發(fā)明的技術(shù)方案之一是通過以下措施來實(shí)現(xiàn)的：一種基于非平穩(wěn)transformer的井漏預(yù)警模型構(gòu)建方法，包括：

3、獲取第一樣本集和第二樣本集，其中第一樣本集包括多個(gè)無標(biāo)簽樣本，無標(biāo)簽樣本為井漏數(shù)據(jù)序列，第二樣本集包括多個(gè)有標(biāo)簽樣本，每個(gè)有標(biāo)簽樣本包括井漏樣本和是否發(fā)生井漏的樣本標(biāo)簽；

4、利用第一樣本集對(duì)第一網(wǎng)絡(luò)模型進(jìn)行自監(jiān)督預(yù)訓(xùn)練，得到第二網(wǎng)絡(luò)模型，其中第一網(wǎng)絡(luò)模型是利用transformer網(wǎng)絡(luò)建立的骨干網(wǎng)絡(luò)構(gòu)建得到；

5、對(duì)第二網(wǎng)絡(luò)模型進(jìn)行頭部網(wǎng)絡(luò)更換，得到第三網(wǎng)絡(luò)模型，并利用第二樣本集對(duì)第三網(wǎng)絡(luò)模型進(jìn)行微調(diào)訓(xùn)練，得到井漏預(yù)警模型。

6、下面是對(duì)上述發(fā)明技術(shù)方案的進(jìn)一步優(yōu)化或/和改進(jìn)：

7、上述第一樣本集的獲取過程，包括：

8、獲取通過頻率采樣得到多口井的井漏歷史數(shù)據(jù)，其中井漏歷史數(shù)據(jù)包括在井漏發(fā)生前出現(xiàn)異常變化或在井漏發(fā)生后出現(xiàn)明顯變化的各類井漏數(shù)據(jù)；

9、在每口井的井漏歷史數(shù)據(jù)中標(biāo)注井漏發(fā)生時(shí)刻和井漏結(jié)束時(shí)刻，根據(jù)井漏發(fā)生時(shí)刻和井漏結(jié)束時(shí)刻對(duì)井漏歷史數(shù)據(jù)的每個(gè)時(shí)刻賦予時(shí)刻標(biāo)簽，形成對(duì)應(yīng)的井漏數(shù)據(jù)序列，其中時(shí)刻標(biāo)簽包括發(fā)生井漏的時(shí)刻標(biāo)簽和未發(fā)生井漏的時(shí)刻標(biāo)簽；

10、對(duì)各個(gè)井漏數(shù)據(jù)序列進(jìn)行預(yù)處理，得到多個(gè)無標(biāo)簽樣本，形成第一樣本集。

11、上述第二樣本集的獲取過程，包括：

12、獲取通過頻率采樣得到多口井的井漏歷史數(shù)據(jù)，其中井漏歷史數(shù)據(jù)包括在井漏發(fā)生前出現(xiàn)異常變化或在井漏發(fā)生后出現(xiàn)明顯變化的各類井漏數(shù)據(jù)；

13、在每口井的井漏歷史數(shù)據(jù)中標(biāo)注井漏發(fā)生時(shí)刻和井漏結(jié)束時(shí)刻，根據(jù)井漏發(fā)生時(shí)刻和井漏結(jié)束時(shí)刻對(duì)井漏歷史數(shù)據(jù)的每個(gè)時(shí)刻賦予時(shí)刻標(biāo)簽，其中時(shí)刻標(biāo)簽包括發(fā)生井漏的時(shí)刻標(biāo)簽和未發(fā)生井漏的時(shí)刻標(biāo)簽；

14、對(duì)標(biāo)簽化處理后的井漏歷史數(shù)據(jù)進(jìn)行預(yù)處理；

15、設(shè)置滑動(dòng)窗口的大小和步長，利用滑動(dòng)窗口對(duì)所有井漏歷史數(shù)據(jù)進(jìn)行截取，得到多個(gè)窗口樣本；

16、計(jì)算每個(gè)窗口樣本內(nèi)所有井漏歷史數(shù)據(jù)的時(shí)刻標(biāo)簽均值，保留時(shí)刻標(biāo)簽均值為發(fā)生井漏或未發(fā)生井漏的窗口樣本，并將各個(gè)窗口樣本作為井漏樣本，各個(gè)窗口樣本的時(shí)刻標(biāo)簽均值作為對(duì)應(yīng)的樣本標(biāo)簽，得到多個(gè)有標(biāo)簽樣本，形成第二樣本集。

17、上述預(yù)處理包括數(shù)值類型轉(zhuǎn)換、z-score歸一化、nan值填充和時(shí)間降采樣。

18、上述利用第一樣本集對(duì)第一網(wǎng)絡(luò)模型進(jìn)行自監(jiān)督預(yù)訓(xùn)練與利用第二樣本集對(duì)第三網(wǎng)絡(luò)模型進(jìn)行微調(diào)訓(xùn)練的過程相同，其中利用第一樣本集對(duì)第一網(wǎng)絡(luò)模型進(jìn)行自監(jiān)督預(yù)訓(xùn)練的過程，包括：

19、將第一樣本集劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集；

20、利用訓(xùn)練集對(duì)第一網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，訓(xùn)練時(shí)引入損失函數(shù)，在損失函數(shù)的值穩(wěn)定時(shí)，結(jié)束訓(xùn)練得到得到第二網(wǎng)絡(luò)模型，其中，第一網(wǎng)絡(luò)模型是利用transformer網(wǎng)絡(luò)建立的骨干網(wǎng)絡(luò)構(gòu)建得到，包括通過兩個(gè)多層感知機(jī)在歸一化后的輸入數(shù)據(jù)中提取去平穩(wěn)因子和，通過嵌入層將歸一化后的輸入數(shù)據(jù)由低維度映射到高維度，基于平穩(wěn)因子和通過非平穩(wěn)transformer編碼器對(duì)高維度的輸入數(shù)據(jù)進(jìn)行編碼，得到高維語義特征，通過多層感知機(jī)將高維語義特征映射回原維度的語義特征；

21、利用驗(yàn)證集和測(cè)試集分別對(duì)訓(xùn)練后的第二網(wǎng)絡(luò)模型進(jìn)行驗(yàn)證和測(cè)試，優(yōu)化第二網(wǎng)絡(luò)模型的模型參數(shù)，并輸出符合測(cè)試評(píng)估要求的第二網(wǎng)絡(luò)模型。

22、上述利用第二樣本集對(duì)第三網(wǎng)絡(luò)模型進(jìn)行微調(diào)訓(xùn)練時(shí)，使用的損失函數(shù)如下所示：

23、

24、其中，是第二樣本集中有標(biāo)簽樣本的真實(shí)結(jié)果，是模型的預(yù)測(cè)結(jié)果；

25、或/和，將第二網(wǎng)絡(luò)模型的頭部網(wǎng)絡(luò)更換為線性層，得到第三網(wǎng)絡(luò)模型。

26、本發(fā)明的技術(shù)方案之二是通過以下措施來實(shí)現(xiàn)的：一種基于非平穩(wěn)transformer的井漏預(yù)警方法，包括：

27、獲取單井某一時(shí)段的實(shí)時(shí)井漏數(shù)據(jù)序列；

28、對(duì)實(shí)時(shí)井漏數(shù)據(jù)序列進(jìn)行預(yù)處理，并利用滑動(dòng)窗口對(duì)實(shí)時(shí)井漏數(shù)據(jù)序列進(jìn)行截取，得到多個(gè)待預(yù)測(cè)窗口樣本；

29、將多個(gè)待預(yù)測(cè)窗口樣本輸入井漏預(yù)警模型，得到發(fā)生井漏的預(yù)測(cè)概率，其中井漏預(yù)警模型是通過權(quán)利要求1至6中任意一項(xiàng)所述方法構(gòu)建得到；

30、將發(fā)生井漏的預(yù)測(cè)概率與設(shè)定的閾值進(jìn)行比較，根據(jù)比較結(jié)果進(jìn)行井漏預(yù)警。

31、本發(fā)明的技術(shù)方案之三是通過以下措施來實(shí)現(xiàn)的：一種基于非平穩(wěn)transformer的井漏預(yù)警模型構(gòu)建裝置，包括：

32、樣本集獲取單元，獲取第一樣本集和第二樣本集，其中第一樣本集包括多個(gè)無標(biāo)簽樣本，無標(biāo)簽樣本為井漏數(shù)據(jù)序列，第二樣本集包括多個(gè)有標(biāo)簽樣本，每個(gè)有標(biāo)簽樣本包括井漏樣本和是否發(fā)生井漏的樣本標(biāo)簽；

33、第一訓(xùn)練單元，利用第一樣本集對(duì)第一網(wǎng)絡(luò)模型進(jìn)行自監(jiān)督預(yù)訓(xùn)練，得到第二網(wǎng)絡(luò)模型，其中第一網(wǎng)絡(luò)模型是利用transformer網(wǎng)絡(luò)建立的骨干網(wǎng)絡(luò)構(gòu)建得到；

34、第二訓(xùn)練單元，對(duì)第二網(wǎng)絡(luò)模型進(jìn)行頭部網(wǎng)絡(luò)更換，得到第三網(wǎng)絡(luò)模型，并利用第二樣本集對(duì)第三網(wǎng)絡(luò)模型進(jìn)行微調(diào)訓(xùn)練，得到井漏預(yù)警模型。

35、本發(fā)明的技術(shù)方案之四是通過以下措施來實(shí)現(xiàn)的：一種基于非平穩(wěn)transformer的井漏預(yù)警裝置，包括：

36、待預(yù)測(cè)數(shù)據(jù)獲取單元，獲取單井某一時(shí)段的實(shí)時(shí)井漏數(shù)據(jù)序列；

37、待預(yù)測(cè)數(shù)據(jù)處理單元，對(duì)實(shí)時(shí)井漏數(shù)據(jù)序列進(jìn)行預(yù)處理，并利用滑動(dòng)窗口對(duì)實(shí)時(shí)井漏數(shù)據(jù)序列進(jìn)行截取，得到多個(gè)待預(yù)測(cè)窗口樣本；

38、預(yù)測(cè)單元，將多個(gè)待預(yù)測(cè)窗口樣本輸入井漏預(yù)警模型，得到發(fā)生井漏的預(yù)測(cè)概率，其中井漏預(yù)警模型是通過權(quán)利要求1至6中任意一項(xiàng)所述方法構(gòu)建得到；

39、預(yù)警單元，將發(fā)生井漏的預(yù)測(cè)概率與設(shè)定的閾值進(jìn)行比較，根據(jù)比較結(jié)果進(jìn)行井漏預(yù)警。

40、本發(fā)明的技術(shù)方案之五是通過以下措施來實(shí)現(xiàn)的：一種電子設(shè)備，其特征在于，包括處理器和存儲(chǔ)器，所述存儲(chǔ)器中存儲(chǔ)有計(jì)算機(jī)程序，計(jì)算機(jī)程序由處理器加載并執(zhí)行以實(shí)現(xiàn)基于非平穩(wěn)transformer的井漏預(yù)警方法中的步驟。

41、本發(fā)明引入transformer網(wǎng)絡(luò)構(gòu)建模型，采用自監(jiān)督預(yù)訓(xùn)練和微調(diào)訓(xùn)練結(jié)合的方式進(jìn)行模型訓(xùn)練得到井漏預(yù)警模型，由此井漏預(yù)警模型基于transformer網(wǎng)絡(luò)的特點(diǎn)能夠有效提取井漏數(shù)據(jù)中的非平穩(wěn)信息，提高井漏預(yù)警準(zhǔn)確度，并且模型訓(xùn)練時(shí)使用無標(biāo)簽樣本進(jìn)行自監(jiān)督預(yù)訓(xùn)練，模型可以學(xué)習(xí)到通用特征，提高模型的表現(xiàn)力，在自監(jiān)督預(yù)訓(xùn)練的基礎(chǔ)上使用有標(biāo)簽樣本進(jìn)行微調(diào)的有監(jiān)督訓(xùn)練，提高模型的井漏預(yù)警準(zhǔn)確性、可靠性和泛化能力。