本發(fā)明涉及數(shù)據(jù)采集和分析領(lǐng)域，尤其涉及一種時(shí)序特征提取模塊結(jié)合圖神經(jīng)網(wǎng)絡(luò)的質(zhì)量檢測方法。

背景技術(shù)：

1、在工業(yè)生產(chǎn)領(lǐng)域的質(zhì)量檢測方面，目前主要采用的方法是依賴于產(chǎn)品人工抽查和測量設(shè)備進(jìn)行測量等方式。傳統(tǒng)的人工抽查和設(shè)備測量在質(zhì)量檢測過程中存在一些問題。首先，它們需要耗費(fèi)大量的人力物力和時(shí)間，特別是對(duì)于需要檢查封閉空間內(nèi)部質(zhì)量的產(chǎn)品，人工抽查意味著要破壞該產(chǎn)品。而且隨著工業(yè)生產(chǎn)系統(tǒng)的大型化復(fù)雜化,人工提取特征的質(zhì)量檢測越來越困難。此外，現(xiàn)有的質(zhì)量檢驗(yàn)方式往往是在產(chǎn)品生產(chǎn)完成之后進(jìn)行，實(shí)質(zhì)上是在成品中挑出廢品。這種方式不僅浪費(fèi)人力資源，還增加了生產(chǎn)成本。為了克服這些問題，統(tǒng)計(jì)學(xué)和人工智能方法被引入到質(zhì)量控制中。通過這些方法，可以及時(shí)發(fā)現(xiàn)即將形成或剛開始形成的不合格品。利用傳感器數(shù)據(jù)的自動(dòng)監(jiān)控，及時(shí)采取措施，可以提前預(yù)警，避免不合格品的產(chǎn)生，并有效節(jié)約成本。

2、然而，現(xiàn)實(shí)工業(yè)生產(chǎn)的過程中具有明確的生產(chǎn)流程和連續(xù)性，若通過傳感器采集到的數(shù)據(jù)對(duì)其生產(chǎn)的產(chǎn)品進(jìn)行質(zhì)量檢測，難點(diǎn)在于大量相互連接的傳感器產(chǎn)生大量的時(shí)間序列數(shù)據(jù)。例如，在水處理廠中，可能有許多傳感器測量水位、流量、水質(zhì)、閥門狀態(tài)等，這些組件間存在復(fù)雜關(guān)系，因此要考慮傳感器間的相關(guān)性。

3、李尚勇等人在中國發(fā)明專利“一種基于深度神經(jīng)網(wǎng)絡(luò)的產(chǎn)品質(zhì)量檢測方法”（公開號(hào)為cn?111753876?a）中基于設(shè)備傳感器數(shù)據(jù)，如溫濕度、震動(dòng)、噪音、電流、電壓等，設(shè)計(jì)深度神經(jīng)網(wǎng)絡(luò)模型對(duì)工業(yè)產(chǎn)品進(jìn)行實(shí)時(shí)無損檢測，并反應(yīng)機(jī)器的運(yùn)行狀況，以此給質(zhì)檢人員提供參考。但使用的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)并沒有能力顯式地捕獲傳感器之間的時(shí)空關(guān)系，尤其是空間關(guān)系。劉澤皓等人在中國發(fā)明專利“一種基于圖神經(jīng)網(wǎng)絡(luò)的工業(yè)過程異常檢測方法”（公開號(hào)為cn?117724452?a）中提高對(duì)工業(yè)系統(tǒng)狀態(tài)的建模能力，改進(jìn)工業(yè)系統(tǒng)異常檢測效果。該方法可以捕獲傳感器間的空間關(guān)系，但是沒有發(fā)掘時(shí)序數(shù)據(jù)的周期內(nèi)和周期間特征的能力，而且該方法用于異常檢測，沒有應(yīng)用到質(zhì)量檢測領(lǐng)域中。

4、在實(shí)際生產(chǎn)中，大量相互連接的傳感器產(chǎn)生大量的時(shí)間序列數(shù)據(jù)，這些時(shí)序數(shù)據(jù)有復(fù)雜的周期內(nèi)和周期間變化，來自這些傳感器的數(shù)據(jù)又可以以復(fù)雜的、非線性的方式聯(lián)系在一起，導(dǎo)致預(yù)測困難、故障定位困難，因此要考慮傳感器間的時(shí)空相關(guān)性。

5、因此，本領(lǐng)域的技術(shù)人員致力于開發(fā)一種新的質(zhì)量檢測方法，能更好的應(yīng)用實(shí)際生產(chǎn)中大量相互連接的傳感器產(chǎn)生的大量的時(shí)間序列數(shù)據(jù)，解決現(xiàn)有技術(shù)中存在的上述缺陷。

技術(shù)實(shí)現(xiàn)思路

1、有鑒于現(xiàn)有技術(shù)的上述缺陷，本發(fā)明所要解決的技術(shù)問題是如何克服深度神經(jīng)網(wǎng)絡(luò)模型無法顯式對(duì)傳感器間復(fù)雜的時(shí)空關(guān)系進(jìn)行建模，從而導(dǎo)致預(yù)測困難、故障定位困難、質(zhì)量檢測精度較低和可靠性較差的問題。

2、為實(shí)現(xiàn)上述目的，本發(fā)明提供了一種時(shí)序特征提取模塊結(jié)合圖神經(jīng)網(wǎng)絡(luò)的質(zhì)量檢測方法，具有捕獲傳感器間復(fù)雜時(shí)空相關(guān)性的能力，特別適合于大量傳感器以復(fù)雜、非線性方式聯(lián)系在一起并產(chǎn)生大量時(shí)間序列數(shù)據(jù)的復(fù)雜生產(chǎn)過程的產(chǎn)品質(zhì)量檢測，能夠帶來更高的檢測精度和更高的可靠性。

3、本發(fā)明提供的一種時(shí)序特征提取模塊結(jié)合圖神經(jīng)網(wǎng)絡(luò)的質(zhì)量檢測方法，包括以下步驟：

4、步驟1、通過時(shí)序特征提取模塊將一維時(shí)間序列重塑為一組基于多個(gè)周期的二維張量，捕獲二維空間中的周期內(nèi)和周期間變化，再使用inception模塊對(duì)所述二維張量進(jìn)行處理，將學(xué)習(xí)到的二維表示轉(zhuǎn)換到一維空間，最后將不同的一維表示聚合起來，得到已經(jīng)捕獲的周期內(nèi)和周期間特征的一維時(shí)序數(shù)據(jù)；

5、步驟2、在圖結(jié)構(gòu)學(xué)習(xí)模塊中，將所述一維時(shí)序數(shù)據(jù)輸入圖結(jié)構(gòu)，并將所述圖結(jié)構(gòu)的每一個(gè)節(jié)點(diǎn)視為一個(gè)傳感器，為所述每個(gè)傳感器引入隨機(jī)初始化的傳感器編碼，再進(jìn)行圖結(jié)構(gòu)學(xué)習(xí)，得到所述圖結(jié)構(gòu)的邊的權(quán)重，其中，所述圖結(jié)構(gòu)的邊表示所述傳感器之間的依賴程度；

6、步驟3、在圖狀態(tài)更新模塊中，通過引入特征提取器，將所述一維時(shí)序數(shù)據(jù)和所述傳感器編碼進(jìn)行融合，使用非線性激活計(jì)算得到相鄰節(jié)點(diǎn)間的注意力系數(shù)，并對(duì)所述注意力系數(shù)進(jìn)行歸一化處理，再根據(jù)得到的所述注意力系數(shù)，利用多層圖神經(jīng)網(wǎng)絡(luò)對(duì)節(jié)點(diǎn)狀態(tài)進(jìn)行擴(kuò)散和更新所述圖結(jié)構(gòu)的狀態(tài)，使得所述每一個(gè)節(jié)點(diǎn)融合節(jié)點(diǎn)與鄰居的信息聚合表示，在更高維的歐式空間顯式地表示所述圖結(jié)構(gòu)；

7、步驟4、在產(chǎn)品質(zhì)量分類模塊中，將經(jīng)過擴(kuò)散和更新的所述圖結(jié)構(gòu)輸入全連接層，所述全連接層輸出一個(gè)向量，用來對(duì)產(chǎn)品的質(zhì)量等級(jí)進(jìn)行分類。

8、進(jìn)一步地，所述步驟1包括以下子步驟：

9、步驟1.1、所述一維時(shí)間序列是具有c個(gè)傳感器變量的長度為t的時(shí)間序列，原始的一維向量形式是，通過快速傅里葉變換（fft）在頻域中分析所述一維時(shí)間序列，如下所示：

10、

11、

12、其中，fft(?)和amp(?)表示fft和振幅值的計(jì)算；表示每個(gè)頻率的計(jì)算振幅，通過avg(?)從c個(gè)維度平均得出；第j個(gè)值表示頻率j的周期基函數(shù)的強(qiáng)度，對(duì)應(yīng)的周期長度為；僅選擇前k個(gè)振幅值，并獲得最顯著的頻率及其未歸一化的振幅，其中，k是超參數(shù)，選定的頻率也對(duì)應(yīng)于周期長度；由于頻域的共軛性，僅考慮范圍內(nèi)的頻率，則所述一維時(shí)間序列可表示為：

13、

14、步驟1.2、基于選定的頻率和對(duì)應(yīng)的周期長度，通過以下方程將所述一維時(shí)間序列轉(zhuǎn)換為多個(gè)所述二維張量：

15、

16、其中，padding(?)是在時(shí)間維度上用零擴(kuò)展時(shí)間序列；和分別表示轉(zhuǎn)換后的所述二維張量的行數(shù)和列數(shù)；表示基于頻率的第i個(gè)重塑時(shí)間序列，其列和行分別表示相應(yīng)周期長度下的周期內(nèi)變化和周期間變化；基于選定的頻率和估計(jì)的周期，獲得一組所述二維張量，表示由不同周期導(dǎo)出的k種不同的時(shí)間二維變化。

17、進(jìn)一步地，所述步驟1還包括以下子步驟：

18、步驟1.3、基于周期長度，將所述一維時(shí)間序列轉(zhuǎn)換到二維空間，并選擇一個(gè)二維模塊：

19、

20、其中，是第j個(gè)轉(zhuǎn)換后的所述二維張量；

21、在轉(zhuǎn)換后，通過所述inception模塊對(duì)所述二維張量進(jìn)行處理，再將學(xué)習(xí)到的二維表轉(zhuǎn)換回一維空間進(jìn)行聚合，并使用trunc(?)來截?cái)嗵畛湫蛄校詈笥?jì)算得到。

22、進(jìn)一步地，在所述步驟1.3中，所述inception模塊包括多尺度的二維卷積核，可同時(shí)聚合多尺度的周期內(nèi)變化（列）和周期間變化（行），既覆蓋相鄰的時(shí)間點(diǎn)，又覆蓋相鄰的周期。

23、進(jìn)一步地，所述步驟1還包括以下子步驟：

24、步驟1.4、融合k個(gè)不同的一維表示；由于所述計(jì)算振幅a反映所選頻率和周期的相對(duì)重要性，從而對(duì)應(yīng)于每個(gè)變換的所述二維張量的重要性，基于幅度聚合的所述一維時(shí)序數(shù)據(jù)表示為：

25、。

26、進(jìn)一步地，所述步驟2包括以下子步驟：

27、步驟2.1、將所述一維時(shí)序數(shù)據(jù)輸入所述圖結(jié)構(gòu)，并將所述圖結(jié)構(gòu)的每一個(gè)節(jié)點(diǎn)視為一個(gè)傳感器，捕獲所述每個(gè)傳感器的特征，即嵌入向量：

28、

29、其中，所述嵌入向量為所述傳感器編碼的表示形式，被隨機(jī)初始化；

30、先驗(yàn)信息可以表示為所述每個(gè)傳感器i的一組候選關(guān)系，即所述每個(gè)傳感器可能依賴的傳感器：；

31、步驟2.2、進(jìn)行圖結(jié)構(gòu)學(xué)習(xí)，計(jì)算傳感器的嵌入向量與候選關(guān)系之間的歸一化點(diǎn)積，然后選擇前k個(gè)歸一化點(diǎn)積作為傳感器i與傳感器j的關(guān)聯(lián)程度：

32、

33、

34、其中，表示輸入中的top-k值的指數(shù)，即歸一化點(diǎn)積；k的值可以由用戶根據(jù)所需的稀疏度級(jí)別來選擇。

35、進(jìn)一步地，在所述步驟3中，使用leakyrelu作為非線性激活計(jì)算得到相鄰節(jié)點(diǎn)間的注意力系數(shù)，并用softmax函數(shù)對(duì)所述注意力系數(shù)進(jìn)行歸一化。

36、進(jìn)一步地，所述步驟3包括以下子步驟：

37、步驟3.1、定義基于圖注意力的模型，將所述步驟1中的所述時(shí)序特征提取模塊的輸出，記為，引入一個(gè)基于所述圖注意力的所述特征提取器，將和所述嵌入向量進(jìn)行融合，學(xué)習(xí)所述圖結(jié)構(gòu)并融合節(jié)點(diǎn)的信息和鄰居：

38、

39、其中，是對(duì)每個(gè)節(jié)點(diǎn)應(yīng)用共享線性變換的可訓(xùn)練權(quán)重矩陣；

40、步驟3.2、計(jì)算節(jié)點(diǎn)間的所述注意力系數(shù)；

41、

42、是注意力機(jī)制的學(xué)習(xí)系數(shù)的矢量；

43、所述注意力系數(shù)按照如下公式計(jì)算：

44、

45、步驟3.3、計(jì)算節(jié)點(diǎn)i的聚合表示：

46、

47、并得到所有n個(gè)節(jié)點(diǎn)的聚合表示，記為：。

48、進(jìn)一步地，所述步驟4包括以下子步驟：

49、步驟4.1、將每個(gè)與相應(yīng)的所述嵌入向量的時(shí)間序列逐個(gè)元素相乘（記為），并使用所有節(jié)點(diǎn)上的結(jié)果作為具有輸出維度n的所述全連接層的輸入，所述全連接層的輸出為向量：

50、

51、步驟4.2、將向量輸入softmax層后得到向量：

52、

53、向量是一個(gè)k維向量，每個(gè)分量代表一個(gè)質(zhì)量等級(jí)，數(shù)值大小都在0-1之間，和為1；根據(jù)取值最大的向量代表的質(zhì)量等級(jí)來判斷產(chǎn)品質(zhì)量。

54、進(jìn)一步地，使用向量與觀測數(shù)據(jù)之間的均方誤差作為最小化的損失函數(shù)對(duì)模型進(jìn)行訓(xùn)練：

55、。

56、本發(fā)明提供的一種時(shí)序特征提取模塊結(jié)合圖神經(jīng)網(wǎng)絡(luò)的質(zhì)量檢測方法至少具有以下技術(shù)效果：

57、本發(fā)明提供的技術(shù)方案引入二維時(shí)序特征提取模塊，將一維時(shí)間序列重塑為二維張量，其中每列包含一個(gè)周期內(nèi)的時(shí)間點(diǎn)，每行涉及不同周期之間同一階段的時(shí)間點(diǎn)。因此，通過將一維時(shí)間序列轉(zhuǎn)換為一組二維張量，將二維空間的周期內(nèi)和周期間變化統(tǒng)一起來，并通過二維卷積核進(jìn)一步捕獲二維空間中的周期內(nèi)和周期間變化。圖結(jié)構(gòu)與傳感器網(wǎng)絡(luò)的結(jié)構(gòu)天然相似，可以用其頂點(diǎn)來模擬每個(gè)傳感器，而圖結(jié)構(gòu)的邊則表示不同傳感器間的關(guān)系，圖神經(jīng)網(wǎng)絡(luò)旨在以圖的形式學(xué)習(xí)傳感器之間的關(guān)系，然后識(shí)別并解釋與學(xué)習(xí)的模式的偏差，這樣就捕獲了空間相關(guān)性。本發(fā)明提供的技術(shù)方案具有捕獲傳感器間復(fù)雜時(shí)空相關(guān)性的能力，適用于大量時(shí)間序列數(shù)據(jù)的復(fù)雜生產(chǎn)過程的產(chǎn)品質(zhì)量檢測，能夠帶來更高的檢測精度和更高的可靠性。

58、以下將結(jié)合附圖對(duì)本發(fā)明的構(gòu)思、具體結(jié)構(gòu)及產(chǎn)生的技術(shù)效果作進(jìn)一步說明，以充分地了解本發(fā)明的目的、特征和效果。