本公開涉及管理傳感器數(shù)據(jù),并且更具體地涉及使用知識(shí)蒸餾(knowledgedistillation)的傳感器數(shù)據(jù)的神經(jīng)數(shù)據(jù)壓縮。
背景技術(shù):
1、國際電信聯(lián)盟(itu)無線電通信部門(itu-r)具有用于第五代(5g)移動(dòng)技術(shù)的三個(gè)主要用例,具體是增強(qiáng)型移動(dòng)寬帶(embb)、超可靠低延遲通信(urllc)和大規(guī)模機(jī)器類型通信(mmtc)。在這些用例中,mmtc旨在支持由各種應(yīng)用(諸如物聯(lián)網(wǎng)(iot)應(yīng)用、人體域網(wǎng)(body?area?network)、智能監(jiān)控系統(tǒng)、智能家庭(smart?home)等)生成的巨大且不斷增加的業(yè)務(wù)量。
2、支持mmtc的一個(gè)重要方面是網(wǎng)絡(luò)能量效率,其可以指節(jié)點(diǎn)在給定特定業(yè)務(wù)容量的情況下最小化其用于無線電接入的能量消耗的能力。在負(fù)載情況下實(shí)現(xiàn)提高的網(wǎng)絡(luò)能量效率的廣泛使用的技術(shù)是數(shù)據(jù)壓縮。
3、許多數(shù)據(jù)壓縮技術(shù)旨在用于人類類型通信(htc)中,其中數(shù)據(jù)旨在用于在一端的人類消耗(human?consumption)。因此,這些數(shù)據(jù)壓縮技術(shù)可以優(yōu)先獲得準(zhǔn)確的重建。然而,在mtc和mmtc中,所生成的數(shù)據(jù)旨在由其他機(jī)器消耗,例如以便實(shí)現(xiàn)完全自主的系統(tǒng)。因此,mmtc實(shí)現(xiàn)方式可以受益于優(yōu)先推理(infer)準(zhǔn)確的決策的數(shù)據(jù)壓縮技術(shù)。
4、例如,可以使用一個(gè)或多個(gè)傳感器來監(jiān)測環(huán)境的某些現(xiàn)象。傳感器可以位于網(wǎng)絡(luò)的邊緣節(jié)點(diǎn)中,該邊緣節(jié)點(diǎn)可以通過一系列觀測(observation)來感知環(huán)境,然后每個(gè)傳感器可以將其傳感器數(shù)據(jù)發(fā)送到中央節(jié)點(diǎn),該中央節(jié)點(diǎn)融合傳感器數(shù)據(jù)并根據(jù)該數(shù)據(jù)推理決策。這種設(shè)置在不同的領(lǐng)域和應(yīng)用中是常見的。示例包括智能遺棄對(duì)象(intelligentabandoned?object)檢測,其中一個(gè)或多個(gè)監(jiān)控相機(jī)監(jiān)測某個(gè)空間的可能包含危險(xiǎn)材料的遺棄對(duì)象;煙霧檢測,其中一個(gè)或多個(gè)監(jiān)控相機(jī)或其他類型的傳感器監(jiān)測某個(gè)空間的煙霧;或可穿戴傳感器融合(fusion),其中可穿戴設(shè)備用于檢測與用戶相關(guān)聯(lián)的事件,諸如健康事件或家庭自動(dòng)化(home?automation)事件。
5、為了延長節(jié)點(diǎn)的壽命、節(jié)省帶寬和減少時(shí)延,每個(gè)節(jié)點(diǎn)可以在向中心節(jié)點(diǎn)傳輸之前壓縮觀測。因?yàn)閙tc和mmtc中的數(shù)據(jù)可能旨在由機(jī)器處理,例如用于推理關(guān)于環(huán)境的共識(shí),所以推理的決策可能比重建準(zhǔn)確性重要得多。
6、因此,需要數(shù)據(jù)壓縮技術(shù),其中以決策準(zhǔn)確度的最小可能損失來壓縮觀測。
技術(shù)實(shí)現(xiàn)思路
1、技術(shù)解決方案
2、示例實(shí)施例至少解決了上述問題和/或缺點(diǎn)以及上面未描述的其他缺點(diǎn)。此外,示例實(shí)施例不需要克服上述缺點(diǎn),并且可以不克服上述任何問題。
3、在本公開的實(shí)施例中,一種管理傳感器數(shù)據(jù)的方法包括:在第一設(shè)備處從與第一設(shè)備分離的第二設(shè)備接收編碼的數(shù)據(jù),其中,其中編碼的數(shù)據(jù)是基于由包括在第二設(shè)備中的至少一個(gè)傳感器收集的傳感器數(shù)據(jù)、使用包括在第二設(shè)備中的人工智能(ai)編碼器模型生成的;將編碼的數(shù)據(jù)提供給ai推理(inference)模型以獲得推理信息;以及基于推理信息執(zhí)行任務(wù),其中ai編碼器模型和ai推理模型是基于ai教師模型(teacher?model)的輸出聯(lián)合訓(xùn)練的。
4、ai推理模型的大小可以小于ai教師模型的大小。
5、編碼的數(shù)據(jù)的大小可以小于傳感器數(shù)據(jù)的大小。
6、還方法還可以包括:在第一設(shè)備處從與第一設(shè)備分離的多個(gè)第二設(shè)備獲得多條編碼的數(shù)據(jù),其中多條編碼的數(shù)據(jù)是使用包括在多個(gè)第二設(shè)備中的多個(gè)ai編碼器模型生成的;以及將多條編碼的數(shù)據(jù)與編碼的數(shù)據(jù)組合以生成聚合數(shù)據(jù)。推理信息可以由ai推理模型基于聚合數(shù)據(jù)生成,并且多個(gè)ai編碼器模型可以基于ai教師模型的輸出與ai編碼器模型和ai推理模型聯(lián)合訓(xùn)練。
7、編碼的數(shù)據(jù)可以在發(fā)送到第一設(shè)備之前由ai編碼器模型量化。
8、第二設(shè)備可以包括作為至少一個(gè)傳感器的監(jiān)控相機(jī),并且任務(wù)可以包括檢測由監(jiān)控相機(jī)觀測到的對(duì)象和事件中的至少一個(gè)。
9、第二設(shè)備可以包括可穿戴設(shè)備,并且任務(wù)可以包括檢測與穿戴可穿戴設(shè)備的用戶相關(guān)聯(lián)的健康事件。
10、第二設(shè)備可以包括物聯(lián)網(wǎng)(iot)設(shè)備,并且可以使用大規(guī)模機(jī)器類型通信(mmtc)來接收編碼的數(shù)據(jù)。
11、ai推理模型可以包括第一神經(jīng)網(wǎng)絡(luò)模型,并且ai教師模型可以包括第二神經(jīng)網(wǎng)絡(luò)模型、支持向量機(jī)(svm)模型和集成模型(ensemble?model)當(dāng)中的至少一個(gè)。
12、在本公開的實(shí)施例中,一種用于管理傳感器數(shù)據(jù)的電子設(shè)備包括:存儲(chǔ)計(jì)算機(jī)可讀指令的至少一個(gè)存儲(chǔ)器;以及至少一個(gè)處理器,其被配置為執(zhí)行計(jì)算機(jī)可讀指令以:在第一設(shè)備處從與第一設(shè)備分離的第二設(shè)備接收編碼的數(shù)據(jù),其中編碼的數(shù)據(jù)是基于由包括在第二設(shè)備中的至少一個(gè)傳感器收集的傳感器數(shù)據(jù)、使用包括在第二設(shè)備中的人工智能(ai)編碼器模型生成的;將編碼的數(shù)據(jù)提供給ai推理模型以獲得推理信息;以及基于推理信息執(zhí)行任務(wù),其中ai編碼器模型和ai推理模型是基于ai教師模型的輸出聯(lián)合訓(xùn)練的。
13、ai推理模型的大小可以小于ai教師模型的大小。在實(shí)施例中,ai推理模型可以是ai教師模型的學(xué)生模型(student?model)。
14、編碼的數(shù)據(jù)的大小可以小于傳感器數(shù)據(jù)的大小。
15、至少一個(gè)處理器還可以被配置為執(zhí)行計(jì)算機(jī)可讀指令以:在第一設(shè)備處從與第一設(shè)備分離的多個(gè)第二設(shè)備獲得多條編碼的數(shù)據(jù),其中多條編碼的數(shù)據(jù)是使用包括在多個(gè)第二設(shè)備中的多個(gè)ai編碼器模型生成的,以及將多條編碼的數(shù)據(jù)與編碼的數(shù)據(jù)組合以生成聚合數(shù)據(jù),其中推理信息是由ai推理模型基于聚合數(shù)據(jù)生成的,并且其中,多個(gè)ai編碼器模型是基于ai教師模型的輸出與ai編碼器模型和ai推理模型聯(lián)合訓(xùn)練的。
16、編碼的數(shù)據(jù)可以在發(fā)送到第一設(shè)備之前由ai編碼器模型量化。
17、第二設(shè)備可以包括作為至少一個(gè)傳感器的監(jiān)控相機(jī),并且任務(wù)可以包括檢測由監(jiān)控相機(jī)觀測到的對(duì)象和事件中的至少一個(gè)。
18、第二設(shè)備可以包括可穿戴設(shè)備,并且任務(wù)可以包括檢測與穿戴可穿戴設(shè)備的用戶相關(guān)聯(lián)的健康事件。
19、第二設(shè)備可以包括物聯(lián)網(wǎng)(iot)設(shè)備,并且可以使用大規(guī)模機(jī)器類型通信(mmtc)來接收編碼的數(shù)據(jù)。
20、ai推理模型可以包括第一神經(jīng)網(wǎng)絡(luò)模型,并且ai教師模型可以包括第二神經(jīng)網(wǎng)絡(luò)模型、支持向量機(jī)(svm)模型和集成模型中的至少一個(gè)。
21、在本公開的實(shí)施例中,一種非暫時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)指令,該指令在由用于管理傳感器數(shù)據(jù)的電子設(shè)備的至少一個(gè)處理器執(zhí)行時(shí)使得至少一個(gè)處理器:在第一設(shè)備處從與第一設(shè)備分離的第二設(shè)備接收編碼的數(shù)據(jù),其中編碼的數(shù)據(jù)是基于由包括在第二設(shè)備中的至少一個(gè)傳感器收集的傳感器數(shù)據(jù)、使用包括在第二設(shè)備中的人工智能(ai)編碼器模型生成的;將編碼的數(shù)據(jù)提供給ai推理模型以獲得推理信息;以及基于推理信息執(zhí)行任務(wù),其中ai編碼器模型和ai推理模型是基于ai教師模型的輸出聯(lián)合訓(xùn)練的。
22、ai推理模型的大小小于ai教師模型的大小,并且其中,編碼的數(shù)據(jù)的大小小于傳感器數(shù)據(jù)的大小。