本文件屬于數(shù)據(jù)處理，具體涉及一種異常內(nèi)容檢測(cè)的方法、裝置及電子設(shè)備。

背景技術(shù)：

1、在工業(yè)生產(chǎn)、網(wǎng)絡(luò)安全、金融風(fēng)險(xiǎn)控制等領(lǐng)域，使用由神經(jīng)網(wǎng)絡(luò)構(gòu)成的檢測(cè)模型是對(duì)異常內(nèi)容進(jìn)行檢測(cè)的常規(guī)方案。在檢測(cè)模型建模前，會(huì)先對(duì)數(shù)值類型的不侵犯用戶隱私的特征數(shù)據(jù)進(jìn)行預(yù)處理，該預(yù)處理常常包括對(duì)特征數(shù)據(jù)進(jìn)行分桶（或分箱）。

2、一般情況下，會(huì)根據(jù)等頻或等寬等方式劃分若干個(gè)數(shù)值區(qū)間，每個(gè)數(shù)值區(qū)間作為一個(gè)桶，假設(shè)總共有m個(gè)桶且特征數(shù)據(jù)落在其中的第n個(gè)桶內(nèi)，那么可以從初始化的m*d的嵌入矩陣（即embeeding矩陣）中選擇第n行作為該特征數(shù)據(jù)的表征，進(jìn)而可以將該特征數(shù)據(jù)的表征輸入檢測(cè)模型中進(jìn)行異常內(nèi)容的檢測(cè)。

3、然而，預(yù)處理的速度常常會(huì)隨著embeeding矩陣維度的提高而快速下降，這會(huì)大大降低用戶獲取檢測(cè)模型輸出的檢測(cè)結(jié)果的速度。因此，需要提供一種更優(yōu)的異常內(nèi)容檢測(cè)方案，提高用戶獲取針對(duì)異常內(nèi)容的檢測(cè)結(jié)果的速度，進(jìn)而提高用戶體驗(yàn)。

技術(shù)實(shí)現(xiàn)思路

1、本說(shuō)明書實(shí)施例提供一種異常內(nèi)容檢測(cè)的方法、裝置及電子設(shè)備，以提供一種異常內(nèi)容檢測(cè)方案。

2、第一方面，本說(shuō)明書實(shí)施例提供了一種異常內(nèi)容檢測(cè)的方法，該方法包括：獲取目標(biāo)用戶的數(shù)值類型的特征數(shù)據(jù)，將所述特征數(shù)據(jù)轉(zhuǎn)換為預(yù)設(shè)數(shù)制的數(shù)據(jù)；基于所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣；使用預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)對(duì)所述特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣進(jìn)行編碼處理，得到所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量；將所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量輸入用于進(jìn)行異常內(nèi)容檢測(cè)的檢測(cè)模型，得到針對(duì)所述目標(biāo)用戶的異常內(nèi)容的檢測(cè)結(jié)果。

3、第二方面，本說(shuō)明書實(shí)施例提供了一種異常內(nèi)容檢測(cè)的裝置，包括：數(shù)制轉(zhuǎn)換模塊，用于獲取目標(biāo)用戶的數(shù)值類型的特征數(shù)據(jù)，將所述特征數(shù)據(jù)轉(zhuǎn)換為預(yù)設(shè)數(shù)制的數(shù)據(jù)；表征矩陣模塊，用于基于所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣；表征向量模塊，用于使用預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)對(duì)所述特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣進(jìn)行編碼處理，得到所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量；檢測(cè)結(jié)果模塊，用于將所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量輸入用于進(jìn)行異常內(nèi)容檢測(cè)的檢測(cè)模型，得到針對(duì)所述目標(biāo)用戶的異常內(nèi)容的檢測(cè)結(jié)果。

4、第三方面，本說(shuō)明書實(shí)施例提供了一種電子設(shè)備，該電子設(shè)備包括：處理器，以及被安排成存儲(chǔ)計(jì)算機(jī)可執(zhí)行指令的存儲(chǔ)器，在所述可執(zhí)行指令被執(zhí)行時(shí)，能夠使得所述處理器：獲取目標(biāo)用戶的數(shù)值類型的特征數(shù)據(jù)，將所述特征數(shù)據(jù)轉(zhuǎn)換為預(yù)設(shè)數(shù)制的數(shù)據(jù)；基于所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣；使用預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)對(duì)所述特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣進(jìn)行編碼處理，得到所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量；將所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量輸入用于進(jìn)行異常內(nèi)容檢測(cè)的檢測(cè)模型，得到針對(duì)所述目標(biāo)用戶的異常內(nèi)容的檢測(cè)結(jié)果。

5、第四方面，本說(shuō)明書實(shí)施例提供一種存儲(chǔ)介質(zhì)，用于存儲(chǔ)計(jì)算機(jī)程序，所述計(jì)算機(jī)程序能夠被處理器執(zhí)行以實(shí)現(xiàn)以下流程：獲取目標(biāo)用戶的數(shù)值類型的特征數(shù)據(jù)，將所述特征數(shù)據(jù)轉(zhuǎn)換為預(yù)設(shè)數(shù)制的數(shù)據(jù)；基于所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣；使用預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)對(duì)所述特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣進(jìn)行編碼處理，得到所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量；將所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量輸入用于進(jìn)行異常內(nèi)容檢測(cè)的檢測(cè)模型，得到針對(duì)所述目標(biāo)用戶的異常內(nèi)容的檢測(cè)結(jié)果。

6、第五方面，本說(shuō)明書實(shí)施例提供一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，該計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)以下流程：獲取目標(biāo)用戶的數(shù)值類型的特征數(shù)據(jù)，將所述特征數(shù)據(jù)轉(zhuǎn)換為預(yù)設(shè)數(shù)制的數(shù)據(jù)；基于所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣；使用預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)對(duì)所述特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣進(jìn)行編碼處理，得到所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量；將所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量輸入用于進(jìn)行異常內(nèi)容檢測(cè)的檢測(cè)模型，得到針對(duì)所述目標(biāo)用戶的異常內(nèi)容的檢測(cè)結(jié)果。

技術(shù)特征：

1.一種異常內(nèi)容檢測(cè)的方法，包括;

2.根據(jù)權(quán)利要求1所述的方法，所述基于所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣，包括：

3.根據(jù)權(quán)利要求2所述的方法，所述預(yù)設(shè)數(shù)制為二進(jìn)制，所述從所述預(yù)設(shè)數(shù)制的數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)碼中，確定所述轉(zhuǎn)換后的特征數(shù)據(jù)中各個(gè)數(shù)據(jù)位的數(shù)值對(duì)應(yīng)的目標(biāo)數(shù)碼，包括：

4.根據(jù)權(quán)利要求3所述的方法，所述預(yù)設(shè)數(shù)制對(duì)應(yīng)的預(yù)設(shè)表征矩陣的確定過(guò)程，包括：

5.根據(jù)權(quán)利要求1所述的方法，所述編碼網(wǎng)絡(luò)的預(yù)訓(xùn)練過(guò)程，包括：

6.根據(jù)權(quán)利要求5所述的方法，所述根據(jù)所述第一損失，對(duì)所述編碼網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，得到所述預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)，包括：

7.根據(jù)權(quán)利要求6所述的方法，所述根據(jù)所述第一損失和所述第二損失，對(duì)所述編碼網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，得到所述預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)，包括：

8.根據(jù)權(quán)利要求6所述的方法，所述根據(jù)所述二元組中兩個(gè)樣本數(shù)據(jù)之間的差異度，構(gòu)建第二損失，包括：

9.一種異常內(nèi)容檢測(cè)的裝置，包括：

10.一種電子設(shè)備，包括：

技術(shù)總結(jié)
本說(shuō)明書實(shí)施例公開(kāi)了一種異常內(nèi)容檢測(cè)的方法、裝置及電子設(shè)備。所述異常內(nèi)容檢測(cè)的方法包括：獲取目標(biāo)用戶的數(shù)值類型的特征數(shù)據(jù)，將所述特征數(shù)據(jù)轉(zhuǎn)換為預(yù)設(shè)數(shù)制的數(shù)據(jù)；基于所述預(yù)設(shè)數(shù)制各個(gè)數(shù)據(jù)位的數(shù)碼在預(yù)設(shè)表征矩陣中對(duì)應(yīng)的預(yù)設(shè)表征向量，確定轉(zhuǎn)換后的特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣；使用預(yù)訓(xùn)練后的編碼網(wǎng)絡(luò)對(duì)所述特征數(shù)據(jù)對(duì)應(yīng)的表征矩陣進(jìn)行編碼處理，得到所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量；將所述特征數(shù)據(jù)對(duì)應(yīng)的表征向量輸入用于進(jìn)行異常內(nèi)容檢測(cè)的檢測(cè)模型，得到針對(duì)所述目標(biāo)用戶的異常內(nèi)容的檢測(cè)結(jié)果。

技術(shù)研發(fā)人員：楊陽(yáng),胡佳豪,王寧濤,傅幸
受保護(hù)的技術(shù)使用者：螞蟻智信（杭州）信息技術(shù)有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/28