技術(shù)特征：

1.一種內(nèi)容審核方法，其特征在于，所述的內(nèi)容審核方法具體包括：

2.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述接收用戶輸入的被檢測文檔之后，所述方法還包括：

3.根據(jù)權(quán)利要求1或2所述的內(nèi)容審核方法，其特征在于，所述對所述被檢測文檔進(jìn)行多級敏感詞檢測具體包括：

4.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述多級敏感詞檢測的檢測過程具體包括：

5.根據(jù)權(quán)利要求4所述的內(nèi)容審核方法，其特征在于，所述將所述詞語集合與預(yù)設(shè)多級敏感詞庫進(jìn)行匹配具體包括：

6.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述安全意圖分類模型的訓(xùn)練數(shù)據(jù)集包括多種語種的訓(xùn)練樣本數(shù)據(jù)，以使得所述安全意圖分類模型適用于多種語種的被檢測文檔。

7.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述當(dāng)所述意圖類別為非敏感意圖時，獲取所述被檢測文檔對應(yīng)的業(yè)務(wù)數(shù)據(jù)具體包括：

8.根據(jù)權(quán)利要求1或7所述的內(nèi)容審核方法，其特征在于，所述方法還包括：

9.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述若所述業(yè)務(wù)數(shù)據(jù)的多級敏感詞檢測通過，判定為內(nèi)容審核通過具體包括：

10.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述若所述業(yè)務(wù)數(shù)據(jù)的多級敏感詞檢測通過，判定為內(nèi)容審核通過具體包括：

11.根據(jù)權(quán)利要求9或10所述的內(nèi)容審核方法，其特征在于，所述將所述被檢測文檔與所述業(yè)務(wù)數(shù)據(jù)拼接以生成新的被檢測文檔之后，所述方法還包括：

12.根據(jù)權(quán)利要求1所述的內(nèi)容審核方法，其特征在于，所述內(nèi)容審核方法還包括：

13.一種內(nèi)容審核系統(tǒng)，其特征在于，所述的內(nèi)容審核系統(tǒng)具體包括：

14.一種計(jì)算機(jī)可讀存儲介質(zhì)，其特征在于，所述計(jì)算機(jī)可讀存儲介質(zhì)存儲有一個或者多個程序，所述一個或者多個程序可被一個或者多個處理器執(zhí)行，以實(shí)現(xiàn)如權(quán)利要求1-12任意一項(xiàng)所述的內(nèi)容審核方法中的步驟。

15.一種終端設(shè)備，其特征在于，包括：處理器和存儲器；

技術(shù)總結(jié)
本申請公開了一種內(nèi)容審核方法、系統(tǒng)、設(shè)備及介質(zhì)，所述方法包括接收用戶輸入的被檢測文檔，并對被檢測文檔進(jìn)行多級敏感詞檢測；若所述被檢測文檔的多級敏感詞檢測通過，將所述被檢測文檔輸入經(jīng)過訓(xùn)練的安全意圖分類模型，通過所述安全意圖分類模型輸出所述被檢測文檔的意圖類別；當(dāng)所述意圖類別為非敏感意圖時，獲取所述被檢測文檔對應(yīng)的業(yè)務(wù)數(shù)據(jù)，并對所述業(yè)務(wù)數(shù)據(jù)進(jìn)行多級敏感詞檢測；若所述業(yè)務(wù)數(shù)據(jù)的多級敏感詞檢測通過，判定為內(nèi)容審核通過。本申請先通過多級敏感詞檢測對被檢測文檔進(jìn)行敏感詞檢測，然后再通過安全意圖分類模型對被檢測文檔進(jìn)行意圖檢測，這樣通過遞增式檢測可以提高內(nèi)容審核的準(zhǔn)確性，進(jìn)而可以減少誤判和漏判的問題。

技術(shù)研發(fā)人員：劉曉輝,孫雙龍,謝育濤
受保護(hù)的技術(shù)使用者：粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院（福田）
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/23