本發(fā)明涉及人工智能及金融科技領(lǐng)域，尤其涉及基于智能體的違規(guī)行為檢測(cè)方法、裝置、設(shè)備及介質(zhì)。

背景技術(shù)：

1、大語言模型(large?language?models，llms)是一種采用大量數(shù)據(jù)進(jìn)行訓(xùn)練的人工智能模型,旨在理解和生成自然語言文本。這些模型通常基于深度學(xué)習(xí)技術(shù),能夠捕捉語言的復(fù)雜性和多樣性，主要集中在自然語言處理、信息檢索和推薦系統(tǒng)等領(lǐng)域。

2、目前，金融場(chǎng)景里，可以基于大型語言模型來對(duì)客服的違規(guī)行為進(jìn)行監(jiān)控，自動(dòng)檢測(cè)客服聊天區(qū)域內(nèi)是否有違規(guī)行為，提高金融安全和監(jiān)管效率。然而，客服與客戶聊天的過程中，實(shí)際情況是使用llms分析聊天內(nèi)容是否違規(guī)會(huì)時(shí)不時(shí)出現(xiàn)幻覺，即生成與事實(shí)相悖的內(nèi)容，使得在違規(guī)檢測(cè)時(shí)容易發(fā)生錯(cuò)誤，影響違規(guī)檢測(cè)的準(zhǔn)確性。

技術(shù)實(shí)現(xiàn)思路

1、鑒于上述現(xiàn)有技術(shù)的不足，本發(fā)明的目的在于提供可應(yīng)用于金融科技或其它相關(guān)領(lǐng)域的基于智能體的違規(guī)行為檢測(cè)方法、裝置、設(shè)備及介質(zhì)，其主要目的在于提高客服行為違規(guī)檢測(cè)的準(zhǔn)確性和可靠性。

2、本發(fā)明的技術(shù)方案如下：

3、本發(fā)明第一方面提供一種基于智能體的違規(guī)行為檢測(cè)方法，包括：

4、獲取待檢測(cè)的原始文本；

5、通過文本重寫智能體對(duì)所述原始文本進(jìn)行文本重寫處理，獲得相應(yīng)的重寫文本；

6、根據(jù)所述重寫文本在預(yù)設(shè)知識(shí)庫中進(jìn)行匹配檢索，獲得與所述重寫文本相關(guān)的關(guān)聯(lián)文檔；

7、通過片段提取智能體對(duì)所述關(guān)聯(lián)文檔進(jìn)行關(guān)鍵片段提取，獲得相應(yīng)的目標(biāo)片段；

8、根據(jù)所述目標(biāo)片段和重寫文本生成檢測(cè)任務(wù)提示文本，所述檢測(cè)任務(wù)提示文本用于提示大語言模型基于所述目標(biāo)片段對(duì)所述重寫文本執(zhí)行違規(guī)行為檢測(cè)任務(wù)；

9、將所述檢測(cè)任務(wù)提示文本輸入到所述大語言模型，得到相應(yīng)的違規(guī)檢測(cè)結(jié)果。

10、本發(fā)明第二方面提供一種基于智能體的違規(guī)行為檢測(cè)裝置，包括：

11、獲取模塊，用于獲取待檢測(cè)的原始文本；

12、文本重寫模塊，用于通過文本重寫智能體對(duì)所述原始文本進(jìn)行文本重寫處理，獲得相應(yīng)的重寫文本；

13、檢索模塊，用于根據(jù)所述重寫文本在預(yù)設(shè)知識(shí)庫中進(jìn)行匹配檢索，獲得與所述重寫文本相關(guān)的關(guān)聯(lián)文檔；

14、片段提取模塊，用于通過片段提取智能體對(duì)所述關(guān)聯(lián)文檔進(jìn)行關(guān)鍵片段提取，獲得相應(yīng)的目標(biāo)片段；

15、提示生成模塊，用于根據(jù)所述目標(biāo)片段和重寫文本生成檢測(cè)任務(wù)提示文本，所述檢測(cè)任務(wù)提示文本用于提示大語言模型基于所述目標(biāo)片段對(duì)所述重寫文本執(zhí)行違規(guī)行為檢測(cè)任務(wù)；

16、違規(guī)檢測(cè)模塊，用于將所述檢測(cè)任務(wù)提示文本輸入到所述大語言模型，得到相應(yīng)的違規(guī)檢測(cè)結(jié)果。

17、本發(fā)明第三方面提供一種計(jì)算機(jī)設(shè)備，包括至少一個(gè)處理器；以及，

18、與所述至少一個(gè)處理器通信連接的存儲(chǔ)器；其中，

19、所述存儲(chǔ)器存儲(chǔ)有可被所述至少一個(gè)處理器執(zhí)行的指令，所述指令被所述至少一個(gè)處理器執(zhí)行，以使所述至少一個(gè)處理器能夠執(zhí)行上述基于智能體的違規(guī)行為檢測(cè)方法。

20、本發(fā)明第四方面提供一種非易失性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述非易失性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)可執(zhí)行指令，該計(jì)算機(jī)可執(zhí)行指令被一個(gè)或多個(gè)處理器執(zhí)行時(shí)，可使得所述一個(gè)或多個(gè)處理器執(zhí)行上述的基于智能體的違規(guī)行為檢測(cè)方法。

21、有益效果：本發(fā)明公開了基于智能體的違規(guī)行為檢測(cè)方法、裝置、設(shè)備及介質(zhì)，相比于現(xiàn)有技術(shù)，本發(fā)明實(shí)施例獲取待檢測(cè)的原始文本；通過文本重寫智能體對(duì)所述原始文本進(jìn)行文本重寫處理，獲得相應(yīng)的重寫文本；根據(jù)所述重寫文本在預(yù)設(shè)知識(shí)庫中進(jìn)行匹配檢索，獲得與所述重寫文本相關(guān)的關(guān)聯(lián)文檔；通過片段提取智能體對(duì)所述關(guān)聯(lián)文檔進(jìn)行關(guān)鍵片段提取，獲得相應(yīng)的目標(biāo)片段；根據(jù)所述目標(biāo)片段和重寫文本生成檢測(cè)任務(wù)提示文本，所述檢測(cè)任務(wù)提示文本用于提示大語言模型基于所述目標(biāo)片段對(duì)所述重寫文本執(zhí)行違規(guī)行為檢測(cè)任務(wù)；將所述檢測(cè)任務(wù)提示文本輸入到所述大語言模型，得到相應(yīng)的違規(guī)檢測(cè)結(jié)果。通過文本重寫智能體對(duì)原始文本進(jìn)行重寫處理，可以生成語義相似但表達(dá)方式不同的文本，這有助于在預(yù)設(shè)知識(shí)庫中進(jìn)行更廣泛的匹配檢索，提高檢索精度，并且通過片段提取智能體對(duì)關(guān)聯(lián)文檔進(jìn)行關(guān)鍵片段提取，也有助于減少不相關(guān)信息的干擾，從而生成更精確的檢測(cè)任務(wù)提示文本輸入到大語言模型中執(zhí)行違規(guī)行為檢測(cè)任務(wù)，有效減少大語言模型的幻覺，提高在金融場(chǎng)景下客服違規(guī)行為檢測(cè)的準(zhǔn)確性。

技術(shù)特征：

1.一種基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，所述將所述檢測(cè)任務(wù)提示文本輸入到所述大語言模型，得到相應(yīng)的違規(guī)檢測(cè)結(jié)果之后，方法還包括：

3.根據(jù)權(quán)利要求1所述的基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，所述文本重寫智能體以所述大語言模型為基座模型，所述通過文本重寫智能體對(duì)所述原始文本進(jìn)行文本重寫處理，獲得相應(yīng)的重寫文本，包括：

4.根據(jù)權(quán)利要求1所述的基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，所述根據(jù)所述重寫文本在預(yù)設(shè)知識(shí)庫中進(jìn)行匹配檢索，獲得與所述重寫文本相關(guān)的關(guān)聯(lián)文檔，包括：

5.根據(jù)權(quán)利要求1所述的基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，所述片段提取智能體以所述大語言模型為基座模型，所述通過片段提取智能體對(duì)所述關(guān)聯(lián)文檔進(jìn)行關(guān)鍵片段提取，獲得相應(yīng)的目標(biāo)片段，包括：

6.根據(jù)權(quán)利要求2所述的基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，所述事實(shí)核查智能體以所述大語言模型為基座模型，所述通過事實(shí)核查智能體對(duì)所述違規(guī)檢測(cè)結(jié)果進(jìn)行錯(cuò)誤驗(yàn)證，確認(rèn)所述違規(guī)檢測(cè)結(jié)果中是否存在事實(shí)性錯(cuò)誤，包括：

7.根據(jù)權(quán)利要求1-6任意一項(xiàng)所述的基于智能體的違規(guī)行為檢測(cè)方法，其特征在于，所述獲取待檢測(cè)的原始文本，包括：

8.一種基于智能體的違規(guī)行為檢測(cè)裝置，其特征在于，包括：

9.一種計(jì)算機(jī)設(shè)備，其特征在于，包括至少一個(gè)處理器；以及，

10.一種非易失性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其特征在于，所述非易失性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)可執(zhí)行指令，該計(jì)算機(jī)可執(zhí)行指令被一個(gè)或多個(gè)處理器執(zhí)行時(shí)，可使得所述一個(gè)或多個(gè)處理器執(zhí)行權(quán)利要求1-7任一項(xiàng)所述的基于智能體的違規(guī)行為檢測(cè)方法。

技術(shù)總結(jié)
本發(fā)明涉及人工智能領(lǐng)域，公開了基于智能體的違規(guī)行為檢測(cè)方法、裝置、設(shè)備及介質(zhì)，包括：獲取待檢測(cè)的原始文本；通過文本重寫智能體對(duì)所述原始文本進(jìn)行文本重寫處理，獲得相應(yīng)的重寫文本；根據(jù)所述重寫文本在預(yù)設(shè)知識(shí)庫中進(jìn)行匹配檢索，獲得與所述重寫文本相關(guān)的關(guān)聯(lián)文檔；通過片段提取智能體對(duì)所述關(guān)聯(lián)文檔進(jìn)行關(guān)鍵片段提取，獲得相應(yīng)的目標(biāo)片段；根據(jù)所述目標(biāo)片段和重寫文本生成檢測(cè)任務(wù)提示文本，所述檢測(cè)任務(wù)提示文本用于提示大語言模型基于所述目標(biāo)片段對(duì)所述重寫文本執(zhí)行違規(guī)行為檢測(cè)任務(wù)；將所述檢測(cè)任務(wù)提示文本輸入到所述大語言模型，得到相應(yīng)的違規(guī)檢測(cè)結(jié)果。有效減少大語言模型的幻覺，提高在金融場(chǎng)景下客服違規(guī)行為檢測(cè)的準(zhǔn)確性。

技術(shù)研發(fā)人員：洪振厚,王健宗,瞿曉陽
受保護(hù)的技術(shù)使用者：平安科技（深圳）有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2