本技術(shù)涉及深度學(xué)習(xí),特別是涉及一種檢測(cè)方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì)。
背景技術(shù):
1、隨著大模型技術(shù)的發(fā)展,大模型以其高精度以及高召回率快速地應(yīng)用在各個(gè)領(lǐng)域,但同時(shí)因大模型所需高計(jì)算能力、高內(nèi)存等問(wèn)題,使得大模型的應(yīng)用的場(chǎng)景受限。目前,主流的大模型部署方案是大小模型協(xié)同部署的方案,即先利用小模型對(duì)待檢測(cè)數(shù)據(jù)進(jìn)行初步篩選,以篩選出包含目標(biāo)對(duì)象的中間結(jié)果,然后將中間結(jié)果輸入大模型中進(jìn)行深入分析,得到最終檢測(cè)結(jié)果。其中,小模型是指參數(shù)量較?。ㄒ话銥榘偃f(wàn)級(jí))、模型結(jié)構(gòu)簡(jiǎn)單的模型,大模型是指參數(shù)量(一般為億級(jí))較大、模型結(jié)構(gòu)復(fù)雜的模型。
2、由于待檢測(cè)場(chǎng)景產(chǎn)生的待檢測(cè)數(shù)據(jù)中包含目標(biāo)對(duì)象的部分的數(shù)量在時(shí)間上的數(shù)據(jù)分布是動(dòng)態(tài)變化的,因此,使用大小模型協(xié)同部署的方案,會(huì)出現(xiàn)大模型的性能不足的情況,導(dǎo)致大模型無(wú)法對(duì)一些中間結(jié)果進(jìn)行檢測(cè),從而影響最終檢測(cè)結(jié)果的有效性。
技術(shù)實(shí)現(xiàn)思路
1、本技術(shù)實(shí)施例的目的在于提供一種檢測(cè)方法、裝置、設(shè)備以及存儲(chǔ)介質(zhì),以提高最終檢測(cè)結(jié)果的有效性。具體技術(shù)方案如下:
2、第一方面,本技術(shù)實(shí)施例提供了一種檢測(cè)方法,所述方法包括:
3、利用小模型在當(dāng)前的置信度閾值下檢測(cè)當(dāng)前的檢測(cè)周期內(nèi)待檢測(cè)數(shù)據(jù)中包含目標(biāo)對(duì)象的部分?jǐn)?shù)據(jù),得到中間結(jié)果;
4、基于所述中間結(jié)果的數(shù)量,計(jì)算表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值;其中,所述大模型的參數(shù)量大于所述小模型,且所述大模型用于檢測(cè)所述小模型在每一檢測(cè)周期內(nèi)檢測(cè)得到的中間結(jié)果中是否包含目標(biāo)對(duì)象;
5、若所述指標(biāo)值大于預(yù)設(shè)的第一調(diào)整閾值,將當(dāng)前的置信度閾值調(diào)大;其中,所述第一調(diào)整閾值基于所述大模型在單位時(shí)間內(nèi)的負(fù)載上限所確定。
6、可選地,所述基于所述中間結(jié)果的數(shù)量,計(jì)算表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值,包括:
7、計(jì)算所述中間結(jié)果的數(shù)量與當(dāng)前的檢測(cè)周期的時(shí)間長(zhǎng)度的比值,得到當(dāng)前的檢測(cè)周期內(nèi)所述大模型在各單位時(shí)間內(nèi)的負(fù)載均值,作為表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值;或者,確定當(dāng)前的檢測(cè)周期內(nèi)的每一單位時(shí)間內(nèi)檢測(cè)得到的中間結(jié)果的數(shù)量;將各單位時(shí)間內(nèi)得到的中間結(jié)果的數(shù)量中的最大值,作為表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值;
8、和/或,
9、所述方法還包括:利用大模型檢測(cè)當(dāng)前的檢測(cè)周期內(nèi)的中間結(jié)果中是否包含所述目標(biāo)對(duì)象,得到最終檢測(cè)結(jié)果。
10、可選地,所述方法還包括:
11、若所述指標(biāo)值小于預(yù)設(shè)的第二調(diào)整閾值,將當(dāng)前的置信度閾值調(diào)小;其中,所述第二調(diào)整閾值基于所述大模型在單位時(shí)間內(nèi)的負(fù)載上限所確定,且所述第二調(diào)整閾值小于所述第一調(diào)整閾值。
12、可選地,在所述指標(biāo)值為當(dāng)前的檢測(cè)周期內(nèi)所述大模型在各單位時(shí)間內(nèi)的負(fù)載均值的情況下,所述第一調(diào)整閾值為所述負(fù)載上限與第一系數(shù)的乘積,所述第二調(diào)整閾值為所述負(fù)載上限與第二系數(shù)的乘積,所述第一系數(shù)為小于1的數(shù)值,所述第二系數(shù)小于所述第一系數(shù);
13、和/或,
14、若所述指標(biāo)值小于預(yù)設(shè)的第二調(diào)整閾值,將當(dāng)前的置信度閾值調(diào)小,包括:若所述指標(biāo)值小于預(yù)設(shè)的第二調(diào)整閾值,從預(yù)設(shè)的置信度閾值集合中,選取小于當(dāng)前的置信度閾值且與當(dāng)前的置信度閾值的差值最小的置信度閾值,作為新的置信度閾值。
15、可選地,在所述指標(biāo)值為各單位時(shí)間內(nèi)得到的中間結(jié)果的數(shù)量中的最大值的情況下,所述第一調(diào)整閾值為所述負(fù)載上限與第三系數(shù)的乘積;其中,所述第三系數(shù)為大于等于1的數(shù)值,且所述第三系數(shù)與可接受所述大模型處理延遲的程度呈正相關(guān)。
16、可選地,若所述指標(biāo)值大于預(yù)設(shè)的第一調(diào)整閾值,將當(dāng)前的置信度閾值調(diào)大,包括:
17、若所述指標(biāo)值大于預(yù)設(shè)的第一調(diào)整閾值,從預(yù)設(shè)的置信度閾值集合中,選取大于當(dāng)前的置信度閾值且與當(dāng)前的置信度閾值的差值最小的置信度閾值,作為新的置信度閾值。
18、第二方面,本技術(shù)實(shí)施例提供了一種檢測(cè)裝置,所述裝置包括:
19、第一檢測(cè)模塊,用于利用小模型在當(dāng)前的置信度閾值下檢測(cè)當(dāng)前的檢測(cè)周期內(nèi)待檢測(cè)數(shù)據(jù)中包含目標(biāo)對(duì)象的部分?jǐn)?shù)據(jù),得到中間結(jié)果;
20、計(jì)算模塊,用于基于所述中間結(jié)果的數(shù)量,計(jì)算表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值;其中,所述大模型的參數(shù)量大于所述小模型,且所述大模型用于檢測(cè)所述小模型在每一檢測(cè)周期內(nèi)檢測(cè)得到的中間結(jié)果中是否包含目標(biāo)對(duì)象;
21、第一調(diào)整模塊,用于若所述指標(biāo)值大于預(yù)設(shè)的第一調(diào)整閾值,將當(dāng)前的置信度閾值調(diào)大;其中,所述第一調(diào)整閾值基于所述大模型在單位時(shí)間內(nèi)的負(fù)載上限所確定。
22、可選地,所述計(jì)算模塊,具體用于:計(jì)算所述中間結(jié)果的數(shù)量與當(dāng)前的檢測(cè)周期的時(shí)間長(zhǎng)度的比值,得到當(dāng)前的檢測(cè)周期內(nèi)所述大模型在各單位時(shí)間內(nèi)的負(fù)載均值,作為表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值;
23、或者,所述計(jì)算模塊,包括:第一確定子模塊,用于確定當(dāng)前的檢測(cè)周期內(nèi)的每一單位時(shí)間內(nèi)檢測(cè)得到的中間結(jié)果的數(shù)量;第二確定子模塊,用于將各單位時(shí)間內(nèi)得到的中間結(jié)果的數(shù)量中的最大值,作為表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值;
24、和/或,
25、所述裝置還包括:第二檢測(cè)模塊,用于利用大模型檢測(cè)當(dāng)前的檢測(cè)周期內(nèi)的中間結(jié)果中是否包含所述目標(biāo)對(duì)象,得到最終檢測(cè)結(jié)果。
26、可選地,所述裝置還包括:
27、第二調(diào)整模塊,用于若所述指標(biāo)值小于預(yù)設(shè)的第二調(diào)整閾值,將當(dāng)前的置信度閾值調(diào)??;其中,所述第二調(diào)整閾值基于所述大模型在單位時(shí)間內(nèi)的負(fù)載上限所確定,且所述第二調(diào)整閾值小于所述第一調(diào)整閾值。
28、可選地,在所述指標(biāo)值為當(dāng)前的檢測(cè)周期內(nèi)所述大模型在各單位時(shí)間內(nèi)的負(fù)載均值的情況下,所述第一調(diào)整閾值為所述負(fù)載上限與第一系數(shù)的乘積,所述第二調(diào)整閾值為所述負(fù)載上限與第二系數(shù)的乘積,所述第一系數(shù)為小于1的數(shù)值,所述第二系數(shù)小于所述第一系數(shù);
29、和/或,
30、所述第二調(diào)整模塊,具體用于:若所述指標(biāo)值小于預(yù)設(shè)的第二調(diào)整閾值,從預(yù)設(shè)的置信度閾值集合中,選取小于當(dāng)前的置信度閾值且與當(dāng)前的置信度閾值的差值最小的置信度閾值,作為新的置信度閾值。
31、可選地,在所述指標(biāo)值為各單位時(shí)間內(nèi)得到的中間結(jié)果的數(shù)量中的最大值的情況下,所述第一調(diào)整閾值為所述負(fù)載上限與第三系數(shù)的乘積;其中,所述第三系數(shù)為大于等于1的數(shù)值,且所述第三系數(shù)與可接受所述大模型處理延遲的程度呈正相關(guān)。
32、可選地,所述第一調(diào)整模塊,具體用于:
33、若所述指標(biāo)值大于預(yù)設(shè)的第一調(diào)整閾值,從預(yù)設(shè)的置信度閾值集合中,選取大于當(dāng)前的置信度閾值且與當(dāng)前的置信度閾值的差值最小的置信度閾值,作為新的置信度閾值。
34、第三方面,本技術(shù)實(shí)施例提供了一種電子設(shè)備,包括:
35、存儲(chǔ)器,用于存放計(jì)算機(jī)程序;
36、處理器,用于執(zhí)行存儲(chǔ)器上所存放的程序時(shí),實(shí)現(xiàn)上述任一項(xiàng)所述的檢測(cè)方法。
37、第四方面,本技術(shù)實(shí)施例提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),所述計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)內(nèi)存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述任一項(xiàng)所述的檢測(cè)方法。
38、第五方面,本技術(shù)實(shí)施例提供了一種計(jì)算機(jī)程序產(chǎn)品,所述計(jì)算機(jī)程序產(chǎn)品包含可執(zhí)行指令,當(dāng)所述可執(zhí)行指令在計(jì)算機(jī)上執(zhí)行時(shí),使得計(jì)算機(jī)執(zhí)行上述任一項(xiàng)所述的檢測(cè)方法。
39、本技術(shù)實(shí)施例有益效果:
40、本技術(shù)實(shí)施例提供的方案,由于大模型用于檢測(cè)小模型檢測(cè)得到的中間結(jié)果中是否包含目標(biāo)對(duì)象,因此當(dāng)前的檢測(cè)周期內(nèi)小模型檢測(cè)得到的中間結(jié)果的數(shù)量,即為該檢測(cè)周期內(nèi)大模型的輸入數(shù)據(jù)的數(shù)量,即大模型需要處理的任務(wù)量。那么,根據(jù)該中間結(jié)果的數(shù)量,能夠計(jì)算表示當(dāng)前的檢測(cè)周期內(nèi)大模型在單位時(shí)間內(nèi)的負(fù)載情況的指標(biāo)值。由于第一調(diào)整閾值基于大模型在單位時(shí)間內(nèi)的負(fù)載上限所確定,若指標(biāo)值大于第一調(diào)整閾值,則表示當(dāng)前的檢測(cè)周期內(nèi)大模型的負(fù)載過(guò)重。那么,可以將小模型當(dāng)前的置信度閾值調(diào)大,使得小模型在下一檢測(cè)周期內(nèi)檢測(cè)得到的中間結(jié)果的數(shù)量變少,從而降低下一檢測(cè)周期內(nèi)大模型的負(fù)載,以避免大模型出現(xiàn)性能不足的情況,進(jìn)而能夠減少大模型無(wú)法檢測(cè)的中間結(jié)果的數(shù)量,使得大模型能夠盡可能的對(duì)輸入的所有中間結(jié)果進(jìn)行檢測(cè),以提高最終檢測(cè)結(jié)果的有效性。
41、當(dāng)然,實(shí)施本技術(shù)的任一產(chǎn)品或方法并不一定需要同時(shí)達(dá)到以上所述的所有優(yōu)點(diǎn)。