本發(fā)明涉及云計(jì)算，特別是涉及serverless計(jì)算中的函數(shù)即服務(wù)（function?as?a?service，faas）技術(shù)。具體而言，本發(fā)明涉及一種用于優(yōu)化serverless函數(shù)計(jì)算資源管理和性能的方法及系統(tǒng)。

背景技術(shù)：

1、serverless計(jì)算作為云計(jì)算的一種新興模式，在軟件開(kāi)發(fā)和部署領(lǐng)域中具有重要應(yīng)用。它允許開(kāi)發(fā)者專(zhuān)注于編寫(xiě)和運(yùn)行應(yīng)用程序代碼，而無(wú)需管理底層基礎(chǔ)設(shè)施。在serverless架構(gòu)中，函數(shù)即服務(wù)（faas）是一個(gè)核心組件，它使開(kāi)發(fā)者能夠以函數(shù)為單位構(gòu)建和部署應(yīng)用，從而實(shí)現(xiàn)更高的靈活性和可擴(kuò)展性。隨著微服務(wù)架構(gòu)和事件驅(qū)動(dòng)編程的普及，serverless計(jì)算在web應(yīng)用、物聯(lián)網(wǎng)、數(shù)據(jù)處理等領(lǐng)域的應(yīng)用日益廣泛。

2、目前，主要采用基于容器的函數(shù)實(shí)例管理和自動(dòng)擴(kuò)縮容方案來(lái)實(shí)現(xiàn)serverless函數(shù)計(jì)算。這種方案通常包括函數(shù)代碼封裝、容器化部署、請(qǐng)求路由和負(fù)載均衡等技術(shù)。當(dāng)接收到函數(shù)調(diào)用請(qǐng)求時(shí)，系統(tǒng)會(huì)啟動(dòng)一個(gè)新的容器實(shí)例或利用現(xiàn)有實(shí)例來(lái)執(zhí)行函數(shù)代碼。為了應(yīng)對(duì)負(fù)載變化，系統(tǒng)會(huì)根據(jù)預(yù)設(shè)規(guī)則自動(dòng)增加或減少函數(shù)實(shí)例數(shù)量。此外，一些平臺(tái)還采用預(yù)熱池技術(shù)，預(yù)先創(chuàng)建一定數(shù)量的容器實(shí)例，以減少冷啟動(dòng)延遲。

3、然而，這種方案存在資源利用效率低、冷啟動(dòng)延遲高、擴(kuò)縮容粒度粗等問(wèn)題。在負(fù)載波動(dòng)較大的場(chǎng)景下，固定的擴(kuò)縮容規(guī)則往往無(wú)法及時(shí)響應(yīng)，導(dǎo)致資源浪費(fèi)或請(qǐng)求堆積。同時(shí)，每個(gè)函數(shù)實(shí)例通常只能處理一個(gè)請(qǐng)求，這種一對(duì)一的映射關(guān)系限制了系統(tǒng)的并發(fā)處理能力。此外，頻繁的容器創(chuàng)建和銷(xiāo)毀操作也會(huì)增加系統(tǒng)開(kāi)銷(xiāo)，影響整體性能。

4、為解決上述問(wèn)題，有研究提出了基于實(shí)例復(fù)用和請(qǐng)求批處理的優(yōu)化方法。這些方法通過(guò)允許單個(gè)實(shí)例處理多個(gè)請(qǐng)求來(lái)提高資源利用率，并通過(guò)批量處理請(qǐng)求來(lái)減少系統(tǒng)開(kāi)銷(xiāo)。雖然這些方法在一定程度上改善了資源利用效率和系統(tǒng)性能，但仍存在擴(kuò)縮容靈活性不足、負(fù)載均衡策略簡(jiǎn)單、異步處理能力有限等問(wèn)題。特別是在面對(duì)復(fù)雜多變的負(fù)載模式時(shí)，這些方法難以實(shí)現(xiàn)精細(xì)化的資源管理和高效的請(qǐng)求調(diào)度。

5、因此，亟需一種能夠?qū)崿F(xiàn)實(shí)例級(jí)精細(xì)化擴(kuò)容配置、多級(jí)請(qǐng)求調(diào)度和高效異步處理的serverless函數(shù)計(jì)算方法和系統(tǒng)。這種方法應(yīng)能夠根據(jù)不同函數(shù)的特性和負(fù)載情況，動(dòng)態(tài)調(diào)整擴(kuò)縮容策略和并發(fā)處理能力，同時(shí)提供靈活的負(fù)載均衡機(jī)制和高效的異步請(qǐng)求處理能力。開(kāi)發(fā)這樣一種先進(jìn)的serverless函數(shù)計(jì)算技術(shù)已成為本領(lǐng)域的研究熱點(diǎn)，它將有助于提高serverless計(jì)算的性能、可靠性和資源利用效率，為各種應(yīng)用場(chǎng)景提供更好的支持。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明的目的是解決現(xiàn)有serverless函數(shù)計(jì)算中資源利用效率低、冷啟動(dòng)延遲高、擴(kuò)縮容粒度粗等問(wèn)題。此外，本發(fā)明還旨在提供一種靈活的負(fù)載均衡機(jī)制和高效的異步請(qǐng)求處理能力，以應(yīng)對(duì)復(fù)雜多變的負(fù)載模式。

2、為實(shí)現(xiàn)上述目的，本發(fā)明提供了一種具有實(shí)例級(jí)擴(kuò)容配置的serverless函數(shù)計(jì)算方法及系統(tǒng)，其特征在于：通過(guò)設(shè)置實(shí)例級(jí)的擴(kuò)容閾值和并發(fā)上限，實(shí)現(xiàn)細(xì)粒度的資源管理和請(qǐng)求處理。在一些實(shí)施例中，該方法還包括多級(jí)請(qǐng)求調(diào)度和批量化擴(kuò)縮容操作，以提高系統(tǒng)的整體性能和資源利用率。

3、具體地，本發(fā)明的方法包括接收并存儲(chǔ)函數(shù)實(shí)例的擴(kuò)容閾值和并發(fā)上限的配置參數(shù)，這些參數(shù)可以針對(duì)每個(gè)函數(shù)實(shí)例單獨(dú)設(shè)置，實(shí)現(xiàn)精細(xì)化的資源控制。

4、進(jìn)一步地，該方法通過(guò)實(shí)時(shí)監(jiān)測(cè)單個(gè)函數(shù)實(shí)例的并發(fā)請(qǐng)求數(shù)，當(dāng)請(qǐng)求數(shù)達(dá)到擴(kuò)容閾值時(shí)，觸發(fā)實(shí)例的異步擴(kuò)容操作，創(chuàng)建新的函數(shù)實(shí)例。

5、優(yōu)選地，本發(fā)明采用多級(jí)請(qǐng)求調(diào)度機(jī)制，將超出并發(fā)上限的請(qǐng)求均衡分配到其他可用實(shí)例上，確保系統(tǒng)的負(fù)載均衡和高效運(yùn)行。

6、可選地，該方法還包括基于消息隊(duì)列長(zhǎng)度變化執(zhí)行批量化擴(kuò)縮容操作，提高資源管理的效率。

7、在一個(gè)實(shí)施例中，本發(fā)明實(shí)施異步請(qǐng)求處理，將接收到的請(qǐng)求異步寫(xiě)入消息隊(duì)列，并由調(diào)度器從隊(duì)列批量拉取請(qǐng)求進(jìn)行處理，提高系統(tǒng)的并發(fā)處理能力。

8、在某些實(shí)施例中，本發(fā)明還包括自適應(yīng)參數(shù)調(diào)整步驟，根據(jù)應(yīng)用特性、歷史負(fù)載數(shù)據(jù)和實(shí)時(shí)性能指標(biāo)，動(dòng)態(tài)調(diào)整并發(fā)上限和擴(kuò)容閾值。

9、另外，本發(fā)明還可以通過(guò)預(yù)熱池維護(hù)和函數(shù)代碼緩存等技術(shù)，實(shí)現(xiàn)冷啟動(dòng)優(yōu)化，進(jìn)一步降低函數(shù)調(diào)用的延遲。

10、在其他實(shí)施例中，本發(fā)明的系統(tǒng)支持單節(jié)點(diǎn)和多節(jié)點(diǎn)集群部署，并具備跨區(qū)域負(fù)載均衡能力，適應(yīng)不同規(guī)模和復(fù)雜度的應(yīng)用場(chǎng)景。

11、在一個(gè)優(yōu)選實(shí)施方式中，本發(fā)明的系統(tǒng)包括控制器、配置模塊、監(jiān)測(cè)模塊、擴(kuò)容模塊、調(diào)度模塊、批量化擴(kuò)縮容模塊和異步請(qǐng)求處理模塊，這些模塊協(xié)同工作，實(shí)現(xiàn)高效的serverless函數(shù)計(jì)算。

12、在另一個(gè)優(yōu)選實(shí)施方式中，本發(fā)明的方法通過(guò)結(jié)合異步擴(kuò)容操作、多級(jí)請(qǐng)求調(diào)度和批量化擴(kuò)縮容，在保證系統(tǒng)性能的同時(shí)，實(shí)現(xiàn)了資源的高效利用和靈活管理。

13、通過(guò)采用上述方案，本發(fā)明具有以下有益效果：

14、（1）通過(guò)實(shí)例級(jí)擴(kuò)容配置，實(shí)現(xiàn)了更精細(xì)化的資源管理，提高了資源利用率；

15、（2）采用多級(jí)請(qǐng)求調(diào)度機(jī)制，顯著提升了系統(tǒng)的負(fù)載均衡能力和請(qǐng)求處理效率；

16、（3）通過(guò)異步擴(kuò)容操作和批量化擴(kuò)縮容，減少了資源管理開(kāi)銷(xiāo)，提高了系統(tǒng)響應(yīng)速度；

17、（4）實(shí)施異步請(qǐng)求處理，增強(qiáng)了系統(tǒng)的并發(fā)處理能力，適應(yīng)高負(fù)載場(chǎng)景；

18、（5）通過(guò)自適應(yīng)參數(shù)調(diào)整和冷啟動(dòng)優(yōu)化，進(jìn)一步提升了系統(tǒng)的性能和用戶(hù)體驗(yàn)。

19、綜上所述，本發(fā)明提供了一種高效、靈活且可擴(kuò)展的serverless函數(shù)計(jì)算方法和系統(tǒng)，顯著改善了資源利用效率、系統(tǒng)性能和用戶(hù)體驗(yàn)，為serverless計(jì)算技術(shù)的進(jìn)一步發(fā)展和應(yīng)用提供了重要支持。

技術(shù)特征：

1.一種具有實(shí)例級(jí)擴(kuò)容配置的serverless函數(shù)計(jì)算方法，其特征在于，包括以下步驟：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述擴(kuò)容閾值和并發(fā)上限的配置參數(shù)針對(duì)每個(gè)函數(shù)實(shí)例單獨(dú)設(shè)置，且支持運(yùn)行時(shí)動(dòng)態(tài)調(diào)整。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述異步擴(kuò)容操作根據(jù)預(yù)設(shè)的擴(kuò)容策略創(chuàng)建新的函數(shù)實(shí)例，所述擴(kuò)容策略包括固定數(shù)量擴(kuò)容、百分比擴(kuò)容或自適應(yīng)擴(kuò)容。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述均衡分配的方式包括但不限于輪詢(xún)、加權(quán)輪詢(xún)、隨機(jī)、最少連接數(shù)或一致性哈希。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括自適應(yīng)參數(shù)調(diào)整步驟，根據(jù)應(yīng)用特性、歷史負(fù)載數(shù)據(jù)和實(shí)時(shí)性能指標(biāo)，動(dòng)態(tài)調(diào)整并發(fā)上限和擴(kuò)容閾值。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述批量化擴(kuò)縮容操作包括：

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括冷啟動(dòng)優(yōu)化步驟，通過(guò)預(yù)熱池維護(hù)和函數(shù)代碼緩存等技術(shù)降低冷啟動(dòng)延遲。

8.一種具有實(shí)例級(jí)擴(kuò)容配置的serverless函數(shù)計(jì)算系統(tǒng)，其特征在于，包括：

9.根據(jù)權(quán)利要求8所述的系統(tǒng)，其特征在于，還包括自適應(yīng)參數(shù)調(diào)整模塊，用于根據(jù)應(yīng)用特性、歷史負(fù)載數(shù)據(jù)和實(shí)時(shí)性能指標(biāo)，動(dòng)態(tài)調(diào)整并發(fā)上限和擴(kuò)容閾值。

10.根據(jù)權(quán)利要求8所述的系統(tǒng)，其特征在于，還包括：

技術(shù)總結(jié)
本發(fā)明提供了一種具有實(shí)例級(jí)擴(kuò)容配置的Serverless函數(shù)計(jì)算方法及系統(tǒng)。該方法包括：接收函數(shù)實(shí)例的擴(kuò)容閾值和并發(fā)上限配置參數(shù)；實(shí)時(shí)監(jiān)測(cè)單個(gè)函數(shù)實(shí)例的并發(fā)請(qǐng)求數(shù)；當(dāng)并發(fā)請(qǐng)求數(shù)達(dá)到擴(kuò)容閾值時(shí)，觸發(fā)異步擴(kuò)容操作；通過(guò)多級(jí)請(qǐng)求調(diào)度將超出并發(fā)上限的請(qǐng)求均衡分配；執(zhí)行基于消息隊(duì)列長(zhǎng)度的批量化擴(kuò)縮容操作；實(shí)施異步請(qǐng)求處理。該系統(tǒng)包括控制器、配置模塊、監(jiān)測(cè)模塊、擴(kuò)容模塊、調(diào)度模塊、批量化擴(kuò)縮容模塊和異步請(qǐng)求處理模塊。本發(fā)明的有益效果在于：通過(guò)實(shí)例級(jí)擴(kuò)容配置和多級(jí)請(qǐng)求調(diào)度，顯著提高了Serverless函數(shù)的資源利用率和請(qǐng)求處理效率，同時(shí)降低了冷啟動(dòng)延遲，增強(qiáng)了系統(tǒng)的靈活性和可擴(kuò)展性。

技術(shù)研發(fā)人員：請(qǐng)求不公布姓名,請(qǐng)求不公布姓名
受保護(hù)的技術(shù)使用者：劉宇
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/30