一種服務器過載保護系統(tǒng)及方法
【專利摘要】本發(fā)明提供了一種服務超時保護系統(tǒng)及方法。該方法包括：a)接收來自請求端針對一項服務的請求；b)判斷所述服務的當前占用服務器超時次數(shù)是否大于第一閾值，否，則進入步驟c；是，則進入步驟f；c)允許所述請求發(fā)送至所述服務器；d)獲取所述請求的服務器占用時間；e)當所述請求的服務器占用時間大于第二閾值時，更新所述服務的當前占用服務器超時次數(shù)；f)判斷所述服務的當前拒絕次數(shù)是否大于第三閾值，是，則允許所述請求發(fā)送至所述服務器；否，則拒絕所述請求發(fā)送至所述服務器，并更新所述當前拒絕次數(shù)。
【專利說明】一種服務器過載保護系統(tǒng)及方法

【技術領域】
[0001]本發(fā)明涉及服務器的管理【技術領域】，特別是一種服務器過載保護系統(tǒng)及方法。

【背景技術】
[0002]經(jīng)過多年的發(fā)展，服務器過載保護方面已經(jīng)有比較多的研究，但在實際業(yè)務場景中，一些極端情況下服務器的負載仍然有可能達到其上限。
[0003]現(xiàn)有的服務保護技術中，有的從硬件著手，優(yōu)化網(wǎng)卡驅(qū)動，根據(jù)當前機器的CPU使用率、內(nèi)存使用率等參數(shù)來衡量服務器的負載情況；如果服務器超過負載限制，則網(wǎng)卡驅(qū)動拒絕所有建立新TCP連接的請求，來緩解服務器的壓力。優(yōu)化網(wǎng)卡驅(qū)動雖然一定程度上能緩存服務器負載，但是，對于突發(fā)的短暫的高訪問量情況，將會引起服務器的吞吐量抖動。同時，由于這種方法的控制粒度太粗，如果同一臺機器上部署多類服務，那么其中一類服務異常會導致所有的服務都不能正常工作。
[0004]還有的服務保護技術從軟件著手，采用不同的工作負載管理器來分別處理不同優(yōu)先級的請求方法:當服務器負載達到一定上限時，拒絕低優(yōu)先級的服務請求，只處理高優(yōu)先級的請求。但是，根據(jù)優(yōu)先級來拒絕服務請求，實際上是根據(jù)業(yè)務服務器負載來判斷服務提供方的調(diào)用，如果提供高優(yōu)先級的服務器出現(xiàn)異常，這種策略就不能有效地緩解系統(tǒng)負載。
[0005]也有服務保護技術采用時間滑動窗口，根據(jù)所消耗的資源將服務分為磁盤帶寬消耗型的服務、CPU消耗型的服務、網(wǎng)絡帶寬消耗型的服務，根據(jù)服務的不同來設置不同時長的滑動窗口。例如，專利號為CN103164663A的專利:一種基于滑動窗口的服務器過載保護方法及裝置。在該專利中，所述滑動窗口記錄對應時間段內(nèi)服務器接收的請求:服務器收到新的請求時，根據(jù)滑動窗口記錄的服務器接收的請求檢測服務器當前的負載狀態(tài)，根據(jù)檢測結果判斷是否對請求進行處理。但是，基于時間滑動窗口的服務保護技術，忽略了訪問的周期性，實際上互聯(lián)網(wǎng)用戶訪問量會呈現(xiàn)出周期性的波峰波谷，例如通常白天的訪問量比凌晨高很多，而此時使用同樣長的時間窗口顯然不太合適。而且不同長的滑動窗口僅根據(jù)服務消耗的資源進行區(qū)分，粒度太粗，如有多種服務都是CPU消耗型的服務，則不便于實時探測服務器負載，存在由于突發(fā)情況引起的負載抖動對服務器處理核心服務帶來影響的可能性。
[0006]因此，需要一種服務器器過載保護的方法及系統(tǒng)，以有效地避免突發(fā)事件對服務器帶來的影響。


【發(fā)明內(nèi)容】

[0007]本發(fā)明的目的是提供一種服務器過載保護的方法及系統(tǒng)。本發(fā)明以服務種類為粒度，對服務器進行過載保護。根據(jù)本發(fā)明的一個方面，提供了一種服務器過載保護的方法，所述方法包括如下步驟:a)接收來自請求端針對一項服務的請求；b)判斷所述服務的當前占用服務器超時次數(shù)是否大于第一閾值，否，則進入步驟c ;是，則進入步驟f ；c)允許所述請求發(fā)送至所述服務器；d)獲取所述請求的服務器占用時間；e)當所述請求的服務器占用時間大于第二閾值時，更新所述服務的當前占用服務器超時次數(shù)；f)判斷所述服務的當前拒絕次數(shù)是否大于第三閾值，是，則允許所述請求發(fā)送至所述服務器；否，則拒絕所述請求發(fā)送至所述服務器，并更新所述當前拒絕次數(shù)。
[0008]優(yōu)選地，步驟c進一步包括:判斷所述服務的當前發(fā)送次數(shù)是否大于第四閾值，否，則允許所述請求發(fā)送至所述服務器，更新所述服務的當前發(fā)送次數(shù)；是，則將所述服務的當前占用服務器超時次數(shù)及所述服務的當前發(fā)送次數(shù)復位，允許所述請求發(fā)送至服務器。
[0009]優(yōu)選地，步驟c進一步包括:cl’)更新所述服務的當前發(fā)送次數(shù)；和c2’ )判斷所述服務的當前發(fā)送次數(shù)是否大于第四閾值；否，則允許所述請求發(fā)送至服務器；是，則將所述服務的當前占用服務器超時次數(shù)及所述服務的當前發(fā)送次數(shù)復位，允許所述請求發(fā)送至服務器。
[0010]優(yōu)選地，所述第一閾值、第二閾值、第三閾值為預先設置的。
[0011]優(yōu)選地，所述第一閾值、第二閾值、第三閾值、第四閾值為預先設置的。
[0012]優(yōu)選地，所述第三閾值根據(jù)動態(tài)計算得到。
[0013]優(yōu)選地，所述第三閾值根據(jù)所述第一閾值與當前超時比例的乘積，動態(tài)計算得到，其中所述當前超時比例為當前占用服務器超時次數(shù)/當前發(fā)送次數(shù)。
[0014]優(yōu)選地，更新所述當前占用服務器超時次數(shù)以及所述當前拒絕次數(shù)的方法為，對所述當前占用服務器超時次數(shù)以及所述當前拒絕次數(shù)分別加I。
[0015]優(yōu)選地，更新所述當前發(fā)送次數(shù)的方法為，對所述當前發(fā)送次數(shù)加I。
[0016]根據(jù)本發(fā)明的另一方面，提供了一種服務器過載保護系統(tǒng)，其中:所述系統(tǒng)接收請求端發(fā)出的針對一項服務的請求；所述系統(tǒng)包括接口單元、設置單元、計數(shù)單元以及控制單元，其中，所述接口單元用于允許或者阻止所述請求端與所述服務器之間的數(shù)據(jù)交換；所述設置單元用于生成第一閾值、第二閾值、第三閾值以及第四閾值；所述計數(shù)單元用于記錄針對所述服務的當前占用服務器超時次數(shù)、針對所述服務的當前發(fā)送次數(shù)、以及針對所述服務的當前拒絕次數(shù)；并根據(jù)所述控制單元的控制將針對所述服務的當前占用服務器超時次數(shù)、所述服務的當前發(fā)送次數(shù)以及所述服務的當前拒絕次數(shù)復位；所述控制單元用于控制允許或者阻止所述請求端與所述服務器之間的數(shù)據(jù)交換。
[0017]優(yōu)選地,所述接口單元用于:接收所述請求后,請求所述控制單元提供針對該請求的指示；根據(jù)所述控制單元的允許指示，允許所述請求端將請求發(fā)送至所述服務器并且允許所述服務器將反饋發(fā)送至所述請求端；記錄所述請求發(fā)送至所述服務器的時間以及所述服務器發(fā)送針對所述請求的反饋的時間；根據(jù)所述控制單元的拒絕指示，拒絕來自所述請求端的請求，并且向所述請求端發(fā)送反饋。
[0018]優(yōu)選地，所述控制單元用于接收所述接口單元發(fā)出的請求，分別調(diào)取所述第一閾值與當前占用服務器超時次數(shù)，比較所述第一閾值與所述當前占用服務器超時次數(shù)；當所述當前占用服務器超時次數(shù) <所述第一閾值時，所述控制單元向所述接口單元發(fā)送允許指示，計算所述服務器占用時間，比較所述服務器占用時間與所述第二閾值，當所述服務器占用時間 > 所述第二閾值，則所述控制單元控制所述計數(shù)單元對所述當前占用服務器超時次數(shù)進行更新；若所述服務器超時次數(shù)>所述第一閾值，則所述控制單元分別調(diào)取所述第三閾值與當前拒絕次數(shù)，比較所述第三閾值與所述當前拒絕次數(shù)；若所述當前拒絕次數(shù)<所述第三閾值，則所述控制單元向所述接口單元發(fā)送拒絕指示，并控制所述計數(shù)單元對所述當前拒絕次數(shù)進行更新；若所述當前拒絕次數(shù) > 所述第三閾值，則所述控制單元向所述接口單元發(fā)送允許指示。
[0019]優(yōu)選地，所述計數(shù)單元動態(tài)計算所述第三閾值。
[0020]優(yōu)選地，所述計數(shù)單元根據(jù)所述第一閾值與當前超時比例的乘積動態(tài)計算所述第三閾值，其中所述當前超時比例為所述服務器超時的次數(shù)/所述當前發(fā)送次數(shù)。
[0021 ] 優(yōu)選地，所述接口單元包括第一暫存模塊，用以存儲來自所述請求端的請求和/或來自所述服務器的反饋，和/或，所述請求發(fā)送至所述服務器的時間以及所述服務器發(fā)送針對所述請求的反饋的時間。
[0022]優(yōu)選地，所述服務器過載保護系統(tǒng)中設置有第一存儲單元，用以存儲來自所述請求端的請求和/或來自所述服務器的反饋，和/或，所述請求發(fā)送至所述服務器的時間以及所述服務器發(fā)送針對所述請求的反饋的時間。
[0023]優(yōu)選地，所述設置單元包括第二暫存模塊，用以存儲針對不同服務的所述第一閾值、第二閾值、第三閾值以及第四閾值。
[0024]優(yōu)選地，所述服務器過載保護系統(tǒng)中設置有第二存儲單元，用以存儲針對不同服務的所述第二閾值、所述第一閾值、所述發(fā)送閾值次數(shù)、以及所述第三閾值。
[0025]優(yōu)選地，所述計數(shù)單元包括第三暫存模塊，用以存儲針對不同服務的所述服務器超時次數(shù)、所述當前發(fā)送次數(shù)以及所述當前拒絕次數(shù)。
[0026]優(yōu)選地，所述服務器過載保護系統(tǒng)中設置有第三存儲單元，用以存儲針對不同服務的所述服務器超時次數(shù)、所述當前發(fā)送次數(shù)以及所述當前拒絕次數(shù)。
[0027]根據(jù)本發(fā)明公開的服務器過載保護方法及系統(tǒng)，能夠根據(jù)服務種類的不同，對服務器當前負載進行預估，有效地避免突發(fā)事件對服務控制系統(tǒng)帶來的影響。并實現(xiàn)基于服務的種類的負載保護，從而對資源進行充分的利用。

【專利附圖】

【附圖說明】
[0028]參考隨附的附圖，本發(fā)明更多的目的、功能和優(yōu)點將通過本發(fā)明實施方式的如下描述得以闡明，其中:
[0029]圖1示意性示出了根據(jù)本發(fā)明公開的一實施方式的服務器過載保護方法的流程圖。
[0030]圖2示意性示出了根據(jù)本發(fā)明公開的另一實施方式的服務器過載保護方法的流程圖。
[0031]圖3示意性示出了根據(jù)本發(fā)明公開的又一實施方式的服務器過載保護方法的流程圖。
[0032]圖4示意性示出了根據(jù)本發(fā)明公開的一實施方式的服務器過載保護系統(tǒng)的框圖。

【具體實施方式】
[0033]通過參考示范性實施例，本發(fā)明的目的和功能以及用于實現(xiàn)這些目的和功能的方法將得以闡明。然而，本發(fā)明并不受限于以下所公開的示范性實施例；可以通過不同形式來對其加以實現(xiàn)。說明書的實質(zhì)僅僅是幫助相關領域技術人員綜合理解本發(fā)明的具體細節(jié)。
[0034]在下文中，將參考附圖描述本發(fā)明的實施例。在附圖中，相同的附圖標記代表相同或類似的部件，或者相同或類似的步驟。
[0035]下文中所討論的服務，可以基于多種標準進行分類，例如從業(yè)務層面上進行分類、從代碼層面上分類、基于資源消耗情況進行分類等等。
[0036]圖1所示為根據(jù)本發(fā)明一實施例的一種服務器過載保護方法，如圖1所示，該方法包括:
[0037]SlOO:接收針對一項服務的請求；
[0038]S200:判斷該項服務的當前占用服務器超時次數(shù)A是否大于第一閾值，即該項服務的超時閾值次數(shù)Athred,否則執(zhí)行步驟S300，是則執(zhí)行步驟S700 ；
[0039]其中，超時閾值次數(shù)Athred為服務器占用時間T大于第二閾值，即服務器占用閾值時間Tthred的閾值次數(shù)，服務器占用時間T為請求發(fā)送至服務器的時間Ttl與服務器發(fā)送針對該請求的反饋的時間T1之差，即T = T1-T00 一項服務的當前占用服務器超時次數(shù)A為該項服務的服務器實際占用時間T超過該項服務的服務器占用閾值時間Tthred的次數(shù)。在本發(fā)明的一個實施例中，服務器占用閾值時間Tthred與超時閾值次數(shù)Athred可以根據(jù)使用者的設定生成，也可以為默認設置。
[0040]S300:允許所述請求發(fā)送至服務器；
[0041]其中，當前發(fā)送次數(shù)B為請求發(fā)送至服務器的次數(shù)(如圖中所示)。
[0042]在一實施例中，還可執(zhí)行更新該項服務的當前發(fā)送次數(shù)B的操作(如圖中所示)。
[0043]S400:獲取所述請求的服務器占用時間T ；
[0044]S500:判斷所述請求的服務器占用時間T是否大于該項服務的第二閾值，即服務器占用閾值時間Tthred,當大于該項服務的第二閾值時執(zhí)行步驟S600 ；
[0045]S600:更新該項服務的當前占用服務器超時次數(shù)A ；
[0046]S700:判斷該項服務的當前拒絕次數(shù)C是否大于第三閾值，即該項服務的拒絕閾值次數(shù)Cthred,是則執(zhí)行步驟S800，否則執(zhí)行步驟S900 ；
[0047]其中，當前拒絕次數(shù)C為拒絕請求發(fā)送至服務器的次數(shù)。拒絕閾值次數(shù)Cthred為拒絕請求發(fā)送至服務器的閾值次數(shù)，在本發(fā)明的一個實施例中，拒絕閾值次數(shù)Cthred可以根據(jù)使用者的設定生成，也可以為默認的。在本發(fā)明的另一個實施例中，Cthred可以動態(tài)計算得至IJ，例如在一實施方式中，根據(jù)超時閾值次數(shù)Atod與當前超時比例(S卩，當前占用服務器超時的次數(shù)A/當前發(fā)送次數(shù)B)的乘積動態(tài)計算CthMd。
[0048]S800:允許所述請求發(fā)送至服務器；
[0049]其中，在一些實施例中，還將該項服務的當前占用服務器超時次數(shù)A、該項服務的當前發(fā)送次數(shù)B以及該項服務的當前拒絕次數(shù)C復位(如圖中所示)。
[0050]S900:拒絕所述請求發(fā)送至服務器，更新該項服務的當前拒絕次數(shù)C。
[0051]其中，在一些實施方式中，如圖2所示，步驟S300包括:
[0052]S310:判斷該項服務的當前發(fā)送次數(shù)B是否大于該項服務的第四閾值，即發(fā)送閾值次數(shù)Bthred ;否則執(zhí)行步驟S320，是則執(zhí)行步驟S330 ；
[0053]其中發(fā)送閾值次數(shù)Bthred為允許請求發(fā)送至服務器的閾值次數(shù)。
[0054]S320:允許所述請求發(fā)送至服務器，更新該項服務的當前發(fā)送次數(shù)B ；
[0055]S330:將該項服務的當前占用服務器超時次數(shù)A及該項服務的當前發(fā)送次數(shù)B復位，允許所述請求發(fā)送至服務器；
[0056]其中，在另一些實施方式中，如圖3所示，步驟S300包括:
[0057]S305’:更新該項服務的當前發(fā)送次數(shù)B ；
[0058]S310’:判斷更新后的該項服務的當前發(fā)送次數(shù)B是否大于該項服務的發(fā)送閾值次數(shù)Bthred ;否則執(zhí)行步驟S320’，是則執(zhí)行步驟S330’ ；
[0059]S320’:允許所述請求發(fā)送至服務器；
[0060]S330’:將該項服務的當前占用服務器超時次數(shù)A及該項服務的當前發(fā)送次數(shù)B復位，允許所述請求發(fā)送至服務器。
[0061]根據(jù)本發(fā)明公開的一實施方式，針對不同項或者不同類的服務，設置對應的Athred、BthredXthred以及Tthred,以對不同服務進行分別管理，對服務器的占用情況進行細分。同時針對不同項或者不同類的服務，對當前占用服務器超時次數(shù)A、當前發(fā)送次數(shù)B以及當前拒絕次數(shù)C分別進行更新與復位，從而實現(xiàn)對不同服務進行分別管理，對服務器的占用情況進行細分。根據(jù)本發(fā)明公開的一實施方式，對當前占用服務器超時次數(shù)A、當前發(fā)送次數(shù)B以及當前拒絕次數(shù)C進行更新即為，對次數(shù)A、次數(shù)B以及次數(shù)C分別加I。
[0062]對于本領域技術人員可以理解的是，由于本發(fā)明公開的一些實施方式可以分別針對不同的服務，因此對次數(shù)A、B以及C進行復位的動作，以及允許或者拒絕請求發(fā)送至服務器的動作，以及對次數(shù)A、B、C進行更新的動作，在針對不同服務時，三者沒有順序上的限制。例如，在對服務一的次數(shù)A、B和/或C進行復位時，可以同時或不同時地允許或拒絕針對服務二的請求發(fā)送至服務器，可以同時或不同時地對服務三的次數(shù)A、B和/或C進行更新。由于服務控制系統(tǒng)120可以接收大量針對不同服務的請求，因此針對不同服務的上述3種處理可交織進行，例如在對服務一的次數(shù)A進行復位時，可以同時允許針對服務二的請求發(fā)送至服務器，可以同時對服務三的次數(shù)C進行更新等等。其執(zhí)行順序并不會影響到本發(fā)明公開的服務器過載保護方法的整體功能效果。
[0063]此外,本發(fā)明中,對次數(shù)A、B和/或C的復位動作、更新動作、以及允許或拒絕請求發(fā)送至服務器的動作，之間沒有順序上的限制。例如允許請求發(fā)送至服務器的動作，可與更新當前發(fā)送次數(shù)B的動作同時進行或不同時進行；例如允許請求發(fā)送至服務器的動作，可與復位次數(shù)A、B的動作同時進行或不同時進行；例如允許請求發(fā)送至服務器的動作，可與復位次數(shù)A、B、C的動作同時進行或不同時進行；例如拒絕請求發(fā)送至服務器的動作可與更新當前拒絕次數(shù)C的動作同時進行或不同時進行。
[0064]圖4所示為根據(jù)本發(fā)明公開的一個實施方式的一種服務器過載保護系統(tǒng)130的各功能性模塊與一請求端110以及一服務器150之間相互作用的示意方框圖。雖然此示例方框圖中僅示出一單個請求端110，例如用戶端工作站，以及一單個服務器150，例如電子郵件服務器，與一服務器過載保護系統(tǒng)之間的相互作用。但應該理解的是，多個請求端、多個服務器可與服務器過載保護系統(tǒng)130直接或間接的相互作用。
[0065]根據(jù)本發(fā)明公開的一個實施方式，服務器過載保護系統(tǒng)130可以邏輯上設置于請求端110與服務器150之間，以有條件地允許請求端110與服務器150交換數(shù)據(jù)。請求端110針對一項服務，向服務器150發(fā)出請求，服務器過載保護系統(tǒng)130分析服務器150對于該項服務的服務壓力。若服務器過載保護系統(tǒng)130分析認為服務器150對于該服務的壓力過大，則阻止所述請求發(fā)送至服務器150，并向請求端110發(fā)送拒絕信息；若分析認為服務器150針對該服務的壓力正常，則允許所述請求發(fā)送至服務器150。應該理解的是，本發(fā)明公開的技術方案并不局限于某一項或某一類服務、或者針對某一項或某一類服務的請求，亦可以適用于多項或者多類服務、以及針對多項或多類服務的請求。
[0066]在本發(fā)明一個實施例中，請求端110可以設置為能夠發(fā)送請求的設備，例如個人數(shù)字助理(PDA)、智能手機、筆記本電腦、上網(wǎng)本、個人計算機、無線傳感器、消費型電子產(chǎn)品，諸如此類。根據(jù)本發(fā)明一個實施例，請求端110可以根據(jù)用戶操作發(fā)送請求，也可以根據(jù)預先設定，例如為滿足請求端110上運行的程序的需求，自動發(fā)送請求。
[0067]根據(jù)本發(fā)明的一實施例，該服務器過載保護系統(tǒng)130可以是一虛擬或物理設備。如圖4所示，服務器過載保護系統(tǒng)130包括四個相互作用的功能模塊，控制單元131、計數(shù)單元133、設置單元135以及接口單元137。
[0068]接口單元137設置用于允許或者阻止請求端110與服務器150之間的數(shù)據(jù)交換。在一實施方式中，接口單元137接收來自請求端110針對一項服務的請求后,請求控制單元131提供針對該請求的指示。接口單元137根據(jù)控制單元131的允許指示,允許請求端110將請求發(fā)送至服務器150并且允許服務器150將反饋發(fā)送至請求端110。例如，接口單元137根據(jù)控制單元131的允許指示將請求發(fā)送至服務器150，接收服務器150發(fā)送的針對該請求的反饋，并且將該反饋發(fā)送至請求端110。接口單元137記錄請求發(fā)送至服務器150的時間Ttl以及服務器150發(fā)送針對該請求的反饋的時間！\。例如，接口單元137將請求發(fā)送至服務器150的時間為Ttl，接口單元137接收到服務器150發(fā)送的反饋的時間為T1。接口單元137根據(jù)控制單元131的拒絕指示拒絕來自請求端110的請求,并且向請求端110發(fā)送表示拒絕的反饋。應該理解的是，根據(jù)本發(fā)明公開的技術方案，上述實施例中的接口單元137并不局限于某一項或某一類服務、或者僅針對關于某一項或某一類服務的請求，亦可以適用于多項或者多類服務以及關于多項或者多類服務的多個請求。
[0069]在本發(fā)明一實施例中，接口單元137包括暫存模塊1371(未示出)，用以存儲來自請求端110的請求。在本發(fā)明另一實施例中，該暫存模塊1371用以存儲接收到的來自請求端110的請求、來自服務器150的反饋以及Ttl與1\。在本發(fā)明又一實施例中，服務器過載保護系統(tǒng)130中設置有存儲單元139(未示出)，用以存儲接收到的來自請求端110的請求、來自服務器150的反饋和/或Ttl與1\。應該理解的是，根據(jù)本發(fā)明公開的技術方案，上述實施例中的暫存模塊1371、存儲單元139并不局限于存儲針對某一項或某一類服務的請求，亦可以適用于存儲針對多項或者多類服務的多個請求。
[0070]設置單元135設置用于生成:第二閾值即服務器占用閾值時間Tthred、第一閾值即超時閾值次數(shù)Athrral(即服務器占用時間T大于服務器占用閾值時間Tthred的閾值次數(shù))、第四閾值即發(fā)送閾值次數(shù)Bthrral(即允許來自請求端110的請求發(fā)送至服務器150的閾值次數(shù))、以及第三閾值即拒絕閾值次數(shù)Ctod(即拒絕來自請求端110的請求的閾值次數(shù))。在本發(fā)明的一個實施例中，Attoed、Bthred, Cthred以及Tttoed可以根據(jù)使用者的設定生成，也可以由設置單元135默認生成。在另一實施方式中，Cthred可以動態(tài)計算，具體計算方式將結合計數(shù)單元133在下文中詳細介紹。根據(jù)本發(fā)明公開的一實施方式，針對不同項或者不同類的服務，設置單元135分別設置針對該項或者該類服務的AthMd、BthMd、Cthred以及Tthred,以對不同服務進行分別管理，對服務器的占用情況進行細分。在本發(fā)明一實施例中，設置單元135包括暫存模塊1351 (未示出)，用以存儲針對不同服務的Athral、Bthral、Cthral以及Tthred。在本發(fā)明另一實施例中，服務器過載保護系統(tǒng)130中設置有存儲單元139 (未示出)，用以存儲針對不冋服務的 Athre;d、Bthred> Cthred 以及 Tthrad。
[0071]計數(shù)單元133設置用于:記錄針對一項服務的當前占用服務器超時次數(shù)A(即服務器實際占用時間T超過針對該項服務的服務器占用閾值時間Tthral的次數(shù))，記錄針對一項服務的當前發(fā)送次數(shù)B(即來自請求端110的針對該項服務的請求發(fā)送至服務器150的次數(shù))、記錄針對一項服務的當前拒絕次數(shù)C(即拒絕來自請求端110的針對該項服務的請求的次數(shù))。計數(shù)單元133可根據(jù)控制單元131的控制，例如控制單元131發(fā)送的復位指示等，將針對一項服務的A、B、C清零。根據(jù)本發(fā)明公開的一實施方式，針對不同項或者不同類的服務，設置單元135分別設置針對該項或者該類服務的Attoed、Bttoed、Cttoed以及Tttoed,以對不同服務進行分別管理，對服務器的占用情況進行細分。在本發(fā)明一實施例中，計數(shù)單元133包括暫存模塊1331 (未示出)，用以存儲針對不同服務的當前占用服務器超時次數(shù)A、當前發(fā)送次數(shù)B以及當前拒絕請求發(fā)送至服務器的次數(shù)C。在本發(fā)明另一實施例中，服務器過載保護系統(tǒng)130中設置有存儲單元139 (未示出)，用以存儲針對不同服務的當前占用服務器超時次數(shù)A、當前發(fā)送次數(shù)B以及當前拒絕請求發(fā)送至服務器的次數(shù)C。
[0072]Cthral可以由設置單元135動態(tài)計算。在一實施方式中，控制單元131調(diào)取計數(shù)單元133生成的當前占用服務器超時次數(shù)A與當前發(fā)送次數(shù)B，根據(jù)超時閾值次數(shù)Attoed與當前超時比例(即，當前占用服務器超時次數(shù)A/當前發(fā)送次數(shù)B)的乘積動態(tài)計算CthMd。
[0073]控制單元131設置用于控制允許或者阻止請求端110與服務器150之間的數(shù)據(jù)交換。在一實施方式中，控制單元131接收到接口單元137發(fā)出的請求后，分別調(diào)取設置單元135生成的針對該項服務的超時閾值次數(shù)Athred與計數(shù)單元133生成的針對該項服務的當前占用服務器超時次數(shù)A，比較超時閾值次數(shù)Athred與當前占用服務器超時次數(shù)A ;若A ( Athred,分別調(diào)取設置單元135生成的閾值次數(shù)Bthred與計數(shù)單元133生成的當前發(fā)送次數(shù)B，比較閾值次數(shù)Bthred與當前發(fā)送次數(shù)B ^BSBthred，則控制單元131向接口單元137發(fā)送允許指示，并控制計數(shù)單元133對當前發(fā)送次數(shù)B進行更新(例如，對當前發(fā)送次數(shù)B加I)，之后控制單元131調(diào)取接口單元137記錄的Ttl與T1，計算出針對該項服務的服務器占用時間T (即，T =;比較服務器占用時間T與服務器占用閾值時間Tthral，若T ( Tthred,則不進行動作，若T > TthMd，則控制單元131控制計數(shù)單元133對當前占用服務器超時次數(shù)A進行更新(例如，對當前占用服務器超時次數(shù)A加I);若B > Bthred，則控制單元131向計數(shù)單元133發(fā)送復位指示，指示計數(shù)單元133將該項服務的當前占用服務器超時次數(shù)A與當前發(fā)送次數(shù)B清零，并且向接口單元137發(fā)送允許指示，控制計數(shù)單元133對當前發(fā)送次數(shù)B進行更新(例如，對當前發(fā)送次數(shù)B加I)，之后控制單元131調(diào)取接口單元137記錄的T0與T1，計算出針對該項服務的服務器占用時間T (即，T = T1-T0);比較服務器占用時間T與服務器占用閾值時間Ttod，若T ( Tthred，則不進行動作，若T > Tthred，則控制單元131控制計數(shù)單元133對當前占用服務器超時次數(shù)A進行更新(例如，對當前超時次數(shù)A加I)。
[0074]在本發(fā)明另一實施例中，當控制單元131判斷B > Bthral，控制單元131向計數(shù)單元133發(fā)送復位指示，指示計數(shù)單元133將當前占用服務器超時次數(shù)A與當前發(fā)送次數(shù)B清零。
[0075]在本發(fā)明另一實施例中，當控制單元131判斷A < Athra!，控制單元131控制計數(shù)單元133對當前發(fā)送次數(shù)B進行更新(例如，對當前發(fā)送次數(shù)B加I)，之后分別調(diào)取設置單元135生成的發(fā)送閾值次數(shù)Bthred與更新后的當前發(fā)送次數(shù)B，比較發(fā)送閾值次數(shù)Bthred與更新后的當前發(fā)送次數(shù)B ;若B SBthrral，控制單元131向接口單元137發(fā)送允許指示，并控制單元131調(diào)取接口單元137記錄的Ttl與T1，計算出針對該項服務的服務器占用時間T(即，T =T1-T0);比較服務器占用時間T與服務器占用閾值時間Tthred,若T ( Tthred,則不進行動作，若T > Tthred，則控制單元131控制計數(shù)單元133對當前占用服務器超時次數(shù)A進行更新(例如，對當前占用服務器超時次數(shù)A加I);若B > Bthred，則控制單元131向計數(shù)單元133發(fā)送復位指示，指示計數(shù)單元133將當前發(fā)送次數(shù)B清零,并且向接口單元137發(fā)送允許指示，控制計數(shù)單元133對該項服務的當前占用服務器超時的次數(shù)A及該項服務的當前發(fā)送次數(shù)B進行更新(例如，對當前發(fā)送次數(shù)B加I)，之后控制單元131調(diào)取接口單元137記錄的Ttl與T1，計算出針對該項服務的服務器占用時間T(即，T = T1-T0);比較該請求的服務器占用時間T與該項服務的服務器占用閾值時間Tthred，若T ( Tthred，則不進行動作，若T > Tthred,則控制單元131控制計數(shù)單元133對該服務的占用服務器超時次數(shù)A進行更新(例如，對當前占用服務器超時次數(shù)A加I)。在本發(fā)明另一實施例中，在控制單元131判斷B > Bthred時，控制單元131向計數(shù)單元133發(fā)送復位指示，指示計數(shù)單元133將該服務的占用服務器超時次數(shù)A與當前發(fā)送次數(shù)B清零。
[0076]若A > Athred,則控制單元131分別調(diào)取設置單元135生成的拒絕閾值次數(shù)Cthred與計數(shù)單元133生成的當前拒絕請求發(fā)送至服務器的次數(shù)C，比較拒絕閾值次數(shù)Cthred與當前拒絕請求發(fā)送至服務器的次數(shù)C ;若C彡CthMd，則控制單元131向接口單元137發(fā)送拒絕指示，并控制計數(shù)單元133對當前拒絕請求發(fā)送至服務器的次數(shù)C進行更新(例如，對當前拒絕請求發(fā)送至服務器的次數(shù)C加I)。若C > Cthred,則控制單元131向計數(shù)單元133發(fā)送復位指示，指示計數(shù)單元133將當前占用服務器超時次數(shù)A以及當前發(fā)送次數(shù)B復位，并且向接口單元137發(fā)送允許指示。之后控制單元131調(diào)取接口單元137記錄的Ttl與T1，計算出針對該項服務的服務器占用時間T (即，T = T1-T0);比較服務器占用時間T與服務器占用閾值時間Tthred,若T彡Tthred,則不進行動作，若T > Tthred,則控制單元131控制計數(shù)單元133對當前占用服務器超時次數(shù)A進行更新(例如，對當前超時次數(shù)A加I)。
[0077]應該理解的是，本領域技術人員可以根據(jù)具體情況和需求對所述功能模塊進行整合或拆解，例如在一實施方式中，接口單元137與控制單元131整合為一個模塊。在另一實施方式中，將控制單元131的部分功能由接口單元137實現(xiàn)，例如由接口單元137計算服務器占用時間T。此外在一實施方式中，Cthrad可以由計數(shù)單元133動態(tài)計算。
[0078]根據(jù)本發(fā)明的服務器過載保護方法及系統(tǒng)，能夠根據(jù)服務種類的不同，對服務器當前負載進行預估，有效地避免突發(fā)事件對服務控制系統(tǒng)帶來的影響，實現(xiàn)根據(jù)服務種類這一粒度的負載保護，從而對資源進行充分的利用。
[0079]結合這里披露的本發(fā)明的說明和實踐，本發(fā)明的其他實施例對于本領域技術人員都是易于想到和理解的。說明和實施例僅被認為是示例性的，本發(fā)明的真正范圍和主旨均由權利要求所限定。
【權利要求】
1.一種服務器過載保護方法，所述方法包括如下步驟: a)接收來自請求端針對一項服務的請求； b)判斷所述服務的當前占用服務器超時次數(shù)是否大于第一閾值，否，則進入步驟c;是，則進入步驟f; c)允許所述請求發(fā)送至所述服務器； d)獲取所述請求的服務器占用時間； e)當所述請求的服務器占用時間大于第二閾值時，更新所述服務的當前占用服務器超時次數(shù)； f)判斷所述服務的當前拒絕次數(shù)是否大于第三閾值，是，則允許所述請求發(fā)送至所述服務器；否，則拒絕所述請求發(fā)送至所述服務器，并更新所述當前拒絕次數(shù)。
2.根據(jù)權利要求1所述的方法，其特征在于，步驟c進一步包括: 判斷所述服務的當前發(fā)送次數(shù)是否大于第四閾值，否，則允許所述請求發(fā)送至所述服務器，更新所述服務的當前發(fā)送次數(shù)；是，則將所述服務的當前占用服務器超時次數(shù)及所述服務的當前發(fā)送次數(shù)復位，允許所述請求發(fā)送至服務器。
3.根據(jù)權利要求1所述的方法，其特征在于，步驟c進一步包括: Cl’ )更新所述服務的當前發(fā)送次數(shù)； c2’)判斷所述服務的當前發(fā)送次數(shù)是否大于第四閾值；否，則允許所述請求發(fā)送至服務器；是，則將所述服務的當前占用服務器超時次數(shù)及所述服務的當前發(fā)送次數(shù)復位，允許所述請求發(fā)送至服務器。
4.根據(jù)權利要求1所述的方法，其特征在于，所述第一閾值、第二閾值、第三閾值為預先設置的。
5.根據(jù)權利要求2或3所述的方法，其特征在于，所述第一閾值、第二閾值、第三閾值、第四閾值為預先設置的。
6.根據(jù)權利要求1所述的方法，其特征在于，所述第三閾值根據(jù)動態(tài)計算得到。
7.根據(jù)權利要求2或3所述的方法，其特征在于，所述第三閾值根據(jù)所述第一閾值與當前超時比例的乘積，動態(tài)計算得到，其中所述當前超時比例為當前占用服務器超時次數(shù)/當前發(fā)送次數(shù)。
8.根據(jù)權利要求1所述的方法，其特征在于，更新所述當前占用服務器超時次數(shù)以及所述當前拒絕次數(shù)的方法為，對所述當前占用服務器超時次數(shù)以及所述當前拒絕次數(shù)分別加I。
9.根據(jù)權利要求2或3所述的方法，其特征在于，更新所述當前發(fā)送次數(shù)的方法為，對所述當前發(fā)送次數(shù)加I。
10.一種服務器過載保護系統(tǒng)，其中: 所述系統(tǒng)接收請求端發(fā)出的針對一項服務的請求； 所述系統(tǒng)包括接口單元、設置單元、計數(shù)單元以及控制單元，其中， 所述接口單元用于允許或者阻止所述請求端與所述服務器之間的數(shù)據(jù)交換； 所述設置單元用于生成第一閾值、第二閾值、第三閾值以及第四閾值； 所述計數(shù)單元用于記錄針對所述服務的當前占用服務器超時次數(shù)、針對所述服務的當前發(fā)送次數(shù)、以及針對所述服務的當前拒絕次數(shù)；并根據(jù)所述控制單元的控制將針對所述服務的當前占用服務器超時次數(shù)、所述服務的當前發(fā)送次數(shù)以及所述服務的當前拒絕次數(shù)復位； 所述控制單元用于控制允許或者阻止所述請求端與所述服務器之間的數(shù)據(jù)交換。
11.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述接口單元用于: 接收所述請求后，請求所述控制單元提供針對該請求的指示； 根據(jù)所述控制單元的允許指示，允許所述請求端將請求發(fā)送至所述服務器并且允許所述服務器將反饋發(fā)送至所述請求端； 記錄所述請求發(fā)送至所述服務器的時間以及所述服務器發(fā)送針對所述請求的反饋的時間； 根據(jù)所述控制單元的拒絕指示，拒絕來自所述請求端的請求，并且向所述請求端發(fā)送反饋。
12.根據(jù)權利要求11所述的系統(tǒng)，其特征在于，所述控制單元用于: 接收所述接口單元發(fā)出的請求，分別調(diào)取所述第一閾值與當前占用服務器超時次數(shù)，比較所述第一閾值與所述當前占用服務器超時次數(shù)； 當所述當前占用服務器超時次數(shù) <所述第一閾值時，所述控制單元向所述接口單元發(fā)送允許指示，計算所述服務器占用時間，比較所述服務器占用時間與所述第二閾值，當所述服務器占用時間> 所述第二閾值，則所述控制單元控制所述計數(shù)單元對所述當前占用服務器超時次數(shù)進行更新； 若所述服務器超時次數(shù)> 所述第一閾值，則所述控制單元分別調(diào)取所述第三閾值與當前拒絕次數(shù)，比較所述第三閾值與所述當前拒絕次數(shù)；若所述當前拒絕次數(shù)<所述第三閾值，則所述控制單元向所述接口單元發(fā)送拒絕指示，并控制所述計數(shù)單元對所述當前拒絕次數(shù)進行更新；若所述當前拒絕次數(shù)>所述第三閾值，則所述控制單元向所述接口單元發(fā)送允許指示。
13.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述計數(shù)單元動態(tài)計算所述第三閾值。
14.根據(jù)權利要求13所述的系統(tǒng)，其特征在于，所述計數(shù)單元根據(jù)所述第一閾值與當前超時比例的乘積動態(tài)計算所述第三閾值，其中所述當前超時比例為所述服務器超時的次數(shù)/所述當前發(fā)送次數(shù)。
15.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述接口單元包括第一暫存模塊，用以存儲來自所述請求端的請求和/或來自所述服務器的反饋，和/或，所述請求發(fā)送至所述服務器的時間以及所述服務器發(fā)送針對所述請求的反饋的時間。
16.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述服務器過載保護系統(tǒng)中設置有第一存儲單元，用以存儲來自所述請求端的請求和/或來自所述服務器的反饋，和/或，所述請求發(fā)送至所述服務器的時間以及所述服務器發(fā)送針對所述請求的反饋的時間。
17.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述設置單元包括第二暫存模塊，用以存儲針對不同服務的所述第一閾值、第二閾值、第三閾值以及第四閾值。
18.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述服務器過載保護系統(tǒng)中設置有第二存儲單元，用以存儲針對不同服務的所述第二閾值、所述第一閾值、所述發(fā)送閾值次數(shù)、以及所述第三閾值。
19.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述計數(shù)單元包括第三暫存模塊，用以存儲針對不同服務的所述服務器超時次數(shù)、所述當前發(fā)送次數(shù)以及所述當前拒絕次數(shù)。
20.根據(jù)權利要求10所述的系統(tǒng)，其特征在于，所述服務器過載保護系統(tǒng)中設置有第三存儲單元，用以存儲針對不同服務的所述服務器超時次數(shù)、所述當前發(fā)送次數(shù)以及所述當前拒絕次數(shù)。
【文檔編號】H04L29/08GK104182282SQ201410462132
【公開日】2014年12月3日 申請日期:2014年9月12日 優(yōu)先權日:2014年9月12日
【發(fā)明者】趙建華, 謝剛, 陳家斌 申請人:五八同城信息技術有限公司