確保可預(yù)測和可量化的聯(lián)網(wǎng)性能的制作方法
【專利摘要】確?？深A(yù)測且可量化的聯(lián)網(wǎng)性能。本發(fā)明的各實施例將無擁塞網(wǎng)絡(luò)核與基于系統(tǒng)管理程序(即，基于邊緣)的扼流設(shè)計相組合以幫助確保量化且不可變的訂閱帶寬速率。系統(tǒng)管理程序中的輕量墊片層能自適應(yīng)地扼流VM到VM的話務(wù)流的速率。接收系統(tǒng)管理程序可以檢測擁塞并且傳遞回發(fā)送系統(tǒng)管理程序要管制速率。作為響應(yīng)，發(fā)送系統(tǒng)管理程序可以降低傳送速率以緩解接收系統(tǒng)管理程序處的擁塞。在一些實施例中，這些原理延及在無擁塞網(wǎng)絡(luò)上通信的任何消息處理器。
【專利說明】確保可預(yù)測和可量化的聯(lián)網(wǎng)性能
[0001]背景
[0002]1.背景和相關(guān)技術(shù)
[0003]計算機系統(tǒng)及相關(guān)技術(shù)影響社會的許多方面。的確，計算機系統(tǒng)處理信息的能力已轉(zhuǎn)變了人們生活和工作的方式?，F(xiàn)在，計算機系統(tǒng)通常執(zhí)行在計算機系統(tǒng)出現(xiàn)以前手動執(zhí)行的許多任務(wù)(例如，文字處理、日程安排、帳目管理等)。最近，計算機系統(tǒng)彼此耦合并耦合到其他電子設(shè)備以形成計算機系統(tǒng)及其他電子設(shè)備可在其上傳輸電子數(shù)據(jù)的有線和無線計算機網(wǎng)絡(luò)。因此，許多計算任務(wù)的執(zhí)行分布在多個不同的計算機系統(tǒng)和/或多個不同的計算環(huán)境中。
[0004]在一些環(huán)境中，計算機系統(tǒng)在云計算環(huán)境中操作。在云計算環(huán)境中，云服務(wù)提供者使用公共的底層物理網(wǎng)絡(luò)來主存多個顧客的應(yīng)用(有時被稱為“承租人”)。承租人可以是獨立部署且由單個顧客單獨所有(即訂閱)的虛擬機(“VM”)或應(yīng)用進程集?？梢允褂玫竭_能力隔離來緩解承租人之間的直接干擾。然而，到達能力隔離是不足夠的，因為惡意的或不小心的承租人仍然能夠通過僅在其自己成員(VM)之間交換繁重話務(wù)來干擾網(wǎng)絡(luò)數(shù)據(jù)面中的其它承租人。
[0005]相應(yīng)地，可以使用其它技術(shù)來試圖隔離承租人的性能。一些技術(shù)依賴于傳輸控制協(xié)議(“TCP”)的擁塞控制。然而，承租人實質(zhì)上通過使用許多TCP流(連接)和使用TCP的變體來達到對網(wǎng)絡(luò)的無邊界利用。承租人還可使用對擁塞控制不作響應(yīng)的其它協(xié)議，諸如舉例來說用戶數(shù)據(jù)報協(xié)議(“UDP”)。
[0006]對承租人聯(lián)網(wǎng)堆棧的信任也是一個問題。
[0007]而且，常規(guī)網(wǎng)絡(luò)內(nèi)服務(wù)質(zhì)量(“QoS”)機制(例如，具有加權(quán)公平排隊(“WFQ”)的分開隊列)并不縮放。當承租人頻繁加入和離開時，為了區(qū)分性能來使用這些QoS機制也是復(fù)雜且昂貴的。在發(fā)送方側(cè)靜態(tài)地扼流每一 VM是低效而無能的，因為其浪費任何未使用的容量，并且給定足夠數(shù)目的VM，承租人總能夠以基本上應(yīng)用于每一 VM的任何靜態(tài)速率導(dǎo)致性能干擾。
[0008]相應(yīng)地，在云計算環(huán)境中，至少部分地由于這些因素中的一個或多個，以可靠地阻止比例不均的帶寬消耗的方式來管制網(wǎng)絡(luò)話務(wù)可能是困難的。
[0009]簡要概述
[0010]本發(fā)明延及確?？深A(yù)測且可量化的聯(lián)網(wǎng)性能。各實施例解決接收計算機系統(tǒng)處的聯(lián)網(wǎng)擁塞。計算系統(tǒng)管理一個或多個消息處理器。例如，在虛擬機環(huán)境中，系統(tǒng)管理程序管理一個或多個消息處理器。訪問用于消息處理器的訂閱帶寬。該訂閱帶寬指示用于該消息處理器的量化且不可變的最小帶寬。
[0011]從無擁塞網(wǎng)絡(luò)核接收一個或多個數(shù)據(jù)流。該一個或多個數(shù)據(jù)流從發(fā)送消息處理器發(fā)送并且定向到接收消息處理器。計算一個或多個數(shù)據(jù)流的組合帶寬。檢測接收計算系統(tǒng)處擁塞的發(fā)生。響應(yīng)于檢測到擁塞的發(fā)生，與一個或多個數(shù)據(jù)流相關(guān)聯(lián)的至少一個消息處理器被標識為訂閱帶寬的違反者。該至少一個違反消息處理器是一個或多個數(shù)據(jù)流之一的發(fā)送消息處理器或接收消息處理器。確定該至少一個違反消息處理器的違反程度。
[0012]確定用于遞送至與該至少一個違反消息處理器相對應(yīng)的發(fā)送方側(cè)自適應(yīng)速率限制器的反饋。該反饋指令發(fā)送方側(cè)自適應(yīng)速率限制器降低源自該至少一個違反消息處理器的一個或多個數(shù)據(jù)流的帶寬。該反饋被發(fā)送到無擁塞網(wǎng)絡(luò)核以供遞送至發(fā)送方側(cè)自適應(yīng)速率限制器。
[0013]提供本概述是為了以簡化的形式介紹將在以下詳細描述中進一步描述的一些概念。本概述不旨在標識出所要求保護的主題的關(guān)鍵特征或必要特征，也不旨在用于幫助確定所要求保護的主題的范圍。
[0014]本發(fā)明的附加特征和優(yōu)點將在以下描述中敘述，并且其一部分根據(jù)本描述將是顯而易見的，或者可通過對本發(fā)明的實踐來獲知。本發(fā)明的特征和優(yōu)點可通過在所附權(quán)利要求書中特別指出的工具和組合來實現(xiàn)和獲得。本發(fā)明的這些以及其它特征、優(yōu)點和特征將根據(jù)以下描述和所附權(quán)利要求而變得更顯而易見，或者可通過如此后闡述的對本發(fā)明的實踐而獲知。

【專利附圖】

【附圖說明】
[0015]為了描述可獲得本發(fā)明的上述和其他優(yōu)點和特征的方式，將通過參考附圖中示出的本發(fā)明的具體實施例來呈現(xiàn)以上簡要描述的本發(fā)明的更具體描述。可以理解，這些附圖僅描述本發(fā)明的典型實施例，從而不被認為是對其范圍的限制，本發(fā)明將通過使用附圖用附加特征和細節(jié)來描述和說明，在附圖中:
[0016]圖1示出促進確?？深A(yù)測且可量化的聯(lián)網(wǎng)性能的示例計算機架構(gòu)。
[0017]圖2示出用于確?？深A(yù)測且可量化的聯(lián)網(wǎng)性能的一示例方法的流程圖。

【具體實施方式】
[0018]本發(fā)明延及用于確?？深A(yù)測且可量化的聯(lián)網(wǎng)性能的方法、系統(tǒng)和計算機程序產(chǎn)品。各實施例解決接收計算機系統(tǒng)處的聯(lián)網(wǎng)擁塞。計算系統(tǒng)管理一個或多個消息處理器。例如，在虛擬機環(huán)境中，系統(tǒng)管理程序管理一個或多個消息處理器。訪問用于消息處理器的訂閱帶寬。該訂閱帶寬指示用于該消息處理器的量化且不可變的最小帶寬。
[0019]從無擁塞網(wǎng)絡(luò)核接收一個或多個數(shù)據(jù)流。該一個或多個數(shù)據(jù)流從發(fā)送消息處理器發(fā)送并且定向到消息處理器。計算一個或多個數(shù)據(jù)流的組合帶寬。檢測接收計算系統(tǒng)處擁塞的發(fā)生。響應(yīng)于檢測到擁塞的發(fā)生，與一個或多個數(shù)據(jù)流相關(guān)聯(lián)的至少一個消息處理器被標識為訂閱帶寬的違反者。該至少一個違反消息處理器是一個或多個數(shù)據(jù)流之一的發(fā)送消息處理器或接收消息處理器。確定該至少一個違反消息處理器的違反程度。
[0020]確定用于遞送至與該至少一個違反消息處理器相對應(yīng)的發(fā)送方側(cè)自適應(yīng)速率限制器的反饋。該反饋指令發(fā)送方側(cè)自適應(yīng)速率限制器降低源自該至少一個違反消息處理器的一個或多個數(shù)據(jù)流的帶寬。該反饋被發(fā)送到無擁塞網(wǎng)絡(luò)核以供遞送至發(fā)送方側(cè)自適應(yīng)速率限制器。
[0021]本發(fā)明的各實施例可包括或利用專用或通用計算機，該專用或通用計算機包括諸如舉例而言一個或多個處理器和系統(tǒng)存儲器的計算機硬件，如以下更詳細討論的。本發(fā)明范圍內(nèi)的各實施例還包括用于承載或存儲計算機可執(zhí)行指令和/或數(shù)據(jù)結(jié)構(gòu)的物理和其他計算機可讀介質(zhì)。這樣的計算機可讀介質(zhì)可以是可由通用或?qū)Ｓ糜嬎銠C系統(tǒng)訪問的任何可用介質(zhì)。存儲計算機可執(zhí)行指令的計算機可讀介質(zhì)是計算機存儲介質(zhì)(設(shè)備)。承載計算機可執(zhí)行指令的計算機可讀介質(zhì)是傳輸介質(zhì)。由此，作為示例而非限制，本發(fā)明的各實施例可包括至少兩種顯著不同的計算機可讀介質(zhì):計算機存儲介質(zhì)(設(shè)備)和傳輸介質(zhì)。
[0022]計算機存儲介質(zhì)(設(shè)備)包括RAM、ROM、EEPROM、CD-ROM、固態(tài)驅(qū)動器(SSD)(如基于RAM)、閃存、相變存儲器(PCM)、其他類型的存儲器、其他光盤存儲、磁盤存儲或其他磁存儲設(shè)備、或可用于存儲計算機可執(zhí)行指令或數(shù)據(jù)結(jié)構(gòu)形式的所需程序代碼裝置且可由通用或?qū)Ｓ糜嬎銠C訪問的任何其他介質(zhì)。
[0023]“網(wǎng)絡(luò)”被定義為使得電子數(shù)據(jù)能夠在計算機系統(tǒng)和/或模塊和/或其它電子設(shè)備之間傳輸?shù)囊粋€或多個數(shù)據(jù)鏈路。當信息通過網(wǎng)絡(luò)或另一個通信連接(硬連線、無線、或者硬連線或無線的組合)傳輸或提供給計算機時，該計算機將該連接適當?shù)匾暈閭鬏斀橘|(zhì)。傳輸介質(zhì)可包括可用于攜帶計算機可執(zhí)行指令或數(shù)據(jù)結(jié)構(gòu)形式的所需程序代碼裝置并可由通用或?qū)Ｓ糜嬎銠C訪問的網(wǎng)絡(luò)和/或數(shù)據(jù)鏈路。上述的組合也應(yīng)被包括在計算機可讀介質(zhì)的范圍內(nèi)。
[0024]此外，在到達各種計算機系統(tǒng)組件之后，計算機可執(zhí)行指令或數(shù)據(jù)結(jié)構(gòu)形式的程序代碼裝置可從傳輸介質(zhì)自動傳輸?shù)接嬎銠C存儲介質(zhì)(設(shè)備)(或反之亦然)。例如，通過網(wǎng)絡(luò)或數(shù)據(jù)鏈接接收到的計算機可執(zhí)行指令或數(shù)據(jù)結(jié)構(gòu)可被緩存在網(wǎng)絡(luò)接口模塊(例如，“NIC”)內(nèi)的RAM中，然后最終被傳輸?shù)接嬎銠C系統(tǒng)RAM和/或計算機系統(tǒng)處的較不易失性的計算機存儲介質(zhì)(設(shè)備)。因而，應(yīng)當理解，計算機存儲介質(zhì)(設(shè)備)可被包括在還利用(甚至主要利用)傳輸介質(zhì)的計算機系統(tǒng)組件中。
[0025]計算機可執(zhí)行指令例如包括，當在處理器處執(zhí)行時使通用計算機、專用計算機、或?qū)Ｓ锰幚碓O(shè)備執(zhí)行某一功能或某組功能的指令和數(shù)據(jù)。計算機可執(zhí)行指令可以是例如二進制代碼、諸如匯編語言之類的中間格式指令、或甚至源代碼。盡管用結(jié)構(gòu)特征和/或方法動作專用的語言描述了本主題，但可以理解，所附權(quán)利要求書中定義的主題不必限于上述特征或動作。更具體而言，上述特征和動作是作為實現(xiàn)權(quán)利要求的示例形式而公開的。
[0026]本領(lǐng)域的技術(shù)人員將理解，本發(fā)明可以在具有許多類型的計算機系統(tǒng)配置的網(wǎng)絡(luò)計算環(huán)境中實踐，這些計算機系統(tǒng)配置包括個人計算機、臺式計算機、膝上型計算機、消息處理器、手持式設(shè)備、多處理器系統(tǒng)、基于微處理器的或可編程消費電子設(shè)備、網(wǎng)絡(luò)PC、小型計算機、大型計算機、移動電話、PDA、平板、尋呼機、路由器、交換機等等。本發(fā)明也可在其中通過網(wǎng)絡(luò)鏈接(或者通過硬連線數(shù)據(jù)鏈路、無線數(shù)據(jù)鏈路，或者通過硬連線和無線數(shù)據(jù)鏈路的組合)的本地和遠程計算機系統(tǒng)兩者都執(zhí)行任務(wù)的分布式系統(tǒng)環(huán)境中實施。在分布式系統(tǒng)環(huán)境中，程序模塊可以位于本地和遠程存儲器存儲設(shè)備二者中。
[0027]在本說明書以及下面的權(quán)利要求中，“云計算”被定義為一種用于允許對可配置的計算資源(如網(wǎng)絡(luò)、服務(wù)器、存儲、應(yīng)用、以及服務(wù))的共享池進行無處不在的、方便的、按需的網(wǎng)絡(luò)訪問的模型，這些計算資源可用減少的管理努力或服務(wù)提供者交互來被供應(yīng)和發(fā)放。云模型可由各種特性(如按需自服務(wù)、廣泛網(wǎng)絡(luò)訪問、資源池、快速靈活性、測量服務(wù)等)、服務(wù)模型(如軟件即服務(wù)(SaaS)、平臺即服務(wù)(PaaS)、基礎(chǔ)結(jié)構(gòu)即服務(wù)(IaaS))以及部署模型(如私有云、社區(qū)云、公共云、混合云等)組成。
[0028]在本說明書和所附權(quán)利要求書中，“系統(tǒng)管理程序”(或虛擬機管理器(“VMM”))被定義為準許多個操作系統(tǒng)實例(或虛擬機(“VM”))共享硬件宿主的組件。系統(tǒng)管理程序能夠直接在宿主的硬件上運行(類型I)或者在運行于宿主硬件上的操作系統(tǒng)的頂部運行(類型2)。系統(tǒng)管理程序呈現(xiàn)虛擬操作平臺并且管理操作系統(tǒng)實例的執(zhí)行。例如，通過虛擬化，系統(tǒng)管理程序能夠基于底層網(wǎng)絡(luò)接口卡(“NIC”)的硬件向多個不同操作系統(tǒng)實例呈現(xiàn)個體虛擬網(wǎng)絡(luò)接口卡(“VNIC”)。系統(tǒng)管理程序控制宿主進程和資源向每一操作系統(tǒng)實例的分配以避免操作系統(tǒng)實例之間的中斷。系統(tǒng)管理程序可以在云計算環(huán)境中的機器上使用。
[0029]本發(fā)明的各實施例將無擁塞網(wǎng)絡(luò)核與基于系統(tǒng)管理程序(即，基于邊緣)的扼流設(shè)計相組合。系統(tǒng)管理程序中的輕量墊片層能自適應(yīng)地扼流VM到VM的話務(wù)流的速率。對話務(wù)流的管制將VM端口的速率以及對接收端宿主可見的擁塞狀態(tài)考慮在內(nèi)。基于系統(tǒng)管理程序的辦法增加了網(wǎng)絡(luò)服務(wù)質(zhì)量(“QoS”)機制中的簡單程度和可縮放性。扼流VM到VM的話務(wù)促進了公平性實施(即，管制用于不同協(xié)議的連接，諸如用戶數(shù)據(jù)報協(xié)議(“UDP”)和傳輸控制協(xié)議(“TCP”))。扼流VM到VM的話務(wù)還提供了與基于云的環(huán)境中使用的每VM每小時充電模型一致的公平性的新的測量。
[0030]圖1示出了促進確?？深A(yù)測且可量化的聯(lián)網(wǎng)性能的示例計算機架構(gòu)100。參考圖1，在一般實施例中，計算機架構(gòu)100包括計算系統(tǒng)111、121、131和141。在圖1的更具體的虛擬機實施例中，計算系統(tǒng)是系統(tǒng)管理程序111、121、131和141。在一般實施例中，每一計算系統(tǒng)111、121、131和141管理消息處理器。例如，在具體虛擬機實施例中，每一系統(tǒng)管理程序管理一個或多個虛擬機，該虛擬機表示消息處理器的示例。例如，系統(tǒng)管理程序111管理虛擬機114A和114B，系統(tǒng)管理程序121管理虛擬機124，系統(tǒng)管理程序131管理虛擬機134A和134B，而系統(tǒng)管理程序141管理虛擬機144A和144B。系統(tǒng)管理程序111、121、131和141連接到無擁塞網(wǎng)絡(luò)核101。每一所描繪的組件以及任何其他連接的計算機系統(tǒng)及其組件可創(chuàng)建消息相關(guān)的數(shù)據(jù)，并且通過無擁塞網(wǎng)絡(luò)核101交換消息相關(guān)的數(shù)據(jù)(例如，網(wǎng)際協(xié)議(“IP”)數(shù)據(jù)報以及利用IP數(shù)據(jù)報的其他更高層協(xié)議，諸如傳輸控制協(xié)議(“TCP”)、超文本傳輸協(xié)議(“HTTP”)、簡單郵件傳輸協(xié)議(“SMTP”)等)。之后，將描述具體的虛擬機實施例，盡管應(yīng)當理解，文本描述的原理延及其中計算系統(tǒng)一般在無擁塞核心網(wǎng)101上連接的一般實施例。
[0031]無擁塞網(wǎng)絡(luò)核101被如此配置使得在無擁塞網(wǎng)絡(luò)核101內(nèi)存在極低的(或甚至實質(zhì)上無)擁塞幾率。無擁塞網(wǎng)絡(luò)核101可以是完全二分帶寬網(wǎng)絡(luò)。無擁塞網(wǎng)絡(luò)核101可以使用各種網(wǎng)絡(luò)拓撲中的任一種來建立，包括但不限于胖樹(Fat Tree)和VL2。
[0032]系統(tǒng)管理程序111、121、131和141分別包括虛擬機交換機112、122、132和142。一般而言，當系統(tǒng)管理程序接收分組時，對應(yīng)的虛擬交換機將分組定向到恰適的虛擬機(例如，按照標簽或電子地址)。虛擬機交換機可包括自適應(yīng)速率限制器和/或擁塞檢測器。例如，虛擬機交換機112包括擁塞檢測器113，而虛擬機交換機122、132和142分別包括自適應(yīng)速率限制器123、133和143。另外，虛擬機交換機112可包括自適應(yīng)速率限制器(未示出)，并且虛擬機交換機122、132和142中的每一個可包括擁塞檢測器(未示出)。在延伸超過虛擬機環(huán)境的更一般的實施例中，擁塞檢測器113和自適應(yīng)速率限制器123、133和143可被認為分別是由計算系統(tǒng)111、121、131和141實現(xiàn)的邏輯。
[0033]一般而言，VM(或其它消息處理器)可以根據(jù)定義的訂閱(例如，服務(wù)級協(xié)定(“SLA”))來操作。例如，VM的用戶可以從服務(wù)提供者(例如，數(shù)據(jù)中心提供者)購買使用無擁塞網(wǎng)絡(luò)核101的權(quán)利。作為購買的一部分，用戶和服務(wù)提供者可以就定義針對VM的網(wǎng)絡(luò)服務(wù)級的一組參數(shù)達成協(xié)定。該組參數(shù)可包括對VM可用的訂閱帶寬。該訂閱帶寬可以是分配給VM的量化且不可變的最小帶寬。
[0034]通過對應(yīng)的系統(tǒng)管理程序，擁塞檢測器知曉VM所使用的底層聯(lián)網(wǎng)硬件(諸如NIC和架頂式(“TOR”)交換機)的最大帶寬。例如，系統(tǒng)管理程序111可以使得擁塞檢測器113知曉支持VM 114A和114B的硬件中的帶寬限制(例如，lGB/s NIC)。在操作期間，擁塞檢測器監(jiān)視定向到虛擬機的各個數(shù)據(jù)流的收到分組。
[0035]根據(jù)這些收到分組，擁塞檢測器能夠檢測到在支持硬件中何時可能要發(fā)生或正在發(fā)生擁塞。當系統(tǒng)管理程序處的收到帶寬逼近底層硬件的帶寬限制時，可能要發(fā)生或正在發(fā)生擁塞。例如，當被評級為lGB/s的NIC正接收975MB/S時，存在正在發(fā)生擁塞的某種可能性。擁塞檢測器可被配置成指示收到帶寬何時在硬件帶寬限制的指定閾值(例如，量或百分比)內(nèi)。在這一特定解說的系統(tǒng)100中，擁塞檢測器被置于網(wǎng)絡(luò)中潛在擁塞點處，并且該擁塞點在單個服務(wù)器內(nèi)。這具有提供更快且更穩(wěn)定的控制的潛能。
[0036]可以使用各種不同的機制中的任一種來檢測擁塞。在一些實施例中，接收系統(tǒng)管理程序(例如，系統(tǒng)管理程序111)使用軟件計量來檢測擁塞。在其它實施例中，使用協(xié)議或協(xié)議擴展(諸如舉例來說顯式擁塞通知(“ECN”))來檢測擁塞?？梢栽谧詈笠惶O(shè)備(諸如舉例來說TOR交換機)處使用ECN。
[0037]當擁塞發(fā)生時，可能違反用于一個或多個VM的訂閱帶寬。響應(yīng)于檢測到擁塞，擁塞檢測器可以將發(fā)送VM標識為違反者?；谶`反程度，擁塞檢測器可以向自適應(yīng)速率限制器發(fā)送針對發(fā)送VM的反饋。
[0038]一般而言，自適應(yīng)速率限制器可以管制無擁塞網(wǎng)絡(luò)核101上發(fā)送數(shù)據(jù)分組的速率。自適應(yīng)速率限制器可以從擁塞檢測器接收反饋。響應(yīng)于收到反饋，自適應(yīng)速率限制器可以降低用于發(fā)送分組的帶寬以避免進一步的擁塞。在沒有收到反饋時，自適應(yīng)速率限制器可以增大用于將分組發(fā)送到無擁塞網(wǎng)絡(luò)核101上的帶寬以促進對資源的高效使用。
[0039]自適應(yīng)速率限制器可以使用各種不同的反饋算法中的任一種來管制發(fā)送分組時的帶寬。在一些實施例中，自適應(yīng)速率限制器使用加性增加/乘性減小(“AIMD”)算法進行擁塞避免。當擁塞發(fā)生時，AMD將擁塞窗口的線性增長與指數(shù)縮減相組合。還可使用其它算法，諸如舉例來說乘性增加/乘性減小(“MIMD”)和加性增加/加性減小(“AIAD”)。
[0040]圖2示出用于解決計算機系統(tǒng)處的網(wǎng)絡(luò)擁塞的示例方法200的流程圖。方法200將參考計算機體系結(jié)構(gòu)100的組件和數(shù)據(jù)來描述。
[0041]方法200包括訪問用于由系統(tǒng)管理程序所管理的虛擬機的訂閱帶寬的動作，該訂閱帶寬指示用于虛擬機的量化且不可變的最小帶寬(動作201)。例如，系統(tǒng)管理程序111可以從訂閱151訪問訂閱帶寬152。訂閱151可以是針對虛擬機114A的先前建立的訂閱。訂閱帶寬152可以指示針對虛擬機114A的量化且不可變的最小帶寬(例如400MB/S)。
[0042]方法200包括從無擁塞網(wǎng)絡(luò)核接收一個或多個數(shù)據(jù)流的動作，該一個或多個數(shù)據(jù)流從發(fā)送虛擬機發(fā)送并且被定向到虛擬機(動作202)。例如，虛擬機124U34A和144B可以分別向無擁塞網(wǎng)絡(luò)核101上發(fā)送分組102、103和104作為對應(yīng)數(shù)據(jù)流的一部分。分組102、103和104可以被定向到由系統(tǒng)管理程序所管理的虛擬機(例如，虛擬機114A和/或114B)。系統(tǒng)管理程序111可以從無擁塞網(wǎng)絡(luò)核101接收分組102、103和104。
[0043]方法200包括計算一個或多個數(shù)據(jù)流的組合帶寬的動作(動作203)。例如，擁塞檢測器133可以計算用于對應(yīng)于分組102、103和104的數(shù)據(jù)流的組合帶寬。方法200包括檢測虛擬機交換機處擁塞發(fā)生的動作(動作204)。例如，擁塞檢測器133可以檢測虛擬機交換機112處擁塞發(fā)生。擁塞發(fā)生可以通過確定對應(yīng)于分組102、103和104的數(shù)據(jù)流的組合帶寬在用于虛擬機交換機112的帶寬限制的指定閾值內(nèi)來檢測。例如，擁塞發(fā)生可以在數(shù)據(jù)流的組合帶寬為9.5GB/s而虛擬機交換機112具備lOGB/s能力時檢測到。
[0044]方法200包括響應(yīng)于檢測到擁塞發(fā)生將與一個或多個數(shù)據(jù)流相關(guān)聯(lián)的至少一個虛擬機標識為訂閱帶寬的違反者的動作，該至少一個違反虛擬機是一個或多個數(shù)據(jù)流之一的發(fā)送虛擬機或接收虛擬機(動作205)。例如，擁塞檢測器113可以響應(yīng)于在虛擬機交換機112處檢測到擁塞發(fā)生將虛擬機124U34A和144B中的一個或多個標識為違反訂閱帶寬152。擁塞檢測器113還可將虛擬機114B標識為訂閱帶寬152的違反者。例如，用于多個數(shù)據(jù)流中每一數(shù)據(jù)流的個體帶寬可能不違反訂閱帶寬152。然而，當多個數(shù)據(jù)流用于相同接收虛擬機時，個體帶寬之和可能違反訂閱帶寬152。
[0045]方法200包括確定至少一個違反虛擬機的違反程度的動作(動作206)。例如，擁塞檢測器113可以確定虛擬機124、134A、144B和114B中的一個或多個違反訂閱帶寬152
的帶寬量。
[0046]方法200包括定制用于遞送至對應(yīng)于至少一個違反虛擬機的發(fā)送方側(cè)自適應(yīng)速率限制器的反饋的動作，該反饋指令發(fā)送方側(cè)自適應(yīng)速率限制器降低源自該至少一個違反虛擬機的一個或多個數(shù)據(jù)流的帶寬(動作207)。例如，擁塞檢測器133可以定制用于遞送至自適應(yīng)速率限制器123、133和143中的一個或多個(或甚至當虛擬機114B是違反者時例如系統(tǒng)管理程序111處的自適應(yīng)速率限制器)的反饋106。反饋106可以指令該一個或多個自適應(yīng)速率限制器123、133和143降低分別來自虛擬機124U34A和144B中的一個或多個的數(shù)據(jù)流(對應(yīng)于分組102、103和104中的一個或多個)的帶寬。在恰適時，反饋106還可被定制以供遞送至系統(tǒng)管理程序111處的自適應(yīng)速率限制器。
[0047]一般而言，反饋可基于接收虛擬機的訂閱帶寬并且可能還基于一個或多個發(fā)送虛擬機的訂閱帶寬。例如，虛擬機124還可具有指定的訂閱帶寬。由此，反饋106可基于訂閱帶寬152和用于虛擬機124的指定訂閱帶寬來定制。反饋106可被如此定制以使得自適應(yīng)速率限制器123不將對應(yīng)于分組102的數(shù)據(jù)流扼流回到低于用于虛擬機124的指定訂閱帶寬的速率。
[0048]方法200包括將反饋發(fā)送到無擁塞網(wǎng)絡(luò)核上以供遞送至發(fā)送方側(cè)自適應(yīng)速率限制器的動作(動作208)。例如，擁塞檢測器113可以將反饋106發(fā)送到無擁塞網(wǎng)絡(luò)核101上以供遞送至自適應(yīng)速率限制器123、133和143中的一個或多個。接收到反饋106的自適應(yīng)速率限制器可以根據(jù)諸如舉例來說AIMD等帶寬管制算法來降低相應(yīng)的數(shù)據(jù)流的帶寬。
[0049]在一些實施例中，可以向所有的發(fā)送虛擬機(無論是否違反)發(fā)送相同或相似的反饋。發(fā)送側(cè)系統(tǒng)管理程序隨后可以確定對發(fā)送虛擬機限制速率的恰適方式，可能選擇與非違反虛擬機相比更激進地限制違反虛擬機的速率。同樣，這種計算可發(fā)生在承租人級，其中存在與單個承租人相關(guān)聯(lián)的多個發(fā)送虛擬機。在該情形中，可以為與該承租人相關(guān)聯(lián)的所有違反(以及可能非違反)虛擬機執(zhí)行與反饋成比例的速率自適應(yīng)。這種成比例的速率限制可以由某種承租人級邏輯來執(zhí)行。
[0050]擁塞檢測器和自適應(yīng)速率限制器可以被用來管制用于各種不同類型的話務(wù)的數(shù)據(jù)流帶寬，包括TCP話務(wù)和非TCP(例如UDP)話務(wù)。由此，TCP流以及非TCP流的帶寬可以根據(jù)AMD或其它擁塞避免算法來管制。當檢測到擁塞時，還可將來自不同類型話務(wù)的數(shù)據(jù)流帶寬放在一起考慮。例如，接收系統(tǒng)管理程序可以接收TCP話務(wù)的至少一個數(shù)據(jù)流以及非TCP(例如UDP)話務(wù)的至少一個數(shù)據(jù)流。當檢測到擁塞接收時，接收系統(tǒng)管理程序可以考慮該至少一個TCP數(shù)據(jù)流的帶寬以及該至少一個非TCP數(shù)據(jù)流的帶寬。來自接收系統(tǒng)管理程序的反饋可用來管制該至少一個TCP數(shù)據(jù)流以及該至少一個非TCP數(shù)據(jù)流。
[0051]相應(yīng)地，本發(fā)明的各實施例將無擁塞網(wǎng)絡(luò)核與基于系統(tǒng)管理程序(即，基于邊緣)的扼流設(shè)計相組合以幫助確保量化且不可變的訂閱帶寬速率。各實施例可以將擁塞的范圍限于單個物理機并且限制擁塞貢獻者的數(shù)目。由于擁塞對于接收系統(tǒng)管理程序是可見的，因此更容易檢測到擁塞并且將其傳遞回到發(fā)送系統(tǒng)管理程序。傳遞回到發(fā)送系統(tǒng)管理程序提供了閉環(huán)控制辦法，這增加了穩(wěn)定性并且準許。自計時
[0052]本發(fā)明可具體化為其它具體形式而不背離其精神或本質(zhì)特征。所描述的實施例在所有方面都應(yīng)被認為僅是說明性而非限制性的。因此，本發(fā)明的范圍由所附權(quán)利要求書而非前述描述指示。落入權(quán)利要求書的等效方案的含義和范圍內(nèi)的所有改變應(yīng)被權(quán)利要求書的范圍所涵蓋。
【權(quán)利要求】
1.一種在包括一個或多個處理器和系統(tǒng)存儲器的計算機系統(tǒng)處的用于解決所述計算機系統(tǒng)處的網(wǎng)絡(luò)擁塞的方法(200)，所述計算機系統(tǒng)連接到無擁塞網(wǎng)絡(luò)核(101)，所述計算機系統(tǒng)還包括用于處理從所述無擁塞網(wǎng)絡(luò)核接收的數(shù)據(jù)流(102、103、104)的消息處理器(111)，所述消息處理器與擁塞檢測器(113)相關(guān)聯(lián)，所述方法包括: 訪問(201)用于所述消息處理器的訂閱帶寬(152)的動作，所述訂閱帶寬指示用于所述消息處理器的量化且不可變的最小帶寬； 從所述無擁塞網(wǎng)絡(luò)核(101)接收(202) —個或多個數(shù)據(jù)流(102、103、104)的動作，所述一個或多個數(shù)據(jù)流從發(fā)送消息處理器(121、131、141)發(fā)送并且被定向到所述消息處理器(111); 計算(203)所述一個或多個數(shù)據(jù)流的組合帶寬的動作； 檢測(204)所述計算系統(tǒng)處的擁塞發(fā)生的動作； 響應(yīng)于檢測到所述擁塞發(fā)生，將與所述一個或多個數(shù)據(jù)流相關(guān)聯(lián)的至少一個消息處理器標識(205)為所述訂閱帶寬的違反者的動作，所述至少一個違反消息處理器是所述一個或多個數(shù)據(jù)流之一的發(fā)送消息處理器或接收消息處理器； 確定(206)所述至少一個違反消息處理器的違反程度的動作； 定制(207)用于遞送至用于對所述至少一個違反消息處理器限制速率的發(fā)送方側(cè)自適應(yīng)速率限制器的反饋(106)的動作，所述反饋指令所述發(fā)送方側(cè)自適應(yīng)速率限制器(123、133、143)降低源自所述至少一個違反消息處理器的一個或多個數(shù)據(jù)流的帶寬；以及 將所述反饋發(fā)送(208)到所述無擁塞網(wǎng)絡(luò)核上以供遞送至所述發(fā)送方側(cè)自適應(yīng)速率限制器的動作。
2.如權(quán)利要求1所述的方法，其特征在于，從所述無擁塞網(wǎng)絡(luò)核接收一個或多個數(shù)據(jù)流的動作包括: 接收傳輸控制協(xié)議(TCP)話務(wù)的至少一個數(shù)據(jù)流的動作；以及 接收使用另一不同協(xié)議的話務(wù)的至少一個其它數(shù)據(jù)流的動作，所述另一不同協(xié)議與傳輸控制協(xié)議(TCP)不同。
3.如權(quán)利要求2所述的方法，其特征在于，將與所述一個或多個數(shù)據(jù)流相關(guān)聯(lián)的至少一個消息處理器標識為所述訂閱帶寬的違反者的動作包括將與所述至少一個其它數(shù)據(jù)流相關(guān)聯(lián)的指定消息處理器標識為所述訂閱帶寬的違反者的動作。
4.如權(quán)利要求2所述的方法，其特征在于，接收使用另一不同協(xié)議的話務(wù)的至少一個其它數(shù)據(jù)流的動作包括接收用戶數(shù)據(jù)報協(xié)議(“UDP”)話務(wù)的至少一個數(shù)據(jù)流的動作。
5.如權(quán)利要求1所述的方法，其特征在于，檢測所述計算系統(tǒng)處的擁塞發(fā)生的動作包括軟件計量檢測所述計算系統(tǒng)處的擁塞發(fā)生的動作。
6.如權(quán)利要求1所述的方法，其特征在于，檢測所述計算系統(tǒng)處的擁塞發(fā)生的動作包括使用顯式擁塞通知(“ECN”)來檢測所述計算系統(tǒng)處的擁塞發(fā)生的動作。
7.如權(quán)利要求1所述的方法，其特征在于，所述消息處理器是由系統(tǒng)管理程序服務(wù)的虛擬機，并且檢測擁塞發(fā)生的動作由所述系統(tǒng)管理程序內(nèi)的虛擬交換機執(zhí)行。
8.如權(quán)利要求1所述的方法，其特征在于，所述至少一個違反消息處理器包括由系統(tǒng)管理程序服務(wù)的至少一個虛擬機，其中用于對所述虛擬機限制速率的所述自適應(yīng)速率限制器被包括在所述系統(tǒng)管理程序的虛擬交換機中。
9.如權(quán)利要求1所述的方法，其特征在于，定制用于遞送至對應(yīng)于所述至少一個違反消息處理器的發(fā)送方側(cè)自適應(yīng)速率限制器的反饋的動作包括定制用于根據(jù)加性增加/乘性減小(“AMD”)算法減小源自所述至少一個違反消息處理器的所述一個或多個數(shù)據(jù)流的帶寬的反饋的動作。
10.一種在計算機系統(tǒng)處使用的計算機程序產(chǎn)品，所述計算機系統(tǒng)連接到無擁塞網(wǎng)絡(luò)核(101)，所述計算機系統(tǒng)還包括用于處理從所述無擁塞網(wǎng)絡(luò)核接收的數(shù)據(jù)流(102、103、104)的消息處理器(111)，所述消息處理器與擁塞檢測器(113)相關(guān)聯(lián)，所述計算機程序產(chǎn)品用于實現(xiàn)一種用于解決所述計算機系統(tǒng)處的網(wǎng)絡(luò)擁塞的方法(200)，所述計算機程序產(chǎn)品包括其上存儲有計算機可執(zhí)行指令的一個或多個計算機存儲設(shè)備，所述計算機可執(zhí)行指令在處理器處執(zhí)行時使得所述計算機系統(tǒng)執(zhí)行所述方法，所述方法包括以下步驟: 訪問(201)用于所述消息處理器的訂閱帶寬(152)，所述訂閱帶寬指示用于所述消息處理器的量化且不可變的最小帶寬； 從所述無擁塞網(wǎng)絡(luò)核(101)接收(202) —個或多個數(shù)據(jù)流(102、103、104)，所述一個或多個數(shù)據(jù)流從發(fā)送消息處理器(121、131、141)發(fā)送并且被定向到所述消息處理器(111)；計算(203)所述一個或多個數(shù)據(jù)流的組合帶寬； 檢測(204)所述計算系統(tǒng)處的擁塞發(fā)生； 響應(yīng)于檢測到所述擁塞發(fā)生，將與所述一個或多個數(shù)據(jù)流相關(guān)聯(lián)的至少一個消息處理器標識(205)為所述訂閱帶寬的違反者，所述至少一個違反消息處理器是所述一個或多個數(shù)據(jù)流之一的發(fā)送消息處理器或接收消息處理器； 確定(206)所述至少一個違反消息處理器的違反程度； 定制(207)用于遞送至用于對所述至少一個違反消息處理器限制速率的發(fā)送方側(cè)自適應(yīng)速率限制器的反饋(106)，所述反饋指令所述發(fā)送方側(cè)自適應(yīng)速率限制器(123、133、143)降低源自所述至少一個違反消息處理器的一個或多個數(shù)據(jù)流的帶寬；以及 將所述反饋發(fā)送(208)到所述無擁塞網(wǎng)絡(luò)核上以供遞送至所述發(fā)送方側(cè)自適應(yīng)速率限制器。
【文檔編號】H04L12/803GK104396200SQ201380032650
【公開日】2015年3月4日 申請日期:2013年6月10日 優(yōu)先權(quán)日:2012年6月21日
【發(fā)明者】C·金, A·G·格林伯格, A·達巴格, Y·A·卡利迪, D·班塞爾, S·坎杜拉 申請人:微軟公司