請求處理技術(shù)的制作方法
【專利說明】請求處理技術(shù)
[0001 ]相關(guān)申請案的交叉參考
[0002] 本申請案主張2013年8月12日申請的標(biāo)題為"根據(jù)請求的計(jì)算機(jī)系統(tǒng)實(shí)例（PER REQUEST COMHJTER SYSTEM INSTANCES)" 的第 13/964,977號、標(biāo)題為"應(yīng)用引導(dǎo)映像 (APPLICATION BOOT IMAGE)"的第13/964,941號以及標(biāo)題為"請求處理技術(shù)（REQUEST PROCESSING TECHNIQUES)"的第13/964,889號共同待決的美國專利申請案，所述專利申請 案的內(nèi)容全文以引用的方式并入本文中。
【背景技術(shù)】
[0003] 電子請求的服務(wù)可能需要各種資源量。例如，請求服務(wù)的規(guī)?？梢栽谖⑿〉臒o狀 態(tài)計(jì)算到耗時(shí)的大規(guī)模并行應(yīng)用的范圍內(nèi)。請求的服務(wù)通常只需要有限的計(jì)算資源量，通 常少于計(jì)算機(jī)系統(tǒng)用來服務(wù)可用的請求的資源量。因此，計(jì)算資源經(jīng)常沒有被充分使用，并 且一般來說，用于處理請求的傳統(tǒng)技術(shù)具有很多的缺點(diǎn)。在很多方面，虛擬化改善了使用計(jì) 算資源的方式，例如，允許單個(gè)物理計(jì)算機(jī)系統(tǒng)實(shí)施多個(gè)同時(shí)運(yùn)行的虛擬計(jì)算機(jī)系統(tǒng)，從而 提供可調(diào)整大小的能力，使得開發(fā)人員易于彈性增加規(guī)模。
[0004] 然而，歸因于服務(wù)請求所需的資源以及加速和拆除虛擬計(jì)算機(jī)系統(tǒng)(實(shí)例）的成本 攤銷，傳統(tǒng)虛擬化技術(shù)在開發(fā)人員減少計(jì)算規(guī)模的能力方面會(huì)受到基本限制。服務(wù)虛擬化 的實(shí)際實(shí)施通常依賴于預(yù)期工作負(fù)載將占據(jù)幾分鐘、幾小時(shí)或甚至更長時(shí)間。例如，在很多 應(yīng)用中，可以相對不常使用虛擬計(jì)算機(jī)系統(tǒng)。然而，為了讓虛擬計(jì)算機(jī)系統(tǒng)能夠?yàn)檎埱蠓?務(wù)，虛擬計(jì)算機(jī)系統(tǒng)必須維持在操作狀態(tài)，這需要用于計(jì)算機(jī)系統(tǒng)的操作系統(tǒng)的計(jì)算資源 以及其他資源(例如，網(wǎng)絡(luò)資源）。當(dāng)此類計(jì)算機(jī)系統(tǒng)未被充分使用時(shí)，為那些計(jì)算機(jī)系統(tǒng)分 配的資源中的至少一個(gè)通常不可用于其他用途。
【附圖說明】
[0005] 將參考附圖描述根據(jù)本公開的各個(gè)實(shí)施方案，在附圖中：
[0006] 圖1A示出展示了本公開的各方面的圖解的說明性示例；
[0007] 圖1B示出展示了本公開的各方面的圖解的說明性示例；
[0008] 圖1C示出展示了本公開的各方面的圖解的說明性示例；
[0009] 圖2示出可以實(shí)施各個(gè)實(shí)施方案的環(huán)境的說明性示例；
[0010] 圖3示出將通用計(jì)算機(jī)系統(tǒng)實(shí)例與請求實(shí)例進(jìn)行比較的說明性圖解；
[0011] 圖4示出可以用來實(shí)施本公開的各個(gè)實(shí)施方案的計(jì)算機(jī)系統(tǒng)的配置的說明性示 例；
[0012] 圖5示出可以實(shí)施各個(gè)實(shí)施方案的環(huán)境的說明性示例；
[0013] 圖6示出根據(jù)至少一個(gè)實(shí)施方案的用于處理請求的過程的說明性示例；
[0014] 圖7示出根據(jù)至少一個(gè)實(shí)施方案的用于處理請求的過程的說明性示例；
[0015] 圖8示出根據(jù)至少一個(gè)實(shí)施方案的用于處理請求的過程的說明性示例；
[0016] 圖9示出可以實(shí)施各個(gè)實(shí)施方案的環(huán)境的說明性示例；
[0017] 圖10示出根據(jù)至少一個(gè)實(shí)施方案的用于構(gòu)建應(yīng)用圖像的過程的說明性示例；
[0018] 圖11示出根據(jù)至少一個(gè)實(shí)施方案的用于識別應(yīng)用代碼執(zhí)行中的安全點(diǎn)的過程的 說明性示例；
[0019] 圖12示出根據(jù)至少一個(gè)實(shí)施方案的用于識別應(yīng)用代碼執(zhí)行中的安全點(diǎn)的過程的 說明性示例；
[0020] 圖13示出根據(jù)至少一個(gè)實(shí)施方案的工作者管理程序及其部件的說明性示例；
[0021] 圖14示出根據(jù)至少一個(gè)實(shí)施方案的用于處理請求的過程的說明性示例；
[0022] 圖15示出可以實(shí)施各個(gè)實(shí)施方案的環(huán)境。
【具體實(shí)施方式】
[0023]以下描述內(nèi)容將描述各種實(shí)施方案。出于解釋說明的目的，列出了具體配置和細(xì) 節(jié)，以便全面理解實(shí)施方案。然而，所屬領(lǐng)域的技術(shù)人員將顯而易見的認(rèn)識到，可以在沒有 這些具體細(xì)節(jié)的情況下實(shí)踐這些實(shí)施方案。此外，眾所周知的特征可被忽略或簡化，以便不 掩蓋描述的實(shí)施方案。
[0024] 本文中描述和建議的技術(shù)涉及通過虛擬計(jì)算機(jī)系統(tǒng)來處理請求，為了計(jì)算效率、 減少延遲和/或其他優(yōu)勢的目的，所述虛擬計(jì)算機(jī)系統(tǒng)缺少傳統(tǒng)應(yīng)用堆棧中的若干層。此類 虛擬計(jì)算機(jī)系統(tǒng)可使用大體更少的資源實(shí)施，從而實(shí)現(xiàn)技術(shù)優(yōu)勢，例如，啟動(dòng)時(shí)間更快、計(jì) 算開銷減少，以及能夠使用物理計(jì)算裝置(主機(jī)計(jì)算機(jī)系統(tǒng))來實(shí)施更大數(shù)量的虛擬機(jī)。
[0025] 在一個(gè)實(shí)施方案中，管理程序由計(jì)算機(jī)系統(tǒng)操作，以便將計(jì)算機(jī)系統(tǒng)的各種計(jì)算 資源虛擬化，例如，處理資源、存儲(chǔ)資源、網(wǎng)絡(luò)資源等。盡管將底層計(jì)算機(jī)系統(tǒng)的物理計(jì)算資 源虛擬化的管理程序始終用于說明的目的，但管理程序可以是若干虛擬化層中的一個(gè)，并 且因此，可以將計(jì)算資源虛擬化，所述計(jì)算資源在所述管理程序看來是由另一管理程序提 供的虛擬化資源。一般來說，管理程序可以用來在計(jì)算機(jī)系統(tǒng)、工作者控制器以及一個(gè)或多 個(gè)虛擬計(jì)算機(jī)系統(tǒng)實(shí)例(實(shí)例)上實(shí)施。特定實(shí)例可以缺少傳統(tǒng)上用來實(shí)施實(shí)例的應(yīng)用程序 堆棧中的各種層。例如，實(shí)例可以缺少操作系統(tǒng)和相關(guān)聯(lián)的資源。在一些示例中，實(shí)例直接 在管理程序上執(zhí)行語言運(yùn)行時(shí)，而不需要各種部件，例如，操作系統(tǒng)內(nèi)核、各種進(jìn)程、語言虛 擬機(jī)、完整的網(wǎng)絡(luò)堆棧和/或其他部件。工作者控制器可以被實(shí)施為在管理程序或以其他方 式執(zhí)行的進(jìn)程，從而使得工作者控制器可以使用實(shí)例可能缺少的特權(quán)功能。在一些實(shí)施方 案中，實(shí)例可能缺少實(shí)施協(xié)議堆棧的一個(gè)或多個(gè)層(例如，開放系統(tǒng)互聯(lián)(0SI)模型協(xié)議堆 棧的一到六級），而控制器實(shí)施所述一個(gè)或多個(gè)層。此外，控制器和實(shí)例可以各自實(shí)施協(xié)議 堆棧的至少一個(gè)共享層（例如，控制器和實(shí)例都可以實(shí)施0SI協(xié)議堆棧的第七層，即，應(yīng)用 層）。一個(gè)或多個(gè)共享層可以用來使用下文論述的共享存儲(chǔ)區(qū)在控制器與實(shí)例之間傳送信 息。
[0026] 在一個(gè)實(shí)施方案中，實(shí)例利用工作者控制器的各種部件，以用于處理各種請求的 目的。為了能夠像這樣利用工作者控制器的能力，管理程序可以實(shí)施由實(shí)例和工作者控制 器共享的共享存儲(chǔ)區(qū)。如下文更詳細(xì)地論述，處理請求中涉及的數(shù)據(jù)(例如，響應(yīng)于請求的 數(shù)據(jù))可以經(jīng)由共享存儲(chǔ)區(qū)傳送到工作者控制器?？梢岳酶鞣N技術(shù)來實(shí)現(xiàn)有效處理請求 以及跟蹤經(jīng)過共享存儲(chǔ)區(qū)的數(shù)據(jù)。
[0027]在一個(gè)實(shí)施方案中，實(shí)例的已執(zhí)行應(yīng)用代碼使用HTTP對象模型進(jìn)行HTTP請求。應(yīng) 用代碼可以實(shí)例化并且配置HTTP請求對象，以用于發(fā)送或接收HTTP請求。盡管結(jié)合HTTP描 述了各種技術(shù)，但本公開的各種實(shí)施方案適于用在其他協(xié)議中，例如，文件傳輸協(xié)議(FTP)、 域名服務(wù)(DNS)以及其他協(xié)議。在此特定的說明性示例中，HTTP對象模型可以訪問半虛擬 HTTP驅(qū)動(dòng)器，所述驅(qū)動(dòng)器通過管理程序來實(shí)現(xiàn)實(shí)例與工作者控制器之間的通信。盡管半虛 擬HTTP驅(qū)動(dòng)器用于說明的目的，但一般來說，可以通過與半虛擬裝置驅(qū)動(dòng)器的交互來實(shí)現(xiàn) 從實(shí)例到控制器的共享存儲(chǔ)區(qū)中的數(shù)據(jù)的通知。
[0028] 作為HTTP對象模型訪問半虛擬HTTP驅(qū)動(dòng)器的結(jié)果，半虛擬HTTP驅(qū)動(dòng)器可以在實(shí)例 和工作者控制器共享的共享存儲(chǔ)區(qū)內(nèi)的控制空間中創(chuàng)建請求記錄。請求記錄可以包括適合 唯一識別請求記錄的標(biāo)識符。半虛擬HTTP驅(qū)動(dòng)器可以分配共享存儲(chǔ)區(qū)內(nèi)的與請求記錄相關(guān) 聯(lián)的請求插槽。此時(shí)，半虛擬HTTP驅(qū)動(dòng)器可以使用超級調(diào)用接口進(jìn)行請求服務(wù)超級調(diào)用。 HTTP驅(qū)動(dòng)器可以進(jìn)行超級調(diào)用，表明請求記錄需要得到服務(wù)。因此，超級調(diào)用接口可以通知 在工作者控制器內(nèi)部操作的HTTP超級調(diào)用處理程序。HTTP超級調(diào)用處理程序繼而可以從共 享存儲(chǔ)區(qū)檢索請求記錄。至少部分基于檢索的請求記錄以及由半虛擬HTTP驅(qū)動(dòng)器放入與請 求記錄相關(guān)聯(lián)的請求插槽中的請求數(shù)據(jù)，HTTP超級調(diào)用處理程序可以使用所述請求來進(jìn)行 本機(jī)HTTP請求。
[0029] 超級調(diào)用處理程序可以使用第二HTTP對象模型來構(gòu)建第二HTTP請求。超級調(diào)用處 理程序可以訪問與請求記錄相關(guān)聯(lián)的請求插槽，并且基于請求插槽的內(nèi)容來構(gòu)建實(shí)體主體 或者配置HTTP請求。一旦構(gòu)建之后，HTTP超級調(diào)用處理程序可使用本機(jī)網(wǎng)絡(luò)堆棧進(jìn)行本機(jī) HTTP請求。通過更新請求記錄和相關(guān)聯(lián)的請求插槽，超級調(diào)用處理程序可以返回來自第二 HTTP請求的數(shù)據(jù)或結(jié)果。通過這種方式，實(shí)例能夠利用工作者控制器的網(wǎng)絡(luò)堆棧，而無需維 持自己的網(wǎng)絡(luò)堆棧。
[0030] 本文中描述和建議的技術(shù)用于有效使用請求的處理中所涉及的計(jì)算資源。在一個(gè) 實(shí)施方案中，當(dāng)接收到請求時(shí)，可以部署虛擬機(jī)以用于對請求作出響應(yīng)。虛擬機(jī)可以被配置 來缺少各種部件，例如，傳統(tǒng)的操作系統(tǒng)和本機(jī)網(wǎng)絡(luò)堆棧，而包括這些部件將導(dǎo)致處理請求 時(shí)出現(xiàn)額外的時(shí)延。當(dāng)不再需要處理請求時(shí)，或者在之后的時(shí)間，可以撤銷虛擬機(jī)。
[0031] 在一個(gè)實(shí)施方案中，系統(tǒng)包括前端監(jiān)聽器。前端監(jiān)聽器可以包括兩個(gè)監(jiān)聽器。第一 監(jiān)聽器可以被配置來監(jiān)聽指向多個(gè)應(yīng)用的請求，每個(gè)可由不同的虛擬機(jī)服務(wù)。如下文更詳 細(xì)地描述，第二監(jiān)聽器可以被配置來監(jiān)聽針對第一監(jiān)聽器接收的請求的復(fù)本的請求。至于 第一監(jiān)聽器的功能，前端監(jiān)聽器可以多路復(fù)用，以監(jiān)聽多種網(wǎng)絡(luò)地址處的請求，例如，不同 的主機(jī)名稱、端口、應(yīng)用路徑、統(tǒng)一資源定位符(URL)、統(tǒng)一資源標(biāo)識符(URI)等。在一些實(shí)施 方案中，域名系統(tǒng)(DNS)可以被配置來將不同的域名(或者一般來說，不同的信息實(shí)例)分解 給對應(yīng)于前端監(jiān)聽器的相同網(wǎng)絡(luò)（例如，IP)地址。不同的域名或其他信息實(shí)例可以對應(yīng)于 不同的應(yīng)用圖像。
[0032]當(dāng)接收到請求時(shí)，前端監(jiān)聽器可以將工作令牌(work token)排隊(duì)到請求隊(duì)列上。 請求令牌可以包括使得能夠確定請求及其相關(guān)聯(lián)的數(shù)據(jù)的信息。例如，通過訪問請求隊(duì)列 中的下一可用消息，在工作者管理程序的內(nèi)部操作的工作者控制器可以使請求工作令牌離 隊(duì)。或者，請求令牌可以被推送到工作者管理程序。在離隊(duì)或以其他方式獲取請求工作令牌 之后，工作者控制器可以使用工作令牌來從一組可用應(yīng)用圖像中確定適當(dāng)?shù)膽?yīng)用圖像，并 且從應(yīng)用圖像存儲(chǔ)庫中檢索確定的適當(dāng)應(yīng)用圖像，所述應(yīng)用圖像存儲(chǔ)庫可以是本地緩存或 外部數(shù)據(jù)存儲(chǔ)系統(tǒng)。
[0033] 一旦已經(jīng)獲取適當(dāng)?shù)膽?yīng)用，至少部分基于應(yīng)用圖像，工作者控制器便可以指示工 作者管理程序來實(shí)例化請求實(shí)例。例如，通過指示工作者管理程序來構(gòu)建請求實(shí)例專用的 新用戶分區(qū)，工作者控制器可以指示實(shí)例化請求實(shí)例的過程中涉及的各種操作使用工作者 管理程序上的控制API和/或以其他方式將處理器、存儲(chǔ)器或其他資源分配給用戶分區(qū)。工 作者控制器也可以構(gòu)建至少包括應(yīng)用圖像的共享存儲(chǔ)區(qū)，并且可以指示工作者管理程序?qū)?共享存儲(chǔ)區(qū)映射到用戶分區(qū)的地址空間中，作為只讀存儲(chǔ)器。
[0034] 引導(dǎo)程序可以用來將來自共享存儲(chǔ)區(qū)的應(yīng)用圖像的至少一部分復(fù)制到被分配給 用戶分區(qū)的存儲(chǔ)器中。引導(dǎo)程序可以檢索與來自共享存儲(chǔ)區(qū)的應(yīng)用圖像的復(fù)制部分相關(guān)聯(lián) 的入口點(diǎn)地址，并且可以基于入口點(diǎn)開始執(zhí)行應(yīng)用代碼。在應(yīng)用代碼執(zhí)行之后，請求實(shí)例可 以嘗試訪問請求。響應(yīng)于請求實(shí)例嘗試訪問請求，工作者控制器可以定位出與請求實(shí)例相 關(guān)聯(lián)的請求工作令牌，并且與請求工作令牌識別的前端監(jiān)聽器建立連接。前端監(jiān)聽器(例 如，上述第二監(jiān)聽器)可以監(jiān)控工作連接請求，并且基于請求工作令牌中包括的識別信息， 可以定位出接收到的請求。前端監(jiān)聽器可以復(fù)制用來接收所述接收到的請求的套接字句柄 (socket handle)，并且將復(fù)制的套接字給到監(jiān)聽工作連接請求的監(jiān)聽器。監(jiān)聽工作連接請 求的監(jiān)聽器可以根據(jù)請求實(shí)例使用復(fù)制的套接字來讀取和寫入數(shù)據(jù)。一旦已經(jīng)提供數(shù)據(jù)， 請求實(shí)例便可以處理和響應(yīng)接收到的請求。在各個(gè)實(shí)施方案中，相對于請求同步提供響應(yīng)。 例如，可以將響應(yīng)提供給同一網(wǎng)絡(luò)連接上的請求器，或者以其他方式通過接收請求的相同 連接介質(zhì)提供所述響應(yīng)。
[0035]本文中描述和建議的技術(shù)涉及將被用來實(shí)例化虛擬計(jì)算機(jī)系統(tǒng)的圖像的準(zhǔn)備。在 各實(shí)施方案中，虛擬計(jì)算機(jī)系統(tǒng)可以被配置來實(shí)現(xiàn)很多的技術(shù)優(yōu)勢，例如，啟動(dòng)時(shí)間更快、 計(jì)算開銷減少，以及能夠使用物理計(jì)算裝置(主機(jī)計(jì)算機(jī)系統(tǒng))來實(shí)施更大數(shù)量的虛擬機(jī)。 此外，如下文描述，使用各種技術(shù)來進(jìn)一步強(qiáng)化這些優(yōu)勢。
[0036]在一個(gè)實(shí)施方案中，應(yīng)用代碼經(jīng)過處理以生成應(yīng)用圖像，所述應(yīng)用圖像可以被用 來實(shí)例化虛擬機(jī)實(shí)例。應(yīng)用源可以被構(gòu)建系統(tǒng)接收。應(yīng)用源可以由開發(fā)人員通過(例如）網(wǎng) 絡(luò)服務(wù)應(yīng)用編程界面(API)或版本控制系統(tǒng)提交。應(yīng)用源可以包括源文件、配置文件、資源 文件(例如，網(wǎng)頁、圖形圖像或其他媒體文件）、二進(jìn)制文件和/或其他信息。構(gòu)建系統(tǒng)可以處 理應(yīng)用，從而解析應(yīng)用，以產(chǎn)生有注釋的源。處理所述應(yīng)用可以包括檢查應(yīng)用源的可執(zhí)行部 分，以確定執(zhí)行可能最先開始在程序中變化的一個(gè)或多個(gè)位置。此外，處理所述應(yīng)用可以包 括為應(yīng)用源創(chuàng)建注釋。通過識別一個(gè)或多個(gè)入口點(diǎn)以用于執(zhí)行應(yīng)用源，可以生成所述注釋。 通過從一個(gè)或多個(gè)入口點(diǎn)開始解析、解譯或以其他方式分析應(yīng)用源直到檢測到潛在變化為 止，可以確定入口點(diǎn)，所述潛在變化是執(zhí)行中的一個(gè)點(diǎn)，其中可以針對應(yīng)用的不同執(zhí)行來改 變執(zhí)行。
[0037] 一旦已經(jīng)生成有注釋的應(yīng)用源，構(gòu)建系統(tǒng)便可以將有注釋的源傳輸?shù)綐?gòu)建管理程 序?qū)嵤┑臉?gòu)建控制器。構(gòu)建控制器可以訪問構(gòu)建引導(dǎo)程序，所述構(gòu)建引導(dǎo)程序可以被配置 來針對有注釋的源來引導(dǎo)內(nèi)核。引導(dǎo)程序可以包括將內(nèi)核和有注釋的源讀到存儲(chǔ)器中的例 程。引導(dǎo)程序可以包括在有注釋的源中的確定變化位置處設(shè)置斷點(diǎn)（breakpoint)的例程。 引導(dǎo)程序可以包括從內(nèi)核入口點(diǎn)開始執(zhí)行內(nèi)核的例程。
[0038] 至少部分基于有注釋的源和構(gòu)建引導(dǎo)程序，構(gòu)建控制器可以創(chuàng)建構(gòu)建實(shí)例。通過 將從中可以訪問有注釋的源和引導(dǎo)程序的虛擬機(jī)(虛擬計(jì)算機(jī)系統(tǒng))實(shí)例化，可以創(chuàng)建出構(gòu) 建實(shí)例?？梢詧?zhí)行應(yīng)用，直到到達(dá)變化點(diǎn)為止。達(dá)到變化點(diǎn)可以導(dǎo)致應(yīng)用的執(zhí)行停止。如果 需要，應(yīng)用的執(zhí)行可以調(diào)整到安全點(diǎn)，所述安全點(diǎn)可對應(yīng)于應(yīng)用執(zhí)行中的點(diǎn)，其中執(zhí)行應(yīng)用 的虛擬機(jī)的狀態(tài)快照可用作之后在同一或不同物理計(jì)算機(jī)系統(tǒng)上執(zhí)行應(yīng)用的起始點(diǎn)。
[0039] 因此，在各實(shí)施方案中，虛擬機(jī)的快照被存儲(chǔ)，以便之后使用?？煺湛砂軌蚶^ 續(xù)執(zhí)行應(yīng)用的入口點(diǎn)地址?？煺湛梢灾糜诳捎晒ぷ髡吖芾沓绦蚝?或一個(gè)或多個(gè)其他工作 者管理程序訪問的應(yīng)用圖像存儲(chǔ)庫中。工作者管理程序可以從應(yīng)用圖像存儲(chǔ)庫檢索應(yīng)用圖 像，并且在入口點(diǎn)地址處繼續(xù)應(yīng)用的執(zhí)行。通過這種方式，應(yīng)用執(zhí)行的不變部分在應(yīng)用被加 載和使用之前得到處理。因此，與每次應(yīng)用被加載到計(jì)算機(jī)系統(tǒng)上時(shí)都要處理應(yīng)用執(zhí)行的 不變部分相比，應(yīng)用可以被加載和使用以便更快地處理請求。
[0040] 圖1B示出展示了本公開的各實(shí)施方案的圖解。如圖所示，應(yīng)用源102b被構(gòu)建機(jī)器 104b處理，所述構(gòu)建機(jī)器可以是虛擬機(jī)，其被配置來執(zhí)行應(yīng)用指令并且在檢測到變化點(diǎn)時(shí) 停止應(yīng)用執(zhí)行的執(zhí)行。構(gòu)建機(jī)器可以在變化點(diǎn)或者變化點(diǎn)附近的安全點(diǎn)處拍快照，以便生 成應(yīng)用引導(dǎo)圖像106b，如上述并且下文更詳細(xì)地描述，所述應(yīng)用引導(dǎo)圖像可以用于實(shí)例化 用來處理請求的虛擬機(jī)。
[0041] 圖1C示出展示了本公開的各方面的圖解100c。如圖1C所示，圖解100c示出請求 l〇2c的接收，例如，所述請求可以是用以執(zhí)行一個(gè)或多個(gè)操作的請求。例如，可以根據(jù)超文 本傳輸協(xié)議(HTTP)或另一通信協(xié)議提交所述請求。在一個(gè)實(shí)施方案中，所述請求可由一個(gè) 或多個(gè)應(yīng)用服務(wù)，所述應(yīng)用可包括被配置來服務(wù)所述請求的一個(gè)或多個(gè)編程模塊，例如，通 過對數(shù)據(jù)執(zhí)行一個(gè)或多個(gè)操作、將通信傳輸?shù)狡渌?jì)算機(jī)系統(tǒng)和/或以其他方式與數(shù)據(jù)交 互，所述數(shù)據(jù)是請求的一部分或以其他方式與請求相關(guān)聯(lián)。
[0042] 圖1A示出展示了本公開的各方面的說明性圖解，包括上文論述的那些。具體而言， 圖1A示出實(shí)施一個(gè)或多個(gè)實(shí)例102a的管理程序100a，所述實(shí)例可具有受限的能力，例如，上 文所述。為了使得實(shí)例l〇2a能夠處理提交到所述實(shí)例的請求，實(shí)例可以使用也由管理程序 實(shí)施的工作者控制器l〇4a的各種能力。管理程序可以實(shí)施實(shí)例102a和工作者控制器104a都 可訪問的共享存儲(chǔ)器l〇6a。根據(jù)適合實(shí)例服務(wù)的特定請求，數(shù)據(jù)可以在兩個(gè)方向上流動(dòng)。實(shí) 例可被配置來允許工作者控制器訪問數(shù)據(jù)和完成請求的處理的方式使數(shù)據(jù)進(jìn)入共享存儲(chǔ) 器106a。類似地，工作者控制器可被配置來從共享存儲(chǔ)器中定位出數(shù)據(jù)并且相應(yīng)地處理數(shù) 據(jù)。管理程序可以協(xié)調(diào)實(shí)例與工作者控制器之間的通信，以便提供放入共享存儲(chǔ)器中的數(shù) 據(jù)的通知。通過這種方式，盡管位于管理程序執(zhí)行的獨(dú)立邏輯區(qū)域中，但數(shù)據(jù)可以在請求實(shí) 例與工作者控制器之間傳輸，從而可以利用工作者控制器的能力。
[0043]應(yīng)了解，并且如先前所述，物理主機(jī)可以在分布式計(jì)算系統(tǒng)和/或數(shù)據(jù)中心中互連 的多個(gè)服務(wù)器之間。圖2示出可以使用各實(shí)施方案的分布式計(jì)算和/或數(shù)據(jù)中心環(huán)境200。多 個(gè)客戶裝置202經(jīng)由公用網(wǎng)絡(luò)204與數(shù)據(jù)中心206通信。客戶裝置可包括能夠經(jīng)由公用或其 他網(wǎng)絡(luò)連接到數(shù)據(jù)中心的任何裝置，例如，個(gè)人計(jì)算機(jī)、智能電話、平板計(jì)算裝置等。在一個(gè) 示例性實(shí)施方案中，所述公用網(wǎng)絡(luò)可以是互聯(lián)網(wǎng)，但本文中預(yù)期其他公開可用的網(wǎng)絡(luò)（例 如，移動(dòng)和/或無線網(wǎng)絡(luò)），此外，盡管公用網(wǎng)絡(luò)204用于說明的目的，但可使用不必公用的其 他網(wǎng)絡(luò)和/或網(wǎng)絡(luò)的組合。在一些情況下，客戶裝置可通過導(dǎo)向光纖或其他連接(例如，經(jīng)由 到達(dá)數(shù)據(jù)中心206的租用線路）與數(shù)據(jù)中心206通信。數(shù)據(jù)中心206包括一個(gè)或多個(gè)管理部 件，包括但不限于，控制平面208、網(wǎng)關(guān)210和/或監(jiān)控實(shí)體212,所述部件共同經(jīng)由內(nèi)部網(wǎng)絡(luò) 214連接到多個(gè)內(nèi)部服務(wù)器216?？刂破矫?08可以接收操作數(shù)據(jù)中心的計(jì)算資源的請求，例 如，部署資源、改變路線或執(zhí)行維護(hù)，包括更新在數(shù)據(jù)中心的各個(gè)部件上運(yùn)行的代碼。網(wǎng)關(guān) 210可以將業(yè)務(wù)量過濾和路由進(jìn)入和離開數(shù)據(jù)中心，例如，經(jīng)由內(nèi)部網(wǎng)絡(luò)到達(dá)和/或來自服 務(wù)器。監(jiān)控實(shí)體可以接收和報(bào)告有關(guān)數(shù)據(jù)中心中的計(jì)算資源的狀態(tài)的信息，例如，有關(guān)內(nèi)部 服務(wù)器的信息。
[0044] 每個(gè)內(nèi)部服務(wù)器可由多個(gè)邏輯機(jī)插槽218共享，每個(gè)插槽能夠運(yùn)行一個(gè)或多個(gè)應(yīng) 用，如下文描述，例如，是將給定服務(wù)器的硬件提取到多個(gè)半獨(dú)立執(zhí)行環(huán)境中的虛擬化系統(tǒng) 的情況。例如，每個(gè)插槽均可訪問一個(gè)或多個(gè)虛擬處理器(VCPU)。先前描述的任何數(shù)量的多 個(gè)客戶裝置無需任何數(shù)量插槽中的操作系統(tǒng)便可運(yùn)行任何數(shù)量的訪客操作系統(tǒng)或訪客應(yīng) 用，一直到數(shù)據(jù)中心的界限(無論是物理的、邏輯的還是外部強(qiáng)加的），并且插槽根據(jù)若干操 作和/或業(yè)務(wù)相關(guān)標(biāo)準(zhǔn)中的一個(gè)或多個(gè)而被分配給客戶，例如，地理接近、分配給用戶的支 持水平和/或資源、服務(wù)器和/或插槽健康狀況和/或準(zhǔn)備狀態(tài)等。因此，至少結(jié)合圖1A到圖 1C描述的技術(shù)可以縮放和/或調(diào)整，以提供有效的請求處理。
[0045] 如所論述，本公開的各實(shí)施方案使用實(shí)現(xiàn)處理請求的很多技術(shù)優(yōu)勢的技術(shù)，例如， 更有效地使用計(jì)算資源和減少延遲。因此，圖3示出可用來實(shí)現(xiàn)某些優(yōu)勢的各種技術(shù)的說明 性示例。如圖所示，通用虛擬計(jì)算機(jī)系統(tǒng)(實(shí)例）的配置302由物理計(jì)算機(jī)系統(tǒng)(物理主機(jī)或 物理主機(jī)計(jì)算機(jī)系統(tǒng))實(shí)例化。與通用計(jì)算機(jī)系統(tǒng)相比，還示出由物理計(jì)算機(jī)系統(tǒng)實(shí)例化的 實(shí)例304(請求實(shí)例）。
[0046] 如圖3所示，使用適當(dāng)?shù)挠?jì)算機(jī)硬件實(shí)施通用實(shí)例，包括一個(gè)或多個(gè)中央處