一種塊設(shè)備的分布式存儲方法和系統(tǒng)的制作方法
【專利摘要】本發(fā)明適用于存儲領(lǐng)域，具體涉及分布式存儲系統(tǒng)。本發(fā)明公開了一種塊設(shè)備的分布式存儲方法和系統(tǒng)。該方法包括：將塊設(shè)備的存儲空間定義為邏輯卷，并將其按固定大小切分成N個邏輯塊；各邏輯塊實(shí)際存儲在多份物理存儲上，邏輯塊與其對應(yīng)的各個物理存儲地址的映射關(guān)系通過索引進(jìn)行關(guān)聯(lián)。該系統(tǒng)包括：數(shù)據(jù)接入層、索引服務(wù)器、存儲服務(wù)器；數(shù)據(jù)接入層基于iSCSI協(xié)議處理對塊設(shè)備的讀寫請求；數(shù)據(jù)接入層對協(xié)議進(jìn)行解析后，向索引服務(wù)器獲取此次請求所涉及邏輯塊的實(shí)際物理存儲位置；索引服務(wù)器接收到請求時，查詢相關(guān)索引，找到對應(yīng)的存儲服務(wù)器并將信息返回給數(shù)據(jù)接入層；數(shù)據(jù)接入層收到索引服務(wù)器的回復(fù)之后，訪問存儲服務(wù)器完成后續(xù)的數(shù)據(jù)讀寫任務(wù)。
【專利說明】一種塊設(shè)備的分布式存儲方法和系統(tǒng)
【技術(shù)領(lǐng)域】
[0001 ] 本發(fā)明屬于存儲【技術(shù)領(lǐng)域】，具體涉及塊設(shè)備的分布式存儲。
【背景技術(shù)】
[0002]在分布式存儲中，主要的存儲方式有兩種，一種是基于文件的存儲，如NAS (Network Attached Storage),其特點(diǎn)是成本低、容易實(shí)現(xiàn),但在某些需要提供大量數(shù)據(jù)傳輸、頻繁IO的場景下效率不高、性能較差；另一種是基于Block的存儲，如SAN(StorageArea Network)，其中FC SAN的成本較高，不便于大規(guī)模部署，而IP SAN具有成本低且兼具較高性能的特點(diǎn)，非常適合作為云存儲的一種解決方案進(jìn)行大規(guī)模部署。但傳統(tǒng)的IP SAN由于iSCSI Target端通常是直接接入的塊設(shè)備，不便于維護(hù)和功能擴(kuò)展，如快照、克隆等，且無分布式的數(shù)據(jù)冗余解決單點(diǎn)故障問題。

【發(fā)明內(nèi)容】

[0003]為了克服上述現(xiàn)有技術(shù)的不足，本發(fā)明提供了一種塊設(shè)備的分布式存儲方法和系統(tǒng)，基于iSCSI實(shí)現(xiàn)對塊設(shè)備的存儲訪問，同時提供分布式的多份數(shù)據(jù)冗余，并且支持對塊設(shè)備進(jìn)行快照、克隆等功能。
[0004]為解決上述問題，本發(fā)明提供了一種針對塊設(shè)備的分布式數(shù)據(jù)存儲方法:將塊設(shè)備的存儲空間定義為邏輯卷，并將其按固定大小切分成N個邏輯塊；各邏輯塊實(shí)際存儲在多個存儲節(jié)點(diǎn)的物理硬盤上，即所有存儲節(jié)點(diǎn)都是一個完整的數(shù)據(jù)備份以實(shí)現(xiàn)冗余，從而保證數(shù)據(jù)安全及可靠性；將邏輯塊的實(shí)際物理存儲地址定義為物理塊，通過索引保存邏輯塊與其對應(yīng)的各個物理塊的映射關(guān)系，處理塊設(shè)備的讀寫請求時，根據(jù)相關(guān)索引得到對應(yīng)的物理塊彳目息。
[0005]進(jìn)一步地，在上述方法的基礎(chǔ)上，本發(fā)明提供了一種塊設(shè)備的分布式存儲系統(tǒng)，其中，所述系統(tǒng)包括:
數(shù)據(jù)接入層，負(fù)責(zé)與客戶端進(jìn)行交互，完成iSCSI協(xié)議的解析，并負(fù)責(zé)與系統(tǒng)內(nèi)其他服務(wù)進(jìn)行交互完成數(shù)據(jù)讀寫任務(wù)；
索引服務(wù)器，負(fù)責(zé)存儲和維護(hù)所述邏輯卷和所述邏輯塊的信息、所述物理塊信息、所述索引信息、快照信息等元數(shù)據(jù)；
存儲服務(wù)器，掛載多塊硬盤，負(fù)責(zé)數(shù)據(jù)內(nèi)容的實(shí)際物理存儲，實(shí)際部署中將存在多個存儲服務(wù)器，可使其互為備份實(shí)現(xiàn)高可靠。
[0006]進(jìn)一步地，在上述方法和系統(tǒng)的基礎(chǔ)上，當(dāng)數(shù)據(jù)接入層接收到客戶端的讀寫請求后，進(jìn)行iSCSI協(xié)議解析，得到此次請求的起始位置和訪問的數(shù)據(jù)長度，即讀寫的數(shù)據(jù)區(qū)域；
數(shù)據(jù)接入層將所涉及數(shù)據(jù)區(qū)域發(fā)送給索引服務(wù)器，以獲取數(shù)據(jù)的實(shí)際存儲位置；
索引服務(wù)器接收到數(shù)據(jù)接入層的請求后，首先對數(shù)據(jù)區(qū)域進(jìn)行計算，將其轉(zhuǎn)換成對應(yīng)的多個邏輯塊，而后為各個邏輯塊查詢相關(guān)索引，找到其所對應(yīng)的物理塊信息，即所對應(yīng)的存儲服務(wù)器以及該存儲服務(wù)器上對應(yīng)的硬盤信息；
當(dāng)索引服務(wù)器收集完所有邏輯塊的物理塊信息后，將這些信息返回給數(shù)據(jù)接入層；
數(shù)據(jù)接入層根據(jù)回復(fù)的信息訪問對應(yīng)的存儲服務(wù)器，存儲服務(wù)器接收到數(shù)據(jù)接入層發(fā)送的讀寫請求，根據(jù)請求中的信息，在指定的物理硬盤上完成數(shù)據(jù)的讀寫，并將最終的讀寫結(jié)果返回給數(shù)據(jù)接入層。
[0007]數(shù)據(jù)接入層接收到存儲服務(wù)器的處理結(jié)果后，將此次讀寫任務(wù)的結(jié)果返回給客戶端。
[0008]另一方面，在本發(fā)明所提供的系統(tǒng)中，還實(shí)現(xiàn)了對塊設(shè)備的快照、克隆功能。
[0009]快照的相關(guān)步驟包括:
步驟1，向索引服務(wù)器發(fā)送為塊設(shè)備創(chuàng)建快照的請求；
步驟2，索引服務(wù)器在存儲的元數(shù)據(jù)中找到該塊設(shè)備的當(dāng)前索引；
步驟3，為當(dāng)前索引創(chuàng)建一個子索弓I，創(chuàng)建快照信息,并將當(dāng)前索引信息保存到快照信息中；
步驟4，將塊設(shè)備的當(dāng)前索引修改為新創(chuàng)建的子索引；
克隆的相關(guān)步驟包括:
步驟1，向索引服務(wù)器發(fā)送對塊設(shè)備進(jìn)行克隆的請求；
步驟2，索引服務(wù)器在存儲的元數(shù)據(jù)中找到該塊設(shè)備的當(dāng)前索引；
步驟3，為當(dāng)前索引創(chuàng)建兩個子索引，創(chuàng)建克隆卷信息，并將新創(chuàng)建的其中一個子索引設(shè)置為克隆卷的當(dāng)前索引；
步驟4，將塊設(shè)備的當(dāng)前索引修改為步驟3中新創(chuàng)建的另一個子索引；
根據(jù)快照和克隆的步驟流程，當(dāng)處理讀寫請求時，優(yōu)先從塊設(shè)備的當(dāng)前索引上找到實(shí)際存儲的物理位置；若無法找到，則回溯到該索引的父索引上進(jìn)行查找，直至找到存儲位置或者再無父索引可回溯。
[0010]本發(fā)明的有益效果在于:
1.以分布式數(shù)據(jù)冗余的方式保證塊設(shè)備數(shù)據(jù)的高可靠，解決單點(diǎn)故障問題。
[0011]2.基于iSCSI協(xié)議可避免對客戶端的依賴,從而使Windows、Linux等操作系統(tǒng)的各種版本均可無縫接入本系統(tǒng)。
[0012]3.實(shí)現(xiàn)基于索引的塊設(shè)備分布式存儲的管理方式，為系統(tǒng)的功能擴(kuò)展奠定基礎(chǔ)。
[0013]4.在IP SAN架構(gòu)中實(shí)現(xiàn)了對塊設(shè)備的快照、克隆等功能，同時在本系統(tǒng)中創(chuàng)建的塊設(shè)備可以不受物理盤單盤大小的限制，最大能夠支持8ZB(等于8589934592TB)。
【專利附圖】

【附圖說明】
[0014]通過參照附圖對具體實(shí)施案例的詳細(xì)描述，本發(fā)明所述內(nèi)容將得到更清晰的闡述，其中:
圖1為本發(fā)明的塊設(shè)備分布式存儲方法中對象關(guān)系圖 圖2為本發(fā)明的塊設(shè)備分布式存儲系統(tǒng)的架構(gòu)圖 圖3為本發(fā)明存儲系統(tǒng)中創(chuàng)建塊設(shè)備快照的流程圖 圖4為本發(fā)明存儲系統(tǒng)中克隆塊設(shè)備的流程圖 圖5為本發(fā)明的塊設(shè)備分布式存儲方法的數(shù)據(jù)讀寫流程圖。
【具體實(shí)施方式】
[0015]為了使本發(fā)明中所述方法和系統(tǒng)得到更清晰的闡述，以下結(jié)合附圖和實(shí)施案例，進(jìn)行進(jìn)一步的詳細(xì)說明。
[0016]本實(shí)施方式提供了一種對塊設(shè)備進(jìn)行分布式存儲的方法，其關(guān)鍵對象的關(guān)系如圖1所示，具體采用方案如下:
將塊設(shè)備的存儲空間定義為邏輯卷，并將其按固定大小切分成N個邏輯塊；
各邏輯塊實(shí)際存儲在分布在系統(tǒng)中的多個物理硬盤上，這些實(shí)際的物理存儲地址即為物理塊；
通過索引保存邏輯塊與其對應(yīng)的各個物理塊的映射關(guān)系，處理塊設(shè)備的讀寫請求時，根據(jù)相關(guān)索引得到對應(yīng)的物理塊信息。
[0017]在所述存儲方法的基礎(chǔ)上，圖2示出了一種塊設(shè)備分布式存儲的系統(tǒng)架構(gòu)。該系統(tǒng)包括數(shù)據(jù)接入層、索引服務(wù)器、存儲服務(wù)器:
數(shù)據(jù)接入層，負(fù)責(zé)與客戶端進(jìn)行交互，解析iSCSI協(xié)議從而獲取讀寫請求中的關(guān)鍵參數(shù)，并負(fù)責(zé)與系統(tǒng)中的索引服務(wù)器和存儲服務(wù)器進(jìn)行交互，協(xié)作完成數(shù)據(jù)讀寫任務(wù)；
索引服務(wù)器，負(fù)責(zé)存儲和維護(hù)所述邏輯卷和所述邏輯塊的信息、所述物理塊信息、所述索引信息等元數(shù)據(jù)，并為數(shù)據(jù)接入層提供元數(shù)據(jù)查詢接口 ；同時提供對塊設(shè)備進(jìn)行快照和克隆等功能接口；
存儲服務(wù)器，掛載多塊硬盤作為物理存儲介質(zhì)，負(fù)責(zé)數(shù)據(jù)內(nèi)容的實(shí)際物理存儲；響應(yīng)數(shù)據(jù)接入層的數(shù)據(jù)讀寫請求，在物理存儲介質(zhì)上完成數(shù)據(jù)的讀寫并將讀寫結(jié)果返回給數(shù)據(jù)接入層；實(shí)施方案中將部署多個存儲服務(wù)器，可使數(shù)據(jù)內(nèi)容同時保存在多個存儲服務(wù)器上，互為備份實(shí)現(xiàn)高可靠。
[0018]本領(lǐng)域的相關(guān)人員可以理解，實(shí)際部署中索引服務(wù)器和存儲服務(wù)器均可存在多個。為便于描述，圖2進(jìn)行了一定的簡化。
[0019]圖3示出了本發(fā)明所述系統(tǒng)中對所述邏輯卷，即塊設(shè)備進(jìn)行快照的具體方法流程:
步驟301，索引服務(wù)器接收到為邏輯卷創(chuàng)建快照的請求；
步驟302，在存儲的元數(shù)據(jù)中找到該邏輯卷的當(dāng)前索引；
步驟303，為當(dāng)前索引創(chuàng)建一個子索引；
步驟304，創(chuàng)建快照信息并將當(dāng)前索引信息保存到快照信息中；
步驟305，將邏輯卷的當(dāng)前索引修改為新創(chuàng)建的子索引；
圖4示出了本發(fā)明所述系統(tǒng)中對所述邏輯卷，即塊設(shè)備進(jìn)行快照的具體方法流程: 步驟401，索引服務(wù)器接收到對邏輯卷進(jìn)行克隆的請求；
步驟402，在存儲的元數(shù)據(jù)中找到該邏輯卷的當(dāng)前索引；
步驟403，為當(dāng)前索引創(chuàng)建兩個子索引；
步驟404，創(chuàng)建克隆卷信息并將新創(chuàng)建的其中一個子索引設(shè)置為克隆卷的當(dāng)前索引； 步驟405，將邏輯卷的當(dāng)前索引修改為步驟403中新創(chuàng)建的另一個子索引；
圖5示出了一次數(shù)據(jù)讀寫請求在本發(fā)明所述系統(tǒng)中的完整流程，具體的實(shí)施步驟如下:
步驟501，數(shù)據(jù)接入層接收到客戶端的讀寫請求后，進(jìn)行iSCSI協(xié)議解析，分析出此次請求在邏輯卷，即塊設(shè)備中對應(yīng)的起始位置和訪問的數(shù)據(jù)長度，即讀寫的數(shù)據(jù)區(qū)域；
步驟502，數(shù)據(jù)接入層將此次讀寫所涉及數(shù)據(jù)區(qū)域信息發(fā)送給索引服務(wù)器，以獲取數(shù)據(jù)的實(shí)際存儲位置；
步驟503，索引服務(wù)器接收到數(shù)據(jù)接入層的請求后，首先對數(shù)據(jù)區(qū)域進(jìn)行計算，將其轉(zhuǎn)換成邏輯卷中對應(yīng)的多個邏輯塊；
步驟504，根據(jù)得到的各個邏輯塊信息，索引服務(wù)器在邏輯卷的相關(guān)索引上查詢邏輯塊所對應(yīng)的物理塊信息，即所對應(yīng)的存儲服務(wù)器以及對應(yīng)該存儲服務(wù)器上的哪一塊硬盤的哪部分區(qū)域；
根據(jù)本發(fā)明所述系統(tǒng)中對塊設(shè)備進(jìn)行快照和克隆的步驟，塊設(shè)備相關(guān)的索引存在所述的父子關(guān)系，在索引上根據(jù)邏輯塊信息查詢物理塊時，要判斷是否需要回溯操作。若在當(dāng)前索引上無法找到，則回溯到當(dāng)前索引的父索引上繼續(xù)查詢，直至找到物理塊信息或再無父索引可回溯；當(dāng)索引服務(wù)器收集完所有邏輯塊對應(yīng)的物理塊信息后，將信息返回給數(shù)據(jù)接入層；
步驟505，數(shù)據(jù)接入層根據(jù)回復(fù)的信息找到對應(yīng)的存儲服務(wù)器，并向其發(fā)送具體的數(shù)據(jù)讀寫請求，如對哪一塊硬盤的哪一部分區(qū)域進(jìn)行讀寫；
步驟506，存儲服務(wù)器接收到數(shù)據(jù)接入層發(fā)送的讀寫請求，根據(jù)請求中的信息，在指定的物理硬盤上完成數(shù)據(jù)的讀寫，并將最終的讀寫結(jié)果返回給數(shù)據(jù)接入層。
[0020]步驟507，數(shù)據(jù)接入層接收到存儲服務(wù)器的處理結(jié)果后，將此次讀寫任務(wù)的結(jié)果返回給客戶端。
[0021]以上所述僅為本發(fā)明實(shí)施的一種實(shí)例場景，不能用于限定本發(fā)明的權(quán)利范圍，根據(jù)本發(fā)明所做的任何形式和細(xì)節(jié)上的改變，仍屬于本發(fā)明所包含的范圍。
【權(quán)利要求】
1.一種塊設(shè)備的分布式存儲方法，其特征在于，包括: 將塊設(shè)備的存儲空間定義為邏輯卷，并將所述邏輯卷按固定大小切分成N個邏輯塊；各所述邏輯塊實(shí)際存儲在多個存儲節(jié)點(diǎn)的物理硬盤上，即所有存儲節(jié)點(diǎn)都是一個完整的數(shù)據(jù)備份以實(shí)現(xiàn)冗余，保證數(shù)據(jù)安全及可靠性；將所述邏輯塊的實(shí)際物理存儲地址定義為物理塊，所述邏輯塊與其對應(yīng)的各個所述物理塊的映射關(guān)系通過索引進(jìn)行關(guān)聯(lián)，處理塊設(shè)備的讀寫請求時，根據(jù)所述索引得到對應(yīng)的所述物理塊信息。
2.根據(jù)權(quán)利要求1所述的方法，一種塊設(shè)備的分布式存儲系統(tǒng)，其特征在于，所述系統(tǒng)包括數(shù)據(jù)接入層、索引服務(wù)器、存儲服務(wù)器: 所述數(shù)據(jù)接入層負(fù)責(zé)與客戶端進(jìn)行交互，完成iSCSI協(xié)議的解析，并負(fù)責(zé)與系統(tǒng)內(nèi)其他服務(wù)進(jìn)行交互，協(xié)作完成數(shù)據(jù)讀寫任務(wù)； 所述索引服務(wù)器負(fù)責(zé)存儲和維護(hù)所述邏輯卷和所述邏輯塊的信息、所述物理塊信息、所述索引信息、快照信息等元數(shù)據(jù)； 所述存儲服務(wù)器負(fù)責(zé)實(shí)際存儲數(shù)據(jù)內(nèi)容，實(shí)際部署中將存在多個所述存儲服務(wù)器，可使其互為備份實(shí)現(xiàn)高可靠。
3.根據(jù)權(quán)利要求1和權(quán)利要求2所述的方法及系統(tǒng)，其特征在于，當(dāng)塊設(shè)備進(jìn)行讀寫時，具體方式為: 所述數(shù)據(jù)接入層接收到讀寫請求后，進(jìn)行iSCSI協(xié)議解析，得到此次請求的起始位置和訪問的數(shù)據(jù)長度，即所述邏輯塊信息； 所述數(shù)據(jù)接入層將涉及的所述邏輯塊信息發(fā)送給所述索引服務(wù)器，以獲取數(shù)據(jù)的實(shí)際存儲地址，即所述物理塊信息`； 所述索引服務(wù)器接收到所述數(shù)據(jù)接入層的請求后，根據(jù)所述邏輯塊信息查詢相關(guān)所述索引，找到所述邏輯塊所對應(yīng)的所述物理塊并將其信息返回所述數(shù)據(jù)接入層； 所述數(shù)據(jù)接入層根據(jù)回復(fù)的所述物理塊信息訪問對應(yīng)的所述存儲服務(wù)器，所述存儲服務(wù)器在對應(yīng)的物理硬盤上完成數(shù)據(jù)讀寫任務(wù)，并由所述數(shù)據(jù)接入層將最終的讀寫結(jié)果返回給客戶端。
4.根據(jù)權(quán)利要求1和權(quán)利要求2所述的方法及系統(tǒng)，其特征在于，當(dāng)為塊設(shè)備創(chuàng)建快照時，具體步驟為: 步驟1，向所述索引服務(wù)器發(fā)送為塊設(shè)備創(chuàng)建快照的請求； 步驟2，所述索引服務(wù)器在存儲的元數(shù)據(jù)中找到該塊設(shè)備當(dāng)前的所述索引； 步驟3，為當(dāng)前的所述索引創(chuàng)建一個子所述索引，創(chuàng)建快照信息，并將當(dāng)前的所述索引信息保存到快照信息中； 步驟4，將塊設(shè)備的當(dāng)前的所述索引修改為新創(chuàng)建的子所述索引； 當(dāng)處理讀寫請求時，根據(jù)所述邏輯塊信息，優(yōu)先從塊設(shè)備當(dāng)前的所述索引上查詢對應(yīng)物理塊；若無法找到，則回溯到該所述索引的父所述索引上進(jìn)行查找，直至找到物理塊信息或者再無父所述索引可回溯。
5.根據(jù)權(quán)利要求1和權(quán)利要求2所述的方法及系統(tǒng)，其特征在于，當(dāng)對塊設(shè)備進(jìn)行克隆時，具體步驟為: 步驟1，向所述索引服務(wù)器發(fā)送對塊設(shè)備進(jìn)行克隆的請求； 步驟2，所述索引服務(wù)器在存儲的元數(shù)據(jù)中找到該源塊設(shè)備當(dāng)前的所述索引；步驟3，為當(dāng)前的所述索引創(chuàng)建兩個子所述索引，創(chuàng)建克隆卷信息，并將新創(chuàng)建的其中一個子所述索引分配給克隆卷，作為其當(dāng)前的所述索引； 步驟4，將源塊設(shè)備當(dāng)前的所述索引修改為步驟3中新創(chuàng)建的另一個子所述索引； 當(dāng)處理讀寫請求時，根據(jù)所述邏輯塊信息，優(yōu)先從塊設(shè)備當(dāng)前的所述索引上查詢對應(yīng)物理塊；若無法找到，則回溯到該索引的父所述索引上進(jìn)行查找，直至找到物理塊信息或者再無父所述索引可回溯。`
【文檔編號】G06F3/06GK103870202SQ201210526884
【公開日】2014年6月18日 申請日期:2012年12月10日 優(yōu)先權(quán)日:2012年12月10日
【發(fā)明者】莫顯峰, 蒙曉凈, 馬名, 莫燦 申請人:上海優(yōu)刻得信息科技有限公司