本實用新型涉及芯片技術(shù)，尤其涉及一種數(shù)據(jù)處理裝置和系統(tǒng)、服務(wù)器。

背景技術(shù)：

目前，深度學(xué)習(xí)是機器學(xué)習(xí)研究中的一個新的領(lǐng)域，是所有高科技研究和開發(fā)中最熱門的領(lǐng)域之一，其動機在于建立、模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，它模仿人腦的機制來解釋數(shù)據(jù)，例如圖像，聲音和文本。

深度學(xué)習(xí)的關(guān)鍵是DNN(Deep Neural Network，深度神經(jīng)網(wǎng)絡(luò))，由于DNN具有深層結(jié)構(gòu)、數(shù)千萬參數(shù)需要學(xué)習(xí)，因此DNN的預(yù)測和訓(xùn)練過程需要巨大的計算能力。由于采用SIMD(Single Instruction Multiple Data，單指令多數(shù)據(jù)流)架構(gòu)特性，GPU(Graphics Processing Unit，圖形處理器)具有強大的計算能力，在深度學(xué)習(xí)領(lǐng)域的應(yīng)用大大優(yōu)于傳統(tǒng)的CPU(Central Processing Unit，中央處理器)，目前作為通行的DNN計算平臺處于主導(dǎo)地位?，F(xiàn)有采用GPU實現(xiàn)的DNN計算平臺中，一張GPU上只搭載一顆GPU芯片，GPU插入到服務(wù)器主板的PCIE插槽中。

在實現(xiàn)本實用新型的過程中，發(fā)明人發(fā)現(xiàn)，現(xiàn)有技術(shù)采用GPU實現(xiàn)的DNN計算平臺至少存在以下問題：

由于GPU的出現(xiàn)旨在促進(jìn)通用科學(xué)計算任務(wù)，它不是專門為DNN設(shè)計開發(fā)的，因此其單GPU芯片架構(gòu)限制了其計算能力，無法滿足DNN對計算能力的需求；

如要擴充計算能力，就需要在同一臺服務(wù)器中插入多張GPU，然而，由于一臺服務(wù)器主板上的PCIE插槽數(shù)目有限，可支持的GPU數(shù)目也就受到限制，因此可支持的計算能力仍然受到限制。

技術(shù)實現(xiàn)要素：

本實用新型實施例所要解決的其中一個技術(shù)問題是，提供一種數(shù)據(jù)處理裝置和系統(tǒng)、服務(wù)器，以提供較強的數(shù)據(jù)處理能力，包括計算能力。

為解決上述技術(shù)問題，根據(jù)本實用新型實施例的一個方面，提供一種數(shù)據(jù)處理裝置，包括主控芯片和與所述主控芯片連接的節(jié)點矩陣，所述節(jié)點矩陣包括一個以上節(jié)點芯片；其中：

所述主控芯片設(shè)置有外部接口，將通過外部接口接收到的數(shù)據(jù)處理任務(wù)分發(fā)給節(jié)點矩陣，并接收節(jié)點矩陣返回的數(shù)據(jù)處理結(jié)果；

所述節(jié)點矩陣接收主控芯片發(fā)送的數(shù)據(jù)處理任務(wù)，通過一個以上節(jié)點芯片對所述數(shù)據(jù)處理任務(wù)進(jìn)行計算處理，并向主控芯片返回計算處理得到的數(shù)據(jù)處理結(jié)果。

在另一個實施例的數(shù)據(jù)處理裝置中，所述節(jié)點矩陣包括N列節(jié)點芯片組，每列節(jié)點芯片組分別包括一個以上節(jié)點芯片；

其中，第一列節(jié)點芯片組中的每個節(jié)點芯片分別與所述主控芯片連接，第n列節(jié)點芯片組中的每個節(jié)點芯片，分別與第n-1列節(jié)點芯片組中的對應(yīng)節(jié)點芯片連接，n∈【2，N】，N的取值為不小于1的整數(shù)。

在另一個實施例的數(shù)據(jù)處理裝置中，每列節(jié)點芯片組中的節(jié)點芯片依次連接。

在另一個實施例的數(shù)據(jù)處理裝置中，每列節(jié)點芯片組中分別位于首、尾節(jié)點芯片連接。

在另一個實施例的數(shù)據(jù)處理裝置中，具有連接關(guān)系的主控芯片與節(jié)點芯片之間、節(jié)點芯片之間具體采用SERDES通信通道進(jìn)行連接。

在另一個實施例的數(shù)據(jù)處理裝置中，所述主控芯片與節(jié)點芯片上分別設(shè)置有串行器/解串器SERDES接口；具有連接關(guān)系的主控芯片與節(jié)點芯片之間、節(jié)點芯片之間具體通過SERDES接口，采用SERDES通信通道進(jìn)行連接；

或者

所述主控芯片與節(jié)點芯片上分別設(shè)置有總線和接口標(biāo)準(zhǔn)PCIE接口；具有連接關(guān)系的主控芯片與節(jié)點芯片之間、節(jié)點芯片之間具體通過PCIE接口，采用PCIE通信通道進(jìn)行連接。

在另一個實施例的數(shù)據(jù)處理裝置中，所述外部接口包括總線和接口標(biāo)準(zhǔn)PCIE接口。

為解決上述技術(shù)問題，根據(jù)本實用新型實施例的另一個方面，提供一種數(shù)據(jù)處理系統(tǒng)，包括多個如本實用新型上述任一實施例所述的數(shù)據(jù)處理裝置；相鄰數(shù)據(jù)處理裝置中的主控芯片之間連接。

在另一個實施例的數(shù)據(jù)處理系統(tǒng)中，相鄰數(shù)據(jù)處理裝置中的主控芯片之間具體通過主控芯片上的串行器/解串器SERDES接口，采用SERDES通信通道進(jìn)行連接；或者

相鄰數(shù)據(jù)處理裝置中的主控芯片之間具體通過主控芯片上的PCIE接口，采用PCIE通信通道進(jìn)行連接。

為解決上述技術(shù)問題，根據(jù)本實用新型實施例的又一個方面，提供一種服務(wù)器，包括主板，所述主板上具有一個以上卡槽，還包括：

一個以上如上述任一實施例所述的數(shù)據(jù)處理裝置，所述數(shù)據(jù)處理裝置中的主控芯片以插接方式插入主板上的卡槽中時，主控芯片通過外部接口與主板進(jìn)行數(shù)據(jù)交互；或者

如本實用新型上述任一實施例所述的數(shù)據(jù)處理系統(tǒng)，所述數(shù)據(jù)系統(tǒng)中的多個主控芯片分別以插接方式插入主板上的不同卡槽中時，主控芯片分別通過外部接口與主板進(jìn)行數(shù)據(jù)交互。

在另一個實施例的服務(wù)器中，還包括分別與每個主控芯片連接的存儲單元。

基于本實用新型上述實施例提供的數(shù)據(jù)處理裝置和系統(tǒng)、服務(wù)器，每個數(shù)據(jù)處理裝置包括一個主控芯片和一個與主控芯片連接的節(jié)點矩陣，每個節(jié)點矩陣包括一個以上節(jié)點芯片；其中，主控芯片可以通過外部接口與外部設(shè)備連接，將數(shù)據(jù)處理任務(wù)分發(fā)給節(jié)點矩陣，以及向節(jié)點矩陣發(fā)送控制消息，由節(jié)點矩陣通過一個以上節(jié)點芯片對數(shù)據(jù)處理任務(wù)進(jìn)行相應(yīng)的處理，例如計算，并向主控芯片返回數(shù)據(jù)處理結(jié)果。由于每個數(shù)據(jù)處理裝置中，只需要主控芯片與外部設(shè)備連接，用于對數(shù)據(jù)處理任務(wù)進(jìn)行具體處理的節(jié)點芯片的數(shù)量可以根據(jù)數(shù)據(jù)處理任務(wù)的處理性能需求無限擴展，但是節(jié)點芯片只需與主控芯片進(jìn)行連接即可，無需與外部設(shè)備連接、因此無需占用外部設(shè)備的通信接口，例如卡槽，因此本實用新型實施例中數(shù)據(jù)處理裝置和系統(tǒng)、服務(wù)器的數(shù)據(jù)處理能力，例如計算能力，易于擴展，從而根據(jù)任務(wù)需要提供足夠的數(shù)據(jù)處理能力，且避免了擴展數(shù)據(jù)處理能力需增加外部設(shè)備的通信接口所產(chǎn)生的成本。

本實用新型實施例的數(shù)據(jù)處理能力(例如計算能力)易于擴展，可適用于對DNN或其他任意網(wǎng)絡(luò)中數(shù)據(jù)處理任務(wù)的處理。

上述說明僅是本實用新型技術(shù)方案的概述，為了能夠更清楚了解本實用新型的技術(shù)手段，而可依照說明書的內(nèi)容予以實施，并且為了讓本實用新型實施例的上述和其它目的、特征和優(yōu)點能夠更明顯易懂，以下特舉本實用新型的具體實施方式對本實用新型的技術(shù)方案做進(jìn)一步的詳細(xì)描述。

附圖說明

通過閱讀下文優(yōu)選實施方式的詳細(xì)描述，各種其他的優(yōu)點和益處對于本領(lǐng)域普通技術(shù)人員將變得清楚明了。附圖僅用于示出優(yōu)選實施方式的目的，而并不認(rèn)為是對本實用新型的限制。而且在整個附圖中，用相同的參考符號表示相同的部件。在附圖中：

圖1為本實用新型數(shù)據(jù)處理裝置一個實施例的結(jié)構(gòu)示意圖。

圖2為現(xiàn)有DNN計算平臺采用的單機多GPU的一個數(shù)據(jù)并行框架示意圖。

圖3為本實用新型數(shù)據(jù)處理裝置另一實施例的示意圖。

圖4為本實用新型數(shù)據(jù)處理裝置又一實施例的示意圖。

圖5為本實用新型數(shù)據(jù)處理裝置再一實施例的示意圖。

圖6為本實用新型數(shù)據(jù)處理系統(tǒng)一個實施例的示意圖。

圖7為本實用新型服務(wù)器一個實施例的示意圖。

具體實施方式

現(xiàn)在將參照附圖來詳細(xì)描述本實用新型的各種示例性實施例。應(yīng)注意到：除非另外具體說明，否則在這些實施例中闡述的部件的相對布置、數(shù)字表達(dá)式和數(shù)值不限制本實用新型的范圍。

同時，應(yīng)當(dāng)明白，為了便于描述，附圖中所示出的各個部分的尺寸并不是按照實際的比例關(guān)系繪制的。

以下對至少一個示例性實施例的描述實際上僅僅是說明性的，決不作為對本實用新型及其應(yīng)用或使用的任何限制。

對于相關(guān)領(lǐng)域普通技術(shù)人員已知的技術(shù)和設(shè)備可能不作詳細(xì)討論，但在適當(dāng)情況下，所述技術(shù)和設(shè)備應(yīng)當(dāng)被視為說明書的一部分。

應(yīng)注意到：相似的標(biāo)號和字母在下面的附圖中表示類似項，因此，一旦某一項在一個附圖中被定義，則在隨后的附圖中不需要對其進(jìn)行進(jìn)一步討論。

圖1為本實用新型數(shù)據(jù)處理裝置一個實施例的結(jié)構(gòu)示意圖。如圖1所示，該實施例的數(shù)據(jù)處理裝置包括主控芯片(Master Chip)1和與主控芯片1連接的節(jié)點矩陣(Node Matrix)2，節(jié)點矩陣包括一個以上節(jié)點芯片(Node Chip)。其中：

主控芯片1，設(shè)置有外部接口，主控芯片1可以通過該外部接口接入外部設(shè)備，例如服務(wù)器中的主板上；主控芯片1用于將通過外部接口接收到的數(shù)據(jù)處理任務(wù)(例如，計算任務(wù))分發(fā)給節(jié)點矩陣2，并接收節(jié)點矩陣2返回的數(shù)據(jù)處理結(jié)果。

示例性地，該外部接口可以是一個PCIE(總線和接口標(biāo)準(zhǔn))接口，以接入外部設(shè)備的PCIE插槽中。另外，外部接口也可以是其他接口，只要與接入的外部設(shè)備的接口類型匹配即可。另外，主控芯片1具體可以基于FPGA(現(xiàn)場可編程門陣列)方式實現(xiàn)，這樣可以根據(jù)用戶需求靈活定制。

節(jié)點矩陣2，用于接收主控芯片1發(fā)送的數(shù)據(jù)處理任務(wù)，通過一個以上節(jié)點芯片對數(shù)據(jù)處理任務(wù)進(jìn)行計算處理，并在計算獲得數(shù)據(jù)處理結(jié)果后向主控芯片1返回獲得的數(shù)據(jù)處理結(jié)果。實際應(yīng)用中，節(jié)點芯片可以通過多種硬件方式實現(xiàn)，例如具體可以通過一個計算單元(例如，計算器)實現(xiàn)。

這里，將數(shù)據(jù)處理功能劃分為主控芯片1和節(jié)點矩陣2兩個獨立的單元來執(zhí)行，主控芯片1負(fù)責(zé)與外部設(shè)備(例如服務(wù)器中主板)的通信以及數(shù)據(jù)處理任務(wù)的分發(fā)，而節(jié)點矩陣2專注于對數(shù)據(jù)處理任務(wù)的具體處理。

基于本實用新型上述實施例提供的數(shù)據(jù)處理裝置，每個數(shù)據(jù)處理裝置包括一個主控芯片和一個與主控芯片連接的節(jié)點矩陣，每個節(jié)點矩陣包括一個以上節(jié)點芯片；其中，主控芯片可以通過外部接口與外部設(shè)備連接，將數(shù)據(jù)處理任務(wù)分發(fā)給節(jié)點矩陣，以及向節(jié)點矩陣發(fā)送控制消息，由節(jié)點矩陣通過一個以上節(jié)點芯片對數(shù)據(jù)處理任務(wù)進(jìn)行相應(yīng)的處理，例如計算，并向主控芯片返回數(shù)據(jù)處理結(jié)果。由于每個數(shù)據(jù)處理裝置中，只需要主控芯片與外部設(shè)備連接，用于對數(shù)據(jù)處理任務(wù)進(jìn)行具體處理的節(jié)點芯片的數(shù)量可以根據(jù)數(shù)據(jù)處理任務(wù)的處理性能需求無限擴展，但是節(jié)點芯片只需與主控芯片進(jìn)行連接即可，無需與外部設(shè)備連接、因此無需占用外部設(shè)備的通信接口，例如卡槽，因此本實用新型實施例中數(shù)據(jù)處理裝置和系統(tǒng)、服務(wù)器的數(shù)據(jù)處理能力，例如計算能力，可以根據(jù)需求任意擴展，從而根據(jù)任務(wù)需要提供足夠的數(shù)據(jù)處理能力，不會受到主板卡槽數(shù)量的限制，且避免了擴展數(shù)據(jù)處理能力需增加外部設(shè)備的通信接口所產(chǎn)生的成本。

本實用新型實施例的數(shù)據(jù)處理能力(例如計算能力)易于擴展，可適用于對DNN或其他任意網(wǎng)絡(luò)中數(shù)據(jù)處理任務(wù)的處理。

例如針對DNN，由于DNN是一層一層的，比如說有十層，下一層數(shù)據(jù)處理任務(wù)需要等到當(dāng)前一層數(shù)據(jù)處理任務(wù)計算處理完之后才能開始處理，層間數(shù)據(jù)處理任務(wù)存在依賴關(guān)系，但同一層的數(shù)據(jù)處理任務(wù)可以并行處理，因此，本實用新型實施例中，同一列節(jié)點芯片組21中的節(jié)點芯片可以同時去計算處理DNN同一層的數(shù)據(jù)處理任務(wù)，例如這一層的數(shù)據(jù)處理任務(wù)包括十億次運算操作，同一列節(jié)點芯片組21中包括四個節(jié)點芯片，可以將這一層的十億次操作分為四部分讓該列節(jié)點芯片組21中的四個節(jié)點分別去運算(即：計算)，只需占用服務(wù)器中的一個卡槽便可提供相對于現(xiàn)有的單個GPU成倍增強的數(shù)據(jù)處理能力。

圖2為現(xiàn)有DNN計算平臺采用的單機多GPU的一個數(shù)據(jù)并行框架示意圖。在現(xiàn)有的DNN計算平臺中，一張GPU上只搭載一顆GPU芯片，GPU再插入到服務(wù)器主板的PCIE卡槽中。在圖2所示的數(shù)據(jù)并行框架中，可能存在以下兩種數(shù)據(jù)通信情況：

情況1：在同一臺服務(wù)器上的不同GPU卡之間通信，例如，從一個服務(wù)器上的GPU A向GPU B發(fā)送數(shù)據(jù)包。GPU之間通過PCIE連接，因此GPU之間的數(shù)據(jù)包需要通過該服務(wù)器主板上的PCIE交換芯片來完成傳輸，該情況1中，數(shù)據(jù)包的傳輸順序是:

GPU A→PCIE Hub(集線器)→GPU B。

情況2：在不同服務(wù)器上的GPU之間通信，例如，從一個服務(wù)器上的GPU A向另一服務(wù)器上的GPU C發(fā)送數(shù)據(jù)包。由于兩個GPU之間的數(shù)據(jù)包需要通過交換網(wǎng)絡(luò)才能到達(dá)目的地，該情況2中，數(shù)據(jù)包的傳輸順序是:

一個服務(wù)器上GPU A→PCIE Hub→網(wǎng)卡→網(wǎng)絡(luò)交換機→另一服務(wù)器上網(wǎng)卡→PCIE Hub→GPU C。

由此，若需要同一個服務(wù)器上的多個GPU協(xié)作處理同一個DNN的數(shù)據(jù)處理任務(wù)，由于不同GPU之間的通信需要通過主板進(jìn)行，GPU之間的數(shù)據(jù)傳輸時延較大；如果同一個服務(wù)器上的所有GPU仍不足以支持同一個DNN的數(shù)據(jù)處理任務(wù)，則還需要多個服務(wù)器上的GPU之間進(jìn)行通信，則除了需要通過多個服務(wù)器上的主板轉(zhuǎn)發(fā)外，還需要經(jīng)過網(wǎng)卡、網(wǎng)絡(luò)和網(wǎng)絡(luò)交換機進(jìn)行，不同服務(wù)器上GPU之間的數(shù)據(jù)傳輸時延更大。因此現(xiàn)有采用單機多GPU的DNN計算平臺對DNN的數(shù)據(jù)處理任務(wù)的處理效率低下。

而本實用新型實施例的數(shù)據(jù)處理裝置中，節(jié)點矩陣易于擴展，可以包括多個節(jié)點芯片，從而單個數(shù)據(jù)處理裝置即具有強大的數(shù)據(jù)處理能力，由于數(shù)據(jù)處理裝置中主控芯片與節(jié)點芯片、以及節(jié)點芯片之間直接通信，無需通過服務(wù)器的主板、以及網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)轉(zhuǎn)發(fā)，因此相對于現(xiàn)有技術(shù)具有較小的傳輸時延。

在圖1所示實施例的數(shù)據(jù)處理裝置中，節(jié)點矩陣2具體可以包括N列節(jié)點芯片組，每列節(jié)點芯片組分別包括一個以上節(jié)點芯片。其中，第一列節(jié)點芯片組中的每個節(jié)點芯片分別與主控芯片1連接，第n列節(jié)點芯片組中的每個節(jié)點芯片，分別與第n-1列節(jié)點芯片組中的對應(yīng)節(jié)點芯片連接，n∈【2，N】，N的取值為不小于1的整數(shù)。

圖3為本實用新型數(shù)據(jù)處理裝置另一實施例的示意圖。圖3示出了節(jié)點矩陣2包括1列節(jié)點芯片組21、4個節(jié)點芯片的一個具體示例。該節(jié)點芯片組21中的每個節(jié)點芯片均與主控芯片1連接，負(fù)責(zé)處理相應(yīng)的數(shù)據(jù)處理任務(wù)。作為示例，在圖3僅示出了節(jié)點矩陣2包括四個節(jié)點芯片的一個示例，本領(lǐng)域技術(shù)人員基于本實用新型實施例的記載，可以了解，該列節(jié)點芯片組21中可根據(jù)需要設(shè)置所需數(shù)量的節(jié)點芯片。

圖4為本實用新型數(shù)據(jù)處理裝置又一實施例的示意圖。如圖4所示，為了滿足數(shù)據(jù)處理任務(wù)的需要，在該1列節(jié)點芯片組21中，各節(jié)點芯片依次連接。由于同一列節(jié)點芯片組中的各節(jié)點芯片可通過垂直方向的互聯(lián)鏈路直接進(jìn)行通信，而無需通過主控節(jié)點轉(zhuǎn)發(fā)，傳輸時延較低，提高了數(shù)據(jù)處理任務(wù)的處理效率。

此外，還可根據(jù)數(shù)據(jù)處理任務(wù)的特定要求，例如根據(jù)DNN的計算要求，同一列節(jié)點芯片組21中，分別位于首、尾節(jié)點芯片(即：一列節(jié)點芯片組兩端的節(jié)點芯片)連接，使得同一列節(jié)點芯片組21構(gòu)成一個回環(huán)結(jié)構(gòu)，從而實現(xiàn)了同一列節(jié)點芯片組21中節(jié)點芯片之間的直接數(shù)據(jù)傳輸。

在圖3、圖4所示的實施例中，僅示例性示出了節(jié)點矩陣2包括1列節(jié)點芯片組21的示例，另外，為了進(jìn)一步提高大規(guī)?；虺笠?guī)模的網(wǎng)絡(luò)數(shù)據(jù)處理效率，可以設(shè)置多列節(jié)點芯片組21，也就是說，節(jié)點矩陣2可根據(jù)需要在水平方向上進(jìn)行擴展。如圖5所示，為本實用新型數(shù)據(jù)處理裝置再一實施例的示意圖，該實施例示例性地示出了節(jié)點矩陣包括3列節(jié)點芯片組21的一個具體示例，本領(lǐng)域技術(shù)人員基于本實用新型實施例的記載，可以了解，節(jié)點矩陣2包括任意多列節(jié)點芯片組21的實現(xiàn)及各種實施例中的連接關(guān)系。

同樣，在節(jié)點矩陣2包括多列節(jié)點芯片組21的實施例中，同一列列節(jié)點芯片組21中的各節(jié)點芯片依次連接，分別位于首、尾節(jié)點芯片也可以進(jìn)一步連接，使得同一列節(jié)點芯片組21構(gòu)成一個回環(huán)結(jié)構(gòu)。

節(jié)點矩陣2包括1列節(jié)點芯片組21，也稱為一維擴展；節(jié)點矩陣2包括多列節(jié)點芯片組21，也稱二維擴展。同一列節(jié)點芯片組21中的節(jié)點芯片分工、并行去計算處理DNN同一層的數(shù)據(jù)處理任務(wù)，例如將DNN一個層的一億詞運算量的數(shù)據(jù)處理任務(wù)分成四份，分配給第一列節(jié)點芯片組21中的四個節(jié)點芯片進(jìn)行運算，一個DNN可能是有很多層的，層間是有依賴關(guān)系的，二維擴展便可以實現(xiàn)DNN不同層數(shù)據(jù)處理任務(wù)的計算處理，就是說第一列節(jié)點芯片組21中的四個節(jié)點芯片并行地運算第一層的數(shù)據(jù)處理任務(wù)，并將數(shù)據(jù)處理結(jié)果傳輸給第二列節(jié)點芯片組21，第二列節(jié)點芯片組2中的四個節(jié)點芯片并行地運算第二層的數(shù)據(jù)處理任務(wù)，以此類推，從而實現(xiàn)了數(shù)據(jù)處理任務(wù)的層間流水。

基于本實用新型上述實施例提供的數(shù)據(jù)處理裝置，每一列節(jié)點芯片組21中包括多個節(jié)點芯片，可以在接收到數(shù)據(jù)處理任務(wù)后同時并行地處理該數(shù)據(jù)處理任務(wù)，由于每一列節(jié)點芯片組21構(gòu)成一個回環(huán)結(jié)構(gòu)，每一列節(jié)點芯片組21的節(jié)點芯片形成一條環(huán)形鏈路，因此它們之間可以相互通信，并且通信的時間可以跟它們處理數(shù)據(jù)處理任務(wù)的時間重疊，例如針對DNN，由于DNN是一層一層的，比如說有十層，它的同一層的數(shù)據(jù)處理任務(wù)可以并行處理，本實用新型實施例同一列節(jié)點芯片組21構(gòu)成的一個回環(huán)結(jié)構(gòu)，同一列節(jié)點芯片組21中的節(jié)點芯片可以同時去處理DNN同一層的數(shù)據(jù)處理任務(wù)，例如這一層的數(shù)據(jù)處理任務(wù)包括十億次運算操作，可以將這一層的十億次操作分為四部分讓該列節(jié)點芯片組21中的四個節(jié)點分別去運算，在它們運算的過程中可能存在一些數(shù)據(jù)交換就通過該環(huán)形鏈路傳輸，也就是說，同一列節(jié)點芯片組21中的四個節(jié)點可以一邊運算，一邊將交互數(shù)據(jù)通過該環(huán)形鏈路傳輸，為下一輪的運算做好準(zhǔn)備，這樣就不會浪費時間，提高了數(shù)據(jù)處理效率；另外，避免了同一列節(jié)點芯片21中節(jié)點芯片之間需要交互數(shù)據(jù)時，交互數(shù)據(jù)需要通過主控節(jié)點1轉(zhuǎn)發(fā)占用帶寬。

在本實用新型上述任一實施例的數(shù)據(jù)處理裝置中，主控芯片1與節(jié)點芯片上可以分別設(shè)置PCIE接口，具有連接關(guān)系的主控芯片1與節(jié)點芯片之間，以及具有連接關(guān)系的節(jié)點芯片之間，具體可以通過芯片上的PCIE接口，采用PCOE通信通道進(jìn)行連接。

或者，在本實用新型上述任一實施例的數(shù)據(jù)處理裝置中，主控芯片1與節(jié)點芯片上也可以分別設(shè)置SERDES(串行器/解串器)接口，具有連接關(guān)系的主控芯片1與節(jié)點芯片之間，以及具有連接關(guān)系的節(jié)點芯片之間，具體可以通過芯片上的SERDES接口，采用SERDES通信通道進(jìn)行連接。

SERDES是一種主流的TDM(時分多路復(fù)用)、P2P(點對點)的串行通信技術(shù)，即：在發(fā)送端多路低速并行信號被轉(zhuǎn)換成高速串行信號，經(jīng)過傳輸媒體(光纜或銅線)，最后在接收端高速串行信號重新轉(zhuǎn)換成低速并行信號。這種點對點的串行通信技術(shù)充分利用傳輸媒體的信道容量，減少了所需的傳輸信道和器件引腳數(shù)目，突破了傳統(tǒng)并行I/O接口的數(shù)據(jù)傳輸瓶頸，大大降低通信成本：一是采用差分信號傳輸代替單端信號傳輸，從而增強了抗噪聲、抗干擾能力；二是采用時鐘和數(shù)據(jù)恢復(fù)技術(shù)代替同時傳輸數(shù)據(jù)和時鐘，從而解決了限制數(shù)據(jù)傳輸速率的信號時鐘偏移問題。因此，本實用新型實施例中，在芯片之間采用SERDES通信通道，有效減少了數(shù)據(jù)傳輸延遲。

另外，具有連接關(guān)系的芯片之間也可采用其它高速率低延遲的通信通道進(jìn)行連接。

另外，在本實用新型任一實施例的數(shù)據(jù)處理裝置中，針對DNN或類似數(shù)據(jù)流向具有特殊性的網(wǎng)絡(luò)，具有連接關(guān)系的各芯片之間的通信通道可以是非對稱的，也就是發(fā)送方向(Tx)和接收方向(Rx)的傳輸帶寬不同，數(shù)據(jù)可主要沿著一個方向流動，而在另一方向上主要傳遞一些控制信息或者命令。例如，針對DNN的數(shù)據(jù)處理任務(wù)，可以設(shè)置SERDES通信通道在數(shù)據(jù)處理任務(wù)發(fā)送方向Tx的傳輸帶寬大于接收方向Rx的傳輸帶寬。

在本實用新型上述任一實施例的數(shù)據(jù)處理裝置中，每個節(jié)點芯片具體可以包括多個計算單元，例如上千個計算單元。本實用新型實施例的數(shù)據(jù)處理裝置可用于對包括但不限于DNN的數(shù)據(jù)處理任務(wù)進(jìn)行處理。在以下的特定實施例中，以對DNN的數(shù)據(jù)處理任務(wù)進(jìn)行處理為例對本實用新型實施例的數(shù)據(jù)處理裝置進(jìn)行進(jìn)一步詳細(xì)說明，但是，本領(lǐng)域技術(shù)人員基于本實用新型實施例的記載，可以知悉本實用新型實施例的數(shù)據(jù)處理裝置基于類似的方式對其他網(wǎng)絡(luò)中數(shù)據(jù)處理任務(wù)進(jìn)行處理的具體實現(xiàn)。

采用實用新型實施例的數(shù)據(jù)處理裝置對DNN的數(shù)據(jù)處理任務(wù)進(jìn)行計算處理時，可以示例性而非限制性地采用以下策略：

通過一個節(jié)點芯片計算處理DNN中全部層的數(shù)據(jù)處理任務(wù)；或者，通過一個節(jié)點芯片運算DNN中多個層的數(shù)據(jù)處理任務(wù)，通過多個節(jié)點完成DNN中全部層的數(shù)據(jù)處理任務(wù)的運算處理。其中，前一種情況適用于單節(jié)點芯片模式，可適用于特別小型的DNN，一個節(jié)點芯片就足以高效完成一個DNN中所有的數(shù)據(jù)處理任務(wù)，這種情況下，DNN的數(shù)據(jù)處理任務(wù)數(shù)據(jù)由服務(wù)器下發(fā)給主控芯片，主控芯片再下發(fā)給節(jié)點芯片，節(jié)點芯片對DNN中全部層的數(shù)據(jù)處理任務(wù)進(jìn)行運算處理，運算完畢之后再沿與任務(wù)數(shù)據(jù)相反的方向?qū)⑻幚斫Y(jié)果數(shù)據(jù)回傳給服務(wù)器。后一種情況下，適用于多節(jié)點芯片模式，可適用于小型的DNN，少數(shù)幾個節(jié)點芯片就可以高效完成一個DNN中所有的數(shù)據(jù)處理任務(wù)，這種情況下，DNN的數(shù)據(jù)處理任務(wù)數(shù)據(jù)由服務(wù)器下發(fā)給主控芯片，主控芯片再下發(fā)給其中一個節(jié)點芯片，對DNN中多個層的數(shù)據(jù)處理任務(wù)進(jìn)行運算處理，并將運算得到的臨時結(jié)果數(shù)據(jù)通過節(jié)點芯片間的互聯(lián)鏈路傳輸給下一個節(jié)點芯片，此時該節(jié)點芯片便可處理下一個DNN中多個層的數(shù)據(jù)處理任務(wù)，下一個節(jié)點芯片開始對后續(xù)多個層的數(shù)據(jù)處理任務(wù)進(jìn)行運算處理，依次類推，完成DNN的所有數(shù)據(jù)處理任務(wù)的運算處理后，沿與任務(wù)數(shù)據(jù)相反的方向?qū)⑻幚斫Y(jié)果數(shù)據(jù)回傳給服務(wù)器。

通過組成一維矩陣計算處理DNN的全部數(shù)據(jù)處理任務(wù)。具體地，通過組成一維矩陣的多個節(jié)點芯片，先處理DNN一個層的數(shù)據(jù)處理任務(wù)，本層的數(shù)據(jù)處理任務(wù)運算處理完成后再一起開始運算處理下一層的數(shù)據(jù)處理任務(wù)。該情況適用于節(jié)點矩陣為一維矩陣模式。DNN的數(shù)據(jù)處理任務(wù)數(shù)據(jù)由服務(wù)器下發(fā)給主控芯片，再由主控芯片同時下發(fā)到一維矩陣的所有節(jié)點芯片，一層的數(shù)據(jù)處理任務(wù)運算處理結(jié)束之后，得到的臨時結(jié)果數(shù)據(jù)暫存在節(jié)點芯片中，當(dāng)所有層的數(shù)據(jù)處理任務(wù)均運算處理結(jié)束后，將最終的處理結(jié)果數(shù)據(jù)回傳給主控芯片，再由主控芯片回傳給服務(wù)器。在對一層數(shù)據(jù)處理任務(wù)進(jìn)行運算處理時，節(jié)點芯片之間通過節(jié)點芯片間的互聯(lián)通路進(jìn)行數(shù)據(jù)互通，協(xié)同完成任務(wù)。例如，假設(shè)一個節(jié)點芯片中有兩千個計算單元，一維節(jié)點矩陣共有四個節(jié)點芯片共八千個計算單元，八千個計算單元一起處理DNN一個層的數(shù)據(jù)處理任務(wù)，DNN一層數(shù)據(jù)處理任務(wù)具體為八億次運算，則可以讓這八千個計算單元分擔(dān)預(yù)算八千萬次的運算量，經(jīng)過十次這樣的循環(huán)運算后，便可完成這一層的數(shù)據(jù)處理任務(wù)，然后在一起進(jìn)行下一層的數(shù)據(jù)處理任務(wù)的處理。

通過二維矩陣計算處理DNN的全部數(shù)據(jù)處理任務(wù)，該情況適用于節(jié)點矩陣為二維矩陣模式。具體地，DNN的數(shù)據(jù)處理任務(wù)數(shù)據(jù)由服務(wù)器下發(fā)給主控芯片，再由主控芯片同時下發(fā)到二維矩陣的第一列節(jié)點芯片組21中的多個節(jié)點芯片，二維矩陣中每列節(jié)點芯片組21的一個節(jié)點芯片處理DNN一層數(shù)據(jù)處理任務(wù)的一部分，每列節(jié)點芯片組21中的多個節(jié)點芯片并行處理，共同完成DNN一個層的數(shù)據(jù)處理任務(wù)，本層的數(shù)據(jù)處理任務(wù)運算處理完成后，將運算得到的臨時結(jié)果數(shù)據(jù)通過節(jié)點芯片間的橫向互聯(lián)鏈路傳輸給下一列節(jié)點芯片組21，此時該節(jié)點芯片組便可處理下一個DNN中一個層的數(shù)據(jù)處理任務(wù)，下一列節(jié)點芯片組21采用類似方式對下一層的數(shù)據(jù)處理任務(wù)進(jìn)行運算處理，依次類推，完成DNN的所有數(shù)據(jù)處理任務(wù)的運算處理后，沿與任務(wù)數(shù)據(jù)相反的方向?qū)⑻幚斫Y(jié)果數(shù)據(jù)回傳給服務(wù)器。

在單個節(jié)點芯片中，可以根據(jù)其內(nèi)部計算單元的不同配置，通過以下方式來處理數(shù)據(jù)處理任務(wù)：

節(jié)點芯片中的計算單元未分組，都被配置為在同一時刻進(jìn)行完全相同的運算，例如，假設(shè)一個節(jié)點芯片中有兩千個計算單元，DNN一個層的數(shù)據(jù)處理任務(wù)具體為八億次相同的運算，該節(jié)點芯片處理該一個層的數(shù)據(jù)處理任務(wù)時，兩千個計算單元同時對該八億次運算進(jìn)行分擔(dān)處理；

每個節(jié)點芯片中的所有計算單元被配置為幾個計算單元組，同一個計算單元組內(nèi)的計算單元在同一時刻進(jìn)行完全相同的運算，不同計算單元組間可以執(zhí)行不同的運算操作。例如，一個節(jié)點芯片包括兩千個計算單元，則可以配置前一千個計算單元運算處理DNN第一層的數(shù)據(jù)處理任務(wù)，另外一千個計算單元運算處理第二層的數(shù)據(jù)處理任務(wù)，從而可以在節(jié)點芯片內(nèi)部實現(xiàn)一個層間的流水作業(yè)。

示例性地，在本實用新型實施例中，節(jié)點芯片啟動時，會從板載的ROM里將固件加載到節(jié)點芯片的微控制器(MCU)中，通過節(jié)點芯片中的固件(firmware)來選擇具體采用何種方式處理數(shù)據(jù)處理任務(wù)。

根據(jù)上述策略，在基于本實用新型上述實施例的一個具體示例中，每個節(jié)點芯片中的多個計算單元被分為不同的計算單元組。該具體示例中，節(jié)點矩陣2具體通過一個節(jié)點芯片對數(shù)據(jù)處理任務(wù)進(jìn)行相應(yīng)的處理。相應(yīng)地，接收到數(shù)據(jù)處理任務(wù)的節(jié)點芯片對數(shù)據(jù)處理任務(wù)進(jìn)行相應(yīng)的處理時，具體用于：根據(jù)預(yù)先配置的執(zhí)行策略，分別通過該接收到數(shù)據(jù)處理任務(wù)的節(jié)點芯片中不同的計算單元組，依次對DNN中各個層或連續(xù)多個層的數(shù)據(jù)處理任務(wù)進(jìn)行處理。

該具體示例可用于對特別小型DNN網(wǎng)絡(luò)中數(shù)據(jù)處理任務(wù)的處理。

作為本實用新型各實施例的一個具體示例而非限制，其中的執(zhí)行策略可以預(yù)先配置在主控芯片1中，由主控芯片1根據(jù)本次待處理DNN網(wǎng)絡(luò)中數(shù)據(jù)處理任務(wù)的大小與單個節(jié)點芯片可支持的數(shù)據(jù)處理能力之間的關(guān)系，確定執(zhí)行本次DNN網(wǎng)絡(luò)中數(shù)據(jù)處理任務(wù)的節(jié)點芯片的數(shù)量及具體的節(jié)點芯片，從而向第一列節(jié)點芯片組21中的節(jié)點信息發(fā)送數(shù)據(jù)處理任務(wù)與控制消息。其中的執(zhí)行策略可以根據(jù)需求隨時修改。

此外，在基于本實用新型上述實施例的另一個具體示例中，節(jié)點矩陣2具體可以通過同一列節(jié)點芯片組21或不同列節(jié)點芯片組21中的多個節(jié)點芯片對一次DNN的數(shù)據(jù)處理任務(wù)進(jìn)行相應(yīng)的處理，每個節(jié)點芯片處理DNN一個層的數(shù)據(jù)處理任務(wù)。

具體地，上述多個節(jié)點芯片中的各節(jié)點芯片，可以分別用于依次對DNN中各個層或連續(xù)多個層的數(shù)據(jù)處理任務(wù)進(jìn)行處理。或者，多個節(jié)點芯片中的每個節(jié)點芯片，用于對DNN一個層的數(shù)據(jù)處理任務(wù)進(jìn)行處理，并在得到處理結(jié)果數(shù)據(jù)后發(fā)送給縱向連接的、所在節(jié)點芯片組21中的下一個節(jié)點芯片，或者橫向連接的、下一列節(jié)點芯片組21中的下一個節(jié)點芯片，以便該下一個節(jié)點芯片對DNN下一個層的數(shù)據(jù)處理任務(wù)進(jìn)行處理。

另外，在基于本實用新型上述實施例的又一個具體示例中，節(jié)點矩陣2具體還可以通過由多列節(jié)點芯片組構(gòu)成的二維節(jié)點矩陣對所述DNN中所有層的數(shù)據(jù)處理任務(wù)進(jìn)行相應(yīng)的處理。

具體地，每一列節(jié)點芯片組中的所有節(jié)點芯片，用于對DNN一個層的數(shù)據(jù)處理任務(wù)進(jìn)行并行處理，將處理數(shù)據(jù)處理任務(wù)獲得的數(shù)據(jù)處理結(jié)果發(fā)送給該列節(jié)點芯片組中各節(jié)點芯片對應(yīng)橫向連接的、下一列節(jié)點芯片組的節(jié)點芯片，以便下一列節(jié)點芯片組中的所有節(jié)點芯片對DNN下一層的數(shù)據(jù)處理任務(wù)進(jìn)行并行處理。

由于數(shù)據(jù)處理裝置連接的存儲單元帶寬和I/O(輸入/輸出)帶寬主要受限于主控芯片1的能力，如果一個主控芯片1可提供的帶寬不足，本實用新型實施例中，還可以通過主控芯片1互聯(lián)的設(shè)計來提供額外的帶寬支援。如圖6所示，為本實用新型數(shù)據(jù)處理系統(tǒng)一個實施例的示意圖。該實施例的數(shù)據(jù)處理系統(tǒng)中，包括多個數(shù)據(jù)處理裝置，相鄰數(shù)據(jù)處理裝置中的主控芯片1之間連接，以通過一個以上數(shù)據(jù)處理裝置實現(xiàn)對同一個數(shù)據(jù)處理任務(wù)的處理。圖6僅示例性地示出了數(shù)據(jù)處理系統(tǒng)包括兩個數(shù)據(jù)處理裝置的一個具體示例。其中的數(shù)據(jù)處理裝置具體可以基于本實用新型上述任一實施例數(shù)據(jù)處理裝置實現(xiàn)。

基于本實用新型上述實施例提供的數(shù)據(jù)處理系統(tǒng)，包括多個本實用新型上述實施例的數(shù)據(jù)處理裝置，數(shù)據(jù)處理能力強大且易于擴展，不會受到主板卡槽數(shù)量的限制，且避免了擴展數(shù)據(jù)處理能力需增加外部設(shè)備的通信接口所產(chǎn)生的成本。

另外，基于本實用新型實施例的數(shù)據(jù)處理系統(tǒng)，通過多個數(shù)據(jù)處理裝置進(jìn)一步擴展了數(shù)據(jù)處理能力，若兩個數(shù)據(jù)處理裝置之間通過插入的主板進(jìn)行通信，延時較大，而相鄰數(shù)據(jù)處理裝置中的主控芯片1之間連接，避免了兩個數(shù)據(jù)處理裝置之間通過插入的主板進(jìn)行通信，降低了通信時延，提高了數(shù)據(jù)處理效率。

在上述數(shù)據(jù)處理系統(tǒng)實施例的一個具體示例中，主控芯片1上設(shè)置有SERDES接口，相鄰數(shù)據(jù)處理裝置中的主控芯片1之間具體可以通過主控芯片1上的SERDES接口，采用SERDES通信通道進(jìn)行連接。

與上述數(shù)據(jù)處理裝置實施例類似地，主控芯片1之間的SERDES通信通道也可以是非對稱的，在數(shù)據(jù)處理任務(wù)發(fā)送方向Tx的傳輸帶寬大于接收方向Rx的傳輸帶寬。

或者，在上述數(shù)據(jù)處理系統(tǒng)實施例的另一個具體示例中，主控芯片1上設(shè)置有PCIE接口，相鄰數(shù)據(jù)處理裝置中的主控芯片1之間具體可以通過主控芯片1上的PCIE接口，采用PCIE通信通道進(jìn)行連接。

本實用新型一個實施例提供的服務(wù)器中，包括主板，主板上具有一個以上卡槽。另外，服務(wù)器中還包括一個以上數(shù)據(jù)處理裝置，數(shù)據(jù)處理裝置中的主控芯片1以插接方式插入主板上的卡槽中時，主控芯片1可以通過外部接口與主板進(jìn)行數(shù)據(jù)交互。其中的數(shù)據(jù)處理裝置具體可以基于本實用新型上述任一實施例數(shù)據(jù)處理裝置的結(jié)構(gòu)實現(xiàn)。

基于本實用新型上述實施例提供的服務(wù)器，包括多個本實用新型上述實施例的數(shù)據(jù)處理裝置，數(shù)據(jù)處理能力強大且易于擴展，不會受到主板卡槽數(shù)量的限制，且避免了擴展數(shù)據(jù)處理能力需增加外部設(shè)備的通信接口所產(chǎn)生的成本。

本實用新型另一個實施例提供的服務(wù)器中，包括主板，主板上具有一個以上卡槽。另外，服務(wù)器中還包括數(shù)據(jù)處理系統(tǒng)，數(shù)據(jù)系統(tǒng)中的多個主控芯片1分別以插接方式插入主板上的不同卡槽中時，主控芯片1可以分別通過外部接口與主板進(jìn)行數(shù)據(jù)交互。其中的數(shù)據(jù)處理系統(tǒng)具體可以基于本實用新型上述任一實施例數(shù)據(jù)處理系統(tǒng)的結(jié)構(gòu)實現(xiàn)。

基于本實用新型上述實施例提供的服務(wù)器，包括多個本實用新型上述實施例的數(shù)據(jù)處理系統(tǒng)，數(shù)據(jù)處理能力強大且易于擴展，不會受到主板卡槽數(shù)量的限制，且避免了擴展數(shù)據(jù)處理能力需增加外部設(shè)備的通信接口所產(chǎn)生的成本；并且，通信時延低，具有較高的數(shù)據(jù)處理效率。

如圖7所示，為本實用新型服務(wù)器一個實施例的示意圖，圖7所示的實施例中，僅示例性地示出了服務(wù)器包括兩個數(shù)據(jù)處理裝置的一個具體示例。

在本實用新型上述任一實施例服務(wù)器的一個具體示例中，主控芯片1外部接口為PCIE接口，主板上的卡槽具體為PCIE插槽。另外，主控芯片1的外部接口與主板上的卡槽也可以采用其他標(biāo)準(zhǔn)實現(xiàn)，只要二者類型匹配即可。

另外，在本實用新型服務(wù)器的又一服務(wù)器中，上述任一實施例的服務(wù)器中，還可以包括與主板連接的、用于與其他服務(wù)器進(jìn)行數(shù)據(jù)交互的外部通信接口。示例性地，外部通信接口可以是以太網(wǎng)接口，例如40/100G以太網(wǎng)接口，具體的選擇可可以根據(jù)不同的應(yīng)用場景靈活決定。例如，若要搭建一個云服務(wù)器中心，則外部通信接口相應(yīng)設(shè)置為以太網(wǎng)接口。

進(jìn)一步地，再參見圖7，在本實用新型服務(wù)器的再一服務(wù)器中，還可以包括分別與每個主控芯片1連接的存儲單元，以便進(jìn)行相應(yīng)的信息存儲。作為本實用新型實施例的一個具體示例而非限制，該存儲單元可以是DDR(雙倍速率同步動態(tài)隨機存儲器)、LPDDR(低功率雙倍速率同步動態(tài)隨機存儲器)、GDDR(圖形雙倍速率同步動態(tài)隨機存儲器)、HBM(高帶寬存儲器)、或者HMC(混合存儲立方體存儲器)，另外，也可以是其它類型的高速存儲器。

綜上所述，由于本實用新型實施例提出了一種新的拓?fù)浣Y(jié)構(gòu)，該拓?fù)浣Y(jié)構(gòu)可更適合諸如DNN或深度學(xué)習(xí)的大運算量硬件加速平臺的優(yōu)化實現(xiàn)。

本實用新型實施例，具有以下總的有益技術(shù)效果：

將數(shù)據(jù)處理任務(wù)劃分為主控芯片和節(jié)點芯片的兩種功能芯片的解決方案，增加了數(shù)據(jù)處理裝置的適應(yīng)性。當(dāng)計算能力不足時，可以通過對節(jié)點矩陣做一維或二維擴展來實現(xiàn)算力的提升，大大增強了系統(tǒng)的可擴展性和可伸縮性，付出的代價相對較低，提供的最大計算能力遠(yuǎn)遠(yuǎn)超過現(xiàn)在的GPU，整個產(chǎn)品的物理大小也比較緊湊；

節(jié)點芯片與主機接口無關(guān)，降低了開發(fā)難度，節(jié)點芯片的實現(xiàn)可以專注于數(shù)據(jù)處理功能的實現(xiàn)，有助于提高集成度和硬件效率；

節(jié)點芯片不會占用主板上的卡槽，易于擴展節(jié)點芯片、增強數(shù)據(jù)處理裝置、系統(tǒng)和服務(wù)器的數(shù)據(jù)處理能力；

主控芯片可以采用FPGA方式實現(xiàn)，可以根據(jù)客戶需求靈活定制；

各芯片間通信的延遲可控，大部分的情況下都是芯片和芯片利用高速通信通道直接進(jìn)行通信；

主控芯片可以選擇用FPGA(現(xiàn)場可編程門陣列)來實現(xiàn)，這樣可以根據(jù)客戶需求靈活定制。

在此處所提供的說明書中，說明了大量具體細(xì)節(jié)。然而，能夠理解，本實用新型的實施例可以在沒有這些具體細(xì)節(jié)的情況下實踐。在一些實例中，并未詳細(xì)示出公知的方法、結(jié)構(gòu)和技術(shù)，以便不模糊對本說明書的理解。

類似地，應(yīng)當(dāng)理解，為了精簡本公開并幫助理解各個實用新型方面中的一個或多個，在上面對本實用新型的示例性實施例的描述中，本實用新型的各個特征有時被一起分組到單個實施例、圖、或者對其的描述中。然而，并不應(yīng)將該公開的方法解釋成反映如下意圖：即所要求保護的本實用新型要求比在每個權(quán)利要求中所明確記載的特征更多的特征。更確切地說，如權(quán)利要求書所反映的那樣，實用新型方面在于少于前面公開的單個實施例的所有特征。因此，遵循具體實施方式的權(quán)利要求書由此明確地并入該具體實施方式，其中每個權(quán)利要求本身都作為本實用新型的單獨實施例。

本領(lǐng)域那些技術(shù)人員可以理解，可以對實施例中的設(shè)備中的模塊進(jìn)行自適應(yīng)性地改變并且把它們設(shè)置在與該實施例不同的一個或多個設(shè)備中。可以把實施例中的模塊或單元或組件組合成一個模塊或單元或組件，以及此外可以把它們分成多個子模塊或子單元或子組件。除了這樣的特征和/或過程或者單元中的至少一些是相互排斥之外，可以采用任何組合對本說明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的所有特征以及如此公開的任何方法或者設(shè)備的所有過程或單元進(jìn)行組合。除非另外明確陳述，本說明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的每個特征可以由提供相同、等同或相似目的的替代特征來代替。

此外，本領(lǐng)域的技術(shù)人員能夠理解，盡管在此所述的一些實施例包括其它實施例中所包括的某些特征而不是其它特征，但是不同實施例的特征的組合意味著處于本實用新型的范圍之內(nèi)并且形成不同的實施例。例如，所公開的實施例的任意之一都可以以任意的組合方式來使用。

本實用新型實施例的各個部件可以以硬件實現(xiàn)，或者以在一個或者多個處理器上運行的軟件模塊實現(xiàn)，或者以它們的組合實現(xiàn)。本領(lǐng)域的技術(shù)人員應(yīng)當(dāng)理解，可以在實踐中使用微處理器或者數(shù)字信號處理器(DSP)來實現(xiàn)根據(jù)本實用新型實施例的裝置、系統(tǒng)、服務(wù)器中的一些或者全部部件的一些或者全部功能。

應(yīng)該注意的是上述實施例對本實用新型進(jìn)行說明而不是對本實用新型進(jìn)行限制，并且本領(lǐng)域技術(shù)人員在不脫離所附權(quán)利要求的范圍的情況下可設(shè)計出替換實施例。在說明書中，不應(yīng)將位于括號之間的任何參考符號構(gòu)造成對本實用新型實施例的限制。單詞“包含”不排除存在未列出的元件。位于元件之前的單詞“一”或“一個”不排除存在多個這樣的元件。本實用新型實施例可以借助于包括有若干不同元件的硬件以及借助于適當(dāng)編程的計算機來實現(xiàn)。在列舉了若干裝置的單元權(quán)利要求中，這些裝置中的若干個可以是通過同一個硬件項來具體體現(xiàn)。

顯然，本領(lǐng)域的技術(shù)人員可以對本實用新型進(jìn)行各種改動和變型而不脫離本實用新型的精神和范圍。這樣，倘若本實用新型的這些修改和變型屬于本實用新型權(quán)利要求及其等同技術(shù)的范圍之內(nèi)，則本實用新型也意圖包含這些改動和變型在內(nèi)。