本申請(qǐng)涉及芯片，特別是涉及一種預(yù)處理裝置和ai芯片。

背景技術(shù)：

1、ai芯片(artificialintelligence?chips)是用于處理人工智能應(yīng)用的芯片，ai芯片能夠加速機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和其他ai算法的應(yīng)用，提高計(jì)算機(jī)在圖像識(shí)別、語(yǔ)音識(shí)別和自然語(yǔ)言處理等領(lǐng)域的性能。

2、ai芯片在運(yùn)行過(guò)程中會(huì)產(chǎn)生大量的調(diào)試消息，這些調(diào)試消息對(duì)算子開(kāi)發(fā)或性能優(yōu)化具有重要的作用。但是由于ai芯片運(yùn)行中產(chǎn)生的調(diào)試消息屬性較多(即調(diào)試消息的類(lèi)型較多)且調(diào)試消息數(shù)據(jù)量較大，基于該屬性繁雜且數(shù)據(jù)量龐大的調(diào)試消息直接進(jìn)行算子開(kāi)發(fā)或性能優(yōu)化存在較多問(wèn)題。

3、因此，如何管理調(diào)試消息的屬性、控制調(diào)試消息的數(shù)據(jù)量，以及靈活分發(fā)調(diào)試消息，成為芯片技術(shù)領(lǐng)域亟待解決的技術(shù)問(wèn)題之一。

技術(shù)實(shí)現(xiàn)思路

1、基于上述問(wèn)題，本申請(qǐng)?zhí)峁┝艘环N預(yù)處理裝置，用于管理ai芯片中調(diào)試消息的屬性、控制調(diào)試消息的數(shù)據(jù)量，以及靈活分發(fā)調(diào)試消息，從而滿足當(dāng)前技術(shù)對(duì)ai芯片內(nèi)部多類(lèi)型的調(diào)試消息的使用需求。

2、本申請(qǐng)實(shí)施例公開(kāi)了如下技術(shù)方案：

3、本申請(qǐng)第一方面公開(kāi)了一種預(yù)處理裝置，該預(yù)處理裝置包括：消息預(yù)清洗模塊、消息分類(lèi)模塊、消息整形模塊和配置寄存器集合；

4、所述配置寄存器集合，用于設(shè)置調(diào)試消息的屬性、清洗策略、分類(lèi)方式和整形操作方式；

5、所述消息預(yù)清洗模塊，用于根據(jù)所述調(diào)試消息的屬性和所述清洗策略，清洗掉該消息預(yù)清洗模塊接收到的第一調(diào)試消息中的字段，得到第二調(diào)試消息；

6、所述消息分類(lèi)模塊，用于根據(jù)所述調(diào)試消息的屬性和所述分類(lèi)方式，對(duì)所述第二調(diào)試消息進(jìn)行分類(lèi)，得到第三調(diào)試消息；

7、所述消息整形模塊，用于根據(jù)所述調(diào)試消息的屬性和所述整形操作方式，對(duì)所述第三調(diào)試消息進(jìn)行整形，得到第四調(diào)試消息。

8、在一種可選的實(shí)現(xiàn)方式中，所述裝置還包括消息flush模塊，所述配置寄存器集合還用于接收f(shuō)lush指令；

9、所述消息flush模塊，用于根據(jù)所述flush指令，將目標(biāo)調(diào)試消息flush到存儲(chǔ)器；所述目標(biāo)調(diào)試消息是所述第三調(diào)試消息和/或所述第四調(diào)試消息中的所述flush指令指示的調(diào)試消息。

10、在一種可選的實(shí)現(xiàn)方式中，所述裝置同時(shí)支持預(yù)設(shè)數(shù)目個(gè)用戶(hù)同時(shí)使用，所述配置寄存器集合還用于設(shè)置所述裝置支持的用戶(hù)的標(biāo)識(shí)。

11、在一種可選的實(shí)現(xiàn)方式中，所述裝置還包括消息接收模塊；

12、所述消息接收模塊，用于對(duì)接收到的多種初始調(diào)試消息進(jìn)行格式變換，得到格式變換后的調(diào)試消息。

13、在一種可選的實(shí)現(xiàn)方式中，所述裝置還包括消息流控模塊；所述配置寄存器集合還用于設(shè)置流控策略；

14、所述消息流控模塊，用于根據(jù)所述調(diào)試消息的屬性和所述流控策略，對(duì)所述格式變換后的調(diào)試消息進(jìn)行流量調(diào)節(jié)，得到所述第一調(diào)試消息。

15、在一種可選的實(shí)現(xiàn)方式中，所述裝置還包括消息緩存模塊，所述消息緩存模塊用于存儲(chǔ)所述第四調(diào)試消息。

16、在一種可選的實(shí)現(xiàn)方式中，所述裝置還包括消息加密模塊；所述配置寄存器集合還用于配置公鑰信息；

17、所述消息加密模塊，用于根據(jù)所述公鑰信息對(duì)所述第四調(diào)試消息進(jìn)行加密，得到密文。

18、在一種可選的實(shí)現(xiàn)方式中，所述配置寄存器集合還用于設(shè)置側(cè)信道防護(hù)控制策略；

19、所述消息加密模塊，還用于根據(jù)所述側(cè)信道防護(hù)控制策略生成偽隨機(jī)數(shù)據(jù)。

20、在一種可選的實(shí)現(xiàn)方式中，所述裝置還包括消息發(fā)送模塊，所述配置寄存器集合還用于設(shè)置消息發(fā)送策略；

21、所述消息發(fā)送模塊，還用于根據(jù)所述消息發(fā)送策略將所述密文和所述偽隨機(jī)數(shù)據(jù)發(fā)送到存儲(chǔ)器。

22、在一種可選的實(shí)現(xiàn)方式中，所述消息分類(lèi)模塊包括第一消息分類(lèi)單元、第二消息分類(lèi)單元和第三消息分類(lèi)單元；所述分類(lèi)方式包括第一分類(lèi)方式、第二分類(lèi)方式和第三分類(lèi)方式；

23、所述第一消息分類(lèi)單元，用于根據(jù)所述調(diào)試消息的屬性和所述第一分類(lèi)方式，對(duì)所述第二調(diào)試消息進(jìn)行分類(lèi)，得到第一調(diào)試子信息；

24、所述第二消息分類(lèi)單元，用于根據(jù)所述調(diào)試消息的屬性和所述第二分類(lèi)方式，對(duì)所述第一調(diào)試子信息進(jìn)行分類(lèi)，得到第二調(diào)試子信息；

25、所述第三消息分類(lèi)單元，用于根據(jù)所述調(diào)試消息的屬性和所述第三分類(lèi)方式，對(duì)所述第二調(diào)試子信息進(jìn)行分類(lèi)，得到所述第三調(diào)試消息。

26、在一種可選的實(shí)現(xiàn)方式中，所述配置寄存器集合還用于顯示flush操作的執(zhí)行狀態(tài)。

27、在一種可選的實(shí)現(xiàn)方式中，所述配置寄存器集合還用于配置所述裝置支持的用戶(hù)對(duì)應(yīng)的至少一個(gè)存儲(chǔ)器。

28、本申請(qǐng)第二方面公開(kāi)了一種ai芯片，所述ai芯片包括多個(gè)處理器、預(yù)處理裝置和總線互聯(lián)網(wǎng)絡(luò)；所述總線互聯(lián)網(wǎng)絡(luò)包括第一總線節(jié)點(diǎn)、第二總線節(jié)點(diǎn)和數(shù)據(jù)通路；所述預(yù)處理裝置是第一方面所述的裝置；

29、所述處理器，用于基于多個(gè)用戶(hù)操作生成調(diào)試消息和業(yè)務(wù)數(shù)據(jù)，并將所述調(diào)試消息傳輸?shù)剿龅谝豢偩€節(jié)點(diǎn)，將所述業(yè)務(wù)數(shù)據(jù)傳輸?shù)剿龅诙偩€節(jié)點(diǎn)；

30、所述預(yù)處理裝置，用于接收所述第一總線節(jié)點(diǎn)的多種調(diào)試消息，并對(duì)該多種調(diào)試消息進(jìn)行處理，將處理后的調(diào)試消息通過(guò)所述數(shù)據(jù)通路分發(fā)到與每個(gè)所述用戶(hù)對(duì)應(yīng)的存儲(chǔ)器

31、相較于現(xiàn)有技術(shù)，本申請(qǐng)具有以下有益效果：

32、本申請(qǐng)公開(kāi)了一種預(yù)處理裝置，包括消息預(yù)清洗模塊、消息分類(lèi)模塊、消息整形模塊和配置寄存器集合。其中，配置寄存器集合，用于設(shè)置調(diào)試消息的屬性、清洗策略、分類(lèi)方式和整形操作方式；消息預(yù)清洗模塊，用于根據(jù)調(diào)試消息的屬性和清洗策略，清洗掉該消息預(yù)清洗模塊接收到的第一調(diào)試消息中的字段，得到第二調(diào)試消息；消息分類(lèi)模塊，用于根據(jù)調(diào)試消息的屬性和分類(lèi)方式，對(duì)第二調(diào)試消息進(jìn)行分類(lèi)，得到第三調(diào)試消息；消息整形模塊，用于根據(jù)調(diào)試消息的屬性和整形操作方式，對(duì)第三調(diào)試消息進(jìn)行整形，得到第四調(diào)試消息。

33、當(dāng)預(yù)處理裝置安裝于ai芯片中，通過(guò)預(yù)處理裝置中已經(jīng)設(shè)置好的消息屬性、清洗策略、分類(lèi)方式和整形操作方式，對(duì)ai芯片在運(yùn)行過(guò)程中產(chǎn)生的屬性繁瑣且數(shù)據(jù)量龐大的調(diào)試消息進(jìn)程屬性設(shè)置、消息清洗、消息分類(lèi)和消息整形，可以管理調(diào)試消息的屬性、控制調(diào)試消息的數(shù)據(jù)量，以及靈活分發(fā)調(diào)試消息(對(duì)消息進(jìn)行分類(lèi)發(fā)送)，從而滿足當(dāng)前技術(shù)對(duì)ai芯片內(nèi)部多類(lèi)型的調(diào)試消息的使用需求。

技術(shù)特征：

1.一種預(yù)處理裝置，其特征在于，所述裝置包括：消息預(yù)清洗模塊、消息分類(lèi)模塊、消息整形模塊和配置寄存器集合；

2.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述裝置還包括消息flush模塊，所述配置寄存器集合還用于接收f(shuō)lush指令；

3.根據(jù)權(quán)利要求2所述的裝置，其特征在于，所述裝置同時(shí)支持預(yù)設(shè)數(shù)目個(gè)用戶(hù)同時(shí)使用，所述配置寄存器集合還用于設(shè)置所述裝置支持的用戶(hù)的標(biāo)識(shí)。

4.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述裝置還包括消息接收模塊；

5.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述裝置還包括消息流控模塊；所述配置寄存器集合還用于設(shè)置流控策略；

6.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述裝置還包括消息緩存模塊，所述消息緩存模塊用于存儲(chǔ)所述第四調(diào)試消息。

7.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述裝置還包括消息加密模塊；所述配置寄存器集合還用于配置公鑰信息；

8.根據(jù)權(quán)利要求7所述的裝置，其特征在于，所述配置寄存器集合還用于設(shè)置側(cè)信道防護(hù)控制策略；

9.根據(jù)權(quán)利要求8所述的裝置，其特征在于，所述裝置還包括消息發(fā)送模塊，所述配置寄存器集合還用于設(shè)置消息發(fā)送策略；

10.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述消息分類(lèi)模塊包括第一消息分類(lèi)單元、第二消息分類(lèi)單元和第三消息分類(lèi)單元；所述分類(lèi)方式包括第一分類(lèi)方式、第二分類(lèi)方式和第三分類(lèi)方式；

11.根據(jù)權(quán)利要求2所述的裝置，其特征在于，所述配置寄存器集合還用于顯示flush操作的執(zhí)行狀態(tài)。

12.根據(jù)權(quán)利要求1-11中任一項(xiàng)所述的裝置，其特征在于，所述配置寄存器集合還用于配置所述裝置支持的用戶(hù)對(duì)應(yīng)的至少一個(gè)存儲(chǔ)器。

13.一種ai芯片，其特征在于，所述ai芯片包括多個(gè)處理器、預(yù)處理裝置和總線互聯(lián)網(wǎng)絡(luò)；所述總線互聯(lián)網(wǎng)絡(luò)包括第一總線節(jié)點(diǎn)、第二總線節(jié)點(diǎn)和數(shù)據(jù)通路；所述預(yù)處理裝置是權(quán)利要求1-12中任一項(xiàng)所述的裝置；

技術(shù)總結(jié)
本申請(qǐng)公開(kāi)了一種預(yù)處理裝置和AI芯片，涉及芯片技術(shù)領(lǐng)域。該預(yù)處理裝置包括：消息預(yù)清洗模塊、消息分類(lèi)模塊、消息整形模塊和配置寄存器集合。其中，配置寄存器集合，用于設(shè)置調(diào)試消息的屬性、清洗策略、分類(lèi)方式和整形操作方式；消息預(yù)清洗模塊，用于根據(jù)調(diào)試消息的屬性和清洗策略，清洗掉該消息預(yù)清洗模塊接收到的第一調(diào)試消息中的字段，得到第二調(diào)試消息；消息分類(lèi)模塊，用于根據(jù)調(diào)試消息的屬性和分類(lèi)方式，對(duì)第二調(diào)試消息進(jìn)行分類(lèi)，得到第三調(diào)試消息；消息整形模塊，用于根據(jù)調(diào)試消息的屬性和整形操作方式，對(duì)第三調(diào)試消息進(jìn)行整形，得到第四調(diào)試消息。

技術(shù)研發(fā)人員：韓崇飛,吳飛,崔駜雄,郭永磊,佘旭
受保護(hù)的技術(shù)使用者：北京燧原智能科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2