技術(shù)特征：

1.一種算子融合方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述算子融合模型包括：

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述對(duì)輸入的加速芯片配置信息和算子類型信息進(jìn)行編碼以生成芯片編碼向量和算子編碼向量，包括：

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述根據(jù)芯片編碼向量和算子編碼向量生成融合編碼向量，包括：

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述向預(yù)設(shè)的選擇網(wǎng)絡(luò)輸入所述變換編碼向量以生成與所述芯片編碼向量對(duì)應(yīng)的第一權(quán)重和與所述算子編碼向量對(duì)應(yīng)的第二權(quán)重，包括：

6.根據(jù)權(quán)利要求2-5任意一項(xiàng)所述的方法，其特征在于，所述方法還包括所述算子融合模型的訓(xùn)練方法：

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述根據(jù)所述第二算子數(shù)據(jù)集對(duì)優(yōu)化后的所述算子融合模型進(jìn)行第三訓(xùn)練之前，包括：

8.一種算子融合系統(tǒng)，其特征在于，所述系統(tǒng)包括：

9.一種電子設(shè)備，其特征在于，所述電子設(shè)備包括：

10.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其特征在于，其存儲(chǔ)計(jì)算機(jī)程序，所述計(jì)算機(jī)程序使得計(jì)算機(jī)執(zhí)行權(quán)利要求1-7中任一項(xiàng)所述方法。

技術(shù)總結(jié)
本申請(qǐng)?zhí)峁┮环N算子融合方法、系統(tǒng)、設(shè)備及介質(zhì)，包括獲取當(dāng)前硬件平臺(tái)的加速芯片配置信息和計(jì)算圖包含的算子類型信息；輸入獲取到的加速芯片配置信息、算子類型信息以及計(jì)算圖至已訓(xùn)練好的算子融合模型以輸出目標(biāo)算子；其中，算子融合模型通過(guò)加載與加速芯片配置信息匹配的目標(biāo)第一配置文件和與算子類型信息匹配的目標(biāo)第二配置文件調(diào)整算子融合模型內(nèi)的低秩權(quán)重調(diào)整參數(shù)以適配硬件平臺(tái)和算子類型。通過(guò)動(dòng)態(tài)加載與當(dāng)前硬件和算子類型相關(guān)的配置文件，實(shí)現(xiàn)在面對(duì)算法和應(yīng)用需求變化以及不同的加速芯片架構(gòu)時(shí)，自動(dòng)調(diào)整算子實(shí)現(xiàn)，確保在不同任務(wù)場(chǎng)景中的性能一致性和可靠性。

技術(shù)研發(fā)人員：喬偉旭,陳曦,吳韶華
受保護(hù)的技術(shù)使用者：蘇州元腦智能科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/9