技術(shù)特征：

1.一種基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，其特征在于，包括以下步驟：

2.根據(jù)權(quán)利要求1所述的基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，其特征在于，所述步驟一之前還包括：預(yù)先構(gòu)建hnsw索引和位置索引。

3.根據(jù)權(quán)利要求2所述的基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，其特征在于，所述步驟五包括：

4.根據(jù)權(quán)利要求3所述的基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，其特征在于，所述預(yù)先構(gòu)建hnsw索引和位置索引包括：

5.根據(jù)權(quán)利要求4所述的基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，其特征在于，所述步驟c2包括：

6.根據(jù)權(quán)利要求5所述的基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，其特征在于，所述對(duì)標(biāo)準(zhǔn)化向量序列em執(zhí)行自注意力計(jì)算，并將計(jì)算出的自注意力進(jìn)行線性變換，以得到經(jīng)線性變換的層輸出向量序列outm包括：

7.一種基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成系統(tǒng)，其特征在于，包括：

8.根據(jù)權(quán)利要求7所述的基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成系統(tǒng)，其特征在于，還包括：

9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其特征在于，計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)包括存儲(chǔ)的程序，其中，在程序運(yùn)行時(shí)控制計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)所在設(shè)備執(zhí)行權(quán)利要求1至6中任一項(xiàng)所述的基于大語(yǔ)言模型的問(wèn)答生成方法。

技術(shù)總結(jié)
本發(fā)明涉及人工智能和自然語(yǔ)言技術(shù)領(lǐng)域，特別是涉及一種基于大語(yǔ)言模型的長(zhǎng)文檔問(wèn)答生成方法，本發(fā)明通過(guò)HNSW索引進(jìn)行近似最近鄰搜索，檢索出最相關(guān)的N個(gè)三元組，并對(duì)檢索出的三元組中每個(gè)位置，獲取其周圍固定大小窗口如[?M,+M]內(nèi)的所有(k,v)對(duì)，通過(guò)上下文窗口擴(kuò)展，保證了局部連貫性，避免了僅依賴單點(diǎn)檢索可能帶來(lái)的信息碎片化；通過(guò)將檢索和擴(kuò)展得到的(k,v)對(duì)與當(dāng)前輸入序列的K、V矩陣拼接，形成新的K'和V'矩陣，使用標(biāo)準(zhǔn)的縮放點(diǎn)積注意力機(jī)制，計(jì)算注意力，并僅保留對(duì)應(yīng)于輸入問(wèn)題序列的向量，既保證了全局視野，又避免了不必要的計(jì)算，從而解決在處理長(zhǎng)序列時(shí)面臨的嚴(yán)重的計(jì)算效率和內(nèi)存使用問(wèn)題。

技術(shù)研發(fā)人員：張群,王鈞升
受保護(hù)的技術(shù)使用者：濟(jì)南市人民檢察院檢察事務(wù)中心
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2