本發(fā)明涉及機(jī)器翻譯技術(shù)領(lǐng)域，特別涉及一種平行短語(yǔ)學(xué)習(xí)方法及裝置。

背景技術(shù)：

隨著互聯(lián)網(wǎng)的發(fā)展和國(guó)際交流的日益深入，人們的語(yǔ)言翻譯需求日益增長(zhǎng)。據(jù)Google翻譯團(tuán)隊(duì)披露，Google翻譯每天提供翻譯服務(wù)達(dá)十億次，相當(dāng)于全球一年的人工翻譯量，處理的文字?jǐn)?shù)量相當(dāng)于一百萬(wàn)冊(cè)圖書(shū)。然而，機(jī)器翻譯的質(zhì)量還無(wú)法達(dá)到人們的需求，尤其是對(duì)于語(yǔ)料資源較少的語(yǔ)言和領(lǐng)域，目前的商用機(jī)器翻譯系統(tǒng)還很難很好地進(jìn)行翻譯。目前主流的機(jī)器翻譯技術(shù)是基于統(tǒng)計(jì)的機(jī)器翻譯。平行語(yǔ)料庫(kù)在統(tǒng)計(jì)機(jī)器翻譯中起到了重要作用，是統(tǒng)計(jì)機(jī)器翻譯系統(tǒng)用于抽取翻譯規(guī)則、計(jì)算模型參數(shù)所不可或缺的數(shù)據(jù)資源。

平行語(yǔ)料庫(kù)是指的是源語(yǔ)言文本及其平行對(duì)應(yīng)的目標(biāo)語(yǔ)言的譯文文本構(gòu)成的雙語(yǔ)或多語(yǔ)語(yǔ)料庫(kù)。對(duì)齊的粒度分為詞級(jí)、短語(yǔ)級(jí)、句子級(jí)、段落級(jí)、篇章級(jí)等。統(tǒng)計(jì)機(jī)器翻譯系統(tǒng)通常使用句子級(jí)對(duì)齊的平行語(yǔ)料庫(kù)作為訓(xùn)練數(shù)據(jù)。統(tǒng)計(jì)機(jī)器翻譯技術(shù)依賴于大規(guī)模的平行語(yǔ)料庫(kù)，系統(tǒng)通過(guò)訓(xùn)練算法來(lái)使用平行語(yǔ)料庫(kù)訓(xùn)練翻譯模型。

但是，如何獲取大規(guī)模的平行語(yǔ)料庫(kù)仍然是一個(gè)巨大的挑戰(zhàn)。目前平行語(yǔ)料庫(kù)遠(yuǎn)遠(yuǎn)無(wú)法滿足互聯(lián)網(wǎng)的時(shí)代下人們對(duì)機(jī)器翻譯服務(wù)的需要。平行語(yǔ)料庫(kù)通常從多語(yǔ)言的政府文檔、新聞網(wǎng)站等獲取，只覆蓋較少的語(yǔ)言和有限的領(lǐng)域，如法律、政治、文學(xué)等，并不足以支持多語(yǔ)言、多領(lǐng)域的機(jī)器翻譯；對(duì)于小語(yǔ)種和特定領(lǐng)域(如航空領(lǐng)域、旅游領(lǐng)域等)，平行語(yǔ)料庫(kù)非常稀缺，從中抽取出的平行短語(yǔ)的質(zhì)量和翻譯模型的性能較低，受非平行語(yǔ)料中噪音數(shù)據(jù)的影響程度較高。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明要解決的技術(shù)問(wèn)題是：如何基于非平行的源語(yǔ)言及目標(biāo)語(yǔ)言的單語(yǔ)語(yǔ)料庫(kù)，提供一種平行短語(yǔ)學(xué)習(xí)方法及裝置。

基于上述目的，本發(fā)明提出如下技術(shù)方案：

一種平行短語(yǔ)的學(xué)習(xí)方法，包括：

S1：根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；

S2：通過(guò)種子詞典分別對(duì)源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型進(jìn)行初始化；

S3：使用所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型，在模型一致性約束下分別從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，以利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型。

可選地，所述S1中根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)，包括：

通過(guò)將所述句子中任意連續(xù)的若干個(gè)詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

使用句法分析工具，將同一所述句子的句子成分下的詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

基于網(wǎng)頁(yè)的超鏈接或標(biāo)點(diǎn)符號(hào)等自然分隔符來(lái)劃分所述句子的短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)。

可選地，所述S1中根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)，包括：

根據(jù)已獲取的源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)和目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)定義所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型為：

$P\left(f\right|e;{\mathrm{\θ}}_1)=\underset{a}{\Σ}P(f,a|e;{\mathrm{\θ}}_1)$

其中a為源語(yǔ)言短語(yǔ)e到目標(biāo)語(yǔ)言短語(yǔ)f的詞對(duì)齊；所述源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含S個(gè)短語(yǔ)，所述目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含T個(gè)短語(yǔ)；通過(guò)種子詞典D＝{(e,f)}給出多個(gè)互為翻譯的詞對(duì)；

相應(yīng)地，

$P(f,a|e;{\mathrm{\θ}}_1)=\frac{P\left(J\right|I)}{{(I+1)}^J}\underset{j=1}{\overset{J}{\Π}}p\left(f_j\right|e_{a_j})$

其中I為源語(yǔ)言短語(yǔ)e的長(zhǎng)度，J為目標(biāo)語(yǔ)言短語(yǔ)f的長(zhǎng)度，f_j代表f的第j個(gè)詞，代表e中與f_j對(duì)齊的詞。P(J|I)為長(zhǎng)度模型，為詞翻譯模型，這兩個(gè)模型參數(shù)共同構(gòu)成了短語(yǔ)翻譯模型的參數(shù)θ₁。

可選地，所述S2中通過(guò)種子詞典分別對(duì)源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型進(jìn)行初始化，包括：

將P(J|I)初始化為均勻分布，即對(duì)任意J，P(J|I)具有相同的概率，同時(shí)將p(f|e)根據(jù)所述種子詞典進(jìn)行初始化：

$p\left(f\right|e)=\frac{count(f,e)}{{\mathrm{\Σ}}_{f^{\′}}count(f^{\′},e)}$

其中，count(f,e)表示詞典中(f,e)作為互譯詞出現(xiàn)的次數(shù)，所述次數(shù)為0或者1；

同理，根據(jù)相同的方法定義和初始化所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型P(e|f；θ₂)。

可選地，所述S3中使用兩個(gè)短語(yǔ)翻譯模型，在模型一致性約束下分別從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，包括：

S31：通過(guò)跨語(yǔ)言檢索，為所述目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)F中的一個(gè)短語(yǔ)f^t，選取可能是該短語(yǔ)對(duì)應(yīng)的n個(gè)所述源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)E中的翻譯短語(yǔ)e₁,e₂,e₃…e_n；

S32：根據(jù)P(f^t|e；θ₁)，計(jì)算最佳匹配得到短語(yǔ)對(duì)

S33：重復(fù)步驟S31和S32，為F中的每一個(gè)短語(yǔ)構(gòu)建一個(gè)短語(yǔ)對(duì)，得到短語(yǔ)對(duì)集合

S34：類似地，為E中的每一個(gè)短語(yǔ)構(gòu)建一個(gè)短語(yǔ)對(duì)，得到短語(yǔ)對(duì)集合

S35：根據(jù)模型一致性約束，取m₁和m₂的交集m^*作為這一輪抽取出的平行短語(yǔ)對(duì)。

可選地，所述S3中利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下進(jìn)一步優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型，包括：

$p\left(f\right|e)=\frac{c\left(f\right|e;m^{*})}{{\mathrm{\Σ}}_{f^{\′}}c\left(f^{\′}\right|e;m^{*})}$

其中，c(f|e；m^*)根據(jù)上一輪迭代中p(f|e)的值以及m^*計(jì)算得到，計(jì)算時(shí)考慮雙向模型的一致性約束：

$c\left(f\right|e;m^{*})=\underset{(e^s,f^t)\∈m^{*}}{\Σ}\frac{p\left(f\right|e)}{{\Σ}_{i=0}^{I^s}p\left(f\right|e_i^s)}\frac{p\left(e\right|f)}{{\Σ}_{j=0}^{J^t}p\left(e\right|f_j^t)}\underset{j=1}{\overset{J^t}{\Σ}}\mathrm{\δ}(f,f_j^t)\underset{i=0}{\overset{I^s}{\Σ}}\mathrm{\δ}(e,e_i^s)$

類似地，根據(jù)m^*更新計(jì)算目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型參數(shù)θ₂，即p(I|J)及p(e|f)。

可選地，所述S3中在模型一致性約束下優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型，包括：

將最后一輪優(yōu)化抽取出的所有平行短語(yǔ)對(duì)輸出，作為抽取出的平行語(yǔ)料庫(kù)。

一種平行短語(yǔ)的學(xué)習(xí)裝置，包括：

語(yǔ)料庫(kù)構(gòu)建單元，用于根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；

模型初始化單元，用于通過(guò)種子詞典分別對(duì)源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型進(jìn)行初始化；

翻譯模型優(yōu)化單元，用于使用兩個(gè)短語(yǔ)翻譯模型，在模型一致性約束下分別從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，以利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下進(jìn)一步優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型。

可選地，所述語(yǔ)料庫(kù)構(gòu)建單元，進(jìn)一步用于：

通過(guò)將所述句子中任意連續(xù)的若干個(gè)詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

使用句法分析工具，將同一所述句子的句子成分下的詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

基于網(wǎng)頁(yè)的超鏈接或標(biāo)點(diǎn)符號(hào)等自然分隔符來(lái)劃分所述句子的短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)。

可選地，所述語(yǔ)料庫(kù)構(gòu)建單元，還用于：

根據(jù)已獲取的源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)和目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)定義所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型為：

$P\left(f\right|e;{\mathrm{\θ}}_1)=\underset{a}{\Σ}P(f,a|e;{\mathrm{\θ}}_1)$

其中a為源語(yǔ)言短語(yǔ)e到目標(biāo)語(yǔ)言短語(yǔ)f的詞對(duì)齊；所述源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含S個(gè)短語(yǔ)，所述目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含T個(gè)短語(yǔ)；通過(guò)種子詞典D＝{(e,f)}給出多個(gè)互為翻譯的詞對(duì)；

相應(yīng)地，

$P(f,a|e;{\mathrm{\θ}}_1)=\frac{P\left(J\right|I)}{{(I+1)}^J}\underset{j=1}{\overset{J}{\Π}}p\left(f_j\right|e_{a_j})$

其中I為源語(yǔ)言短語(yǔ)e的長(zhǎng)度，J為目標(biāo)語(yǔ)言短語(yǔ)f的長(zhǎng)度，f_j代表f的第j個(gè)詞，代表e中與f_j對(duì)齊的詞。P(J|I)為長(zhǎng)度模型，為詞翻譯模型，這兩個(gè)模型參數(shù)共同構(gòu)成了短語(yǔ)翻譯模型的參數(shù)θ₁。

本發(fā)明的平行短語(yǔ)學(xué)習(xí)方法及裝置，可以實(shí)現(xiàn)從非平行的單語(yǔ)語(yǔ)料中，抽取平行語(yǔ)料，相比于平行語(yǔ)料而言，單語(yǔ)語(yǔ)料的獲取更為廉價(jià)，且覆蓋的語(yǔ)言、領(lǐng)域更為全面，能極大地補(bǔ)充當(dāng)前平行語(yǔ)料庫(kù)不足的情況。同時(shí)，通過(guò)使用模型一致性約束，很好地解決了實(shí)際環(huán)境中存在噪音(大量沒(méi)有譯文的文本)的問(wèn)題，大大提升了抽取出的平行語(yǔ)料的精度和質(zhì)量。

附圖說(shuō)明

為了更清楚地說(shuō)明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面描述中的附圖是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可以根據(jù)這些附圖獲得其他的附圖。

圖1為本發(fā)明一個(gè)實(shí)施例的平行短語(yǔ)的學(xué)習(xí)方法的流程示意圖；

圖2為本發(fā)明一個(gè)實(shí)施例的平行短語(yǔ)的學(xué)習(xí)裝置的結(jié)構(gòu)示意圖。

具體實(shí)施方式

為使本發(fā)明實(shí)施例的目的、技術(shù)方案和優(yōu)點(diǎn)更加清楚，下面將結(jié)合本發(fā)明實(shí)施例中的附圖，對(duì)本發(fā)明實(shí)施例中的技術(shù)方案進(jìn)行清楚地描述，顯然，所描述的實(shí)施例是本發(fā)明一部分實(shí)施例，而不是全部的實(shí)施例?；诒景l(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒(méi)有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他實(shí)施例，都屬于本發(fā)明保護(hù)的范圍。

圖1為本發(fā)明一個(gè)實(shí)施例的平行短語(yǔ)的學(xué)習(xí)方法的流程示意圖；如圖1所示，該方法包括：

S1：根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；

S2：通過(guò)種子詞典分別對(duì)源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型進(jìn)行初始化；

S3：使用兩個(gè)短語(yǔ)翻譯模型，在模型一致性約束下分別從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，以利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下進(jìn)一步優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型。

需要說(shuō)明的是，步驟S3中從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，以及，利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下進(jìn)一步優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型的過(guò)程是一個(gè)多輪迭代優(yōu)化的過(guò)程。即不斷重復(fù)上述抽取平行短語(yǔ)對(duì)以優(yōu)化上述的兩個(gè)短語(yǔ)翻譯模型，直到無(wú)法抽取出新的短語(yǔ)對(duì)為止。

本實(shí)施例的平行短語(yǔ)的學(xué)習(xí)方法，可以實(shí)現(xiàn)從非平行的單語(yǔ)語(yǔ)料中，抽取平行語(yǔ)料，相比于平行語(yǔ)料而言，單語(yǔ)語(yǔ)料的獲取更為廉價(jià)，且覆蓋的語(yǔ)言、領(lǐng)域更為全面，能極大地補(bǔ)充當(dāng)前平行語(yǔ)料庫(kù)不足的情況。同時(shí)，通過(guò)使用模型一致性約束，很好地解決了實(shí)際環(huán)境中存在噪音(大量沒(méi)有譯文的文本)的問(wèn)題，大大提升了抽取出的平行語(yǔ)料的精度和質(zhì)量。

作為本實(shí)施例的優(yōu)選，步驟S1中根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)，可包括：

通過(guò)將所述句子中任意連續(xù)的若干個(gè)詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

使用句法分析工具，將同一所述句子的句子成分下的詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

基于網(wǎng)頁(yè)的超鏈接或標(biāo)點(diǎn)符號(hào)等自然分隔符來(lái)劃分所述句子的短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)。

在上述實(shí)施例的基礎(chǔ)上，步驟S1中根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)，還可進(jìn)一步包括：

根據(jù)已獲取的源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)和目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)定義所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型為：

$P\left(f\right|e;{\mathrm{\θ}}_1)=\underset{a}{\Σ}P(f,a|e;{\mathrm{\θ}}_1)$

其中a為源語(yǔ)言短語(yǔ)e到目標(biāo)語(yǔ)言短語(yǔ)f的詞對(duì)齊；所述源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含S個(gè)短語(yǔ)，所述目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含T個(gè)短語(yǔ)；通過(guò)種子詞典D＝{(e,f)}給出多個(gè)互為翻譯的詞對(duì)；

相應(yīng)地，

$P(f,a|e;{\mathrm{\θ}}_1)=\frac{P\left(J\right|I)}{{(I+1)}^J}\underset{j=1}{\overset{J}{\Π}}p\left(f_j\right|e_{a_j})$

其中I為源語(yǔ)言短語(yǔ)e的長(zhǎng)度，J為目標(biāo)語(yǔ)言短語(yǔ)f的長(zhǎng)度，f_j代表f的第j個(gè)詞，代表e中與f_j對(duì)齊的詞。P(J|I)為長(zhǎng)度模型，為詞翻譯模型，這兩個(gè)模型參數(shù)共同構(gòu)成了短語(yǔ)翻譯模型的參數(shù)θ₁。

作為另一種優(yōu)選的實(shí)施方式，所述S2中通過(guò)種子詞典分別對(duì)源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型進(jìn)行初始化，可進(jìn)一步包括：

將P(J|I)初始化為均勻分布，即對(duì)任意J，P(J|I)具有相同的概率，同時(shí)將p(f|e)根據(jù)所述種子詞典進(jìn)行初始化：

$p\left(f\right|e)=\frac{count(f,e)}{{\mathrm{\Σ}}_{f^{\′}}count(f^{\′},e)}$

其中，count(f,e)表示詞典中(f,e)作為互譯詞出現(xiàn)的次數(shù)，所述次數(shù)為0或者1；

同理，根據(jù)相同的方法定義和初始化所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型P(e|f；θ₂)。

作為本實(shí)施例的優(yōu)選，所述S3中使用兩個(gè)短語(yǔ)翻譯模型，在模型一致性約束下分別從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，包括：

S31：通過(guò)跨語(yǔ)言檢索，為所述目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)F中的一個(gè)短語(yǔ)f^t，選取可能是該短語(yǔ)對(duì)應(yīng)的n個(gè)所述源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)E中的翻譯短語(yǔ)e₁,e₂,e₃…e_n；

S32：根據(jù)P(f^t|e；θ₁)，計(jì)算最佳匹配得到短語(yǔ)對(duì)

S33：重復(fù)步驟S31和S32，為F中的每一個(gè)短語(yǔ)構(gòu)建一個(gè)短語(yǔ)對(duì)，得到短語(yǔ)對(duì)集合

S34：類似地，為E中的每一個(gè)短語(yǔ)構(gòu)建一個(gè)短語(yǔ)對(duì)，得到短語(yǔ)對(duì)集合

S35：根據(jù)模型一致性約束，取m₁和m₂的交集m^*作為這一輪抽取出的平行短語(yǔ)對(duì)。

作為本實(shí)施例的優(yōu)選，步驟S3中利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型，包括：

$p\left(f\right|e)=\frac{c\left(f\right|e;m^{*})}{{\mathrm{\Σ}}_{f^{\′}}c\left(f^{\′}\right|e;m^{*})}$

其中，c(f|e；m^*)根據(jù)上一輪迭代中p(f|e)的值以及m^*計(jì)算得到，計(jì)算時(shí)考慮雙向模型的一致性約束：

$c\left(f\right|e;m^{*})=\underset{(e^s,f^t)\∈m^{*}}{\Σ}\frac{p\left(f\right|e)}{{\Σ}_{i=0}^{I^s}p\left(f\right|e_i^s)}\frac{p\left(e\right|f)}{{\Σ}_{j=0}^{J^t}p\left(e\right|f_j^t)}\underset{j=1}{\overset{J^t}{\Σ}}\mathrm{\δ}(f,f_j^t)\underset{i=0}{\overset{I^s}{\Σ}}\mathrm{\δ}(e,e_i^s)$

類似地，根據(jù)m^*更新計(jì)算目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型參數(shù)θ₂，即p(I|J)及p(e|f)。

進(jìn)一步地，在上述實(shí)施例的基礎(chǔ)上，步驟S3中利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型，包括：

將最后一輪迭代抽取出的所有平行短語(yǔ)對(duì)輸出，作為抽取出的平行語(yǔ)料庫(kù)。

圖2為本發(fā)明一個(gè)實(shí)施例的平行短語(yǔ)的學(xué)習(xí)裝置的結(jié)構(gòu)示意圖。如圖2所示，該裝置，包括語(yǔ)料庫(kù)構(gòu)建單元10、模型初始化單元20以及翻譯模型優(yōu)化單元30；

其中，語(yǔ)料庫(kù)構(gòu)建單元10用于根據(jù)句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)中的句子構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；

模型初始化單元20用于通過(guò)種子詞典分別對(duì)源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型進(jìn)行初始化；

翻譯模型優(yōu)化單元30用于使用兩個(gè)短語(yǔ)翻譯模型，在模型一致性約束下分別從所述句子級(jí)的單語(yǔ)語(yǔ)料庫(kù)和所述短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)中抽取平行短語(yǔ)對(duì)，以利用抽取出的所述平行短語(yǔ)對(duì)，在模型一致性約束下進(jìn)一步優(yōu)化所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型以及所述目標(biāo)語(yǔ)言到源語(yǔ)言的短語(yǔ)翻譯模型。

作為上述實(shí)施例的優(yōu)選，語(yǔ)料庫(kù)構(gòu)建單元10可進(jìn)一步用于：

通過(guò)將所述句子中任意連續(xù)的若干個(gè)詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

使用句法分析工具，將同一所述句子的句子成分下的詞作為短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)；或，

基于網(wǎng)頁(yè)的超鏈接或標(biāo)點(diǎn)符號(hào)等自然分隔符來(lái)劃分所述句子的短語(yǔ)，以構(gòu)建短語(yǔ)級(jí)的單語(yǔ)語(yǔ)料庫(kù)。

在此基礎(chǔ)上，語(yǔ)料庫(kù)構(gòu)建單元10還可以進(jìn)一步用于：

根據(jù)已獲取的源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)和目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)定義所述源語(yǔ)言到目標(biāo)語(yǔ)言的短語(yǔ)翻譯模型為：

$P\left(f\right|e;{\mathrm{\θ}}_1)=\underset{a}{\Σ}P(f,a|e;{\mathrm{\θ}}_1)$

其中a為源語(yǔ)言短語(yǔ)e到目標(biāo)語(yǔ)言短語(yǔ)f的詞對(duì)齊；所述源語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含S個(gè)短語(yǔ)，所述目標(biāo)語(yǔ)言的短語(yǔ)級(jí)別單語(yǔ)語(yǔ)料庫(kù)包含T個(gè)短語(yǔ)；通過(guò)種子詞典D＝{(e,f)}給出多個(gè)互為翻譯的詞對(duì)；

相應(yīng)地，

$P(f,a|e;{\mathrm{\θ}}_1)=\frac{P\left(J\right|I)}{{(I+1)}^J}\underset{j=1}{\overset{J}{\Π}}p\left(f_j\right|e_{a_j})$

其中I為源語(yǔ)言短語(yǔ)e的長(zhǎng)度，J為目標(biāo)語(yǔ)言短語(yǔ)f的長(zhǎng)度，f_j代表f的第j個(gè)詞，$e_{a_j}$代表e中與f_j對(duì)齊的詞。P(J|I)為長(zhǎng)度模型，為詞翻譯模型，這兩個(gè)模型參數(shù)共同構(gòu)成了短語(yǔ)翻譯模型的參數(shù)θ₁。

本實(shí)施例所述的裝置可以用于執(zhí)行上述方法實(shí)施例，其原理和技術(shù)效果類似，此處不再贅述。

需要說(shuō)明的是，對(duì)于裝置實(shí)施例而言，由于其與方法實(shí)施例基本相似，所以描述的比較簡(jiǎn)單，相關(guān)之處參見(jiàn)方法實(shí)施例的部分說(shuō)明即可。

本領(lǐng)域內(nèi)的技術(shù)人員應(yīng)明白，本申請(qǐng)的實(shí)施例可提供為方法、系統(tǒng)、或計(jì)算機(jī)程序產(chǎn)品。因此，本申請(qǐng)可采用完全硬件實(shí)施例、完全軟件實(shí)施例、或結(jié)合軟件和硬件方面的實(shí)施例的形式。而且，本申請(qǐng)可采用在一個(gè)或多個(gè)其中包含有計(jì)算機(jī)可用程序代碼的計(jì)算機(jī)可用存儲(chǔ)介質(zhì)(包括但不限于磁盤存儲(chǔ)器、CD-ROM、光學(xué)存儲(chǔ)器等)上實(shí)施的計(jì)算機(jī)程序產(chǎn)品的形式。

本申請(qǐng)是參照根據(jù)本申請(qǐng)實(shí)施例的方法、設(shè)備(系統(tǒng))、和計(jì)算機(jī)程序產(chǎn)品的流程圖和/或方框圖來(lái)描述的。應(yīng)理解可由計(jì)算機(jī)程序指令實(shí)現(xiàn)流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結(jié)合?？商峁┻@些計(jì)算機(jī)程序指令到通用計(jì)算機(jī)、專用計(jì)算機(jī)、嵌入式處理機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器以產(chǎn)生一個(gè)機(jī)器，使得通過(guò)計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器執(zhí)行的指令產(chǎn)生用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的裝置。

這些計(jì)算機(jī)程序指令也可存儲(chǔ)在能引導(dǎo)計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備以特定方式工作的計(jì)算機(jī)可讀存儲(chǔ)器中，使得存儲(chǔ)在該計(jì)算機(jī)可讀存儲(chǔ)器中的指令產(chǎn)生包括指令裝置的制造品，該指令裝置實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能。

這些計(jì)算機(jī)程序指令也可裝載到計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備上，使得在計(jì)算機(jī)或其他可編程設(shè)備上執(zhí)行一系列操作步驟以產(chǎn)生計(jì)算機(jī)實(shí)現(xiàn)的處理，從而在計(jì)算機(jī)或其他可編程設(shè)備上執(zhí)行的指令提供用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的步驟。

需要說(shuō)明的是，在本文中，諸如第一和第二等之類的關(guān)系術(shù)語(yǔ)僅僅用來(lái)將一個(gè)實(shí)體或者操作與另一個(gè)實(shí)體或操作區(qū)分開(kāi)來(lái)，而不一定要求或者暗示這些實(shí)體或操作之間存在任何這種實(shí)際的關(guān)系或者順序。而且，術(shù)語(yǔ)“包括”、“包含”或者其任何其他變體意在涵蓋非排他性的包含，從而使得包括一系列要素的過(guò)程、方法、物品或者設(shè)備不僅包括那些要素，而且還包括沒(méi)有明確列出的其他要素，或者是還包括為這種過(guò)程、方法、物品或者設(shè)備所固有的要素。在沒(méi)有更多限制的情況下，由語(yǔ)句“包括一個(gè)……”限定的要素，并不排除在包括所述要素的過(guò)程、方法、物品或者設(shè)備中還存在另外的相同要素。術(shù)語(yǔ)“上”、“下”等指示的方位或位置關(guān)系為基于附圖所示的方位或位置關(guān)系，僅是為了便于描述本發(fā)明和簡(jiǎn)化描述，而不是指示或暗示所指的裝置或元件必須具有特定的方位、以特定的方位構(gòu)造和操作，因此不能理解為對(duì)本發(fā)明的限制。除非另有明確的規(guī)定和限定，術(shù)語(yǔ)“安裝”、“相連”、“連接”應(yīng)做廣義理解，例如，可以是固定連接，也可以是可拆卸連接，或一體地連接；可以是機(jī)械連接，也可以是電連接；可以是直接相連，也可以通過(guò)中間媒介間接相連，可以是兩個(gè)元件內(nèi)部的連通。對(duì)于本領(lǐng)域的普通技術(shù)人員而言，可以根據(jù)具體情況理解上述術(shù)語(yǔ)在本發(fā)明中的具體含義。

本發(fā)明的說(shuō)明書(shū)中，說(shuō)明了大量具體細(xì)節(jié)。然而能夠理解的是，本發(fā)明的實(shí)施例可以在沒(méi)有這些具體細(xì)節(jié)的情況下實(shí)踐。在一些實(shí)例中，并未詳細(xì)示出公知的方法、結(jié)構(gòu)和技術(shù)，以便不模糊對(duì)本說(shuō)明書(shū)的理解。類似地，應(yīng)當(dāng)理解，為了精簡(jiǎn)本發(fā)明公開(kāi)并幫助理解各個(gè)發(fā)明方面中的一個(gè)或多個(gè)，在上面對(duì)本發(fā)明的示例性實(shí)施例的描述中，本發(fā)明的各個(gè)特征有時(shí)被一起分組到單個(gè)實(shí)施例、圖、或者對(duì)其的描述中。然而，并不應(yīng)將該公開(kāi)的方法解釋呈反映如下意圖：即所要求保護(hù)的本發(fā)明要求比在每個(gè)權(quán)利要求中所明確記載的特征更多的特征。更確切地說(shuō)，如權(quán)利要求書(shū)所反映的那樣，發(fā)明方面在于少于前面公開(kāi)的單個(gè)實(shí)施例的所有特征。因此，遵循具體實(shí)施方式的權(quán)利要求書(shū)由此明確地并入該具體實(shí)施方式，其中每個(gè)權(quán)利要求本身都作為本發(fā)明的單獨(dú)實(shí)施例。

最后應(yīng)說(shuō)明的是：以上各實(shí)施例僅用以說(shuō)明本發(fā)明的技術(shù)方案，而非對(duì)其限制；盡管參照前述各實(shí)施例對(duì)本發(fā)明進(jìn)行了詳細(xì)的說(shuō)明，本領(lǐng)域的普通技術(shù)人員應(yīng)當(dāng)理解：其依然可以對(duì)前述各實(shí)施例所記載的技術(shù)方案進(jìn)行修改，或者對(duì)其中部分或者全部技術(shù)特征進(jìn)行等同替換；而這些修改或者替換，并不使相應(yīng)技術(shù)方案的本質(zhì)脫離本發(fā)明各實(shí)施例技術(shù)方案的范圍，其均應(yīng)涵蓋在本發(fā)明的權(quán)利要求和說(shuō)明書(shū)的范圍當(dāng)中。