專利名稱：一種視頻編碼4x4整數(shù)變換方法
技術(shù)領(lǐng)域：
本發(fā)明涉及視頻編碼技術(shù)領(lǐng)域，尤其涉及一種視頻編碼4x4整數(shù)變換方法。
技術(shù)背景 一套完整的視頻編碼系統(tǒng)是由預(yù)測、變換、量化、熵編碼等一系列算法模塊組成 的。其中幀內(nèi)幀間預(yù)測是利用視頻數(shù)據(jù)在空間和時間上的相關(guān)性壓縮數(shù)據(jù)。變換模塊是將 預(yù)測模塊輸出的圖像殘差數(shù)據(jù)由時域變換到另一個空間上，使時域上平坦分布的數(shù)據(jù)在變 換空間上能量集中，將數(shù)據(jù)的能量大部分集中在空間的低頻區(qū)域中。在隨后的量化和熵編 碼模塊中，會有效的利用變換后的數(shù)據(jù)分布特征，進一步壓縮數(shù)據(jù)。顯而易見，變換模塊是 視頻編碼系統(tǒng)中重要的組成部分，變換的性能直接影響視頻編碼系統(tǒng)的性能。在現(xiàn)有視頻編碼系統(tǒng)中，DCT變換得到了廣泛的應(yīng)用，其變換的能量集中性很好， 可以極大地消除視頻數(shù)據(jù)在變換空間上的相關(guān)性。但是這種算法存在不足，DCT變換矩陣是 浮點表示的，計算過程中使用大量的浮點乘法和加法，占用硬件資源多，計算復(fù)雜的大。同 時由于處理器運算位數(shù)影響，浮點運算存在截斷誤差，浮點計算精度不高，DCT正反變換不 能完全匹配，變換不可逆。

發(fā)明內(nèi)容
本發(fā)明實施例的目的在于提出一種視頻編碼4x4整數(shù)變換方法，旨在解決現(xiàn)有技 術(shù)DCT變換矩陣采用浮點乘法和加法，占用硬件資源多，計算復(fù)雜的大，計算精度不高，DCT 正反變換不能完全匹配，變換不可逆的問題。本發(fā)明實施例的方法是這樣實現(xiàn)的，一種視頻編碼4x4整數(shù)變換方法，包括步驟1，接收編碼器中預(yù)測模塊輸出的4x4的圖像殘差數(shù)據(jù)X ；步驟2，選取整數(shù)變換基，構(gòu)建變換矩陣，4x4的通用整數(shù)變換矩陣為
'k0 kO k0 k0 ‘
^ k\ k2 -kl -k\
權(quán)利要求
1. 一種視頻編碼4x4整數(shù)變換方法，包括步驟1，接收編碼器中預(yù)測模塊輸出的4x4的圖像殘差數(shù)據(jù)X ；步驟2，選取整數(shù)變換基，構(gòu)建變換矩陣，4x4的通用整數(shù)變換矩陣為
2.如權(quán)利要求1所述的視頻編碼4x4整數(shù)變換方法，其特征在于，步驟4中變換的基 本單元是形如y = I3X的4點一維變換，其中χ = [χ1χ&3χ4]τ，輸出的y = [yly2y3y4]T， xlx2x3x4表示整數(shù)變換的一維正變換的輸入四點數(shù)值；yly2y3y4為正變換的四點輸出數(shù)值。
3.如權(quán)利要求1所述的視頻編碼虹4整數(shù)變換方法，其特征在于，所述整數(shù)變換基取值 為[1，9，4]時所述變換矩陣P=
4.如權(quán)利要求1所述的視頻編碼4x4整數(shù)變換方法，其特征在于，所述當整數(shù)變換基取 值為[1，9，4]時，“對4x4的圖像殘差數(shù)據(jù)X進行整數(shù)變換，變換公式為Y = PXPT”計算過 程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；y2 = b4 << 3+b4+b3 << 2 ；y4 = _b3 << 3_b3+b4 << 2 ；其中“ < < ”表示向左移位運算，優(yōu)先級高于加減法，基本單元y = Px共需要10個加 法和4個移位。
5.如權(quán)利要求1所述的視頻編碼4x4整數(shù)變換方法，其特征在于，所述整數(shù)變換基取值 為[1，7，3]時
6.如權(quán)利要求1所述的視頻編碼4x4整數(shù)變換方法，其特征在于，所述當整數(shù)變換基取 值為[1，7，3]時，“對4x4的圖像殘差數(shù)據(jù)X進行整數(shù)變換，變換公式為Y = PXPT”計算過 程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；Y2 = b4 < < 3_b4+b3 < < 2_b3 ；Y4 = _b3 < < 3+b3+b4 << 2-b4 ；其中“ < < ”表示向左移位運算，優(yōu)先級高于加減法，基本單元y = Px共需要12個加 法和4個移位。
7.如權(quán)利要求1所述的視頻編碼4x4整數(shù)變換方法，其特征在于，所述整數(shù)變換基取 值為[1，8，3]時
8.如權(quán)利要求1所述的視頻編碼4x4整數(shù)變換方法，其特征在于，所述當整數(shù)變換基取 值為[1，8，3]時，“對虹4的圖像殘差數(shù)據(jù)X進行整數(shù)變換，變換公式為Y = PXPT”計算過 程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；Y2 = b4*8+4*b3_b3 ；Y4 = _b3*8+4*b4_b4 ；“<<”表示向左移位運算，優(yōu)先級高于加減法，基本單元y = Px共需要10個加法和4個移位。
全文摘要
本發(fā)明公開一種視頻編碼4x4整數(shù)變換方法，通過接收編碼器中預(yù)測模塊輸出的4x4的圖像殘差數(shù)據(jù)X，選取不同整數(shù)變換基(選取[1，9，4]、[1，7，3]、[1，8，3]中的一個)構(gòu)建變換矩陣P；根據(jù)變換矩陣P，構(gòu)建縮放矩陣PF(PF＝ZT*Z)；對圖像殘差數(shù)據(jù)X進行正變換(Y＝PXPT)，并根據(jù)不同的整數(shù)變化基，采用相應(yīng)的整數(shù)變換計算方法；對經(jīng)過4x4正變換后的數(shù)據(jù)Y進行縮放處理。本發(fā)明的變換方法能量集中性能優(yōu)秀，能量集中度接近4x4DCT，可以極大地消除視頻數(shù)據(jù)在變換空間上的相關(guān)性；計算復(fù)雜度低，可通過加法和移位來實現(xiàn)，易于硬件實現(xiàn)，并且運算精度高，不存正反變換不匹配的問題。
文檔編號H04N7/26GK102137260SQ20111010140
公開日2011年7月27日 申請日期2011年4月20日 優(yōu)先權(quán)日2011年4月20日
發(fā)明者徐蘇珊 申請人:深圳市融創(chuàng)天下科技發(fā)展有限公司