一種用于高效視頻編碼hevc的量化優(yōu)化方法
【專(zhuān)利摘要】本發(fā)明提供了一種用于高效視頻編碼HEVC的量化優(yōu)化方法，通過(guò)對(duì)變換單元TU進(jìn)行視覺(jué)感知閾值計(jì)算，得到每個(gè)變換系數(shù)的感知閾值。在量化階段基于該閾值為每個(gè)變換系數(shù)篩選候選量化值并對(duì)量化后的值進(jìn)行抑制。最后，在TU劃分模式選擇階段，利用變換塊的視覺(jué)感知信息對(duì)TU的劃分模式進(jìn)行預(yù)判。本發(fā)明不需要對(duì)解碼器做任何改動(dòng)，在維持視頻主觀(guān)感知質(zhì)量不變的前提下提高了編碼壓縮效率，并加快了編碼速度。
【專(zhuān)利說(shuō)明】—種用于高效視頻編碼HEVC的量化優(yōu)化方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明屬于視頻編碼領(lǐng)域，具體涉及用于HEVC的基于視覺(jué)感知的量化優(yōu)化方法研究。
【背景技術(shù)】
[0002]隨著視頻捕獲與顯示技術(shù)的進(jìn)步，人們對(duì)視頻質(zhì)量的需求在不斷提高，近幾年甚至出現(xiàn)了超高清(Ultra High Definition)電視，其分辨率達(dá)到了 8Kx4K (7680X4320)，視頻數(shù)據(jù)量的爆炸式增長(zhǎng)，急需新的編碼工具來(lái)提高壓縮比。目前由VCEG和MPEG共同組建的 Joint Collaborative Team on Video Coding (JCT-VC)所制定的高效視頻編碼標(biāo)準(zhǔn)HEVC,壓縮效率比H.264提高40%左右。
[0003]雖然HEVC相對(duì)于H.264在壓縮效率上有了很大提高，但目前仍然面臨著兩個(gè)主要問(wèn)題:速度優(yōu)化問(wèn)題和視覺(jué)感知優(yōu)化問(wèn)題。首先，HEVC相比H.264在編碼結(jié)構(gòu)上引入了編碼單兀(CU,Coding Unit)、預(yù)測(cè)單兀(PU,Partition Unit)、變換單兀(TU,Transform Unit),雖然CU、PU、TU的引入提高了編碼器的壓縮效率，但是在各單元?jiǎng)澐帜Ｊ竭x擇上需要耗費(fèi)大量的計(jì)算代價(jià)，目前HEVC的參考軟件還需要非常多的優(yōu)化才能達(dá)到實(shí)時(shí)應(yīng)用的要求，其中軟件代碼優(yōu)化的提升空間有限，更重要的是算法層面的優(yōu)化。若要進(jìn)行HEVC編碼算法的速度優(yōu)化，最重要的問(wèn)題就是如何快速準(zhǔn)確地進(jìn)行CU、PU、TU的劃分模式選擇。HEVC面臨的第二個(gè)問(wèn)題就是亟待通過(guò)對(duì)人眼視覺(jué)系統(tǒng)HVS (Human Visual System)特性的挖掘使其編碼壓縮效率得到進(jìn)一步的提升以應(yīng)對(duì)超高清視頻(8Kx4K)的巨大數(shù)據(jù)量。同時(shí)，也可以利用人眼視覺(jué)感知特性提高HEVC的編碼速度。
[0004]針對(duì)速度優(yōu)化問(wèn)題，目前已經(jīng)有很多研究成果致力于解決CU快速劃分以及預(yù)測(cè)模式快速選擇的問(wèn)題，但實(shí)際上不管是CU的劃分還是的劃分，在計(jì)算率失真代價(jià)時(shí)都要經(jīng)過(guò)TU劃分這一過(guò)程，然后才能計(jì)算得到率失真代價(jià)從而為劃分方式提供決策依據(jù)。但目前關(guān)于TU快速劃分的研究成果還很少。如果能夠在編碼過(guò)程中結(jié)合TU的視覺(jué)感知信息對(duì)TU劃分模式做出預(yù)判，就可以對(duì)TU劃分的速度進(jìn)行明顯提升。
[0005]同時(shí)，HEVC在量化過(guò)程中使用了基于率失真優(yōu)化的量化(Rate DistortionOptimized Quantization, RD0Q),每一個(gè)變換系數(shù)都有若干個(gè)候選量化值,要確定最終的量化值需要對(duì)每一個(gè)候選值計(jì)算率失真代價(jià)，由于CU、PU、TU的每一種劃分模式的代價(jià)計(jì)算最終都要經(jīng)過(guò)量化，所以RDOQ給整個(gè)編碼過(guò)程帶來(lái)了很大的時(shí)間復(fù)雜度。如果在進(jìn)行RDOQ之前，能夠結(jié)合TU的視覺(jué)感知信息對(duì)每個(gè)系數(shù)的候選量化值進(jìn)行篩選，則可以大大降低整個(gè)量化過(guò)程的時(shí)間復(fù)雜度。
[0006]針對(duì)視覺(jué)感知優(yōu)化問(wèn)題，視頻數(shù)據(jù)之所以能夠被壓縮很大程度上歸功于對(duì)數(shù)據(jù)的量化，而視頻的失真也來(lái)自于量化。由于視頻圖像內(nèi)容特性的不同，人眼視覺(jué)感知系統(tǒng)對(duì)不同圖像因量化而產(chǎn)生的失真敏感度也不同。對(duì)于人眼不敏感的圖像區(qū)域，可以使用粗量化以實(shí)現(xiàn)更大的壓縮率。目前基于視覺(jué)感知特性的編碼量化研究的代表性方法是計(jì)算預(yù)測(cè)殘差在DCT域的視覺(jué)感知閾值，然后根據(jù)視覺(jué)感知閾值來(lái)調(diào)整變換塊的量化矩陣，對(duì)人眼不敏感的系數(shù)進(jìn)行粗量化從而降低比特，但這種方法需要改動(dòng)解碼器，在編、解碼端以同樣步驟估計(jì)每個(gè)變換系數(shù)的視覺(jué)感知閾值從而在解碼端生成相同的量化矩陣；或者，由編碼端將量化矩陣發(fā)送至解碼端以保證編、解碼兩端量化與反量化的步長(zhǎng)一致。除此之外，如果要將視覺(jué)感知模型應(yīng)用到HEVC的編碼框架中對(duì)量化進(jìn)行調(diào)整，還應(yīng)考慮到HEVC相對(duì)于上一代標(biāo)準(zhǔn)所增加的更大尺寸DCT變換(32x32、16x16)、TU的模式劃分、RDOQ等。

【發(fā)明內(nèi)容】

[0007]本發(fā)明實(shí)現(xiàn)發(fā)明目的的具體手段采用:
[0008]一種用于高效視頻編碼HEVC的量化優(yōu)化方法，在HEVC的變換單元TU進(jìn)行量化時(shí)對(duì)整個(gè)量化過(guò)程進(jìn)行優(yōu)化，所述方法包括以下步驟:
[0009]A:在量化開(kāi)始前,對(duì)變換單元TU的每一個(gè)DCT系數(shù)，由量化參數(shù)計(jì)算得到候選量化集，以量化失真為約束對(duì)TU的候選量化值進(jìn)行篩選，并對(duì)變換單元TU的每一個(gè)DCT系數(shù)計(jì)算視覺(jué)感知閾值，縮小每個(gè)系數(shù)候選量化集；
[0010]B:在量化過(guò)程中，以量化失真為約束，采用迭代遞減的方法進(jìn)一步削減所述TU變換量化后得到的量化值，降低編碼該系數(shù)所需的比特；
[0011]C:在量化完成后，根據(jù)TU變換量化系數(shù)的分布統(tǒng)計(jì)特征與TU最優(yōu)劃分模式間的關(guān)系模型，對(duì)TU劃分模式進(jìn)行預(yù)判，提前決定該TU的四叉樹(shù)劃分深度。
[0012]在所述TU系數(shù)的量化值候選集構(gòu)建中，找出所有滿(mǎn)足量化誤差小于視覺(jué)感知閾值條件的候選量化值，保留其中最小的一個(gè)以及零作為候選量化值，其余候選值被剔除出量化值候選集；若所述TU系數(shù)量化為O的量化誤差小于該系數(shù)的感知閾值，則直接取零作為該系數(shù)最終量化值。
[0013]步驟B中將所述TU系數(shù)量化后的值減去一個(gè)抑制值，使得該系數(shù)的最終量化值變??；TU系數(shù)的量化值在滿(mǎn)足量化誤差小于該系數(shù)視覺(jué)感知閾值的條件下被減到最??；
[0014]這樣，步驟A與步驟B不更改變換系數(shù)的量化步長(zhǎng)或量化表，即解碼端只需按照原定的量化步長(zhǎng)進(jìn)行反量化重建即可；
[0015]步驟C中以權(quán)利要求2所述TU的視覺(jué)感知信息及步驟B量化結(jié)果為依據(jù)，對(duì)TU的劃分模式進(jìn)行預(yù)判；若所述TU所在的變換塊人眼感知敏感且DCT系數(shù)中非零量化系數(shù)個(gè)數(shù)較多，則該TU使用較精細(xì)的劃分；若TU所在的變換塊人眼感知不敏感且DCT系數(shù)中非零量化系數(shù)個(gè)數(shù)較少，則該TU使用較粗略的劃分。
[0016]針對(duì)HEVC的編碼速度過(guò)慢及缺少視覺(jué)感知優(yōu)化問(wèn)題，本發(fā)明從HEVC的量化環(huán)節(jié)入手，結(jié)合變換單元TU的視覺(jué)感知信息，加快TU的量化值選擇、劃分模式選擇的速度，同時(shí)在保證人眼感知質(zhì)量不變的前提下提升量化環(huán)節(jié)的壓縮效率。
[0017]針對(duì)不同尺寸TU的DCT變換系數(shù)計(jì)算其視覺(jué)感知閾值，根據(jù)視覺(jué)感知閾值為每個(gè)系數(shù)篩選量化值，在提高壓縮率的同時(shí)加快RDOQ的速度。
[0018]TU變換系數(shù)量化之后，為了進(jìn)一步提高壓縮率，還可以根據(jù)視覺(jué)感知閾值對(duì)量化后的系數(shù)值進(jìn)行抑制，在保證重建量化誤差不會(huì)超過(guò)視覺(jué)感知閾值的前提下削減每個(gè)量化后系數(shù)的數(shù)值。由于本發(fā)明不會(huì)更改變換系數(shù)的量化步長(zhǎng)或量化矩陣，即解碼器只需按照原定的量化步長(zhǎng)進(jìn)行反量化重建即可，所以本發(fā)明不需要改動(dòng)解碼器，所產(chǎn)生的碼流與HEVC標(biāo)準(zhǔn)兼容。[0019]由于之前已經(jīng)獲得了每個(gè)TU的視覺(jué)感知信息，同時(shí)在量化過(guò)程中對(duì)于人眼不敏感的系數(shù)會(huì)有更大傾向被量化為零，此時(shí)就可以根據(jù)TU的視覺(jué)感知信息及非零量化系數(shù)的個(gè)數(shù)來(lái)對(duì)TU的劃分模式進(jìn)行預(yù)判，從而提高TU模式選擇的速度。
[0020]由于TU劃分模式選擇是⑶、劃分模式選擇的必經(jīng)步驟，所以整個(gè)HEVC的編碼過(guò)程都會(huì)由此獲得加速。
【專(zhuān)利附圖】

【附圖說(shuō)明】
[0021]圖1為本發(fā)明提供的基于視覺(jué)感知信息的HEVC量化優(yōu)化方法流程圖
[0022]圖2為本發(fā)明提供的基于視覺(jué)感知閾值的TU候選量化值篩選方法流程圖
[0023]圖3為本發(fā)明提供的基于視覺(jué)感知閾值的量化值抑制方法流程圖
[0024]圖4為本發(fā)明提供的TU劃分模式預(yù)判方法流程圖
具體實(shí)施方法
[0025]圖示I為本發(fā)明提出的基于視覺(jué)感知信息的HEVC量化優(yōu)化方法流程圖，流程圖中的灰色部分為本發(fā)明在HEVC標(biāo)準(zhǔn)編碼流程之上增加的部分(增加部分不影響解碼，輸出的碼流仍然符合HEVC標(biāo)準(zhǔn))。主要包括4部分:
[0026]I) HEVC會(huì)根據(jù)TU變換單元的尺寸進(jìn)行相應(yīng)的DCT變換，TU的DCT變換可以是32x32、16x16、8x8、4x4。本發(fā)明的方法在TU完成DCT變換后針對(duì)其DCT變換尺寸使用相應(yīng)的視覺(jué)感知模型計(jì)算該變換塊中每一變換系數(shù)的視覺(jué)感知閾值。
[0027]2)HEVC在TU進(jìn)行量化的過(guò)程中，會(huì)為每一個(gè)變換系數(shù)準(zhǔn)備若干個(gè)候選量化值，不同的量化值會(huì)給TU帶來(lái)不同的率失真代價(jià)，編碼器會(huì)分別計(jì)算每個(gè)候選量化值帶來(lái)的率失真代價(jià)，選擇代價(jià)最低的值作為該系數(shù)的最終量化值。本發(fā)明的方法以系數(shù)的視覺(jué)感知閾值為依據(jù)，縮小每個(gè)系數(shù)量化值的候選集，詳見(jiàn)圖示2說(shuō)明。
[0028]3) HEVC在選定TU變換系數(shù)的最終量化值之后，接下來(lái)會(huì)完成量化后的CABAC編碼部分。本發(fā)明的方法對(duì)量化后的非零系數(shù)減去一個(gè)抑制值，降低編碼該系數(shù)所需的比特，詳見(jiàn)圖示3說(shuō)明。
[0029]4 )在(I)中已經(jīng)獲得了每個(gè)TU的視覺(jué)感知信息，同時(shí)在(2 )、( 3 )的量化過(guò)程中對(duì)于人眼不敏感的系數(shù)會(huì)有很多被量化為零，此時(shí)可以根據(jù)視覺(jué)感知信息及非零量化系數(shù)的個(gè)數(shù)來(lái)對(duì)TU的劃分模式進(jìn)行預(yù)判。詳見(jiàn)圖示4說(shuō)明。
[0030]圖示2為本發(fā)明提供的基于視覺(jué)感知閾值的TU候選量化值篩選方法流程圖。HEVC在TU的量化過(guò)程中為每一個(gè)變換系數(shù)準(zhǔn)備若干候選值，例如0、floor、ceil。其中floor表示將系數(shù)按標(biāo)準(zhǔn)量化步長(zhǎng)進(jìn)行量化后所得數(shù)值的向下取整，ceil則表示相應(yīng)的向上取整。三個(gè)值依次增大。本發(fā)明的方法為，若該系數(shù)量化為O的誤差小于該系數(shù)的視覺(jué)感知閾值，則直接取O最為最終量化值；否則，若該系數(shù)量化為floor的誤差小于該系數(shù)的視覺(jué)感知閾值，則在O和floor之間通過(guò)率失真優(yōu)化選取最終量化值；若量化為O和floor的誤差均大于視覺(jué)感知閾值，則按正常的標(biāo)準(zhǔn)流程進(jìn)行。在本發(fā)明提出的量化值篩選流程中，如果量化值為零時(shí)的量化誤差小于視覺(jué)感知閾值則直接使用零作為量化值，否則仍需通過(guò)標(biāo)準(zhǔn)的率失真代價(jià)計(jì)算過(guò)程來(lái)確定最終量化值。
[0031]圖示3為本發(fā)明提供的基于視覺(jué)感知閾值的量化值抑制方法流程圖。本發(fā)明的方法為，若TU變換系數(shù)量化為O則不再進(jìn)行處理，否則，對(duì)量化值減去一個(gè)抑制值，降低編碼該系數(shù)所需的比特，前提是該系數(shù)減去抑制值后的量化重建誤差低于該系數(shù)的視覺(jué)感知閾值。所減的抑制值為滿(mǎn)足量化誤差小于感知閾值條件的所有抑制值中的最大值。
[0032]圖示4為本發(fā)明提供的TU劃分模式預(yù)判方法流程圖。HEVC中的TU劃分模式?jīng)Q策過(guò)程是一個(gè)迭代過(guò)程，將當(dāng)前TU進(jìn)行四叉樹(shù)劃分，并分別計(jì)算四叉樹(shù)劃分前與劃分后的率失真代價(jià)，并通過(guò)代價(jià)比較決定是否繼續(xù)向下劃分。本發(fā)明的方法為，結(jié)合TU的視覺(jué)感知信息以及感知優(yōu)化量化結(jié)果，對(duì)TU劃分模式進(jìn)行預(yù)判。同時(shí)，當(dāng)TU經(jīng)過(guò)前面的量化候選值篩選與量化抑制之后，會(huì)有很多系數(shù)被量化為0，非零量化系數(shù)個(gè)數(shù)可用來(lái)輔助預(yù)判TU劃分模式。
[0033]實(shí)施例
[0034]A.視覺(jué)感知閾值計(jì)算
[0035]輸入一個(gè)變換單元TU，編碼器會(huì)根據(jù)TU的尺寸對(duì)其進(jìn)行DCT變換(32x32、16x16、8x8,4x4),然后對(duì)變換后得到的系數(shù)塊進(jìn)行視覺(jué)感知閾值計(jì)算。
[0036]在DCT域計(jì)算視覺(jué)感知閾值的模型通常由三部分組成:基礎(chǔ)閾值、亮度自適應(yīng)系數(shù)、紋理掩膜。
[0037]在計(jì)算基礎(chǔ)閾值時(shí)，由于HEVC中的變換塊存在4種不同尺寸，并且AC系數(shù)的基礎(chǔ)閾值與DC系數(shù)的基礎(chǔ)閾值相比，基本是按AC系數(shù)位置與DC系數(shù)位置之間的徑向距離呈指數(shù)化增長(zhǎng)，所以可以按照系數(shù)子帶位置與徑向距離之間的增長(zhǎng)關(guān)系來(lái)設(shè)計(jì)適用于不同尺寸DCT變換的基礎(chǔ)閾值。例如，設(shè)TD。為DC系數(shù)的基礎(chǔ)閾值(應(yīng)用中可將TD。設(shè)為I )，坐標(biāo)位于(i, j)處的AC系數(shù)的基礎(chǔ)閾值TB_(i，j)可按下式計(jì)算得到:
[0038]
【權(quán)利要求】
1.一種用于高效視頻編碼HEVC的量化優(yōu)化方法，在HEVC的變換單元TU進(jìn)行量化時(shí)對(duì)整個(gè)量化過(guò)程進(jìn)行優(yōu)化，所述方法包括以下步驟: A:在量化開(kāi)始前，對(duì)變換單元TU的每一個(gè)DCT系數(shù)，由量化參數(shù)計(jì)算得到候選量化集，以量化失真為約束對(duì)TU的候選量化值進(jìn)行篩選，并對(duì)變換單元TU的每一個(gè)DCT系數(shù)計(jì)算視覺(jué)感知閾值，縮小每個(gè)系數(shù)候選量化集； B:在量化過(guò)程中，以量化失真為約束，采用迭代遞減的方法進(jìn)一步削減所述TU變換量化后得到的量化值，降低編碼該系數(shù)所需的比特； C:在量化完成后，根據(jù)TU變換量化系數(shù)的分布統(tǒng)計(jì)特征與TU最優(yōu)劃分模式間的關(guān)系模型，對(duì)TU劃分模式進(jìn)行預(yù)判，提前決定該TU的四叉樹(shù)劃分深度。
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述TU系數(shù)的量化值候選集構(gòu)建中，找出所有滿(mǎn)足量化誤差小于視覺(jué)感知閾值條件的候選量化值，保留其中最小的一個(gè)以及零作為候選量化值，其余候選值被剔除出量化值候選集；若所述TU系數(shù)量化為O的量化誤差小于該系數(shù)的感知閾值，則直接取零作為該系數(shù)最終量化值。
3.根據(jù)權(quán)利要求1所述方法，其特征在于，步驟B中將所述TU系數(shù)量化后的值減去一個(gè)抑制值，使得該系數(shù)的最終量化值變?。籘U系數(shù)的量化值在滿(mǎn)足量化誤差小于該系數(shù)視覺(jué)感知閾值的條件下被減到最小。
4.根據(jù)權(quán)利要求1所述方法，其特征在于，步驟A與步驟B不更改變換系數(shù)的量化步長(zhǎng)或量化表，即解碼端只需按照原定的量化步長(zhǎng)進(jìn)行反量化重建即可。
5.根據(jù)權(quán)利要求1所述方法，其特征在于，步驟C中以權(quán)利要求2所述TU的視覺(jué)感知信息及步驟B量化結(jié)果為依據(jù)，對(duì)TU的劃分模式進(jìn)行預(yù)判；若所述TU所在的變換塊人眼感知敏感且DCT系數(shù)中非零量化系數(shù)個(gè)數(shù)較多，則該TU使用較精細(xì)的劃分；若TU所在的變換塊人眼感知不敏感且DCT系數(shù)中非零量化系數(shù)個(gè)數(shù)較少，則該TU使用較粗略的劃分。
【文檔編號(hào)】H04N19/625GK103945220SQ201410062267
【公開(kāi)日】2014年7月23日 申請(qǐng)日期:2014年2月24日 優(yōu)先權(quán)日:2014年2月24日
【發(fā)明者】劉翔凱, 彭強(qiáng), 任健鵬, 閆川, 石也軍 申請(qǐng)人:西南交通大學(xué)