本發(fā)明涉及一種用于在具有像素柵格的顯示屏上自動立體表示圖像的方法,其中由多個片段構(gòu)成的視差分離光學(xué)板安置在屏幕的前方,并且至少一個用戶的左眼和右眼用的圖像信息用交錯像素圖案顯示在屏幕上,所述方法包括以下步驟:
a)應(yīng)用用于向至少兩個紋理分配有待同時顯示的總圖像信息的算法,使得每個紋理包括用于一個視圖的信息;以及
b)對于每個像素,應(yīng)用用于從紋理的所選區(qū)域取樣圖像信息以確定像素的圖像內(nèi)容的取樣算法,其中,當一個像素與多于一個紋理相關(guān)時,取樣算法包括確定所述像素與所述紋理之一的相關(guān)度因數(shù)的步驟,以及根據(jù)對應(yīng)的相關(guān)度因數(shù)混合每個所述紋理的取樣結(jié)果的步驟。
背景技術(shù):
在自動立體顯示器中,通過向查看者的左眼和右眼呈現(xiàn)稍微不同的視圖可以實現(xiàn)三維視覺印象,從而使得兩個視圖的差異對應(yīng)于近物相對于更遠處的背景的視差位移。為了形成這些不同的視圖,使用“視差分離光學(xué)板”,它能確保用戶的左眼和右眼能看到不同的視圖。所述光學(xué)板由多個片段構(gòu)成,并且可以例如是透鏡陣列,其中所述片段是透鏡,并且使用如下效果:對于任何給定視點,屏幕上的一些像素放大,而其它像素仍然是不可見的。屏幕上的可見和不可見像素的位置取決于透鏡陣列的配置和用戶的眼睛的位置,從而使得可以在屏幕上顯示圖像信息,顯示的方式使得對于給定的查看位置,查看者的一只眼睛只會看到屬于一個視圖的像素,而另一只眼睛只會察覺屬于另一個視圖的像素。作為替代方案,視差分離光學(xué)板可以由阻隔遮罩構(gòu)成,其中所述片段形成透明和不透明部分的圖案,或者視差分離光學(xué)板可以由等效的光學(xué)系統(tǒng)構(gòu)成。
在典型實施例中,透鏡陣列由柱面透鏡構(gòu)成,這些柱面透鏡相對于像素柵格列的方向有一定的傾斜度,以便避免波紋并相對于光學(xué)解析的不可避免的損失獲得良好平衡的圖像。
us6801243b1公開了一種所謂的多視圖系統(tǒng)。術(shù)語“多視圖”是指視圖的數(shù)目n大于2。同樣,視圖包括用于左眼的至少一個視圖和用于右眼的至少一個視圖,并且這兩個視圖構(gòu)成所謂的立體視圖對。然而,可能存在多個立體視圖對,當用戶相對于屏幕側(cè)向移動頭部時,這些立體視圖對一個接一個地變成可見的。不同立體視圖對的圖像內(nèi)容可以選擇成使得它們不僅反映視差位移,還反映查看物體的視界角度的變化引起的三維物體的表觀旋轉(zhuǎn),從而使得用戶在移動頭部時,會得到他實際上在“圍繞”3d物體“移動”的印象。
us2013/057575a1公開了一種多視圖系統(tǒng),該多視圖系統(tǒng)能允許改變視圖的數(shù)目。
在常規(guī)多視圖系統(tǒng)中,當查看者將他的位置從一個立體視圖對改變成相鄰的立體視圖對時,會發(fā)生相對突然的可察覺的轉(zhuǎn)變。通過增加不同視圖的數(shù)目n,可以使這些轉(zhuǎn)變變得平滑。然而,視圖數(shù)目增加的代價是分辨率降低,因為在n視圖系統(tǒng)中,特定眼睛每次最多只能看到屏幕像素線中的像素數(shù)目的1/n。
在已知的系統(tǒng)中,通過透鏡陣列與屏幕的像素柵格之間的輪廊分明的關(guān)系來確定視圖的數(shù)目n,從而向每個透鏡分配整數(shù)個像素,并且每個像素保存n個視圖之一的內(nèi)容??梢钥紤]透鏡陣列的透鏡和屏幕的像素線構(gòu)成粗像素柵格,該粗像素柵格由高度對應(yīng)于一個或多個屏幕像素線、寬度對應(yīng)于各個透鏡的寬度的“超級像素”構(gòu)成。對于n個視圖中的每個視圖,每個超級像素必須包括被分配給該視圖的至少一個屏幕像素。然而,有可能每個超級像素的屏幕像素數(shù)目不是整數(shù)。
wo2008/011888a1(ep2044480b1)公開了一種根據(jù)權(quán)利要求1的序言的系統(tǒng)。這個系統(tǒng)是兩個視圖的系統(tǒng)(n=2),然而,其中每個視圖和透鏡和像素線的屏幕像素數(shù)目大于2。為了容許觀察位置的變化,這個系統(tǒng)可以配備有眼動追蹤器,即用于確定用戶的實際查看位置的相機和合適的軟件,并且根據(jù)檢測到的查看位置,動態(tài)地改變左右通道(即用于查看者的左眼或右眼的視圖)的屏幕像素分配。在每個超級像素中,使用從給定查看位置不可見的屏幕像素顯示可見的圖像信息的副本,這會生成一定量的冗余,從而在用戶移動頭部時實現(xiàn)更大的穩(wěn)固性,并且眼動追蹤系統(tǒng)要么無法獲得,要么不夠快速無法實時跟蹤。另外,這種配置允許根據(jù)不同的查看距離調(diào)適系統(tǒng)。
ep2044480b1中公開的系統(tǒng)經(jīng)過特別調(diào)適以利用現(xiàn)代的驅(qū)動顯示屏用的圖形卡的增強能力,尤其是對于被稱為“紋理圖”或簡稱為“紋理”的具體數(shù)據(jù)結(jié)構(gòu)執(zhí)行操作的能力。紋理是含有存儲于“紋素”(類似于含有像素的常規(guī)位圖)中的圖像信息的二維陣列,并且這些“紋素”被映射成屏幕上的像素。在屏幕上的位置(x,y)中的像素中所顯示的圖像內(nèi)容隨著標明這個圖像信息在紋理中的位置的兩個紋理坐標(u,v)而變。按慣例0≤u≤1并且0≤v≤1,從而使得u和v是非整數(shù)值,其并不指代各個紋素。除了(u,v)坐標之外,還必須指定取樣方法。取樣方法可以是標準方法(比如“雙立體取樣”)或定制方法,并且其復(fù)雜度可能很簡單,也可能很復(fù)雜。合適的取樣方法的選擇取決于多個方面,并且差不多總是需要做出取舍,其中既定圖像質(zhì)量和硬件能力是兩個最重要的方面。
紋理提供了一種存儲圖像信息的有利的方式。然而,除非另外指出,否則在本發(fā)明的上下文中,將以更通用的方式對于任何含有某一視圖的圖像信息的結(jié)構(gòu)以使用“紋理”這個術(shù)語。
用于這個系統(tǒng)中可以獲得的兩個不同視圖的圖像信息存儲于兩個不同紋理中。每個屏幕像素被分配給通過兩個通道顯示的兩個視圖中的任一個視圖。首先,分配的通道決定將要從哪個紋理中取樣數(shù)據(jù)。然而,當像素位于兩個通道之間的邊界上(例如像素被分配給左通道,但是它的直接相鄰像素已經(jīng)被分配給右通道)時,系統(tǒng)提供了這樣的可能性:通過混合來自兩個紋理的信息,混合的方式使得這個混合能以最大精確度反映邊界位置,借此確定像素的圖像內(nèi)容。在某些類型的2視圖自動立體顯示器中,這些“邊界”像素一般對于兩只眼睛都是不可見的。當用戶側(cè)向移動頭部或者改變離屏幕的觀看距離時,這些像素可能至少臨時變成可見的。在這些情況下,混合信息的特征會改善圖像質(zhì)量并且使得系統(tǒng)更加穩(wěn)固。
技術(shù)實現(xiàn)要素:
本發(fā)明的目標是提供一種根據(jù)權(quán)利要求1的序言的自動立體系統(tǒng),該自動立體系統(tǒng)提供更靈活的查看選項。
為了實現(xiàn)這個目標,根據(jù)本發(fā)明的方法的特征在于在步驟(a)之前的以下步驟:
-從多個預(yù)定義查看模式中選擇一種查看模式,其包括要顯示不同數(shù)目個視圖的查看模式;以及
-創(chuàng)建通道遮罩,其對于光學(xué)板的每個片段限定n數(shù)目個通道,其中n大于或等于選定查看模式中的視圖數(shù)目;
-為所述n個通道中的每個通道提供紋理;以及
-參照所述通道遮罩(m)使每個屏幕像素與至少一個所述紋理相關(guān)。
這種方法具有可以(例如)由用戶或系統(tǒng)本身選擇將要顯示的視圖數(shù)目的優(yōu)勢,并且將手動地或自動地相應(yīng)調(diào)適分配和取樣算法。
此系統(tǒng)使得能夠(在很大程度上)自由選擇多個查看者、多個視圖、顯示這些視圖的多個通道,并且將這三個方面彼此自由分配,即使系統(tǒng)正在運行時也可以如此。
另外,在給定時刻可以使用或者可以不使用追蹤系統(tǒng)。每種這些設(shè)置被稱作“模式”,并且改變這些設(shè)置(即使在系統(tǒng)操作期間也是可能的)是“改變模式”。
本發(fā)明利用如下事實:紋理的概念在組織任意可變數(shù)目個視圖的圖像信息時能提供很大的靈活性,并且使得這個信息可以用于根據(jù)需要顯示,即使在動態(tài)地改變的情況下也是如此,尤其包括混合來自不同紋理的信息的可能性。當然,通道邊界數(shù)目并且相應(yīng)地位于通道邊界上的像素數(shù)目隨著視圖數(shù)目增加,并且(例如)當用戶從一個查看位置移動到另一個查看位置時這些邊界像素變成可見是有規(guī)律的并且非常頻繁的事件。因此,混合信息以便使從一個視圖到另一個視圖的轉(zhuǎn)變變平滑的特征在多視圖設(shè)置方面提供了特別的優(yōu)勢。
從屬權(quán)利要求中提出本發(fā)明的更具體的任選特征。
根據(jù)本發(fā)明的系統(tǒng)可以能夠在任何時間確定顯示器前方的用戶的人數(shù)和位置。這可以容易(例如)通過使用追蹤系統(tǒng)實現(xiàn)。根據(jù)這個信息,算法可以決定在此情況下應(yīng)當渲染多少視圖,提供多少通道以傳遞這些視圖(視圖和通道的數(shù)目可以相等或者可以不相等)。如果只有一名用戶,則只要提供3d內(nèi)容文件通常包括的僅僅兩個“原生”視圖可能就夠了。還會使用追蹤來確保這名用戶始終看到一致的立體圖像。
如果第二位用戶站到顯示器前方,算法可以決定通過內(nèi)插現(xiàn)有的兩個視圖而顯現(xiàn)第三視圖,并且通過使用眼動追蹤器,利用針對在任何時間向這兩位查看者每位提供一致的立體圖像而經(jīng)過優(yōu)化的動態(tài)通道遮罩(但是對于某些位置群集,這一點恐怕是不可能的)。
如果有更多用戶走過來,系統(tǒng)可以“決定”通過使用被稱作“2到n轉(zhuǎn)換”的已知的方法來形成更多個視圖。如果用戶達到某個數(shù)目,該系統(tǒng)可以“決定”關(guān)閉追蹤系統(tǒng),這樣會使系統(tǒng)從動態(tài)模式轉(zhuǎn)變成靜態(tài)模式。替代地,系統(tǒng)可以仍然測量一組用戶的平均位置(“中心”)并且相應(yīng)地微調(diào)該系統(tǒng)。
甚至透鏡陣列也可能發(fā)生這些模式變化。存在所謂的可切換透鏡陣列,它由光學(xué)組件堆疊組成,其中可以(例如)通過施加電壓來改變某一層的折射率。在沒有電壓的時候,光學(xué)堆疊(例如)是透明的,就像玻璃片一樣,而電壓接通的時候,光學(xué)堆疊的功能就變成透鏡陣列。這個過程甚至可以允許將折射率任意地設(shè)置成兩個給定索引n1與nm之間的任何值,從而使得可以將透鏡的放大率調(diào)節(jié)成從1(不放大)到m(全放大率)的任何數(shù)值。
當有更多用戶時,所述系統(tǒng)可以使用這個特征增加放大率,因為這樣會允許在更多的通道中顯示更多的視圖(但是分辨率降低)。
只有一個視圖的特殊情況(“2d”模式)會使得透鏡陣列關(guān)閉,以此方式為任何數(shù)目的用戶在系統(tǒng)中恢復(fù)完整的“原生”2d分辨率。
可以使用模式變化以動態(tài)方式為單個用戶實現(xiàn)“環(huán)視”效應(yīng)。為此,將用戶的位置傳遞給軟件,軟件在屏幕上生成圖像,從而使得呈現(xiàn)給用戶的兩個視圖經(jīng)過渲染以與用戶的空間位置匹配。
除了在不同數(shù)目的視圖之間選擇之外,還提供在靜態(tài)模式與動態(tài)模式之間切換的選項,在靜態(tài)模式中查看位置是固定的,在動態(tài)模式中查看位置可以改變,并且基于位置追蹤相應(yīng)地調(diào)整屏幕內(nèi)容。
本發(fā)明還可以用于實施超級多視圖系統(tǒng),即這樣一個系統(tǒng),其中視圖的數(shù)目很多,源自相鄰屏幕像素的光束很窄很密,以至于在查看位置上光束的寬度小于眼瞳的寬度,結(jié)果是查看者每次用同一只眼睛看到兩個或更多個視圖的疊加。除了使得視圖之間的轉(zhuǎn)變極其平滑之外,此系統(tǒng)還可以有利地用于減輕或完全解決所謂的調(diào)節(jié)-轉(zhuǎn)換沖突。本領(lǐng)域中眾所周知,人所察覺的3d印象不僅取決于左眼和右眼之間的視差差別,而且取決于晶狀體的焦距根據(jù)物距變化的調(diào)節(jié)。這兩個因素有時可能彼此沖突,并且預(yù)期超級多視圖系統(tǒng)在此些情況下會改善3d效應(yīng)的品質(zhì)并且使3d圖像的查看更合意。
在靜態(tài)超級多視圖系統(tǒng)中,需要的視圖數(shù)目必須很多,例如大概n=50或更多。因此,為了獲得3d圖像的合理分辨率(超級像素的小尺寸),屏幕網(wǎng)格的分辨率必須極高。本發(fā)明能將需要的視圖數(shù)目減少成合理的值,(例如)n=6或n=8,減少的方法是通過組合多視圖與眼動追蹤功能,從而使得視圖只需要覆蓋兩只眼睛瞳孔的寬度即可。
用于確定用戶的左眼或右眼可看見的每個像素的內(nèi)容的取樣算法還可對于每個用戶單獨地配置。例如,眾所周知,當人的大腦解釋用兩只眼睛看到的場景并且兩個視圖之間有視差位移時,從一只眼睛獲得的信息一般比從另一只眼睛獲得的信息占優(yōu)勢,并且這個優(yōu)勢對于每個人而言是不同的。本發(fā)明例如通過使呈現(xiàn)給優(yōu)勢眼的圖像稍微淡化來補償這種效應(yīng)的可能性。
附圖說明
現(xiàn)在將結(jié)合附圖描述優(yōu)選實施例,其中:
圖1是根據(jù)本發(fā)明的自動立體系統(tǒng)的框圖;
圖2是2個視圖配置的透鏡陣列和通道遮罩的橫截面圖;
圖3是6個視圖配置的透鏡陣列和通道遮罩的放大橫截面圖;
圖4是示出兩個屏幕像素線中的幾個像素與透鏡陣列的柱狀透鏡之間的空間關(guān)系的示意性正視圖;
圖5到圖9是示出在本發(fā)明的一個實施例中的不同配置的圖;以及
圖10是示出根據(jù)本發(fā)明的方法的流程圖。
具體實施方式
圖1示出了自動立體系統(tǒng),其包括計算機系統(tǒng)10,(例如)個人計算機,計算機系統(tǒng)10包括圖形卡12,圖形卡12驅(qū)動監(jiān)視器14,以便在監(jiān)視器的屏幕16上顯示圖像。透鏡陣列18安置在屏幕16的前方,并且形成眼動追蹤或頭動追蹤系統(tǒng)20的一部分的攝像機附接到監(jiān)視器14并且與計算機系統(tǒng)10通信。
圖形卡12能存取存儲于計算機系統(tǒng)10的存儲器中的兩個紋理l和r。紋理l存儲左視圖的圖像信息,即顯示給通過透鏡陣列18觀看屏幕16的用戶(未圖示)的左眼的圖像信息。類似地,紋理r存儲用于用戶的右眼的右視圖的圖像信息。頭動追蹤系統(tǒng)20跟蹤用戶的頭部的任何移動,并且向計算機系統(tǒng)發(fā)信號通知這些移動,計算機系統(tǒng)接著將調(diào)適在屏幕16上顯示的信息以與用戶的改變的位置匹配。
圖2是屏幕16和透鏡陣列18的示意性橫截面圖。平坦屏幕16可以例如是包括tft層的tft屏幕。透鏡陣列18通過透明板形成,該透明板具有平面背表面和波紋前表面,其限定平行柱面透鏡22的陣列。為簡單起見,這里示出透鏡陣列18是與屏幕16的表面保持直接接觸的實心塊體。實際上,透鏡陣列可包括具有不同折射指數(shù)的不同層,可能包括膠體層,膠體層將透鏡陣列粘合到屏幕表面上。相反,透鏡陣列可以通過氣隙與屏幕隔開。
一組光線24代表一些光線,這些光線從屏幕16的tft層中的各種點發(fā)射,并且每個光線穿過透鏡22之一的頂點,然后最終在點u上重合,點u代表觀看屏幕的用戶或查看者的理想位置。穿過每個柱面透鏡的頂點線的平面p被稱為透鏡陣列的主平面。平面o相當于透鏡陣列的物體平面,但是從真正的物體平面位移,以便通過消除穿過透鏡陣列層的光將被折射(即使這些層是形成平行面的板時也是如此)的效應(yīng),從而簡化圖示。因此,光線24在平面o中的發(fā)源點可以被認為是當從位于點u的源照明時,柱面透鏡22的頂點線的投影。
圖2還示出了用戶的左眼和右眼26、28,并且代表用戶的理想位置的點u被定義為是連接眼睛26和28(或者更準確地說是其瞳孔的頂點)的線的中心點。此外,圖2示出了在物體平面o中發(fā)射的幾個光束30、32、34、36,這些光束通過透鏡陣列18的透鏡偏轉(zhuǎn),然后朝向用戶的眼睛26、28傳播或者經(jīng)過眼睛26、28。雖然光線24因為穿過透鏡中心所以未被透鏡偏轉(zhuǎn)(至少在這個簡化圖示中是這樣),但是光束30至36中的光線在柱面透鏡的彎曲表面上被偏轉(zhuǎn)(并且還被準直)。光束30的光線經(jīng)過偏轉(zhuǎn)使其入射到用戶的左眼26上。類似地,光束32的光線經(jīng)過偏轉(zhuǎn)使其入射到用戶的右眼28上。相反,光束34的中心光線穿過其對應(yīng)透鏡的中心因而未經(jīng)偏轉(zhuǎn),該光束本身經(jīng)過準直并且入射到用戶兩眼正中間的點u上。因此,這個光束和在屏幕上的對應(yīng)像素是用戶不可見的。類似地,光束36經(jīng)過偏轉(zhuǎn),從而使得它經(jīng)過用戶的左眼,從而使得這個光束和對應(yīng)像素也是用戶不可見的。因而應(yīng)理解,對于任何給定查看位置,在平面o中顯示的圖像細分成只對用戶的左眼26可見的條帶或片段,與之相間的是只對用戶的右眼28可見的片段,并且放大率大于2時,這些片段被完全不可見的“不可見區(qū)域”隔開。具體來說,對應(yīng)于光束34的區(qū)域?qū)⑴c左眼26對應(yīng)的片段和(因此)圖像信息的左通道同與右眼28對應(yīng)的片段和右通道隔開。
透鏡陣列18的這個特性表示為透鏡通道遮罩m*,其將主平面p分成左通道區(qū)域38(圖2中用白色示出)和右通道區(qū)域40(用黑色示出)。柱面透鏡的頂點線構(gòu)成從左通道區(qū)域38到右通道區(qū)域40的第一種轉(zhuǎn)變。
由于透鏡陣列是周期性的,所以第二種轉(zhuǎn)變是在第一種轉(zhuǎn)變之間的中間位置形成的,與透鏡陣列18的鄰近柱面透鏡之間的邊界重合。
如圖2中進一步示出的,透鏡通道遮罩m*可以投影到平面o中,位置u是投影中心。這樣得到屏幕通道遮罩m,其具有投影的右通道區(qū)域42和投影的左通道區(qū)域44。當在平面o中、因此在屏幕16的表面中的像素落在左通道區(qū)域42內(nèi)時,該像素與左通道對應(yīng)或相關(guān),而當它落在右通道區(qū)域44內(nèi)時,它與右通道對應(yīng)或相關(guān)。因此,對于完全包含在一個區(qū)域中的每個像素,可以判斷這個像素是屬于哪個通道,即如果能被看見的話,它將被哪只眼睛看見,或者會被哪只眼睛看見。
當?shù)谝环N轉(zhuǎn)變處的不可見區(qū)域和第二種轉(zhuǎn)變處的不可見區(qū)域的寬度相等時,從用戶到屏幕的距離被視為是最優(yōu)的。當用戶從屏幕后退得更遠時,第一種不可見區(qū)域會縮小,并且在發(fā)散光束34入射到用戶的兩只眼睛26、28上時最終消失。相反,當用戶趨近屏幕時,第二種不可見區(qū)域(通過光束36表示)會縮小并且最終消失。當一種類型的不可見區(qū)域消失時,左右通道不再完全分開,即一些像素或一部分像素用兩只眼睛都能看到。
當在圖2中用戶向左或向右移動時,屏幕通道遮罩m將在相反的方向上位移,但是通過將屏幕上顯示的圖像位移相同的量,可以補償這種效應(yīng)。如果不存在頭動或眼動追蹤系統(tǒng),則圖像當然會優(yōu)選地在特定位置中顯示,這個位置使得圖像能被垂直方向和水平方向上對稱地位于屏幕中心的用戶最佳地查看。
從圖2中可以進一步看出,屏幕通道遮罩m相比透鏡通道遮罩m*放大。這個放大是由于光線24的投影,即光線24的發(fā)散,并且與各個柱面透鏡的放大屬性無關(guān)。
圖3用放大比例示出了與圖2相似的視圖,但用的是6個視圖的系統(tǒng)。在這種情況下,對于透鏡陣列中的每個單獨的透鏡22,屏幕通道遮罩m劃分成六個通道1至6。總的來說,每個透鏡的通道數(shù)目至少等于視圖的期望數(shù)目n。但是,有可能一些通道含有冗余信息,并且每個透鏡的通道數(shù)目大于視圖的數(shù)目。
圖3示出了側(cè)向位置與查看位置相同的透鏡22,因而用戶正面查看該透鏡22。其結(jié)果是,對于這個透鏡,屏幕通道遮罩m與對應(yīng)的透鏡通道遮罩(圖3中未示出)之間不存在偏移。對于被透鏡22覆蓋的通道1至6中的每個通道示出光束b1至b6。光束b2入射到查看者的左眼26的瞳孔46上,并且光束b5入射到右眼28的瞳孔上。其它光束b1、b3、b4和b6在此情況下是不可見的。不可見的還有光束a6和光束c1,光束a6源于通道遮罩m的相鄰片段(對應(yīng)于相鄰?fù)哥R)的通道6,光束c1源于另一側(cè)上的相鄰片段的通道1。
光束b1至b6表示6個視圖的系統(tǒng)的六個不同視圖。左眼和右眼可見的光束b2和b5形成立體視圖對,從而使得當在屏幕上在對應(yīng)的通道2和5中顯示合適的圖像信息時將察覺到3d圖像。
當在圖3中用戶將他的頭向右移動時,他將看到光束b1和b4,光束b1和b4形成另一立體視圖對。相反,當他向另一側(cè)移動時,他將看到光束b3和b6,光束b3和b6形成又一立體視圖對。因此,即使在這個實例中通道遮罩m是靜止的(當查看位置改變時不移動)時,只要用戶的頭部的側(cè)向移動限于某一范圍,他就能夠仍然察覺到3d圖像。為此目的,通道1到3必須包括左眼26用的圖像信息,并且通道4到6必須包括右眼28用的圖像信息。
在根據(jù)圖3的多視圖系統(tǒng)中,只有在右眼用的通道的序數(shù)大于左眼用的序數(shù)時,用戶才會看到立體視圖對。當在圖3中用戶向右移動得足夠遠從而使得他看到光束a6和b3時,他的左眼26會察覺通道6的圖像信息,他的右眼28會察覺通道3的圖像信息,從而使得右眼用的通道的序數(shù)(3)將小于左眼用的通道的序數(shù)(6)。因此,用戶會察覺到不現(xiàn)實的倒置的立體圖像。當用戶向左移動得足夠遠從而使得他的右眼28被光束c1入射時,也是同樣的道理。
然而,雖然在圖3中未圖示,但是當用戶進一步向左移動時,他的右眼28會連續(xù)地看到對應(yīng)于左眼用的視圖的光束c2、c3,然后是同樣對應(yīng)于右眼用的視圖的光束c4。此時,左眼26會被分配給左眼的光束c1入射,并且用戶會再次察覺到正確的3d圖像。因而應(yīng)理解,所述系統(tǒng)提供多個合適的觀看位置,從這些觀看位置可以看到正確的3d圖像,這些觀看位置被將看到倒置圖像的位置隔開。因為存在多于一個合適的查看位置,所以系統(tǒng)能供多個查看者同時使用。
為了生成不與相鄰視圖共用圖像信息的視圖,通道遮罩m的六個通道每個必須對于每條線含有至少一個像素,這個像素是這個通道獨有的(即相鄰?fù)ǖ啦桓采w這個像素的任何部分)。當然,有可能每個通道包括兩個或更多個屏幕像素,這些屏幕像素被排他性地指派給這個通道。例如,當圖3中的每個通道僅僅包括一個屏幕像素并且6個視圖的通道遮罩m接著換成僅僅具有透鏡22下方的三個通道的3個視圖的通道遮罩時,于是每個通道將有兩個像素。
應(yīng)進一步理解,通道遮罩m的每個通道與獲取所述通道的圖像信息的來源紋理對應(yīng)。因此,在圖3中示出的例子中,將有六個不同的紋理。然而,例如簡單地通過將圖像信息重新分組成僅僅兩個紋理(l和r),并且通過用2個視圖的通道遮罩替換6個視圖的通道遮罩,可以從圖3中示出的6個視圖的系統(tǒng)切換成圖1和圖2中示出的2個視圖的系統(tǒng)。同樣,可以任意改變視圖的數(shù)目n,只要每個像素線中能滿足每個通道和透鏡應(yīng)當有至少一個像素的要求即可。
圖4示出了屏幕16的一部分的放大正視圖,圖中示出了兩個像素線中每個像素線中的八個連續(xù)像素48以及透鏡陣列18的單個透鏡22的邊界。
如圖4中所示,透鏡陣列18的柱面透鏡22不是垂直地布置,但是相對于屏幕的垂直像素列形成某個角度α。能夠任意地選擇這個角度是有利的,原因有幾個方面,其中包括能使不同類型的波紋和串擾降至最低。根據(jù)本發(fā)明的方法可以涉及任何期望的角度α,只要透鏡布置提供足夠量的視差即可,最遲在透鏡傾斜已達到90度時并不是這樣的情況?!?/p>
為簡單起見,這里將假設(shè)屏幕是單色屏幕。ep2044480b1中對于2個視圖的系統(tǒng)說明了可以擴展到彩色屏幕,(例如)rgb屏幕,其中每個像素由子像素的彩色三元組構(gòu)成。這里所公開的原理可以等效地應(yīng)用于具有多于兩個視圖的系統(tǒng)和系統(tǒng)配置。
在這個實例中,由六個像素構(gòu)成的組構(gòu)成(兩行連續(xù)線中各一組像素)并且位于單個透鏡22的區(qū)域內(nèi)的十二個像素用從到1到12的數(shù)字表示,其中下方線中的像素使用奇數(shù),上方線中的像素使用偶數(shù)。
圖4中用線b表示通道邊界??梢钥闯鱿袼嘏c通道之間的關(guān)系不是唯一的。例如,在圖4中的下方像素線中,像素并未完全配合到對應(yīng)的通道條帶中,但是左下角和右上角被切掉并且延伸到相鄰?fù)ǖ乐?。在上方像素中,這種效應(yīng)甚至更加明顯,并且像素差不多被通道邊界平分。當要決定應(yīng)當在這些像素中顯示哪些內(nèi)容時,應(yīng)當考慮到通道分配方面的不確定性。在給定的示例中,角度α選擇成使得通道邊界每隔一個像素線在相同位置上穿過像素(例如最下面的線中的像素1用與最上面的像素線中的像素1相同的方式被通道邊界分開,其中像素1和3用虛線表示)。
有幾種算法能用于向每個像素分配相關(guān)的一個通道或多個通道。一種可能性是將像素映射到通道遮罩m上,并且計算像素的表面積的與每個通道重疊的部分的大小。如果像素完全包含在一個通道中,則它將被唯一地分配給所述通道(相關(guān)度因數(shù)為1)。如果它與兩個或更多個通道重疊,則用特定的相關(guān)度因數(shù)使它與這些通道每個相關(guān),該相關(guān)度因數(shù)與像素和相應(yīng)通道重疊的表面積成正比。
在這里優(yōu)選的一種替代方法中,穿過每個像素的中心繪制水平線y,使得線y從像素的左邊界到右邊界的線段被通道邊界b(例如圖4中是通道3與4之間的邊界)分成子線段h3和h4。于是,像素與每條通道的相關(guān)度分別與子片段h3和h4的長度成正比。
圖4中示出的模式可以用于例如實施帶有頭動追蹤功能的兩個視圖的系統(tǒng)(n=2)。于是,例如,同一條線中并且在同一個柱狀透鏡22后面的六個像素中只有兩個將是可見,每個視圖一個像素。其余的四個像素將包括這兩個可見像素的復(fù)本以實現(xiàn)冗余。
另一可能的操作模式將是12個視圖的模式,其中圖4中的十二個像素1至12每個都將是可見的,并且被分配給一個不同的視圖。在六個視圖的模式中,每隔一個像素將是可見的。系統(tǒng)可以是靜態(tài)的,即不帶眼動追蹤功能。
在又一模式中,透鏡陣列可以移除,或者切換成非折射狀態(tài),并且系統(tǒng)可以用2d模式操作從而提供最大分辨率。
在3d模式中,當透鏡陣列生效時,每個柱狀透鏡22會在垂直于透鏡方向的方向上放大像素。在6個視圖的系統(tǒng)中,例如,放大率必須至少是6:1,因為只有每隔五個像素必須實際上對于每只眼睛是可見的(在這個示例中,通道2的像素是對于左眼,通道5的像素是對于右眼)。為了使通道的可見部分保持盡可能彼此遠離,實際上對于這種“間距較窄”的系統(tǒng)實際常見的放大率是m=∞,從而使得對于每只眼睛,每個透鏡下方的可見部分縮小成一條線。
圖5是像素線y的一部分的圖示說明,其中像素48被單個透鏡22覆蓋。有待確定圖像內(nèi)容的像素的中心點表示為p。在像素線y上,由透鏡22限定的通道遮罩的區(qū)間受到點b0和b1限界。在像素線下方示出對應(yīng)的通道遮罩m。在這個實例中,b0與b1之間的區(qū)間含有九個像素,并且因為選擇通道數(shù)目n=6,所以通道遮罩m的對應(yīng)的區(qū)間劃分成六個通道1至6。
下文顯示通道遮罩m是在像素線的方向上延伸的坐標軸線x,并且被歸一化成從b0到b1的區(qū)間的寬度,從而使得b0具有坐標x=0并且b1具有坐標x=1。
所考慮的像素的中心點p恰好處于通道2內(nèi),并且像素的寬度覆蓋通道2和3的一部分。
在這個實例中,所考慮的像素被唯一地分配給含有像素的中心點p的通道(通道2)。因此,將沒有來自不同紋理的圖像的混合,并且從一個視圖到另一個視圖的轉(zhuǎn)變將是突然的。像素與其通道的相關(guān)度受被稱作“取樣寬度”e的參數(shù)的控制。在圖5中,取樣寬度是0,這意味著,只使用p的位置來確定這個像素對應(yīng)的通道。
在圖6中,取樣寬度設(shè)置成e=1,以單個像素48的寬度為單位。取樣寬度e限定取樣區(qū)間,取樣區(qū)間受到點p0和p1限界并且具有點p作為其中心。在通道遮罩m上,取樣區(qū)間[p0,p1]覆蓋通道2和3的一些部分。這些通道將取樣區(qū)間分成不同大小的兩個區(qū)段,這通過相關(guān)度矩形58表示。像素與每個通道的相關(guān)度因數(shù)被定義為對應(yīng)片段的寬度與整個取樣寬度e之間的比率。因此,在這個實例中,在p處的像素的最終圖像內(nèi)容將是與通道2和3對應(yīng)的紋理的取樣結(jié)果的加權(quán)平均(用相關(guān)度因數(shù)加權(quán))。
圖7示出e=1并且n=9的示例,從而使得所考慮的像素現(xiàn)在與通道3和4相關(guān),而非像圖6中一樣與通道2和3相關(guān)。
圖8示出一種配置,該配置與圖6的區(qū)別在于取樣寬度選擇成小于1:e=0.5,結(jié)果是更多的像素將被唯一地分配給僅僅一個通道。因為通道的數(shù)目是恒定的(在這種情況下n=6),所以取樣寬度更大將使得轉(zhuǎn)變更平滑,從而使得在圖8中,從一個到另一個的轉(zhuǎn)變將比圖5中平滑,但是不如圖6中平滑。
圖9示出了e=2.1并且n=9的示例?,F(xiàn)在取樣區(qū)間[p0,p1]不僅覆蓋通道3和4并且覆蓋通道2的一小部分。因此,在這個實例中,在p處的像素的最終圖像內(nèi)容將是與通道2到4對應(yīng)的紋理的取樣結(jié)果的加權(quán)平均(用相關(guān)度因數(shù)加權(quán))。
圖10中顯示了示出根據(jù)本發(fā)明的方法的總體流程圖。
在步驟s1中,選擇有待顯示的視圖的數(shù)目n,這還決定了有待生成的紋理的數(shù)目。應(yīng)注意,n不直接與屏幕16的物理特性相關(guān),并且可以在1與從b0到b1的區(qū)間中的屏幕像素數(shù)目決定的某一上限之間自由選擇。例如,當有頭動追蹤相機可供使用時,可以使用這個相機檢測并且計算查看者的人數(shù),接著將與查看者人數(shù)成正比或者成反比地自動調(diào)適n。
在步驟s2中,設(shè)置一種分配方案,該方案能確保可用圖像信息將被分配到n個紋理上。在最簡單的情況下,用包括n個不同視圖的格式提供圖像信息,并且已在步驟s1中選擇這個數(shù)目n。接著在步驟s2中將每個視圖的圖像信息加載到一個不同的紋理中。
但是有可能選擇小于可用的視圖數(shù)目的n。于是可以丟棄一些可用視圖。如果例如可用圖像信息是8個視圖的格式,并且用戶或系統(tǒng)選擇n=4,則他或系統(tǒng)可以決定丟棄四個外部視圖。在這種情況下,從視圖到視圖的轉(zhuǎn)變將與8個視圖的配置中一樣平滑,但是用戶可以移動頭部的范圍將會變窄。作為替代方案,用戶可以選擇丟棄每隔一個視圖,結(jié)果是移動范圍將會與前面一樣寬,但是從視圖到視圖的轉(zhuǎn)變將會更明顯,但是這種效應(yīng)可以減輕,這是通過選擇較大的取樣寬度e以便增強通道混合,但是只有以增加相鄰視圖之間的“模糊”為代價才能實現(xiàn)。
相反,還可以將n選擇成大于可用的視圖數(shù)目。在這種情況下,可以將可用視圖的復(fù)本加載到自由通道中。任選地,可以借助于內(nèi)插或外插技術(shù)計算額外的視圖。
如果將要顯示場景的3d模型,則通過在3d模型中定位相應(yīng)數(shù)目的虛擬相機,可以直接從這個模型計算任何數(shù)目的視圖。
在步驟s2中設(shè)置分配方案,可以通過用戶手動地執(zhí)行,或者通過軟件自動地執(zhí)行。在后一種情況下,可以向用戶提供不同選項之間的選擇。
在步驟s3中,提示用戶或系統(tǒng)決定他或其是否想要使用眼動追蹤。然而,應(yīng)注意,這個決定與是否選擇n=2或n>2無關(guān)。
當用戶或系統(tǒng)決定將不使用眼動追蹤(n)時,在步驟s4中(例如)基于查看者位于最優(yōu)觀看距離并且在屏幕中心的前方的假設(shè)而創(chuàng)建靜態(tài)通道遮罩。然而,用于選擇查看位置的其它選項也是可能的。
當在步驟s3中選擇了眼動追蹤(y)時,基于檢測到的用戶的查看位置將在步驟s5中創(chuàng)建動態(tài)通道遮罩。在顯示器的前方有多于一個用戶的多用戶場景中,眼動追蹤或頭動追蹤系統(tǒng)可被配置成跟隨這些用戶中的特定一位用戶。
在步驟s4或s5之后,將在步驟中s6(通過系統(tǒng))自動地或者通過用戶手動地選擇取樣寬度e。
最后,顯示算法在步驟s7中開始,然后通過將每個像素與n個通道中的一或多個通道相關(guān),從n個紋理中取樣圖像數(shù)據(jù),并且視情況基于選定取樣寬度e混合圖像數(shù)據(jù),借此渲染所設(shè)置的n數(shù)目個視圖。在3d影片的情況下,當然將在每個時隙中更新紋理的內(nèi)容。
在圖1中示出的自動立體系統(tǒng)中,還可以將透鏡陣列18換成不同的一個透鏡陣列,以便相對于選定數(shù)目n個視圖優(yōu)化性能(尤其是分辨率)。更換透鏡陣列18可能引起某些機械調(diào)節(jié)錯誤。然而,通道遮罩和取樣程序可能容易適于補償這些錯誤,如例如ep2615838a1中所述。