本發(fā)明涉及圖像處理裝置及其工作方法。
背景技術(shù):
在醫(yī)療領(lǐng)域中,對(duì)生物體內(nèi)的觀察對(duì)象進(jìn)行拍攝的內(nèi)窺鏡系統(tǒng)被廣泛利用。內(nèi)窺鏡系統(tǒng)具備被插入到生物體內(nèi)而對(duì)觀察對(duì)象進(jìn)行拍攝并輸出圖像信號(hào)的內(nèi)窺鏡、和基于圖像信號(hào)生成觀察對(duì)象的觀察圖像并將其向監(jiān)視器輸出的內(nèi)窺鏡用處理器裝置(以下,簡(jiǎn)單記作處理器裝置)。
在利用觀察圖像的診斷中,對(duì)于醫(yī)師而言,判斷在觀察圖像內(nèi)是否具有與預(yù)先設(shè)定的多個(gè)臨床癥狀(臨床表現(xiàn))對(duì)應(yīng)的區(qū)域、弄清楚癥狀的程度為何種程度是重要的。例如在胃粘膜的觀察圖像中,通過(guò)將與彌漫性發(fā)紅、地圖狀發(fā)紅、腸上皮化生等作為胃炎的京都分類(lèi)(kyotoclassification)而已知的多個(gè)癥狀分別對(duì)應(yīng)的有無(wú)及其程度進(jìn)行評(píng)分,判斷該區(qū)域是否是由于感染幽門(mén)螺旋桿菌(helicobacterpylori)而產(chǎn)生的慢性胃炎的特征性區(qū)域。此外,在大腸息肉的觀察圖像中,通過(guò)將息肉分類(lèi)為ⅰ型、ⅱ型、ⅲs型等作為腺管開(kāi)口形態(tài)分類(lèi)(pitpatternclassification)而已知的多個(gè)癥狀的某一個(gè),來(lái)判斷大腸癌的進(jìn)展度。
在日本特開(kāi)2014-166298號(hào)公報(bào)中記載了一種處理器裝置,其在大腸息肉的觀察圖像中,基于與預(yù)先準(zhǔn)備的基本形態(tài)的類(lèi)似度這樣的特征量,將息肉分類(lèi)為腺管開(kāi)口形態(tài)分類(lèi)的多個(gè)癥狀的某一個(gè),進(jìn)行與分類(lèi)結(jié)果相應(yīng)的顏色的強(qiáng)調(diào)處理(顏色分配處理)。由于癥狀的分類(lèi)自動(dòng)化、并且顯示與分類(lèi)結(jié)果相應(yīng)的顏色分配圖像,所以診斷順利進(jìn)展。
如上述那樣,在利用觀察圖像的診斷中,有這樣的希望,即:判斷與癥狀對(duì)應(yīng)的區(qū)域的有無(wú),同時(shí)為了進(jìn)一步實(shí)現(xiàn)診斷的效率化而希望把握癥狀的程度。但是,在日本特開(kāi)2014-166298號(hào)公報(bào)中,雖然能夠把握與區(qū)域?qū)?yīng)的癥狀,但無(wú)法把握癥狀的程度。
技術(shù)實(shí)現(xiàn)要素:
本發(fā)明的目的在于,提供一種圖像處理裝置及其工作方法,能夠把握靈活運(yùn)用于診斷的癥狀所對(duì)應(yīng)的區(qū)域的有無(wú),并且還能夠把握癥狀的程度。
為了達(dá)成上述目的,本發(fā)明提供圖像處理裝置,具備:圖像信號(hào)取得部,取得對(duì)生物體內(nèi)的觀察對(duì)象進(jìn)行拍攝而得到的圖像信號(hào);觀察圖像生成部,根據(jù)圖像信號(hào),生成觀察對(duì)象的觀察圖像;特征量計(jì)算部,從圖像信號(hào)計(jì)算特征量;區(qū)域決定部,根據(jù)特征量,決定與預(yù)先設(shè)定的多個(gè)癥狀分別對(duì)應(yīng)的觀察圖像內(nèi)的區(qū)域;級(jí)別分類(lèi)部,根據(jù)特征量,將區(qū)域分類(lèi)為對(duì)多個(gè)癥狀分別預(yù)先設(shè)定的、表示癥狀的程度多個(gè)級(jí)別中的某個(gè);顏色分配圖像生成部,按照對(duì)每個(gè)癥狀設(shè)定的顯示色、以及對(duì)每個(gè)級(jí)別設(shè)定的顯示色的色調(diào),對(duì)觀察圖像進(jìn)行顏色分配處理,生成顏色分配圖像;以及顯示控制部,控制顏色分配圖像的顯示。
此外,優(yōu)選的是,特征量計(jì)算部計(jì)算多個(gè)種類(lèi)的特征量,區(qū)域決定部根據(jù)多個(gè)種類(lèi)的特征量中的第1特征量進(jìn)行區(qū)域的決定,級(jí)別分類(lèi)部根據(jù)多個(gè)種類(lèi)的特征量中的第2特征量進(jìn)行級(jí)別的分類(lèi)。
此外,優(yōu)選的是,第2特征量包含第1特征量。
此外,優(yōu)選的是,顏色分配圖像生成部對(duì)區(qū)域的邊界進(jìn)行顏色分配處理。
此外,優(yōu)選的是,觀察對(duì)象是胃粘膜,癥狀是與胃炎相關(guān)的癥狀。
此外,優(yōu)選的是,圖像信號(hào)取得部取得向觀察對(duì)象照射短波長(zhǎng)側(cè)的光強(qiáng)度比長(zhǎng)波長(zhǎng)側(cè)的光強(qiáng)度強(qiáng)的照明光而得到的圖像信號(hào)。
此外,優(yōu)選的是,還具備對(duì)圖像信號(hào)實(shí)施使明亮度均勻的明亮度校正處理的明亮度校正處理部,特征量計(jì)算部從明亮度校正處理完成的圖像信號(hào)計(jì)算特征量。
此外,優(yōu)選的是,還具備對(duì)基于將白色光作為照明光向觀察對(duì)象照射得到的圖像信號(hào)的通常圖像、實(shí)施將顏色及對(duì)比度中的至少一個(gè)降低的降低處理的降低處理部,顯示控制部在降低處理完成的通常圖像上重疊顏色分配圖像。
進(jìn)而,本發(fā)明提供圖像處理裝置的工作方法,包括以下步驟:取得對(duì)生物體內(nèi)的觀察對(duì)象進(jìn)行拍攝而得到的圖像信號(hào);根據(jù)圖像信號(hào),生成觀察對(duì)象的觀察圖像;從圖像信號(hào)計(jì)算特征量;根據(jù)特征量,決定與預(yù)先設(shè)定的多個(gè)癥狀分別對(duì)應(yīng)的觀察圖像內(nèi)的區(qū)域;根據(jù)特征量,將區(qū)域分類(lèi)為對(duì)多個(gè)癥狀分別預(yù)先設(shè)定的、表示癥狀的程度的多個(gè)級(jí)別中的某個(gè);通過(guò)按每個(gè)癥狀設(shè)定的顯示色、并且按每個(gè)級(jí)別設(shè)定的顯示色的色調(diào),對(duì)觀察圖像進(jìn)行顏色分配處理,生成顏色分配圖像;控制顏色分配圖像的顯示。
發(fā)明效果
根據(jù)本發(fā)明,能夠提供一種圖像處理裝置及其工作方法,該圖像處理裝置基于根據(jù)拍攝生物體內(nèi)的觀察對(duì)象得到的圖像信號(hào)計(jì)算出的特征量,決定與預(yù)先設(shè)定的多個(gè)癥狀分別對(duì)應(yīng)的區(qū)域,并且將區(qū)域分類(lèi)為對(duì)多個(gè)癥狀分別預(yù)先設(shè)定的、表示癥狀的程度的多個(gè)級(jí)別中的某個(gè),顯示進(jìn)行了與這些區(qū)域決定結(jié)果及分類(lèi)結(jié)果相應(yīng)的顏色分配處理的顏色分配圖像,因此能夠把握靈活運(yùn)用于診斷的癥狀所對(duì)應(yīng)的區(qū)域的有無(wú),同時(shí)還能夠把握癥狀的程度。
附圖說(shuō)明
圖1是內(nèi)窺鏡系統(tǒng)的外觀圖。
圖2是表示內(nèi)窺鏡系統(tǒng)的各部的框圖。
圖3是表示圖像處理部的各功能部的框圖。
圖4是表示特征量計(jì)算部的處理的流程的說(shuō)明圖。
圖5是表示第1特征量和第2特征量的例子的表。
圖6是表示區(qū)域決定表的內(nèi)容的圖。
圖7是表示級(jí)別分類(lèi)表的內(nèi)容的圖。
圖8是表示顏色分配表的內(nèi)容的圖。
圖9是表示區(qū)域決定部、級(jí)別分類(lèi)部以及顏色分配圖像生成部的處理的流程的說(shuō)明圖。
圖10是表示區(qū)域決定部、級(jí)別分類(lèi)部以及顏色分配圖像生成部的處理的流程的其他例子的說(shuō)明圖。
圖11是表示顏色分配處理的詳情的圖。
圖12是表示顯示控制部的功能部的框圖。
圖13是表示第2觀察模式的情況下的圖像顯示畫(huà)面的圖。
圖14是表示注釋顯示畫(huà)面的圖。
圖15是表示第1觀察模式的情況下的圖像顯示畫(huà)面的圖。
圖16是表示處理器裝置的處理順序的流程圖。
圖17是表示第2實(shí)施方式的圖像處理部的各功能部的框圖。
圖18是明亮度校正處理的概念圖。
圖19是表示第3實(shí)施方式的圖像處理部以及顯示控制部的各功能部的框圖。
圖20是表示第3實(shí)施方式的圖像顯示畫(huà)面的圖。
具體實(shí)施方式
[第1實(shí)施方式]
圖1中,內(nèi)窺鏡系統(tǒng)10具備:內(nèi)窺鏡11,拍攝生物體內(nèi)的觀察對(duì)象并輸出圖像信號(hào);處理器裝置12,相當(dāng)于本發(fā)明的圖像處理裝置,基于圖像信號(hào)而生成觀察對(duì)象的觀察圖像;光源裝置13,對(duì)內(nèi)窺鏡11提供向觀察對(duì)象照射的照明光。在處理器裝置12上,連接著監(jiān)視器14、鍵盤(pán)鼠標(biāo)等輸入器件15。
內(nèi)窺鏡11具備:插入部16,被向生物體內(nèi)插入;操作部17,設(shè)置在插入部16的基端部分;通用塞繩18,將內(nèi)窺鏡11與處理器裝置12及光源裝置13連結(jié)。本實(shí)施方式中,內(nèi)窺鏡11主要用于以胃粘膜為觀察對(duì)象的上部消化道。
插入部16由從頂端起依次連續(xù)設(shè)置的頂端部19、彎曲部20、可撓管部21構(gòu)成。彎曲部20由相連結(jié)的多個(gè)彎曲塊構(gòu)成,通過(guò)對(duì)操作部17的角度鈕22進(jìn)行操作而向上下左右方向彎曲動(dòng)作。圖1中用虛線示出了向上方的彎曲動(dòng)作。通過(guò)彎曲部20的彎曲,頂端部19朝向所希望的方向??蓳瞎懿?1具有撓性,以便能夠插入食道等彎彎曲曲的管道。
在插入部16中,插通有在與處理器裝置12之間通信各種信號(hào)的通信線纜、將來(lái)自光源裝置13的照明光向頂端部19導(dǎo)光的光導(dǎo)35(參照?qǐng)D2)等。在操作部17,除了角度鈕22以外,還設(shè)有供鉗子、電手術(shù)刀這樣的處理工具插入的鉗子口23、在從設(shè)于頂端部19的送氣送水噴嘴進(jìn)行送氣送水時(shí)被操作的送氣送水按鈕24等。
在通用塞繩18中,插通著從插入部16延伸設(shè)置的通信線纜、光導(dǎo)35。在通用塞繩18的處理器裝置12及光源裝置13側(cè)的一端,安裝有連接器25(連接器單元)。連接器25是由通信用連接器25a和光源用連接器25b構(gòu)成的復(fù)合型的連接器。通信用連接器25a拆裝自由地與處理器裝置12連接,光源用連接器25b拆裝自由地與光源裝置13連接。在通信用連接器25a設(shè)有通信線纜的一端,在光源用連接器25b設(shè)有照明光入射的光導(dǎo)35的入射端。
圖2中,在內(nèi)窺鏡11的頂端部19,設(shè)有用于拍攝觀察對(duì)象的觀察窗30、以及用于向觀察對(duì)象照射照明光的照明窗31。在觀察窗30的里側(cè),配置有物鏡光學(xué)系統(tǒng)32和攝像傳感器33。在照明窗31的里側(cè),配置有照射透鏡34、和照明光出射的光導(dǎo)35的出射端。
觀察對(duì)象的像穿過(guò)觀察窗30向物鏡光學(xué)系統(tǒng)32入射,利用物鏡光學(xué)系統(tǒng)32而在攝像傳感器33的攝像面33a上成像。攝像傳感器33由ccd(chargecoupleddevice)圖像傳感器或cmos(complementarymetal-oxidesemiconductor)圖像傳感器等構(gòu)成,在攝像面33a,呈矩陣狀排列有光電二極管等構(gòu)成像素的多個(gè)光電變換元件。攝像傳感器33將在攝像面33a接收到的光進(jìn)行光電變換,在各像素中蓄積與各自的受光量相應(yīng)的信號(hào)電荷。信號(hào)電荷通過(guò)放大器被變換為電壓信號(hào)并被讀出。攝像傳感器33將該電壓信號(hào)作為圖像信號(hào)來(lái)輸出。
攝像傳感器33是彩色攝像傳感器,在攝像面33a設(shè)有藍(lán)色微型彩色濾光片(b濾光片)、綠色微型彩色濾光片(g濾光片)、紅色微型彩色濾光片(r濾光片)即藍(lán)色、綠色、紅色這3色的微型彩色濾光片(microcolorfilter),各濾光片被分配給各像素。各濾光片的排列例如是拜耳(bayer)排列。另外,在以下的說(shuō)明中,從被分配了b濾光片的像素(b像素)輸出的圖像信號(hào)稱為b圖像信號(hào),從被分配了g濾光片的像素(g像素)輸出的圖像信號(hào)稱為g圖像信號(hào),從被分配了r濾光片的像素(r像素)輸出的圖像信號(hào)稱為r圖像信號(hào)。
從光源裝置13供給的照明光被光導(dǎo)35向照射透鏡34導(dǎo)光,從照明窗31朝向觀察對(duì)象照射。照射透鏡34由凹透鏡構(gòu)成,擴(kuò)展從光導(dǎo)35出射的照明光的發(fā)散角。由此,將照明光向觀察對(duì)象的大范圍照射。另外,照明窗31設(shè)有2個(gè),位于頂端部19的光導(dǎo)35的出射端為了將照明光向2個(gè)照明窗31進(jìn)行導(dǎo)光,在照明窗31的前級(jí)分支為2根。
在頂端部19,除了觀察窗30及照明窗31以外,還設(shè)有為了對(duì)觀察窗30進(jìn)行清洗而進(jìn)行送氣送水的送氣送水噴嘴、用于使處理工具突出來(lái)進(jìn)行各種處置的鉗子出口。
在攝像傳感器33上,連接有模擬信號(hào)處理部(afe:analogfrontend)36和攝像控制部37。圖像信號(hào)從攝像傳感器33被輸入afe36。afe36由相關(guān)雙采樣電路、自動(dòng)增益控制電路、以及模擬/數(shù)字變換器構(gòu)成。相關(guān)雙采樣電路對(duì)來(lái)自攝像傳感器33的模擬的圖像信號(hào)實(shí)施相關(guān)雙采樣處理,將由信號(hào)電荷的復(fù)位引起的噪聲去除。自動(dòng)增益控制電路將被相關(guān)雙采樣電路去除了噪聲的圖像信號(hào)進(jìn)行放大。模擬/數(shù)字變換器將用自動(dòng)增益控制電路放大了的圖像信號(hào)變換為具有與規(guī)定的比特?cái)?shù)相應(yīng)的等級(jí)值的數(shù)字圖像信號(hào)并輸出到處理器裝置12。
攝像控制部37連接于處理器裝置12內(nèi)的主控制部40,同步于從主控制部40輸入的基準(zhǔn)時(shí)鐘信號(hào),對(duì)攝像傳感器33及afe36輸入驅(qū)動(dòng)信號(hào)。攝像傳感器33基于來(lái)自攝像控制部37的驅(qū)動(dòng)信號(hào),以規(guī)定的幀速率向afe36輸出圖像信號(hào),afe36基于來(lái)自攝像控制部37的驅(qū)動(dòng)信號(hào),以規(guī)定的幀速率進(jìn)行相關(guān)雙采樣處理、放大、以及模擬/數(shù)字變換。
處理器裝置12具備主控制部40、數(shù)字信號(hào)處理部(dsp:digitalsignalprocessor)41、圖像處理部42、和顯示控制部43。主控制部40具有cpu(centralprocessingunit)、存儲(chǔ)工作程序44及控制所需的設(shè)定數(shù)據(jù)的rom(readonlymemory)、加載工作程序44而作為工作存儲(chǔ)器發(fā)揮功能的ram(randomaccessmemory),cpu執(zhí)行工作程序44,從而控制處理器裝置12的各部。
dsp41對(duì)來(lái)自afe36的數(shù)字的圖像信號(hào)(b圖像信號(hào)、g圖像信號(hào)、r圖像信號(hào))實(shí)施像素插補(bǔ)處理。通過(guò)該像素插補(bǔ)處理,生成在b像素、g像素、r像素的各像素中不足的顏色的圖像信號(hào)(例如b像素的情況下是g圖像信號(hào)和r圖像信號(hào)),對(duì)于全部像素,b圖像信號(hào)、g圖像信號(hào)、r圖像信號(hào)齊備。
此外,dsp41對(duì)像素插補(bǔ)處理后的圖像信號(hào)實(shí)施缺陷像素校正、偏移校正、伽馬校正、白平衡校正等。進(jìn)而,dsp41基于圖像信號(hào)計(jì)算曝光值,向主控制部40輸出曝光控制信號(hào),該曝光控制信號(hào)進(jìn)行控制以使得在圖像整體的光量不足的情況下(曝光不足)提高照明光的光量、另一方面在光量過(guò)高的情況下(過(guò)度曝光)降低照明光的光量。主控制部40向光源裝置13發(fā)送曝光控制信號(hào)。
圖像處理部42對(duì)來(lái)自dsp41的圖像信號(hào)實(shí)施各種圖像處理。顯示控制部43將后述的圖像顯示畫(huà)面76(參照?qǐng)D13等)向監(jiān)視器14輸出。另外,被實(shí)施了例如以移動(dòng)平均法、中值濾波(medianfiltering)法為代表的噪聲降低處理的圖像信號(hào)被輸入到圖像處理部42。
內(nèi)窺鏡系統(tǒng)10具有第1觀察模式和第2觀察模式這兩個(gè)觀察模式。主控制部40接收經(jīng)由輸入器件15輸入的、這些觀察模式的切換信號(hào)。另外,也可以在內(nèi)窺鏡11的操作部17設(shè)置切換觀察模式的開(kāi)關(guān)?;蛘撸部梢杂锰ぐ迨介_(kāi)關(guān)(footswitch)切換觀察模式。
第1觀察模式是在監(jiān)視器14上顯示觀察圖像的觀察模式。另一方面,第2觀察模式是在監(jiān)視器14上除了觀察圖像以外還顯示顏色分配圖像的觀察模式。顏色分配圖像是基于與觀察圖像內(nèi)的區(qū)域?qū)?yīng)的臨床癥狀(臨床表現(xiàn))和表示癥狀的程度的級(jí)別而對(duì)觀察圖像進(jìn)行了顏色分配處理的圖像。
光源裝置13具備發(fā)出藍(lán)色光bl的藍(lán)色半導(dǎo)體光源(b半導(dǎo)體光源)50、發(fā)出綠色光gl的綠色半導(dǎo)體光源(g半導(dǎo)體光源)51、發(fā)出紅色光rl的紅色半導(dǎo)體光源(r半導(dǎo)體光源)52、光路耦合部53、以及對(duì)各半導(dǎo)體光源50~52的驅(qū)動(dòng)進(jìn)行控制的光源控制部54。
各半導(dǎo)體光源50~52例如具有發(fā)光二極管(led:lightemittingdiode)、激光二極管(ld:laserdiode)、el(electroluminescence)元件這樣的發(fā)光元件。光源控制部54進(jìn)行各半導(dǎo)體光源50~52的點(diǎn)亮、熄滅以及光量的控制。光量的控制通過(guò)基于來(lái)自主控制部40的曝光控制信號(hào)、變更向各半導(dǎo)體光源50~52的供給電力來(lái)進(jìn)行。
光源控制部54通過(guò)對(duì)各半導(dǎo)體光源50~52連續(xù)地施加驅(qū)動(dòng)電流而使各半導(dǎo)體光源50~52點(diǎn)亮。并且,對(duì)應(yīng)于曝光控制信號(hào),使施加的驅(qū)動(dòng)電流的值變化從而變更向各半導(dǎo)體光源50~52的供給電力,分別控制藍(lán)色光bl、綠色光gl、紅色光rl的光量。另外,也可以不是連續(xù)地施加驅(qū)動(dòng)電流而是以脈沖狀施加驅(qū)動(dòng)電流,進(jìn)行使驅(qū)動(dòng)電流脈沖的振幅變化的pam(pulseamplitudemodulation)控制、使驅(qū)動(dòng)電流脈沖的占空比變化的pwm(pulsewidthmodulation)控制。
藍(lán)色光bl的發(fā)光波譜具有例如420nm~500nm附近的波長(zhǎng)成分,中心波長(zhǎng)460±10nm,半峰寬25±10nm。綠色光gl的發(fā)光波譜具有例如480nm~600nm附近的波長(zhǎng)成分,中心波長(zhǎng)550±10nm,半峰寬100±10nm。紅色光rl的發(fā)光波譜具有例如600nm~650nm附近的波長(zhǎng)成分,中心波長(zhǎng)625±10nm,半峰寬20±10nm。另外,中心波長(zhǎng)表示各色光的發(fā)光波譜的寬度中心的波長(zhǎng),半峰寬是表示各色光的發(fā)光波譜的峰值的一半的波長(zhǎng)范圍。
藍(lán)色光bl、綠色光gl、紅色光rl的光強(qiáng)度比bl:gl:rl被光源控制部54保持固定,例如如下式(1)那樣設(shè)定。
bl:gl:rl=2:2:1···(1)
即,作為短波長(zhǎng)側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度相比于作為長(zhǎng)波長(zhǎng)側(cè)的光的紅色光rl的光強(qiáng)度而言被設(shè)定得較強(qiáng)。另外,光強(qiáng)度是光通量的單位立體角內(nèi)的密度,光量是基于人的感知(能見(jiàn)度)評(píng)價(jià)光的放射能量而得到的值。
光路耦合部53將藍(lán)色光bl、綠色光gl、紅色光rl的各色光的光路向一個(gè)光路進(jìn)行耦合,將各色光向內(nèi)窺鏡11的光導(dǎo)35的入射端進(jìn)行聚光。由光路耦合部53將光路耦合了的藍(lán)色光bl、綠色光gl、紅色光rl的混合光是具有與氙燈發(fā)出的白色光大致相同的發(fā)光波譜的白色光。本實(shí)施方式中,將該白色光用作照明光。
另外,白色光不僅是如氙燈發(fā)出的白色光那樣將藍(lán)色成分、綠色成分、紅色成分的波段全部包含在內(nèi)的寬帶光,還包括如本實(shí)施方式那樣將藍(lán)色成分、綠色成分、紅色成分這至少3色的各自的波段的光混合了的照明光。
光源控制部54在第1觀察模式、第2觀察模式的任一個(gè)觀察模式中都將各半導(dǎo)體光源50~52點(diǎn)亮。因而,藍(lán)色光bl、綠色光gl、紅色光rl的混合光始終作為照明光向觀察對(duì)象照射。
圖3中,在圖像處理部42中,通過(guò)工作程序44的起動(dòng),構(gòu)建圖像信號(hào)取得部60、觀察圖像生成部61、特征量計(jì)算部62、區(qū)域決定部63、級(jí)別分類(lèi)部64、以及顏色分配圖像生成部65。
圖像信號(hào)取得部60承擔(dān)取得來(lái)自dsp41的圖像信號(hào)(b圖像信號(hào)、g圖像信號(hào)、r圖像信號(hào))的圖像信號(hào)取得功能。該圖像信號(hào)如式(1)所示那樣,是向觀察對(duì)象照射將作為短波長(zhǎng)側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度相比于作為長(zhǎng)波長(zhǎng)側(cè)的光的紅色光rl的光強(qiáng)度而言加強(qiáng)了的照明光而得到的。即,圖像信號(hào)取得部60取得向觀察對(duì)象照射將短波長(zhǎng)側(cè)的光強(qiáng)度相比于長(zhǎng)波長(zhǎng)側(cè)的光強(qiáng)度而言加強(qiáng)了的照明光而得到的圖像信號(hào)。
第1觀察模式的情況下,圖像信號(hào)取得部60將取得的圖像信號(hào)向觀察圖像生成部61輸出。另一方面,第2觀察模式的情況下,圖像信號(hào)取得部60將取得的圖像信號(hào)向觀察圖像生成部61以及特征量計(jì)算部62輸出。
觀察圖像生成部61承擔(dān)基于來(lái)自圖像信號(hào)取得部60的圖像信號(hào)而生成觀察圖像的觀察圖像生成功能。觀察圖像生成部61將生成的觀察圖像向顯示控制部43以及顏色分配圖像生成部65輸出。本實(shí)施方式中,觀察圖像是基于將白色光作為照明光向觀察對(duì)象照射而得到的圖像信號(hào)的通常圖像。
特征量計(jì)算部62承擔(dān)從圖像信號(hào)計(jì)算多個(gè)種類(lèi)的特征量的特征量計(jì)算功能。特征量計(jì)算部62將多個(gè)種類(lèi)的特征量中的第1特征量向區(qū)域決定部63輸出,將多個(gè)種類(lèi)的特征量中的第2特征量向級(jí)別分類(lèi)部64輸出。
區(qū)域決定部63承擔(dān)區(qū)域決定功能,決定與預(yù)先設(shè)定的多個(gè)癥狀分別對(duì)應(yīng)的觀察圖像內(nèi)的區(qū)域。區(qū)域決定部63基于來(lái)自特征量計(jì)算部62的第1特征量以及區(qū)域決定表66(參照?qǐng)D6)進(jìn)行區(qū)域的決定。區(qū)域決定部63將區(qū)域的決定結(jié)果(區(qū)域決定結(jié)果)向顏色分配圖像生成部65輸出。
級(jí)別分類(lèi)部64承擔(dān)級(jí)別分類(lèi)功能,將觀察圖像內(nèi)的區(qū)域分類(lèi)為針對(duì)多個(gè)癥狀分別預(yù)先設(shè)定的、表示癥狀程度的多個(gè)級(jí)別中的某個(gè)。級(jí)別分類(lèi)部64基于來(lái)自特征量計(jì)算部62的第2特征量以及級(jí)別分類(lèi)表67(參照?qǐng)D7)進(jìn)行級(jí)別的分類(lèi)。級(jí)別分類(lèi)部64將級(jí)別的分類(lèi)結(jié)果(級(jí)別分類(lèi)結(jié)果)向顏色分配圖像生成部65輸出。
顏色分配圖像生成部65承擔(dān)顏色分配圖像生成功能,基于來(lái)自區(qū)域決定部63的區(qū)域決定結(jié)果、來(lái)自級(jí)別分類(lèi)部64的級(jí)別分類(lèi)結(jié)果、以及顏色分配表68(參照?qǐng)D8)生成顏色分配圖像。顏色分配圖像生成部65將生成的顏色分配圖像向顯示控制部43輸出。
如圖4的步驟s10所示,特征量計(jì)算部62對(duì)圖像信號(hào)實(shí)施周知的輪廓提取處理,提取區(qū)域re。區(qū)域re具體而言是胃粘膜的點(diǎn)或條紋、隆起、凹陷、孔等。圖4中,示出提取了許多點(diǎn)作為區(qū)域re的情形。
在提取了區(qū)域re后,特征量計(jì)算部62計(jì)算各區(qū)域re的顏色特征量va、形態(tài)特征量vb(步驟s11)。顏色特征量va是與由b圖像信號(hào)、g圖像信號(hào)、r圖像信號(hào)的各圖像信號(hào)表示的顏色成分(像素值)相關(guān)的特征量,例如,是各區(qū)域re的藍(lán)色成分、綠色成分、紅色成分的各自的平均值、方差、最大值、最小值、各區(qū)域re的紅色成分與綠色成分之比、各區(qū)域re的藍(lán)色成分與綠色成分之比等。形態(tài)特征量vb是與各區(qū)域re的形態(tài)相關(guān)的特征量,例如是各區(qū)域re的形狀(扁平度、凹凸度、圓形度、分支數(shù)等)、尺寸(最大徑、最大寬度、長(zhǎng)度、曲率、面積等)等。
接著,特征量計(jì)算部62基于計(jì)算出的顏色特征量va、形態(tài)特征量vb,將區(qū)域re分組化(步驟s12)。具體而言,將各區(qū)域re中的顏色特征量va、形態(tài)特征量vb在預(yù)先設(shè)定的范圍內(nèi)的區(qū)域re識(shí)別為一個(gè)組gr。這樣被分組化為一個(gè)組gr的區(qū)域re是顏色成分及形態(tài)的特征大致相同的區(qū)域re。圖4中,示出了作為區(qū)域re而被提取的許多點(diǎn)被識(shí)別為一個(gè)組gr的情形。
特征量計(jì)算部62對(duì)于在步驟s12中分組化后的組gr計(jì)算分布特征量vc(步驟s13)。分布特征量vc是與組gr內(nèi)的各區(qū)域re的分布有關(guān)的特征量,例如,是組gr內(nèi)的區(qū)域re的個(gè)數(shù)、密度、組gr內(nèi)的鄰接的區(qū)域re間的距離的平均值、方差、最大值、最小值等。
特征量計(jì)算部62對(duì)各區(qū)域re的顏色特征量va、形態(tài)特征量vb以及分布特征量vc附加區(qū)域re的位置信息,將它們向區(qū)域決定部63以及級(jí)別分類(lèi)部64輸出。位置信息例如是以攝像面33a的一角的像素為原點(diǎn)而二維地表現(xiàn)各像素的位置的坐標(biāo)等。區(qū)域re為矩形狀的情況下,作為位置信息,附加矩形的對(duì)角線上的2點(diǎn)的坐標(biāo)。區(qū)域re為圓形狀的情況下,圓的中心的坐標(biāo)和直徑或半徑被作為位置信息來(lái)附加,區(qū)域re為橢圓形狀的情況下,橢圓的中心的坐標(biāo)和長(zhǎng)徑、短徑被作為位置信息來(lái)附加。區(qū)域re不為上述任一種形狀的情況下,區(qū)域re的邊界的全部像素的坐標(biāo)被作為位置信息來(lái)附加。
特征量計(jì)算部62基于圖5所示的表70,將計(jì)算出的顏色特征量va、形態(tài)特征量vb以及分布特征量vc分配給第1特征量和第2特征量,將第1特征量向區(qū)域決定部63輸出,將第2特征量向級(jí)別分類(lèi)部64輸出。
表70是第1特征量和第2特征量的例子。第1特征量由顏色特征量va1、形態(tài)特征量vb1、vb2、以及分布特征量vc1構(gòu)成。相對(duì)于此,第2特征量除了顏色特征量va1、形態(tài)特征量vb1、vb2、以及分布特征量vc1以外,如虛線的框所示,還具有顏色特征量va2、形態(tài)特征量vb3以及分布特征量vc2。即,第2特征量包含第1特征量。
顏色特征量va1例如是紅色成分的平均值,顏色特征量va2例如是紅色成分與綠色成分之比。形態(tài)特征量vb1例如是扁平度,形態(tài)特征量vb2例如是圓形度,形態(tài)特征量vb3例如是面積。分布特征量vc1例如是密度,分布特征量vc2例如是距離的平均值。
圖6中,在區(qū)域決定表66中,設(shè)有條件和癥狀的項(xiàng)目。條件的項(xiàng)目中登記的a、b、c等是基于迄今為止得到的龐大的醫(yī)學(xué)知識(shí)而制定的表示第1特征量的范圍的不等式,例如是顏色特征量va1<x,y<形態(tài)特征量vb1≦z(x,y,z是數(shù)值)等。
在癥狀的項(xiàng)目中,登記有與各條件對(duì)應(yīng)的癥狀。癥狀是關(guān)于胃炎的癥狀,更具體而言,作為用于判斷是否是區(qū)域re感染幽門(mén)螺旋桿菌而產(chǎn)生的慢性胃炎的特征性癥狀的胃炎的京都分類(lèi)而周知。在癥狀中,有表示正常胃粘膜的rac(regulararrangementofcollectingvenules)、表示疑似感染幽門(mén)螺旋桿菌的彌漫性發(fā)紅、點(diǎn)狀發(fā)紅、表示疑似感染或已感染幽門(mén)螺旋桿菌的委縮、腸上皮化生、表示已感染幽門(mén)螺旋桿菌的地圖狀發(fā)紅等(病變)。另外,除了這里例示的以外,胃底腺息肉、胃小凹增生性息肉、梳狀發(fā)紅、斑狀發(fā)紅、凹陷型糜爛、多發(fā)性白色扁平隆起等各種各樣的癥狀(病變)也與條件成組地被登記。
圖7中,在級(jí)別分類(lèi)表67中,設(shè)有癥狀、條件、以及級(jí)別的項(xiàng)目。在癥狀的項(xiàng)目中,登記有在圖6的區(qū)域決定表66的癥狀的項(xiàng)目中登記的各癥狀。條件的項(xiàng)目中登記的a-1、b-1、c-1等與區(qū)域決定表66的條件同樣地,是基于醫(yī)學(xué)知識(shí)而制定的表示第2特征量的范圍的不等式。在級(jí)別的項(xiàng)目中,對(duì)應(yīng)于多個(gè)癥狀的每一個(gè),登記有級(jí)別1、級(jí)別2、級(jí)別3這三個(gè)級(jí)別。癥狀的程度例如級(jí)別1是輕度、級(jí)別2是中度、級(jí)別3是高度。
這里,所謂癥狀的程度,例如在癥狀是委縮的情況下是根據(jù)胃粘膜的厚度和相關(guān)的觀察到的粘膜色的黃色成分的強(qiáng)度而推定的委縮的程度,在彌漫性發(fā)紅的情況下是根據(jù)紅色成分的強(qiáng)度而推定的彌漫性發(fā)紅的程度,在點(diǎn)狀發(fā)紅的情況下是根據(jù)密度而推定的點(diǎn)狀發(fā)紅的程度。另外,在癥狀表示正常胃粘膜的rac的情況下,是根據(jù)rac的區(qū)域及其周邊區(qū)域的顏色的對(duì)比度的大小而推定的、正常的確信度的程度。
圖8中,在顏色分配表68中,設(shè)有癥狀、顯示色、級(jí)別、以及色調(diào)的項(xiàng)目。在顯示色的項(xiàng)目中,登記有按每個(gè)癥狀設(shè)定的顯示色。在色調(diào)的項(xiàng)目中,登記有按每個(gè)級(jí)別設(shè)定的顯示色的色調(diào)。
這里,所謂顯示色,是顏色的三要素中的色相。此外,所謂色調(diào),是顏色的三要素中的彩度或者/以及明度。圖8中,作為顯示色,對(duì)于rac登記了紅色,對(duì)于委縮登記了綠色,對(duì)于腸上皮化生登記了藍(lán)色,對(duì)于彌漫性發(fā)紅登記了黃色,對(duì)于點(diǎn)狀發(fā)紅登記了紫色,對(duì)于地圖狀發(fā)紅登記了橙色。此外,作為色調(diào),對(duì)于級(jí)別1登記了彩度低(彩度低于級(jí)別2),對(duì)于級(jí)別2登記了彩度中(彩度在級(jí)別1與級(jí)別3的中間),對(duì)于級(jí)別3登記了彩度高(彩度高于級(jí)別2)。
圖9以及圖10表示區(qū)域決定部63、級(jí)別分類(lèi)部64以及顏色分配圖像生成部65的功能。如步驟s20所示,區(qū)域決定部63基于第1特征量以及區(qū)域決定表66決定與各癥狀對(duì)應(yīng)的區(qū)域re,將區(qū)域決定結(jié)果向顏色分配圖像生成部65輸出。此外,與之并行而如步驟s21所示,級(jí)別分類(lèi)部64基于第2特征量以及級(jí)別分類(lèi)表67進(jìn)行級(jí)別的分類(lèi),將級(jí)別分類(lèi)結(jié)果向顏色分配圖像生成部65輸出。區(qū)域決定部63以及級(jí)別分類(lèi)部64對(duì)區(qū)域決定結(jié)果以及級(jí)別分類(lèi)結(jié)果附加來(lái)自特征量計(jì)算部62的區(qū)域re的位置信息。
圖9表示作為區(qū)域決定結(jié)果而輸出腸上皮化生、作為級(jí)別分類(lèi)結(jié)果而輸出級(jí)別1的例子。圖10表示作為區(qū)域決定結(jié)果而輸出委縮、作為級(jí)別分類(lèi)結(jié)果而輸出級(jí)別1、級(jí)別2的例子。
如步驟s22所示,顏色分配圖像生成部65對(duì)于來(lái)自觀察圖像生成部61的觀察圖像的各區(qū)域re,以在顏色分配表68中登記的顯示色以及色調(diào)進(jìn)行顏色分配處理。顏色分配處理是這樣的處理:基于對(duì)區(qū)域決定結(jié)果以及級(jí)別分類(lèi)結(jié)果附加的區(qū)域re的位置信息,確定觀察圖像內(nèi)的各區(qū)域re的位置,將各區(qū)域re以在顏色分配表68中登記的顯示色以及色調(diào)進(jìn)行著色。顏色分配圖像生成部65對(duì)于計(jì)算了特征量的所有的區(qū)域re進(jìn)行這樣的顏色分配處理,生成將區(qū)域re以在顏色分配表68中登記的顯示色及色調(diào)進(jìn)行了色彩化的顏色分配圖像。
圖9中,由于癥狀是腸上皮化生、分類(lèi)級(jí)別是級(jí)別1,所以藍(lán)色(彩度低)被分配給區(qū)域re。另一方面,圖10中,由于癥狀是委縮、分類(lèi)級(jí)別是級(jí)別1、級(jí)別2,所以綠色(彩度低)、綠色(彩度中)分別被分配給區(qū)域re。另外,圖9中例示的腸上皮化生、圖10中例示的委縮以外的區(qū)域也同樣地被進(jìn)行基于顏色分配表68的顏色分配處理。
圖11中,在顏色分配處理中,區(qū)域re的邊界如陰影hc所示那樣以在顏色分配表68中設(shè)定的顯示色及色調(diào)而被修邊。即,顏色分配圖像生成部65對(duì)區(qū)域re的邊界進(jìn)行顏色分配處理。
圖12中,在顯示控制部43中,通過(guò)工作程序44的起動(dòng),構(gòu)建顯示畫(huà)面生成部75。顯示畫(huà)面生成部75被從觀察圖像生成部61輸入觀察圖像,被從顏色分配圖像生成部65輸入顏色分配圖像。顯示畫(huà)面生成部75基于觀察圖像和顏色分配圖像,生成圖像顯示畫(huà)面76。顯示畫(huà)面生成部75將生成的圖像顯示畫(huà)面76變換為用于向監(jiān)視器14輸出的影像信號(hào)?;谠撚跋裥盘?hào)的圖像顯示畫(huà)面76被顯示在監(jiān)視器14上。
如圖13所示,圖像顯示畫(huà)面76具有檢查信息顯示區(qū)域80、觀察圖像顯示區(qū)域81以及顏色分配圖像顯示區(qū)域82。在檢查信息顯示區(qū)域80,顯示有內(nèi)窺鏡檢查的日期、內(nèi)窺鏡檢查的對(duì)象患者的姓名、患者id(identificationdata)、性別、出生年月日等檢查信息。在觀察圖像顯示區(qū)域81中顯示有觀察圖像,在顏色分配圖像顯示區(qū)域82中顯示有顏色分配圖像。
具有將顯示顏色分配圖像的圖像顯示畫(huà)面76生成并向監(jiān)視器14輸出的顯示畫(huà)面生成部75的顯示控制部43承擔(dān)對(duì)顏色分配圖像的顯示進(jìn)行控制的顯示控制功能。
在顏色分配圖像顯示區(qū)域82,設(shè)有注釋按鈕83。在注釋按鈕83被選擇的情況下,顯示畫(huà)面生成部75生成圖14所示的注釋顯示畫(huà)面85并向監(jiān)視器14輸出。
圖14中,在注釋顯示畫(huà)面85中,一覽顯示著表示與各癥狀的各級(jí)別對(duì)應(yīng)的顯示色以及色調(diào)的彩色塊86。通過(guò)該注釋顯示畫(huà)面85,能夠識(shí)別顏色分配圖像內(nèi)的區(qū)域的癥狀及級(jí)別。另外,也可以不將注釋顯示畫(huà)面85與圖像顯示畫(huà)面76分別地顯示,而將注釋顯示畫(huà)面85顯示在圖像顯示畫(huà)面76內(nèi)。
圖13所示的圖像顯示畫(huà)面76是第2觀察模式的情況的顯示例。另一方面,第1觀察模式的情況下,不生成顏色分配圖像。因此,第1觀察模式的情況下的圖像顯示畫(huà)面76如圖15所示那樣成為沒(méi)有顏色分配圖像顯示區(qū)域82的畫(huà)面。
接著,關(guān)于上述結(jié)構(gòu)的作用,參照?qǐng)D16所示的流程圖進(jìn)行說(shuō)明。當(dāng)內(nèi)窺鏡11和處理器裝置12以及光源裝置13經(jīng)由連接器25連接、內(nèi)窺鏡系統(tǒng)10起動(dòng),則各半導(dǎo)體光源50~52點(diǎn)亮,藍(lán)色光bl、綠色光gl、紅色光rl的混合光作為照明光向觀察對(duì)象照射,同時(shí),攝像傳感器33進(jìn)行的觀察對(duì)象的拍攝開(kāi)始。此時(shí),對(duì)觀察模式設(shè)定了第1觀察模式。
在攝像控制部37的控制下,從攝像傳感器33輸出圖像信號(hào)。圖像信號(hào)被afe36實(shí)施相關(guān)雙采樣處理、放大、以及模擬/數(shù)字變換,被向dsp41輸出。在dsp41中,對(duì)圖像信號(hào)實(shí)施像素插補(bǔ)處理等。被dsp41實(shí)施了各種處理的圖像信號(hào)被輸出到圖像處理部42。
如圖16的步驟s100所示,來(lái)自dsp41的圖像信號(hào)被圖像信號(hào)取得部60取得(圖像信號(hào)取得步驟)。
這里,照明光中,作為短波長(zhǎng)側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度相比于作為長(zhǎng)波長(zhǎng)側(cè)的光的紅色光rl的光強(qiáng)度而言被較強(qiáng)地設(shè)定。如周知的那樣,短波長(zhǎng)側(cè)的光相比于長(zhǎng)波長(zhǎng)側(cè)的光而言,有使粘膜表層的構(gòu)造顯著的效果。因此,通過(guò)將作為短波長(zhǎng)側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度設(shè)定得比作為長(zhǎng)波長(zhǎng)側(cè)的光的紅色光rl的光強(qiáng)度更強(qiáng),能夠由圖像信號(hào)取得部60取得恰當(dāng)?shù)夭蹲降秸衬け韺拥臉?gòu)造的圖像信號(hào)。
圖像信號(hào)從圖像信號(hào)取得部60輸出到觀察圖像生成部61。觀察圖像生成部61中,基于圖像信號(hào),生成觀察圖像(步驟s110,觀察圖像生成步驟)。觀察圖像被輸出到顯示控制部43。
顯示控制部43中,基于來(lái)自觀察圖像生成部61的觀察圖像,由顯示畫(huà)面生成部75生成圖15所示的沒(méi)有顏色分配圖像顯示區(qū)域82的圖像顯示畫(huà)面76(步驟120:否,步驟s170)。圖像顯示畫(huà)面76被顯示在監(jiān)視器14上(步驟s180)。
醫(yī)師根據(jù)需要而操作輸入器件15,將觀察模式切換為第2觀察模式。由此,來(lái)自輸入器件15的切換信號(hào)被主控制部40接收,觀察模式被切換為第2觀察模式(步驟s120:是)。
第2觀察模式的情況下,圖像信號(hào)除了被輸出到觀察圖像生成部61以外還被輸出到特征量計(jì)算部62。特征量計(jì)算部62中,通過(guò)輪廓提取處理提取區(qū)域re,關(guān)于提取的區(qū)域re,計(jì)算多個(gè)種類(lèi)的特征量(步驟s130,特征量計(jì)算步驟)。多個(gè)種類(lèi)的特征量之中,在表70中設(shè)定的第1特征量被輸出到區(qū)域決定部63,第2特征量被輸出到級(jí)別分類(lèi)部64。
區(qū)域決定部63中,基于第1特征量及區(qū)域決定表66,決定與各癥狀對(duì)應(yīng)的區(qū)域re(步驟s140,區(qū)域決定步驟)。此外,級(jí)別分類(lèi)部64中,基于第2特征量及級(jí)別分類(lèi)表67,對(duì)區(qū)域re進(jìn)行級(jí)別的分類(lèi)(步驟s150,級(jí)別分類(lèi)步驟)。區(qū)域決定部63的區(qū)域決定結(jié)果以及級(jí)別分類(lèi)部64的級(jí)別分類(lèi)結(jié)果被輸出到顏色分配圖像生成部65。
由于基于第1特征量決定與各癥狀對(duì)應(yīng)的區(qū)域re、基于第2特征量進(jìn)行級(jí)別的分類(lèi),所以用于決定與各癥狀對(duì)應(yīng)的區(qū)域re的特征量能夠設(shè)定為第1特征量,用于級(jí)別的分類(lèi)的特征量能夠設(shè)定為第2特征量,能夠?qū)⑻卣髁繉?duì)應(yīng)于其特性而區(qū)分使用。
此外,由于第2特征量包含第1特征量、與對(duì)應(yīng)于各癥狀的區(qū)域re的決定相比以更多的特征量進(jìn)行級(jí)別的分類(lèi),所以與對(duì)應(yīng)于各癥狀的區(qū)域re的決定精度相比能夠提高級(jí)別的分類(lèi)精度。癥狀即使是經(jīng)驗(yàn)淺的醫(yī)師也能夠某種程度地通過(guò)外觀來(lái)判斷,但級(jí)別的看透需要熟練。因而,通過(guò)提高級(jí)別的分類(lèi)精度,能夠不問(wèn)經(jīng)驗(yàn)地自信地看透級(jí)別。
顏色分配圖像生成部65中,基于區(qū)域決定結(jié)果、級(jí)別分類(lèi)結(jié)果、以及顏色分配表68,生成顏色分配圖像(步驟s160,顏色分配圖像生成步驟)。此時(shí),對(duì)區(qū)域re的邊界進(jìn)行顏色分配處理。顏色分配圖像被輸出到顯示控制部43。
由于對(duì)區(qū)域re的邊界進(jìn)行顏色分配處理,所以相比于對(duì)區(qū)域re的整體進(jìn)行顏色分配處理、將區(qū)域re的整體以在顏色分配表68中設(shè)定的顯示色及色調(diào)涂滿的情況,不對(duì)顯示造成麻煩。
此外,在將靛藍(lán)胭脂紅(indigocarmine)等色素散布于觀察對(duì)象來(lái)進(jìn)行觀察的情況、或?qū)⒄瓗У牟ㄩL(zhǎng)的照明光向觀察對(duì)象照射來(lái)進(jìn)行觀察的情況下區(qū)域re的邊界也主要被著色,所以能夠仿照在將色素散布于觀察對(duì)象進(jìn)行觀察的情況、或?qū)⒄瓗У牟ㄩL(zhǎng)的照明光向觀察對(duì)象照射來(lái)進(jìn)行觀察的情況下的顯示。習(xí)慣于將色素散布于觀察對(duì)象來(lái)進(jìn)行觀察、或?qū)⒄瓗У牟ㄩL(zhǎng)的照明光向觀察對(duì)象照射來(lái)進(jìn)行觀察的醫(yī)師能夠沒(méi)有不適感地進(jìn)行觀察。
顯示控制部43中,通過(guò)顯示畫(huà)面生成部75,基于來(lái)自觀察圖像生成部61的觀察圖像和來(lái)自顏色分配圖像生成部65的顏色分配圖像,生成圖13所示的具有顏色分配圖像顯示區(qū)域82的圖像顯示畫(huà)面76(步驟s170)。圖像顯示畫(huà)面76被顯示在監(jiān)視器14上(步驟s180,顯示控制步驟)。這些一系列的步驟s100~步驟s180持續(xù)到由醫(yī)師向輸入器件15輸入觀察結(jié)束的指示為止(步驟s190:是)。
醫(yī)師通過(guò)在第2觀察模式下的圖像顯示畫(huà)面76中觀察顏色分配圖像,能夠通過(guò)顯示色來(lái)把握癥狀,同時(shí)還能夠通過(guò)色調(diào)來(lái)把握癥狀的程度。此外,由于在第2觀察模式下的圖像顯示畫(huà)面76中并列顯示觀察圖像和顏色分配圖像,所以醫(yī)師能夠一邊比較這些圖像一邊進(jìn)行內(nèi)窺鏡檢查。
本實(shí)施方式中,以胃粘膜為觀察對(duì)象,假設(shè)癥狀是與胃炎相關(guān)的癥狀(胃炎的京都分類(lèi))。胃炎、特別是由于感染幽門(mén)螺旋桿菌而產(chǎn)生的慢性胃炎被指出是胃癌的重要的風(fēng)險(xiǎn)因素。此外,胃癌在按癌的不同種類(lèi)的死亡者數(shù)量的統(tǒng)計(jì)中始終處于上位位階。因此,通過(guò)以胃粘膜為觀察對(duì)象、將癥狀設(shè)為與胃炎相關(guān)的癥狀,能夠有助于胃癌的預(yù)防、胃癌患者花費(fèi)的醫(yī)療費(fèi)的削減、以及胃癌的死亡者數(shù)量的削減。
[第2實(shí)施方式]
在圖17及圖18所示的第2實(shí)施方式中,對(duì)圖像信號(hào)實(shí)施使明亮度均勻的明亮度校正處理,然后計(jì)算特征量。
圖17中,本實(shí)施方式的圖像處理部90中,除了上述第1實(shí)施方式的各功能部,還構(gòu)建明亮度校正處理部91。另外,圖17中,僅圖示上述第1實(shí)施方式的各功能部中的圖像信號(hào)取得部60和特征量計(jì)算部62,省略了區(qū)域決定部63等的圖示。
明亮度校正處理部91對(duì)來(lái)自圖像信號(hào)取得部60的圖像信號(hào)實(shí)施使明亮度均勻的明亮度校正處理。特征量計(jì)算部62根據(jù)來(lái)自明亮度校正處理部91的明亮度校正處理完成的圖像信號(hào),計(jì)算特征量。
圖18是明亮度校正處理的概念圖。箭頭的上段表示明亮度校正處理前的攝像傳感器33的某行的像素的位置所對(duì)應(yīng)的明亮度,下段表示明亮度校正處理后的攝像傳感器33的某行的像素的位置所對(duì)應(yīng)的明亮度。明亮度例如是根據(jù)各像素的b圖像信號(hào)、g圖像信號(hào)、r圖像信號(hào)計(jì)算的明度。明亮度校正處理前,根據(jù)照明光的照射不均及胃粘膜的形狀等,混雜有亮區(qū)域和暗區(qū)域。明亮度校正處理部91校正這樣的明亮度的不均,如箭頭的下段所示,在明亮度校正處理前的明亮度的平均值附近使明亮度在整個(gè)區(qū)域中大致一定。
這樣,由于根據(jù)通過(guò)明亮度校正處理而明亮度大致一定的圖像信號(hào)來(lái)計(jì)算特征量,所以能夠計(jì)算可靠性高的特征量,進(jìn)而還能夠確保區(qū)域決定結(jié)果以及級(jí)別分類(lèi)結(jié)果的可靠性。
上述第1實(shí)施方式中,將從各半導(dǎo)體光源50~52發(fā)出的藍(lán)色光bl、綠色光gl、紅色光rl的混合光用作照明光,但本發(fā)明不限于此。也可以將波長(zhǎng)與血中血紅蛋白的吸收率高的帶寬一致的窄帶光、或者紅外光等可視光以外的光用作照明光。即,觀察圖像不限于通常圖像,也可以是基于將窄帶光向觀察對(duì)象照射而得到的圖像信號(hào)的圖像等特殊圖像。
此外,上述第1實(shí)施方式中,不論觀察模式如何,始終將藍(lán)色光bl、綠色光gl、紅色光rl的混合光作為照明光進(jìn)行照射,但也可以在第1觀察模式中照射藍(lán)色光bl、綠色光gl、紅色光rl的混合光、在第2觀察模式中照射藍(lán)色窄帶光和綠色光gl的混合光等而根據(jù)觀察模式變更照明光。進(jìn)而,也可以代替半導(dǎo)體光源50~52而使用氙燈。
此外,也可以使藍(lán)色光bl、綠色光gl、紅色光rl的光強(qiáng)度比bl:gl:rl不是上述第1實(shí)施方式的式(1)所示的2:2:1而是1:1:1從而設(shè)為均勻的光強(qiáng)度。也可以是,在第1觀察模式中使光強(qiáng)度比為1:1:1、在第2觀察模式中使光強(qiáng)度比為2:2:1等而根據(jù)觀察模式變更光強(qiáng)度比。
也可以在觀察對(duì)象中散布發(fā)出在區(qū)域中選擇性地聚集(將區(qū)域特殊地標(biāo)識(shí))的熒光的藥劑、或靛藍(lán)胭脂紅等色素。
[第3實(shí)施方式]
圖19及圖20所示的第3實(shí)施方式中,對(duì)基于將白色光作為照明光向觀察對(duì)象照射得到的圖像信號(hào)的通常圖像實(shí)施了將顏色及對(duì)比度中的至少1個(gè)降低的降低處理后,在通常圖像上重疊顏色分配圖像。
圖19中,本實(shí)施方式的圖像處理部95中,除了上述第1實(shí)施方式的各功能部以外,該構(gòu)建降低處理部96。此外,顯示控制部97中,除了顯示畫(huà)面生成部75以外,還構(gòu)建圖像重疊部98。另外,圖19中,與圖17同樣,僅圖示上述第1實(shí)施方式的圖像處理部42的各功能部中的觀察圖像生成部61以及顏色分配圖像生成部65,省略了區(qū)域決定部63等的圖示。
降低處理部96對(duì)通常圖像實(shí)施降低處理。降低處理是將通常圖像的顏色及對(duì)比度中的至少1個(gè)降低的處理,例如是將通常圖像灰度化(grayscaled)并且減少各像素的灰階數(shù)、將顏色及對(duì)比度降低的處理。
圖像重疊部98對(duì)來(lái)自降低處理部96的降低處理完成的通常圖像重疊來(lái)自顏色分配圖像生成部65的顏色分配圖像,生成重疊圖像。顯示畫(huà)面生成部75基于來(lái)自觀察圖像生成部61的觀察圖像和來(lái)自圖像重疊部98的重疊圖像,生成圖20所示的圖像顯示畫(huà)面100。
圖20中,圖像顯示畫(huà)面100中,作為圖像顯示畫(huà)面76的顏色分配圖像顯示區(qū)域82的替代,具有顯示重疊圖像的重疊圖像顯示區(qū)域101。其他結(jié)構(gòu)與圖像顯示畫(huà)面76相同。
觀察圖像不是如上述第1實(shí)施方式那樣的基于將白色光向觀察對(duì)象照射得到的圖像信號(hào)的通常圖像、而是基于將窄帶光向觀察對(duì)象照射得到的圖像信號(hào)的圖像等特殊圖像的情況下,顏色分配處理對(duì)特殊圖像進(jìn)行,顏色分配圖像中特殊圖像成為基礎(chǔ)。
特殊圖像是相比于通常圖像而言舍棄了觀察對(duì)象的信息的圖像。因此,在以特殊圖像為基礎(chǔ)的顏色分配圖像中,有可能難以把握觀察對(duì)象的整體性狀。這一擔(dān)憂通過(guò)將以特殊圖像為基礎(chǔ)的顏色分配圖像重疊于通常圖像、用通常圖像補(bǔ)充在特殊圖像中被舍棄的觀察對(duì)象的信息來(lái)解決。但是,僅通過(guò)在通常圖像上重疊顏色分配圖像,好不容易進(jìn)行顏色分配處理而能夠把握與區(qū)域?qū)?yīng)的癥狀和癥狀程度的顏色分配圖像反倒變得難以觀察。
因此,本實(shí)施方式中,如上述那樣對(duì)通常圖像實(shí)施將顏色及對(duì)比度中的至少一個(gè)降低的降低處理,在降低處理完成的通常圖像上重疊顏色分配圖像。由此,在重疊圖像中通常圖像不會(huì)妨礙顏色分配圖像的觀察,能夠用通常圖像補(bǔ)充在特殊圖像中被舍棄的觀察對(duì)象的信息、并且提高顏色分配圖像的目視識(shí)別性。
此外,在通常圖像上重疊顏色分配圖像的情況下,將與在通常圖像中使用的顏色相同的顏色設(shè)定為癥狀的顯示色的情況下,在重疊圖像中無(wú)法進(jìn)行區(qū)分。因此,在通常圖像上重疊顏色分配圖像的情況下,能夠用作顯示色的顏色存在制約。對(duì)此,如本實(shí)施方式那樣,在作為降低處理而實(shí)施了將顏色降低的處理后的通常圖像上重疊顏色分配圖像的情況下,能夠用作顯示色的顏色的幅度擴(kuò)展,能夠?qū)崿F(xiàn)變化更豐富的顯示。
另外,如上述第1實(shí)施方式那樣以通常圖像為基礎(chǔ)生成顏色分配圖像的情況下,也對(duì)顏色分配圖像實(shí)施將觀察對(duì)象的信息舍棄的處理,在顏色分配圖像是舍棄了觀察對(duì)象的信息的圖像的情況下,本實(shí)施方式是有效的。
上述各實(shí)施方式中,以胃粘膜為觀察對(duì)象,假設(shè)癥狀是與胃炎相關(guān)的癥狀(胃炎的京都分類(lèi)),但也可以通過(guò)下部消化道用的內(nèi)窺鏡將大腸息肉作為觀察對(duì)象,假設(shè)癥狀為作為大腸癌的腺管開(kāi)口形態(tài)分類(lèi)而已知的ⅰ型、ⅱ型、ⅲs型等。
大腸癌與胃癌并列地在按癌的不同種類(lèi)的死亡者數(shù)量的統(tǒng)計(jì)中位于上位,特別是在女性的情況下死亡者數(shù)量為第1位。因此,通過(guò)以大腸息肉為觀察對(duì)象、并假設(shè)癥狀為大腸癌的腺管開(kāi)口形態(tài)分類(lèi),能夠有助于大腸癌的預(yù)防、大腸癌的患者花費(fèi)的醫(yī)療費(fèi)的削減、以及大腸癌的死亡者數(shù)量的削減。另外,在以大腸息肉為觀察對(duì)象的情況下,不限于大腸癌的腺管開(kāi)口形態(tài)分類(lèi),也可以使癥狀為關(guān)于炎癥性腸疾患、克羅恩病(crohn'sdisease)、潰瘍性大腸炎等的癥狀。
在以胃粘膜或大腸息肉為觀察對(duì)象來(lái)決定區(qū)域并將級(jí)別分類(lèi)的情況下,血管成為噪聲。因此,也可以在計(jì)算特征量之前,檢測(cè)血管部分的圖像信號(hào),實(shí)施將血管部分的圖像信號(hào)用周邊部分的圖像信號(hào)進(jìn)行插補(bǔ)的處理。如果這樣在使成為噪聲的血管部分不醒目的基礎(chǔ)上計(jì)算特征量,則計(jì)算出的特征量、以及區(qū)域決定結(jié)果及級(jí)別分類(lèi)結(jié)果更加值得信賴。
在白色光的照明下,已知粘膜表層的血管呈紅色,中層的血管呈茶褐色,深層的血管呈紫色。因此,著眼于特定的顏色成分檢測(cè)血管部分的圖像信號(hào)即可。另外,不在白色光的照明下而是在波長(zhǎng)與血中血紅蛋白的吸收率高的帶寬一致的窄帶光的照明下,血管的顏色與白色光的情況不同,因此優(yōu)選根據(jù)照明光而變更著眼的顏色成分。
優(yōu)選的是,在將特定的顏色成分的圖像信號(hào)作為血管部分的圖像信號(hào)檢測(cè)出的基礎(chǔ)上,進(jìn)而將其周邊部分的與特定的顏色成分相似的顏色成分的圖像信號(hào)也一并作為血管部分的圖像信號(hào)來(lái)檢測(cè)。此外,在作為其他血管而檢測(cè)出的部分的間隔為規(guī)定值以下、并且作為其他血管而檢測(cè)出的部分的長(zhǎng)度方向一致的情況下,可以增加將作為其他血管而檢測(cè)出的部分推定為同一血管部分而再次識(shí)別的處理。進(jìn)而,在作為血管而檢測(cè)出的部分的寬度、長(zhǎng)度、或者面積為規(guī)定值以下的情況下,可以不作為血管部分而作為單純的圖像噪聲進(jìn)行處理。
在決定區(qū)域并將級(jí)別分類(lèi)的情況下成為噪聲的不限于血管。例如,照明光過(guò)強(qiáng)而產(chǎn)生光暈的部分、相反地在孔等中照明光不到達(dá)的較暗部分、或者從鉗子出口突出的處理工具的頂端或被可撓管部21、插入部16覆蓋并引導(dǎo)插入部16的插入的導(dǎo)引套等人造物也與血管同樣地成為噪聲。進(jìn)而,模糊部分和抖動(dòng)部分也成為噪聲。因此,優(yōu)選的是,在計(jì)算特征量之前,檢測(cè)這樣的成為噪聲的部分的圖像信號(hào),將這些部分的圖像信號(hào)從特征量的計(jì)算對(duì)象中排除。
該情況下,在判斷為成為特征量的計(jì)算對(duì)象的圖像信號(hào)為整體的例如10%以下等成為特征量的計(jì)算對(duì)象的圖像信號(hào)比較少、在該狀態(tài)下無(wú)法確保特征量的可靠性的情況下,可以中止以后的特征量的計(jì)算、區(qū)域的決定、級(jí)別的分類(lèi)、顏色分配處理的實(shí)施。
另外,也可以將與按每個(gè)癥狀預(yù)先準(zhǔn)備的多個(gè)基本形態(tài)的類(lèi)似度作為特征量來(lái)計(jì)算,將其作為第1特征量向區(qū)域決定部63輸出。該情況下,特征量計(jì)算部62將多個(gè)基本形態(tài)與圖像信號(hào)進(jìn)行對(duì)照,對(duì)于多個(gè)基本形態(tài)的各個(gè)計(jì)算類(lèi)似度。特征量計(jì)算部62對(duì)將觀察圖像細(xì)化了的各區(qū)域的每一個(gè)進(jìn)行對(duì)照和類(lèi)似度的計(jì)算。區(qū)域決定部63根據(jù)與多個(gè)基本形態(tài)的類(lèi)似度,決定與各癥狀對(duì)應(yīng)的區(qū)域。例如,將表示出與多個(gè)基本形態(tài)的類(lèi)似度中的最高類(lèi)似度的基本形態(tài)所對(duì)應(yīng)的癥狀作為該區(qū)域的癥狀。
另外,與不同的多個(gè)癥狀對(duì)應(yīng)的多個(gè)區(qū)域彼此可以部分重疊。該情況下,重疊的部分成為混雜有不同癥狀的區(qū)域。
上述第1實(shí)施方式中記載的第1特征量和第2特征量是一例,可以適當(dāng)變更。此外,第1特征量和第2特征量可以是完全相同的特征量,也可以是完全不同的特征量。
上述第1實(shí)施方式中記載的顯示色及色調(diào)也是一例,可以適當(dāng)變更。作為色調(diào),除了上述第1實(shí)施方式例示的彩度以外、或者作為替代,可以增加明度。
級(jí)別不限于上述第1實(shí)施方式的級(jí)別1~3的3個(gè)等級(jí)。也可以是級(jí)別1、級(jí)別2這兩個(gè)等級(jí),也可以是級(jí)別1~10等進(jìn)一步細(xì)分的等級(jí)。
上述第1實(shí)施方式中,在第2觀察模式下的圖像顯示畫(huà)面76中,并列顯示觀察圖像和顏色分配圖像,但也可以僅顯示顏色分配圖像。該情況下,將觀察圖像在與圖像顯示畫(huà)面76不同的顯示畫(huà)面中顯示,或者在圖像顯示畫(huà)面76中設(shè)置顯示切換按鈕,對(duì)應(yīng)于顯示切換按鈕的操作來(lái)切換觀察圖像和顏色分配圖像的顯示。在將觀察圖像和顏色分配圖像顯示在不同的顯示畫(huà)面中的情況下,也可以將監(jiān)視器14設(shè)為2臺(tái)的復(fù)用監(jiān)視器,在一方的監(jiān)視器上顯示觀察圖像的顯示畫(huà)面,在另一方的監(jiān)視器上顯示顏色分配圖像的顯示畫(huà)面。關(guān)于上述第3實(shí)施方式的重疊圖像,也可以同樣地僅顯示重疊圖像。
也可以在圖像顯示畫(huà)面76上顯示特征量。例如,使顏色分配圖像上的區(qū)域re能夠選擇,將選擇出的區(qū)域re的特征量的一覽彈出顯示在圖像顯示畫(huà)面76上。該情況下,優(yōu)選按顏色特征量va、形態(tài)特征量vb以及分布特征量vc的特征量的每個(gè)種類(lèi)歸納顯示。
上述第1實(shí)施方式中,例示了在攝像面33a設(shè)有作為b濾光片、g濾光片以及r濾光片的原色彩色濾光片的攝像傳感器33,但也可以使用在攝像面設(shè)有青、品紅、黃的補(bǔ)色彩色濾光片的攝像傳感器。
此外,也可以使用沒(méi)有設(shè)置彩色濾光片的單色的攝像傳感器。在使用單色的攝像傳感器的情況下,使各半導(dǎo)體光源50~52匹配于幀速率依次點(diǎn)亮。在使用氙燈作為光源的情況下,在氙燈與光導(dǎo)35的入射端之間等設(shè)有將來(lái)自氙燈的白色光匹配于幀速率依次分光為藍(lán)色光bl、綠色光gl以及紅色光rl的旋轉(zhuǎn)式濾光片。
上述各實(shí)施方式中,說(shuō)明了使與內(nèi)窺鏡11直接連接的處理器裝置12作為本發(fā)明的圖像處理裝置發(fā)揮功能的例子,但也可以使圖像處理裝置為獨(dú)立于處理器裝置的裝置。
本發(fā)明不限于上述第1實(shí)施方式中例示的所謂被稱作軟性鏡的內(nèi)窺鏡11,對(duì)于在超小型的膠囊內(nèi)組裝有攝像傳感器和光源的膠囊型內(nèi)窺鏡也能夠應(yīng)用。
上述實(shí)施方式中,圖像處理裝置對(duì)從內(nèi)窺鏡得到的內(nèi)窺鏡圖像進(jìn)行處理。但是,本發(fā)明的圖像處理裝置也可以對(duì)由ct(計(jì)算機(jī)斷層拍攝)、mri(核磁共振斷層拍攝)、oct(光學(xué)相干斷層拍攝)、x線、超聲波回波、探頭、腹腔鏡、纖維鏡、其他圖像診斷得到的圖像進(jìn)行處理。
本發(fā)明還能夠?qū)⑸鲜龈鞣N實(shí)施方式或各種變形例適當(dāng)組合。此外,不限于上述各實(shí)施方式,只要不脫離本發(fā)明的主旨的范圍就當(dāng)然能夠采用各種結(jié)構(gòu)。進(jìn)而,本發(fā)明除了程序以外還設(shè)計(jì)存儲(chǔ)程序的存儲(chǔ)介質(zhì)。
本發(fā)明能夠在不脫離發(fā)明的精神的范圍內(nèi)進(jìn)行種種變形、變更,在這樣的情況下,也應(yīng)解釋為包含在本發(fā)明的保護(hù)范圍內(nèi)。