專(zhuān)利名稱(chēng):影像檢索裝置、影像檢索方法、記錄介質(zhì)、程序、集成電路的制作方法
技術(shù)領(lǐng)域:
本發(fā)明涉及一種基于在影像中登場(chǎng)的目標(biāo)物來(lái)檢索相關(guān)的目標(biāo)物(object)和影像等的技術(shù)。
背景技術(shù):
近年來(lái),由于廣播的多頻道化、面向網(wǎng)絡(luò)TV的影像分發(fā)服務(wù)的開(kāi)始等,數(shù)字錄影機(jī)的儲(chǔ)存容量增加。此外,還提供在網(wǎng)絡(luò)上的服務(wù)器中配置保存大容量的影像的儲(chǔ)存裝置,從而進(jìn)行影像的儲(chǔ)存/視聽(tīng)的服務(wù)。伴隨于此,從儲(chǔ)存在儲(chǔ)存裝置中的大量影像中高效地選出期望的影像的檢索裝置的實(shí)用化得到了推進(jìn)。在專(zhuān)利文獻(xiàn)1中,從用戶(hù)受理包含在影像的某一個(gè)幀中的目標(biāo)物(人物)的指定, 并提取該受理的目標(biāo)物的特征量。然后,通過(guò)使用提取的特征量來(lái)進(jìn)行對(duì)照,顯示出現(xiàn)了該受理的目標(biāo)物的其他影像場(chǎng)景。在先技術(shù)文獻(xiàn)專(zhuān)利文獻(xiàn)專(zhuān)利文獻(xiàn)1 日本專(zhuān)利第3711993號(hào)公報(bào)專(zhuān)利文獻(xiàn)2 日本特開(kāi)平6-89545號(hào)公報(bào)非專(zhuān)利文獻(xiàn)1 Canny, J. ,"A Computational Approach To Edge Detection,,,ΙΕΕ Trans Pattern Analysis and Machine Intelligence,8 :679-714(1986).非專(zhuān)利文獻(xiàn)2 大町等,“基于多項(xiàng)式近似的高速的指定區(qū)域中的模板匹配”,圖像電子學(xué)會(huì)雜志,vol. 38,no. 5,648-655(2009).發(fā)明的概要發(fā)明所要解決的技術(shù)問(wèn)題但是,在上述現(xiàn)有的結(jié)構(gòu)中,利用在某一個(gè)幀中指定的一個(gè)目標(biāo)物來(lái)檢索相關(guān)的影像,所以檢索精度不那么高,有時(shí)無(wú)法得到用戶(hù)期望的影像。例如,如果將目標(biāo)物的顏色的組合作為特征量來(lái)使用,則有時(shí)檢索到雖然與指定的一個(gè)目標(biāo)物實(shí)體不同,但碰巧顏色的組合相似的目標(biāo)物。
發(fā)明內(nèi)容
本發(fā)明是在這樣的背景下做出的,其目的在于,提供一種能夠?qū)z索精度的提高有所貢獻(xiàn)的影像檢索裝置。解決技術(shù)問(wèn)題所采用的技術(shù)手段本發(fā)明的影像檢索裝置具備再現(xiàn)單元,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理單元, 在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)單元,根據(jù)由所述受理單元進(jìn)行的受理來(lái)檢測(cè)目標(biāo)物;賦予單元,對(duì)于由檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的內(nèi)容上的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;檢索單元,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。發(fā)明的效果根據(jù)該結(jié)構(gòu),對(duì)于多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的內(nèi)容上的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值,并基于賦予的權(quán)重值來(lái)進(jìn)行檢索,所以能夠?qū)z索精度的提高有所貢獻(xiàn)。
圖1是影像檢索裝置101的功能框圖。圖2是表示內(nèi)容管理信息存儲(chǔ)部104的存儲(chǔ)內(nèi)容的圖。圖3是表示場(chǎng)景信息存儲(chǔ)部105的存儲(chǔ)內(nèi)容的圖。圖4是表示確定目標(biāo)物所屬的場(chǎng)景的流程的圖。圖5是表示目標(biāo)物信息存儲(chǔ)部106的存儲(chǔ)內(nèi)容的圖。圖6是表示目標(biāo)物信息存儲(chǔ)部106中的特征量信息的例的圖。圖7是表示與目標(biāo)物信息存儲(chǔ)部106的各目標(biāo)物ID對(duì)應(yīng)的縮略圖的圖。圖8是表示區(qū)域指定的狀況的圖。圖9是表示從指定的區(qū)域(目標(biāo)物)提取特征量的狀況的圖。圖10是表示特征量信息的例的圖。圖11是表示第一緩存器110的存儲(chǔ)內(nèi)容的圖。圖12是示意性地表示第一緩存器110的存儲(chǔ)內(nèi)容的圖。圖13(a)是表示初始權(quán)重值賦予的示意(image)的圖,(b)是表示權(quán)重值增加的示意的圖。圖14是表示第二緩存器115的存儲(chǔ)內(nèi)容的圖。圖15是主要的流程圖。圖16是表示觸摸屏801的畫(huà)面的圖。圖17是表示目標(biāo)物的加權(quán)處理的流程的流程圖。圖18是表示類(lèi)似影像檢索處理的流程的流程圖。圖19是表示1次類(lèi)似度的計(jì)算處理的流程的流程圖。圖20是表示計(jì)算出的1次類(lèi)似度的例的圖。圖21是表示2次類(lèi)似度的計(jì)算處理的流程的流程圖。圖22是說(shuō)明目標(biāo)物O1的1次類(lèi)似度的圖。圖23是說(shuō)明目標(biāo)物O1和目標(biāo)物P1的2次類(lèi)似度的計(jì)算方法的圖。圖M是說(shuō)明目標(biāo)物Oh和目標(biāo)物Pi的2次類(lèi)似度的計(jì)算方法的圖。圖25是表示計(jì)算出的2次類(lèi)似度的例的圖。圖沈是表示在觸摸屏801上顯示檢索結(jié)果的例的圖。圖27是表示從用戶(hù)界面?zhèn)扔^察動(dòng)作的流程時(shí)的示意的圖。圖觀是表示點(diǎn)選(point)的輸入期間中的幀的變遷的圖。圖四是表示點(diǎn)選指定的狀況的圖。圖30是表示基于指定的點(diǎn)選來(lái)檢測(cè)目標(biāo)物的狀況的圖。
圖31是說(shuō)明目標(biāo)物彼此的關(guān)聯(lián)建立的圖。圖32是說(shuō)明目標(biāo)物彼此的關(guān)聯(lián)建立的圖。圖33是說(shuō)明目標(biāo)物彼此的關(guān)聯(lián)建立的圖。圖34是說(shuō)明目標(biāo)物彼此的關(guān)聯(lián)建立的圖。圖35是表示將目標(biāo)物與場(chǎng)景號(hào)碼建立對(duì)應(yīng)的動(dòng)作的流程的流程圖。
具體實(shí)施例方式以下參照
實(shí)施方式。(實(shí)施方式1)< 結(jié)構(gòu) >如圖1所示,影像檢索裝置101具備通信部102、內(nèi)容存儲(chǔ)部103、內(nèi)容管理信息存儲(chǔ)部104、場(chǎng)景信息存儲(chǔ)部105、目標(biāo)物信息存儲(chǔ)部106、再現(xiàn)部107、受理部108、目標(biāo)物檢測(cè)部109、第一緩存器110、權(quán)重值賦予部111、第二緩存器115、檢索部116、顯示控制部 117、顯示部118。通信部102具有進(jìn)行各種通信的功能,例如由NIC (Network Interface Card/網(wǎng)絡(luò)接口卡)構(gòu)成,經(jīng)由網(wǎng)絡(luò)接收內(nèi)容?;蛘撸蓮V播波接收用的天線構(gòu)成,接收搭載在廣播波中發(fā)送來(lái)的內(nèi)容。另外,本實(shí)施方式中的內(nèi)容是指具有一定長(zhǎng)度的再現(xiàn)時(shí)間的影像內(nèi)容。以下簡(jiǎn)稱(chēng)為內(nèi)容。內(nèi)容存儲(chǔ)部103存儲(chǔ)多個(gè)由通信部102接收的內(nèi)容或從外部介質(zhì)(光盤(pán)等)輸入的內(nèi)容。內(nèi)容管理信息存儲(chǔ)部104存儲(chǔ)與內(nèi)容存儲(chǔ)部103存儲(chǔ)的內(nèi)容有關(guān)的管理信息。作為該管理信息的例,如圖2所示,包括如下項(xiàng)目用于識(shí)別內(nèi)容的“內(nèi)容 ID” 104a、內(nèi)容的“標(biāo)題” 104b、內(nèi)容的“類(lèi)型” 104c、用于確定內(nèi)容的所在的“內(nèi)容文件路徑” 104d。場(chǎng)景信息存儲(chǔ)部105對(duì)于內(nèi)容存儲(chǔ)部103存儲(chǔ)的各內(nèi)容,將包含在各個(gè)內(nèi)容中的場(chǎng)景和每個(gè)場(chǎng)景的幀號(hào)碼的范圍建立關(guān)聯(lián)并存儲(chǔ)。作為其例,如圖3所示,場(chǎng)景信息存儲(chǔ)部105包括如下項(xiàng)目表示場(chǎng)景的號(hào)碼的“場(chǎng)景號(hào)碼” 10 、表示與場(chǎng)景號(hào)碼對(duì)應(yīng)的幀的范圍的“幀號(hào)碼范圍” 10恥。在圖3中,僅示出了一個(gè)內(nèi)容(內(nèi)容ID :AAA),但是對(duì)于其他內(nèi)容(內(nèi)容ID :ABC, B⑶,ZU)也存儲(chǔ)同樣的內(nèi)容。該場(chǎng)景信息存儲(chǔ)部105的存儲(chǔ)內(nèi)容用于由關(guān)聯(lián)建立部113進(jìn)行的與目標(biāo)物對(duì)應(yīng)的場(chǎng)景的確定。關(guān)于該場(chǎng)景的確定方法,使用圖4后述。目標(biāo)物信息存儲(chǔ)部106存儲(chǔ)與包含在由內(nèi)容存儲(chǔ)部103存儲(chǔ)的內(nèi)容的幀中(出現(xiàn))的目標(biāo)物有關(guān)的信息。作為其例,如圖5所示,由如下項(xiàng)目構(gòu)成用于唯一地識(shí)別目標(biāo)物的“目標(biāo)物 ID”106a、表示包含該目標(biāo)物的幀的號(hào)碼的“幀號(hào)碼” 106b、表示包含該幀的內(nèi)容的標(biāo)識(shí)符的 “內(nèi)容ID” 106c、“特征量信息” 106d、表示代表幀(由用戶(hù)最初點(diǎn)選的幀)的所在的“文件路徑” 106e構(gòu)成。
另外,目標(biāo)物檢測(cè)部109以?xún)?nèi)容存儲(chǔ)部103的各內(nèi)容為對(duì)象來(lái)提取目標(biāo)物的特征量,并對(duì)目標(biāo)物進(jìn)行檢測(cè),從而制作目標(biāo)物信息存儲(chǔ)部106的存儲(chǔ)內(nèi)容。將內(nèi)容中的哪個(gè)目標(biāo)物作為對(duì)象,可以在預(yù)先指定的設(shè)定條件下自動(dòng)進(jìn)行,也可以手動(dòng)(用戶(hù)指定)進(jìn)行。特征量信息的例在圖6中示出。圖6中“i”,“ j”是格子坐標(biāo),R、G、B分別以256 等級(jí)表示紅、綠、藍(lán)的顏色的比例。另外,詳細(xì)情況在后面敘述,格子坐標(biāo)是指將幀分割為格子狀,并表示各格子的位置的坐標(biāo)。目標(biāo)物信息存儲(chǔ)部106對(duì)于每個(gè)目標(biāo)物存儲(chǔ)圖6那樣的特征量信息。在本實(shí)施方式中,使圖6那樣的特征量信息與1000個(gè)目標(biāo)物ID “0001” ID “ 1000”分別對(duì)應(yīng)地存儲(chǔ) 1000 個(gè)。圖7是表示目標(biāo)物信息存儲(chǔ)部106的各目標(biāo)物的縮略圖的圖。ID “0001” ID “0002”的目標(biāo)物為甲蟲(chóng)、ID “0003”的目標(biāo)物為戰(zhàn)車(chē)、ID “1000” 的目標(biāo)物為貓。另外,上述各存儲(chǔ)部103 106由例如HDD (Hard Disk Drive/硬盤(pán)驅(qū)動(dòng)器)的硬件構(gòu)成。繼續(xù)說(shuō)明圖1的功能模塊。再現(xiàn)部107將存儲(chǔ)在內(nèi)容存儲(chǔ)部103中的內(nèi)容再現(xiàn),并使該再現(xiàn)內(nèi)容顯示在顯示部118上。受理部108從用戶(hù)受理內(nèi)容的再現(xiàn)指示、及作為該再現(xiàn)中的目標(biāo)物的檢測(cè)對(duì)象的區(qū)域的指定(目標(biāo)物的指定)等各種指示。在本實(shí)施方式中,由靜電電容型的觸摸傳感器構(gòu)成,根據(jù)靜電電容的值的變化,確定觸摸傳感器的表面的哪個(gè)位置被點(diǎn)選(觸摸),并作為輸入來(lái)受理。另外,作為受理部108,也可以使用遙控器等其他一般的輸入器件。目標(biāo)物檢測(cè)部109基于受理部108受理的區(qū)域來(lái)檢測(cè)目標(biāo)物,并提取與該目標(biāo)物有關(guān)的特征量。第一緩存器110容納由目標(biāo)物檢測(cè)部109提取的目標(biāo)物的特征量信息。權(quán)重值賦予部111對(duì)容納在第一緩存器110中的各目標(biāo)物賦予影響檢索得分O 次類(lèi)似度)的權(quán)重值,其具備初始權(quán)重值賦予部112、關(guān)聯(lián)建立部113、權(quán)重值增加部114。初始權(quán)重值賦予部112對(duì)容納在第一緩存器110中的各目標(biāo)物賦予權(quán)重值的初始值。在圖11的例中,對(duì)ID “ 011 ”,“ 012 ”,“ 013 ”這3個(gè)目標(biāo)物分別賦予0. 5的權(quán)重值。圖 13(a)表示該初始權(quán)重值賦予的示意。關(guān)聯(lián)建立部113將容納在第一緩存器110中的目標(biāo)物彼此建立關(guān)聯(lián)。在本實(shí)施方式中,關(guān)聯(lián)建立部113參照?qǐng)鼍靶畔⒋鎯?chǔ)部105,將包含有目標(biāo)物的幀的場(chǎng)景是相同的作為條件來(lái)進(jìn)行關(guān)聯(lián)建立。在圖11的例中,·目標(biāo)物ID “011”的幀號(hào)碼為#2000,所以場(chǎng)景號(hào)碼為“2”·目標(biāo)物ID “012”的幀號(hào)碼為#2500,所以場(chǎng)景號(hào)碼為“2”·目標(biāo)物ID “013”的幀號(hào)碼為#3500,所以場(chǎng)景號(hào)碼為“3”。因此,關(guān)聯(lián)建立部113將場(chǎng)景號(hào)碼同為“2”的目標(biāo)物ID “011”與“012”建立關(guān)聯(lián), 將目標(biāo)物ID “012”與” 011”建立關(guān)聯(lián)。該關(guān)聯(lián)建立結(jié)束后,權(quán)重值增加部114使建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值增加。
在圖13(b)的例中,權(quán)重值增加部114對(duì)于建立了關(guān)聯(lián)的目標(biāo)物ID “011”和 “012”,將權(quán)重值分別增加“0. 3”。權(quán)重值賦予部111結(jié)束了這樣的一系列的與權(quán)重值相關(guān)的處理后,將處理結(jié)果存儲(chǔ)在第二緩存器115中。圖14表示第二緩存器115的存儲(chǔ)內(nèi)容的例。如圖14所示,第二緩存器115包含“目標(biāo)物ID”llfe、“關(guān)聯(lián)目標(biāo)物ID”lMb、“權(quán)重值” 115c,其中“關(guān)聯(lián)目標(biāo)物ID ” 11恥用于識(shí)別與以該目標(biāo)物ID表示的目標(biāo)物建立了關(guān)聯(lián)的目標(biāo)物。檢索部116基于存儲(chǔ)在第一緩存器110及第二緩存器115中的信息,將目標(biāo)物信息存儲(chǔ)部106的存儲(chǔ)內(nèi)容作為對(duì)象,進(jìn)行類(lèi)似的目標(biāo)物的檢索。另外,上述再現(xiàn)部107、受理部108、目標(biāo)物檢測(cè)部109及權(quán)重值賦予部111能夠通過(guò)在例如ROM中容納控制用程序、并由CUP執(zhí)行該程序來(lái)實(shí)現(xiàn)。顯示控制部117對(duì)顯示部118的顯示進(jìn)行控制。顯示部118由例如液晶方式的觸摸屏801構(gòu)成。另外,顯示部與信息檢索裝置可以是一體型,也可以是分離型。〈動(dòng)作〉接著,說(shuō)明影像檢索裝置101中的動(dòng)作。首先,按照?qǐng)D4、圖35說(shuō)明將場(chǎng)景號(hào)碼與目標(biāo)物建立對(duì)應(yīng)的動(dòng)作的流程。圖4(a)表示幀號(hào)碼的范圍和場(chǎng)景號(hào)碼的關(guān)系。圖4(b)表示3個(gè)幀(幀號(hào)碼“#1001”,“#2997”,“#3001,,)和包含在各幀中的目標(biāo)物(目標(biāo)物 ID “001”,“002”,“003”)。圖4(c)表示與目標(biāo)物ID對(duì)應(yīng)的幀號(hào)碼及場(chǎng)景號(hào)碼。關(guān)于該對(duì)應(yīng)建立,如圖35所示,首先關(guān)聯(lián)建立部113確定包含目標(biāo)物的幀號(hào)碼 (S3501)。作為包含目標(biāo)物的幀,選擇例如代表幀(由用戶(hù)最初點(diǎn)選的幀)。接著,關(guān)聯(lián)建立部113參照?qǐng)鼍靶畔⒋鎯?chǔ)部105的存儲(chǔ)內(nèi)容(S3502),決定與確定的幀號(hào)碼對(duì)應(yīng)的場(chǎng)景號(hào)碼(S3503)。如果舉出一例,例如關(guān)聯(lián)建立部113確定包含目標(biāo)物ID “001”的幀號(hào)碼“#1001”。 然后,關(guān)聯(lián)建立部113參照?qǐng)鼍靶畔⒋鎯?chǔ)部105的存儲(chǔ)內(nèi)容,決定該“#1001”為場(chǎng)景號(hào)碼 “2”。接著,受理部108受理區(qū)域的指定,使用圖8 圖9說(shuō)明目標(biāo)物檢測(cè)部109檢測(cè)目標(biāo)物并提取特征量為止的流程。如圖8所示,在觸摸屏801上顯示有汽車(chē)的目標(biāo)物802和人的目標(biāo)物803。軌跡 804是點(diǎn)選輸入的點(diǎn)的軌跡。目標(biāo)物檢測(cè)部109將該軌跡804的區(qū)域作為目標(biāo)物來(lái)檢測(cè)。然后,目標(biāo)物檢測(cè)部109將作為目標(biāo)物的軌跡804的區(qū)域作為對(duì)象來(lái)提取特征量。如圖9(b)所示,將代表幀(在圖9的例中為幀號(hào)碼“#99”)分割為橫w個(gè)、縱h 個(gè)(在圖9的例中為橫16個(gè)、縱9個(gè))格子區(qū)域。在此,設(shè)分割的各格子區(qū)域?yàn)閞(i,j)
l<j<h。目標(biāo)物檢測(cè)部109接著提取包含目標(biāo)物的區(qū)域即區(qū)域0中包含的格子區(qū)域的集合 R(O)0在區(qū)域0中是否包含格子區(qū)域r(i,j)的判定方法如下所述。
首先,將連結(jié)格子區(qū)域r(i,j)的重心點(diǎn)P(x,y)和離P很遠(yuǎn)的點(diǎn)Q的線段設(shè)為線段P-Q,將線段P-Q與區(qū)域0的交點(diǎn)數(shù)設(shè)為N(P-Q,0)。若交點(diǎn)數(shù)N(P-Q,0)為奇數(shù),則判定為該格子區(qū)域r(i,j)包含在區(qū)域0中,若為偶數(shù)則判定為不包含。這樣,求出包含在區(qū)域0中的格子區(qū)域的集合R(O)。在圖9的例中,對(duì)于格子區(qū)域r(l,l),由于r(l,l)的重心點(diǎn)Pl (10,10)和相距很遠(yuǎn)的點(diǎn)Q(10000,10000)的線段Pl-Q與區(qū)域0以2點(diǎn)相交,所以格子區(qū)域r(l,l)不包含在區(qū)域0中。與此相對(duì),由于格子區(qū)域r(3,6)的重心點(diǎn)P2(30,60)和點(diǎn)Q的線段P2-Q與區(qū)域0以1點(diǎn)相交,所以格子區(qū)域r (3,6)包含在區(qū)域0中。目標(biāo)物檢測(cè)部109之后對(duì)于包含在區(qū)域0中的格子區(qū)域r(i,j) e R(0),求出特征量信息c(i,j)。在此,設(shè)特征量信息c (i,j)為格子區(qū)域r(i,j)中的度數(shù)最高的顏色。目標(biāo)物檢測(cè)部檢測(cè)到的特征量信息以表形式建立對(duì)應(yīng)并管理。圖10表示特征量信息的例。圖10的特征量信息的形式與圖6所示相同,將目標(biāo)物ID “XX”、幀號(hào)碼“#100”、內(nèi)容ID “ABC”建立關(guān)聯(lián)。每當(dāng)受理部108受理了區(qū)域的指定,目標(biāo)物檢測(cè)部109重復(fù)從該區(qū)域檢測(cè)目標(biāo)物、 并提取該目標(biāo)物的特征量的處理。然后,將提取的特征量信息等容納在第一緩存器110中。圖11是表示第一緩存器110的存儲(chǔ)內(nèi)容的圖。第一緩存器110由如下項(xiàng)目構(gòu)成用于識(shí)別目標(biāo)物的“目標(biāo)物ID” 110a、包含該目標(biāo)物的“幀號(hào)碼” 110b、“特征量信息” 110c。圖12是示意性地表示圖11的第一緩存器110的存儲(chǔ)內(nèi)容的圖。ID“011”,“012” 都是甲蟲(chóng)的目標(biāo)物,ID “013”是貓的目標(biāo)物。另外,為了便于說(shuō)明,圖12描繪了各目標(biāo)物的示意,第一緩存器110中的實(shí)際的數(shù)據(jù)形式是圖10那樣的特征量信息的形式。接著,按照?qǐng)D15的流程圖說(shuō)明影像檢索裝置101中的主要的動(dòng)作。首先,如圖15所示,受理部108受理應(yīng)該再現(xiàn)的內(nèi)容的選擇(S1501)。圖16表示與步驟S1501對(duì)應(yīng)的觸摸屏801的畫(huà)面。受理了內(nèi)容的選擇并且再現(xiàn)部107開(kāi)始再現(xiàn)該內(nèi)容后(S150》,受理部108進(jìn)入目標(biāo)物指定的受理等待。接下來(lái)的步驟S1503 S1505是使用圖8、圖9說(shuō)明的處理,受理部108受理區(qū)域的指定(S1503),目標(biāo)物檢測(cè)部109將受理的區(qū)域作為對(duì)象來(lái)檢測(cè)目標(biāo)物(S1504),并提取特征量(S1505)。重復(fù)進(jìn)行該步驟S1503 S1505的處理,直到內(nèi)容的再現(xiàn)結(jié)束(S1506:是)。另外,第一緩存器110的目標(biāo)物ID“011”,“012”,“013”是重復(fù)了 3次步驟S1504 S1505的處理的、目標(biāo)物檢測(cè)部109容納的數(shù)據(jù)。再現(xiàn)結(jié)束后,轉(zhuǎn)移到目標(biāo)物的加權(quán)處理(S1507)。如圖17所示,在目標(biāo)物的加權(quán)處理中,權(quán)重值賦予部111從第一緩存器110取得與目標(biāo)物ID對(duì)應(yīng)的幀號(hào)碼(S1701),初始權(quán)重值賦予部112對(duì)取得的各目標(biāo)物ID賦予初始權(quán)重值 “0.5”(S 1702)。然后,關(guān)聯(lián)建立部113通過(guò)參照?qǐng)鼍靶畔⒋鎯?chǔ)部105的信息,從在步驟S1701中取得的幀號(hào)碼確定對(duì)應(yīng)的場(chǎng)景號(hào)碼(S1703),從而確定各目標(biāo)物ID的場(chǎng)景號(hào)碼。接著,根據(jù)確定的場(chǎng)景號(hào)碼,將場(chǎng)景號(hào)碼相同的目標(biāo)物彼此建立關(guān)聯(lián)(S1704)。權(quán)重值增加部114使在步驟S1704中建立了關(guān)聯(lián)的權(quán)重值增加“0. 3”。將一系列的處理結(jié)果輸出給第二緩存器115 (S1705)。在圖14的第二緩存器115的例中,由于目標(biāo)物ID "OllMD “012”是相同場(chǎng)景2 的目標(biāo)物,所以目標(biāo)物ID “011”、ID “012”分別存在關(guān)聯(lián)目標(biāo)物ID “012”、“011”,各自的權(quán)重值為在初始權(quán)重值“0. 5”上加上了 “0. 3”的“0. 8”。這樣的目標(biāo)物的加權(quán)處理(圖15:S1507)結(jié)束后,轉(zhuǎn)移到類(lèi)似影像檢索處理 (S1508)。如圖18所示,在類(lèi)似影像檢索處理中,包括如下處理基于目標(biāo)物的特征量信息計(jì)算的1次類(lèi)似度的計(jì)算處理(S1801)、以及基于計(jì)算出的1次類(lèi)似度和目標(biāo)物的權(quán)重值進(jìn)一步計(jì)算的2次類(lèi)似度的計(jì)算處理(S1802)。如圖19所示,1次類(lèi)似度的計(jì)算處理為,檢索部116從容納在第一緩存器110中的目標(biāo)物中,將1次類(lèi)似度未計(jì)算的1個(gè)目標(biāo)物Oh設(shè)定為計(jì)算對(duì)象(S1901)。然后,取得設(shè)定為計(jì)算對(duì)象的目標(biāo)物的特征量信息。說(shuō)明該步驟S1901的例,在第一緩存器110(參照?qǐng)D11)中容納有3個(gè)目標(biāo)物 O1 (ID "011")>02(ID “012,,)、03(ID “013,,)。檢索部116將目標(biāo)物O1設(shè)定為計(jì)算對(duì)象,取
得目標(biāo)物O1的特征量信息。接著,檢索部116從容納在目標(biāo)物信息存儲(chǔ)部106中的目標(biāo)物中,將1次類(lèi)似度未計(jì)算的1個(gè)目標(biāo)物PiS定為計(jì)算對(duì)象(S1902)。然后,取得設(shè)定為計(jì)算對(duì)象的目標(biāo)物的特
征量信息。說(shuō)明該步驟S1902的例,在目標(biāo)物信息存儲(chǔ)部106(參照?qǐng)D5)中容納有1000個(gè)目標(biāo)物 P1 (ID “0001,,)、P2 (ID “0002,,)、P3 (ID “0003,,)、···。檢索部 116 將目標(biāo)物 P1 設(shè)定
為計(jì)算對(duì)象,取得設(shè)定為計(jì)算對(duì)象的該目標(biāo)物P1的特征量信息。接著,檢索部116求出在步驟S1901中設(shè)定的目標(biāo)物Oh和在步驟S1902中設(shè)定的目標(biāo)物Pi的1次類(lèi)似度Rh, i (S1903)。具體來(lái)說(shuō),將目標(biāo)物Oh的特征量信息(格子區(qū)域及其特征顏色信息)作為模板, 進(jìn)行與目標(biāo)物Pi的模板匹配處理,從而求出兩目標(biāo)物的類(lèi)似度即1次類(lèi)似度Rh,i。另外,該模板匹配處理(通過(guò)在輸入畫(huà)像中一邊將模板重合一邊移動(dòng),并調(diào)查對(duì)應(yīng)的特征顏色的相關(guān)來(lái)判定其類(lèi)似度的處理。)可以使用現(xiàn)有的方法,例如可以使用上述非專(zhuān)利文獻(xiàn)2記載的方法。另外,將由檢索部116求出的1次類(lèi)似度I^i歸一化為從0到1之間的值,該值越大表示類(lèi)似度越高。如果存在未計(jì)算1次類(lèi)似度I^i的目標(biāo)*Pi(S1904 是),則檢索部116回到步驟 S1902。此外,如果存在未計(jì)算1次類(lèi)似度^勺目標(biāo)物0h(S1905 是),則回到步驟S1901。通過(guò)重復(fù)這樣的一系列的處理,求出將第一緩存器110的3個(gè)目標(biāo)物汍 03)和目標(biāo)物信息存儲(chǔ)部106的1000個(gè)目標(biāo)物(P1 PltlJ分別組合的3000個(gè)1次類(lèi)似度(Rlil,
Rl, 2,· · ·,Rl, 1000,尺2,1,尺2,2,· · ·,Κβ, οοο)。CN 102474586 A說(shuō)明書(shū)8/14 頁(yè)圖20表示1次類(lèi)似度i^i的例。對(duì)于目標(biāo)物id “012”,同為甲蟲(chóng)的目標(biāo)物 id “0002”、“0001”的類(lèi)似度變高。對(duì)于目標(biāo)物id “011”,戰(zhàn)車(chē)的目標(biāo)物id “0003”的類(lèi)似度也較高,為第2位。id “0003”的戰(zhàn)車(chē)的目標(biāo)物相對(duì)于id “011”的甲蟲(chóng)的目標(biāo)物,僅僅是碰巧顏色的組合等相似的目標(biāo)物,對(duì)使用id “011”來(lái)檢索的用戶(hù)(想尋找甲蟲(chóng)的用戶(hù))來(lái)說(shuō),是違背本意的結(jié)果。接著,說(shuō)明2次類(lèi)似度的計(jì)算處理。如圖21所示,2次類(lèi)似度的計(jì)算處理為,檢索部116從容納在第一緩存器110中的目標(biāo)物中,將2次類(lèi)似度未計(jì)算的1個(gè)目標(biāo)物Oh設(shè)定為計(jì)算對(duì)象(S2101)。然后,參照第二緩存器115,取得設(shè)定為計(jì)算對(duì)象的目標(biāo)物的關(guān)聯(lián)目標(biāo)物(S2102)。然后,從容納在目標(biāo)物信息存儲(chǔ)部106中的目標(biāo)物中,將2次類(lèi)似度未計(jì)算的1個(gè)目標(biāo)物Pi設(shè)定為計(jì)算對(duì)象(S2103)。接著,檢索部116對(duì)于在步驟S2103中取得的O1^iPi的1次類(lèi)似度I^i及關(guān)聯(lián)目標(biāo)物oh(1),...,oh(j)各自的ι次類(lèi)似度Ka),^..,hdi分別乘以權(quán)重值。乘完后,通過(guò)全部求和,求出2次類(lèi)似度ShJSZKM)。在步驟S2101中將目標(biāo)物O1設(shè)定為對(duì)象,在步驟S2103中將目標(biāo)物P1設(shè)定為計(jì)算對(duì)象,使用圖22、圖23說(shuō)明步驟S2104的具體的例。對(duì)于該目標(biāo)物O1,如圖22所示,已求出從R1,1到R1,.的1次類(lèi)似度,目標(biāo)物O1與目標(biāo)物A建立了關(guān)聯(lián)(目標(biāo)物O1具有關(guān)聯(lián)目標(biāo)物O2)。并且,該目標(biāo)物O1和目標(biāo)物P1的2次類(lèi)似度Slil如圖23所示,通過(guò)下式求出,sljl = R1j1xw1+r2j1xw2—(式 1)。前半的項(xiàng)"R1,iXwl”是在目標(biāo)物O1自身和對(duì)象目標(biāo)物P1的1次類(lèi)似度I^1上乘以自身的權(quán)重值wl。后半的項(xiàng)"R2il Xw2”是在目標(biāo)物O1的關(guān)聯(lián)目標(biāo)物&和對(duì)象目標(biāo)物P1的1次類(lèi)似度I^1上乘以關(guān)聯(lián)目標(biāo)物的權(quán)重值W2。這樣,2次類(lèi)似度S成為將下述㈧和⑶兩個(gè)類(lèi)似度乘以各自的目標(biāo)物0h,Oha) 的加權(quán)后,再相加的值。(a)由目標(biāo)物檢測(cè)部109檢測(cè)到的目標(biāo)物oh和存儲(chǔ)在目標(biāo)物信息存儲(chǔ)部106中的目標(biāo)物PiWl次類(lèi)似度(B)與上述目標(biāo)物Oh建立了關(guān)聯(lián)的目標(biāo)物0h(1)和上述目標(biāo)物Pi的1次類(lèi)似度與上述目標(biāo)物A建立了關(guān)聯(lián)的目標(biāo)物0h(1),Oh⑵,...,如果數(shù)量較多則其2次類(lèi)似度成為較高的值。圖M表示將2次類(lèi)似度的計(jì)算方法一般化后的示意,表示具有j個(gè)關(guān)聯(lián)目標(biāo)物的目標(biāo)物Oh和目標(biāo)物Pi的2次類(lèi)似度Sh, i的計(jì)算方法。檢索部116通過(guò)重復(fù)這樣的一系列的處理,基于1次類(lèi)似度(Rlil,隊(duì),2,.. . ,Rljl0OO' 尺 2,1,尺 2,2,· · ·,1^3, iooo)求出 2 次類(lèi) ^fU 度(Si,i' Slj2' · · ·,Slj 1000' S2jl j S2j2' · · ·,S3j 1Qoo) (S2105, S2106)。圖25表示2次類(lèi)似度的例。這樣的2次類(lèi)似度的計(jì)算處理結(jié)束后(圖18 :s1802),檢索部116顯示檢索結(jié)果 (s1803)。
圖沈是表示檢索結(jié)果的例的圖。在觸摸屏801的上段,顯示有在檢索中使用的3 個(gè)目標(biāo)物(ID “011”、“012”、“013”)的縮略圖,在下段顯示有3個(gè)目標(biāo)物中ID “011”的2 次類(lèi)似度為上3位的目標(biāo)物的縮略圖51 53。例如,若受理部108受理了縮略圖51的選擇,則檢索部116從目標(biāo)物信息存儲(chǔ)部 106中確定包含與縮略圖51對(duì)應(yīng)的目標(biāo)物ID “0002”(參照?qǐng)D7)的幀號(hào)碼“#1234”和內(nèi)容ID “ABC”。然后,檢索部116使再現(xiàn)部26從內(nèi)容ID “ABC”的幀號(hào)碼“#1234”稍前面的幀號(hào)碼開(kāi)始再現(xiàn)。另外,圖M的檢索結(jié)果只是一例,例如,也可以在求出用于檢索的3個(gè)目標(biāo)物各自的2次類(lèi)似度的平均的基礎(chǔ)上顯示上3位,而且不限于上3位,也可以是任意的個(gè)數(shù)。此外, 也可以不只顯示檢索結(jié)果的順序,還顯示2次類(lèi)似度的值(檢索得分)。圖27表示從用戶(hù)界面?zhèn)扔^察上述說(shuō)明的動(dòng)作的流程的示意。如上所述,根據(jù)本實(shí)施方式,對(duì)于通過(guò)由用戶(hù)選擇區(qū)域而指定的3個(gè)目標(biāo)物 (ID “011”、“012”、“013”),使場(chǎng)景同為 “2” 的 ID “011”、“012” 的權(quán)重值增加 “0. 3”。然后,根據(jù)1次類(lèi)似度求出考慮了上面的權(quán)重值的2次類(lèi)似度。其結(jié)果,在3個(gè)指定的目標(biāo)物的每一個(gè)中,總是能夠?qū)?次類(lèi)似度較高的目標(biāo)物、及屬于相同場(chǎng)景的目標(biāo)物等最終作為2 次類(lèi)似度較高的目標(biāo)物。其結(jié)果,如圖20的戰(zhàn)車(chē)(ID “0003”)相對(duì)于甲蟲(chóng)(ID “011”)那樣,與指定的目標(biāo)物碰巧顏色的組合相似并以單獨(dú)的目標(biāo)物來(lái)檢索,結(jié)果出現(xiàn)在上位的目標(biāo)物,能夠從檢索結(jié)果的上位排除,從而能夠?qū)崿F(xiàn)檢索精度的提高。另外,在圖20的例中,同一場(chǎng)景“2”的目標(biāo)物較少,為2個(gè),但是隨著用于檢索的目標(biāo)物的個(gè)數(shù)增加,例如10個(gè)、20個(gè),能進(jìn)一步降低上面那樣的僅僅碰巧顏色的組合相似的目標(biāo)物占據(jù)檢索結(jié)果的上位的可能性?!囱a(bǔ)充1>以上說(shuō)明了本實(shí)施方式,但是本發(fā)明不限于上述內(nèi)容,用于達(dá)成本發(fā)明的目的及其關(guān)聯(lián)或附隨的目的的各種形態(tài)也可以實(shí)施,例如也可以是以下形態(tài)。(1)對(duì)于被目標(biāo)物檢測(cè)部109作為檢測(cè)對(duì)象的幀進(jìn)行補(bǔ)充。受理部108在內(nèi)容的再現(xiàn)中受理區(qū)域的指定,所以從用于區(qū)域指定的點(diǎn)選的輸入開(kāi)始到輸入結(jié)束為止的期間,幀也會(huì)經(jīng)過(guò)。因此,如圖觀所示,在該點(diǎn)選的輸入中,有時(shí)用戶(hù)想要指定的目標(biāo)物的位置變更, 或到了幀外。因此,優(yōu)選為將點(diǎn)選的輸入開(kāi)始時(shí)點(diǎn)(受理部108受理的時(shí)點(diǎn))的幀號(hào)碼“#100”
作為檢測(cè)對(duì)象。但是,可以想到產(chǎn)生下述㈧和⑶等延遲(延遲的長(zhǎng)度為例如數(shù)毫秒程度),所以也可以使用考慮了這些㈧⑶的校正值S。(A)使用與影像檢索裝置分離的輸入器件來(lái)指定的情況的延遲(例如通過(guò)連接有藍(lán)牙Bluetooth (商標(biāo))的鼠標(biāo)來(lái)指定的情況等)(B)觸摸屏801的處理和顯示所需的延遲在圖28的例中,校正值為1幀的量,將幀號(hào)碼“#100”的前一個(gè)“#99”作為對(duì)象幀。(2)在實(shí)施方式中,說(shuō)明了基于從用戶(hù)指定的區(qū)域來(lái)檢測(cè)目標(biāo)物(參照?qǐng)D8),但是不限于這樣的區(qū)域指定。例如,如圖29所示,受理部108受理觸摸屏801上的一點(diǎn)即A點(diǎn)(xl, yl)。然后,目標(biāo)物檢測(cè)部109如圖30所示,以受理的時(shí)點(diǎn)的幀為對(duì)象進(jìn)行邊緣檢測(cè),在通過(guò)邊緣檢測(cè)檢測(cè)到的目標(biāo)物中,檢測(cè)包含A點(diǎn)的目標(biāo)物108。另外,上述邊緣檢測(cè)可以使用開(kāi)尼(canny)算法(參照非專(zhuān)利文獻(xiàn)1)等一般的方法。也可以基于這樣從用戶(hù)指定的點(diǎn)(點(diǎn)選指定)來(lái)檢測(cè)目標(biāo)物。另外,采用區(qū)域指定還是點(diǎn)選指定,可以基于用戶(hù)設(shè)定來(lái)選擇性地使用?;蛘?,在目標(biāo)物檢測(cè)部109中也可以是,在某一定時(shí)間t期間輸入的點(diǎn)選數(shù)為c以下、且點(diǎn)選間的距離為d以下的情況下,判定為點(diǎn)選指定,在其他情況下,判定為區(qū)域指定。(3)在實(shí)施方式中,關(guān)聯(lián)建立部113基于包含目標(biāo)物的幀所屬的場(chǎng)景的同一性來(lái)區(qū)分關(guān)聯(lián)建立的有無(wú),但是不限于此。例如,如圖31所示,也可以以章節(jié)相同為條件來(lái)進(jìn)行關(guān)聯(lián)建立。此外,如圖32所示,也可以以包含各個(gè)目標(biāo)物的幀的再現(xiàn)時(shí)間彼此在一定時(shí)間以?xún)?nèi)(例如3分鐘以?xún)?nèi))為條件來(lái)進(jìn)行關(guān)聯(lián)建立。此外,如圖33所示,也可以使關(guān)聯(lián)建立具有方向性,即從目標(biāo)物01向02建立關(guān)聯(lián),但是從02向01不建立關(guān)聯(lián),考慮幀的再現(xiàn)時(shí)間的順序(目標(biāo)物的出現(xiàn)順序)。此外,如圖34所示,在存在目標(biāo)物01 — 02、02 — 03、03 — 04這樣的關(guān)聯(lián)建立的情況下,也可以遞歸地進(jìn)行01 — 03這樣的關(guān)聯(lián)建立。01 —03的關(guān)聯(lián)建立可以說(shuō)是間接的(不是直接的)關(guān)聯(lián)建立,所以在直接的關(guān)聯(lián)建立中使用的權(quán)重值的增加量Aw相對(duì)較小。此外,01 — 04的關(guān)聯(lián)建立是更間接的關(guān)聯(lián)建立,所以權(quán)重值的增加量Aw更小。這樣,也可以在經(jīng)由的目標(biāo)物的個(gè)數(shù)較少的情況(回歸較淺的情況)下將權(quán)重值的增加量相對(duì)較大地設(shè)定,經(jīng)由的目標(biāo)物的個(gè)數(shù)較多的情況(回歸較深的情況)下將權(quán)重值的增加量Aw相對(duì)較小地設(shè)定。另外,在圖34的例中,在關(guān)聯(lián)建立中具有方向性,但是在不具有方向性的關(guān)聯(lián)建立中也可以應(yīng)用這樣的回歸性的關(guān)聯(lián)建立。(4)在實(shí)施方式中,對(duì)于具有關(guān)聯(lián)目標(biāo)物的目標(biāo)物,權(quán)重值增加部114 一律增加 “0. 3”的權(quán)重值,但是不限于此。例如,對(duì)于由目標(biāo)物檢測(cè)部109檢測(cè)到的各目標(biāo)物,也可以對(duì)出現(xiàn)的頻度進(jìn)行計(jì)數(shù)。具體來(lái)說(shuō),在圖14的第二緩存器的數(shù)據(jù)列中設(shè)置“頻度”的項(xiàng)目,如果頻度較多,則將比 “0. 3”大的值(例如“0. 5”)作為增加量,如果頻度較多,則將比“0. 3”小的值(例如”0. 1,,) 作為增加量。此外,對(duì)于由目標(biāo)物檢測(cè)部109檢測(cè)到的各目標(biāo)物,也可以對(duì)出現(xiàn)的時(shí)間進(jìn)行計(jì)數(shù)。具體地說(shuō),在圖14的第二緩存器的數(shù)據(jù)列中設(shè)置“出現(xiàn)時(shí)間”的項(xiàng)目,如果出現(xiàn)時(shí)間較長(zhǎng),則將比“0.3”大的值(例如“0.5”)作為增加量,如果較短,則將比“0.3”小的值(例如 "0.1")作為增加量。(5)關(guān)于內(nèi)容的再現(xiàn),也可以存儲(chǔ)將表示快放和回放等的有無(wú)的履歷與幀號(hào)碼建立了關(guān)聯(lián)的履歷。
并且,例如在該履歷中,如果幀號(hào)碼“#2000”是快放的幀,則對(duì)于包含在該幀號(hào)碼 “#2000”中的目標(biāo)物ID “011”(參照?qǐng)D11),可以將權(quán)重值減小。這是因?yàn)?,包含在快放的幀中的目?biāo)物可以認(rèn)為對(duì)用戶(hù)來(lái)說(shuō)是不重要的。反之,也可以將包含在回放的幀中的目標(biāo)物的權(quán)重值增大。(6)在檢索部116中,也可以考慮目標(biāo)物的出現(xiàn)順序來(lái)進(jìn)行檢索。例如,在目標(biāo)物信息存儲(chǔ)部106中預(yù)先存儲(chǔ)表示目標(biāo)物的出現(xiàn)順序的信息,將與由目標(biāo)物檢測(cè)部109檢測(cè)到的目標(biāo)物的順序的吻合度較高的目標(biāo)物的2次類(lèi)似度提高。(7)也可以將由目標(biāo)物檢測(cè)部109檢測(cè)到的目標(biāo)物作為數(shù)據(jù)庫(kù)來(lái)預(yù)先儲(chǔ)存。并且, 在關(guān)聯(lián)建立部113中,也可以將儲(chǔ)存的目標(biāo)物作為關(guān)聯(lián)建立的對(duì)象來(lái)利用。此外,在上面的儲(chǔ)存中,也可以結(jié)合表示包含各目標(biāo)物的幀的內(nèi)容的系列名(連續(xù)劇或partl、part2、part3這樣的有續(xù)集的電影等系列的名字)的信息來(lái)預(yù)先儲(chǔ)存,關(guān)聯(lián)建立部113也可以將相同系列名的目標(biāo)物建立關(guān)聯(lián)。(8)在權(quán)重值增加部114中,也可以是,建立了關(guān)聯(lián)的目標(biāo)物在幀中占有的大小 (目標(biāo)物的尺寸)越大,則越大地增加權(quán)重值。 (9)在權(quán)重值賦予部111中,基于關(guān)聯(lián)建立部113進(jìn)行的目標(biāo)物彼此的關(guān)聯(lián)建立來(lái)調(diào)整權(quán)重值。但是不限于此,也可以想到不進(jìn)行關(guān)聯(lián)建立而對(duì)場(chǎng)景相同的目標(biāo)物增加權(quán)重值等,調(diào)整權(quán)重值。(10)實(shí)施方式和上述的具體規(guī)格和數(shù)值(初始權(quán)重值和權(quán)重值的增加量的值等) 只是一例,可以適當(dāng)變更。(11)圖1等的各功能模塊可以采用作為集成電路的LSI??梢詫⑺鼈儐为?dú)地1 芯片化,也可以包含一部分或全部地1芯片化。此外,在此采用了 LSI,但是根據(jù)集成度不同,有時(shí)也稱(chēng)為IC、系統(tǒng)LSI、超級(jí)LSI、極超級(jí)LSI。此外,集成電路化的方法不限于LSI, 也可以通過(guò)專(zhuān)用電路或通用處理器實(shí)現(xiàn)。LSI制造后,也可以利用可編程的FPGA(Field Programmable Gate Array)或能夠?qū)SI內(nèi)部的電路單元的連接或設(shè)定再構(gòu)成的可重組處理器。進(jìn)而,隨著半導(dǎo)體技術(shù)的進(jìn)步或派生的其他技術(shù),如果出現(xiàn)能夠替換LSI的集成電路化的技術(shù),當(dāng)然也可以使用該技術(shù)來(lái)進(jìn)行功能塊的集成化。(12)也可以將由程序碼構(gòu)成的控制程序記錄在記錄介質(zhì)中,或經(jīng)由各種通信路流通并頒布,上述程序碼使各種信息處理裝置的處理器及與該處理器連接的各種電路執(zhí)行在上述實(shí)施方式中示出的動(dòng)作等。這樣的記錄介質(zhì)有IC卡、硬盤(pán)、光盤(pán)、軟盤(pán)、ROM等永久性(not-transitory)記錄介質(zhì)。流通并頒布的控制程序通過(guò)容納在處理器可讀取的存儲(chǔ)器等中來(lái)供利用,通過(guò)該處理器執(zhí)行該控制程序來(lái)實(shí)現(xiàn)實(shí)施方式所示的各種功能。〈補(bǔ)充2>本實(shí)施方式包含以下形態(tài)。(1)本實(shí)施方式的影像檢索裝置的特征在于,具備再現(xiàn)單元,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理單元,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)單元,根據(jù)由所述受理單元進(jìn)行的受理來(lái)檢測(cè)目標(biāo)物;賦予單元,對(duì)于由檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;檢索單元,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。(2)此外,也可以是,所述賦予單元包括關(guān)聯(lián)建立單元,對(duì)于由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),基于包含各目標(biāo)物的各幀的時(shí)間序列的特征,將目標(biāo)物彼此建立關(guān)聯(lián);增加單元,使所述建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比相對(duì)地增加。根據(jù)該結(jié)構(gòu),通過(guò)由上述增加單元進(jìn)行上述權(quán)重值的相對(duì)地增加,能夠有助于檢索精度的提高。(3)此外,也可以是,所述內(nèi)容在其再現(xiàn)時(shí)間軸上被多個(gè)場(chǎng)景劃分,所述關(guān)聯(lián)建立單元基于包含各目標(biāo)物的各幀的場(chǎng)景的同一性來(lái)進(jìn)行所述目標(biāo)物彼此的關(guān)聯(lián)建立。根據(jù)該結(jié)構(gòu),通過(guò)基于場(chǎng)景的同一性的關(guān)聯(lián)建立,能夠?qū)Ω髂繕?biāo)物賦予合適的權(quán)重值。(4)此外,也可以是,所述內(nèi)容在其再現(xiàn)時(shí)間軸上被多個(gè)章節(jié)劃分,所述關(guān)聯(lián)建立單元基于包含各目標(biāo)物的各幀的章節(jié)的同一性來(lái)進(jìn)行所述目標(biāo)物彼此的關(guān)聯(lián)建立。根據(jù)該結(jié)構(gòu),通過(guò)基于章節(jié)場(chǎng)景的同一性的關(guān)聯(lián)建立,能夠?qū)Ω髂繕?biāo)物賦予合適的權(quán)重值。(5)此外,也可以是,所述關(guān)聯(lián)建立單元將經(jīng)由其他目標(biāo)物間接地建立了關(guān)聯(lián)的目標(biāo)物彼此建立關(guān)聯(lián)。(6)此外,也可以是,所述增加單元對(duì)于經(jīng)由所述其他目標(biāo)物間接地建立了關(guān)聯(lián)的目標(biāo)物彼此,根據(jù)經(jīng)由的目標(biāo)物的個(gè)數(shù),調(diào)整所述增加的權(quán)重值。(7)此外,也可以是,所述關(guān)聯(lián)建立單元從幀的所述再現(xiàn)時(shí)間為前方的目標(biāo)物向幀的所述再現(xiàn)時(shí)間為后方的目標(biāo)物進(jìn)行關(guān)聯(lián)建立,從幀的所述再現(xiàn)時(shí)間為后方的目標(biāo)物向幀的所述再現(xiàn)時(shí)間為前方的目標(biāo)物不進(jìn)行關(guān)聯(lián)建立。根據(jù)該結(jié)構(gòu),通過(guò)使關(guān)聯(lián)建立具有方向性,能夠?qū)Ω髂繕?biāo)物賦予合適的權(quán)重值。(8)也可以是,具備存儲(chǔ)單元,存儲(chǔ)多個(gè)目標(biāo)物和各目標(biāo)物的特征量信息,所述檢測(cè)單元對(duì)于檢測(cè)到的各個(gè)目標(biāo)物提取目標(biāo)物的特征量信息,所述檢索單元通過(guò)將由所述檢測(cè)單元提取的特征量信息和存儲(chǔ)在所述存儲(chǔ)單元中的特征量信息進(jìn)行對(duì)照,來(lái)檢索與所述檢測(cè)單元檢測(cè)到的目標(biāo)物類(lèi)似的目標(biāo)物。(9)也可以是,具備存儲(chǔ)單元,存儲(chǔ)多個(gè)目標(biāo)物和各目標(biāo)物的特征量信息,所述檢測(cè)單元提取檢測(cè)到的目標(biāo)物各自的目標(biāo)物的特征量信息,所述賦予單元對(duì)所述目標(biāo)物分別賦予權(quán)重值,所述檢索單元通過(guò)將由檢測(cè)單元檢測(cè)到的目標(biāo)物的特征量信息和存儲(chǔ)在所述存儲(chǔ)單元中的目標(biāo)物各自的特征量信息進(jìn)行對(duì)照,計(jì)算1次類(lèi)似度,在1次類(lèi)似度的值上乘以該其他目標(biāo)物的權(quán)重值,并將得到的值相加,從而計(jì)算2次類(lèi)似度。(10)此外,也可以是,具備頻度計(jì)數(shù)單元,對(duì)所述建立了關(guān)聯(lián)的目標(biāo)物在所述內(nèi)容中出現(xiàn)的頻度進(jìn)行計(jì)數(shù),對(duì)于該建立了關(guān)聯(lián)的目標(biāo)物計(jì)數(shù)的頻度越多,則與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比,所述增加單元越使所述建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值相對(duì)地增加。(11)此外,也可以是,具備時(shí)間計(jì)數(shù)單元,對(duì)于所述建立了關(guān)聯(lián)的目標(biāo)物,對(duì)在所述內(nèi)容中出現(xiàn)的再現(xiàn)時(shí)間軸上的長(zhǎng)度進(jìn)行計(jì)數(shù),對(duì)于該建立了關(guān)聯(lián)的目標(biāo)物計(jì)數(shù)的長(zhǎng)度越大,則與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比,所述增加單元越使所述建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值相對(duì)地增加。
(12)此外,也可以是,該建立了關(guān)聯(lián)的目標(biāo)物在幀中占有的大小越大,則與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比,所述增加單元越使所述建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值相對(duì)地增加。(13)也可以是,具備履歷存儲(chǔ)單元,存儲(chǔ)用于確定被所述再現(xiàn)單元快放或回放的幀的信息,所述增加單元參照所述履歷存儲(chǔ)單元,如果示出包含所述建立了關(guān)聯(lián)的目標(biāo)物的幀被快放,則減小該建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值的增加量,或者,所述增加單元參照所述履歷存儲(chǔ)單元,如果示出包含所述建立了關(guān)聯(lián)的目標(biāo)物的幀被回放,則增大該建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值的增加量。(14)也可以是,具備存儲(chǔ)單元,存儲(chǔ)多個(gè)目標(biāo)物和各目標(biāo)物在內(nèi)容中的再現(xiàn)時(shí)間軸上出現(xiàn)的順序,所述檢測(cè)單元對(duì)于檢測(cè)到的多個(gè)目標(biāo)物,決定在所述內(nèi)容中的再現(xiàn)時(shí)間軸上出現(xiàn)的順序,所述檢索單元從存儲(chǔ)在所述存儲(chǔ)單元中的多個(gè)目標(biāo)物中,檢索與由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的順序的吻合度較高的目標(biāo)物。(15)也可以是,具備儲(chǔ)存單元,將由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物和各目標(biāo)物的權(quán)重值建立關(guān)聯(lián)并儲(chǔ)存,所述關(guān)聯(lián)建立單元將所述儲(chǔ)存的多個(gè)目標(biāo)物作為所述關(guān)聯(lián)建立的對(duì)象。(16)也可以是,所述儲(chǔ)存單元對(duì)于儲(chǔ)存的多個(gè)目標(biāo)物的每一個(gè),存儲(chǔ)系列識(shí)別信息,由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè)與表示系列名的信息建立了關(guān)聯(lián),所述關(guān)聯(lián)建立單元參照所述儲(chǔ)存的多個(gè)目標(biāo)物,將由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物各自的系列名和系列名一致的目標(biāo)物建立關(guān)聯(lián)。(17)本實(shí)施方式的影像檢索方法的特征在于,包括以下步驟再現(xiàn)步驟,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理步驟,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)步驟,根據(jù)通過(guò)所述受理步驟進(jìn)行的受理來(lái)檢測(cè)目標(biāo)物;賦予步驟,對(duì)于通過(guò)檢測(cè)步驟檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;檢索步驟,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。(18)本實(shí)施方式的程序是使計(jì)算機(jī)執(zhí)行影像檢索處理的程序,其特征在于,所述影像檢索處理包括以下步驟再現(xiàn)步驟,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理步驟,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)步驟,根據(jù)通過(guò)所述受理步驟進(jìn)行的受理來(lái)檢測(cè)目標(biāo)物;賦予步驟,對(duì)于通過(guò)檢測(cè)步驟檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;檢索步驟,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。(19)本實(shí)施方式的集成電路具備再現(xiàn)單元,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理單元,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)單元,根據(jù)由所述受理單元進(jìn)行的受理來(lái)檢測(cè)目標(biāo)物;賦予單元,對(duì)于由檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的內(nèi)容上的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;檢索單元,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。工業(yè)實(shí)用性本發(fā)明的影像檢索裝置對(duì)檢索精度的提高有所貢獻(xiàn),因此是有用的。符號(hào)說(shuō)明
101影像檢索裝置102通信部103內(nèi)容存儲(chǔ)部104內(nèi)容管理信息存儲(chǔ)部105場(chǎng)景信息存儲(chǔ)部106目標(biāo)物信息存儲(chǔ)部107再現(xiàn)部108受理部109目標(biāo)物檢測(cè)部110第一緩存器111權(quán)重值賦予部112初始權(quán)重值賦予部113關(guān)聯(lián)建立部114權(quán)重值增加部115第二緩存器116檢索部117顯示控制部118顯示部801觸摸屏
權(quán)利要求
1.一種影像檢索裝置,其特征在于,具備 再現(xiàn)單元,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理單元,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)單元,根據(jù)所述受理單元的受理來(lái)檢測(cè)目標(biāo)物;賦予單元,對(duì)于由檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;以及檢索單元,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。
2.如權(quán)利要求1所述的影像檢索裝置,其特征在于, 所述賦予單元包括關(guān)聯(lián)建立單元,對(duì)于由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),基于包含各目標(biāo)物的各幀的時(shí)間序列的特征,將目標(biāo)物彼此建立關(guān)聯(lián);以及增加單元,使建立了關(guān)聯(lián)的所述目標(biāo)物的權(quán)重值與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比相對(duì)地增加。
3.如權(quán)利要求2所述的影像檢索裝置,其特征在于, 所述內(nèi)容在其再現(xiàn)時(shí)間軸上被多個(gè)場(chǎng)景劃分,所述關(guān)聯(lián)建立單元基于包含各目標(biāo)物的各幀的場(chǎng)景的同一性來(lái)進(jìn)行所述目標(biāo)物彼此的關(guān)聯(lián)建立。
4.如權(quán)利要求2所述的影像檢索裝置,其特征在于, 所述內(nèi)容在其再現(xiàn)時(shí)間軸上被多個(gè)章節(jié)劃分,所述關(guān)聯(lián)建立單元基于包含各目標(biāo)物的各幀的章節(jié)的同一性來(lái)進(jìn)行所述目標(biāo)物彼此的關(guān)聯(lián)建立。
5.如權(quán)利要求2所述的影像檢索裝置,其特征在于,所述關(guān)聯(lián)建立單元將經(jīng)由其他目標(biāo)物間接地建立了關(guān)聯(lián)的目標(biāo)物彼此建立關(guān)聯(lián)。
6.如權(quán)利要求5所述的影像檢索裝置,其特征在于,所述增加單元對(duì)于經(jīng)由所述其他目標(biāo)物間接地建立了關(guān)聯(lián)的目標(biāo)物彼此,根據(jù)經(jīng)由的目標(biāo)物的個(gè)數(shù),調(diào)整增加的所述權(quán)重值。
7.如權(quán)利要求2所述的影像檢索裝置,其特征在于, 所述關(guān)聯(lián)建立單元,從幀的所述再現(xiàn)時(shí)間為前方的目標(biāo)物向幀的所述再現(xiàn)時(shí)間為后方的目標(biāo)物進(jìn)行關(guān)聯(lián)建立,從幀的所述再現(xiàn)時(shí)間為后方的目標(biāo)物向幀的所述再現(xiàn)時(shí)間為前方的目標(biāo)物不進(jìn)行關(guān)聯(lián)建立。
8.如權(quán)利要求2所述的影像檢索裝置,其特征在于, 具備存儲(chǔ)單元,存儲(chǔ)多個(gè)目標(biāo)物和各目標(biāo)物的特征量信息,所述檢測(cè)單元對(duì)于檢測(cè)到的各個(gè)目標(biāo)物提取目標(biāo)物的特征量信息, 所述檢索單元通過(guò)將由所述檢測(cè)單元提取的特征量信息和存儲(chǔ)在所述存儲(chǔ)單元中的特征量信息進(jìn)行對(duì)照,來(lái)檢索與所述檢測(cè)單元檢測(cè)到的目標(biāo)物類(lèi)似的目標(biāo)物。
9.如權(quán)利要求2所述的影像檢索裝置,其特征在于,具備存儲(chǔ)單元,存儲(chǔ)目標(biāo)物和各目標(biāo)物的特征量信息, 所述檢測(cè)單元提取檢測(cè)到的目標(biāo)物各自的目標(biāo)物的特征量信息, 所述賦予單元對(duì)所述目標(biāo)物分別賦予權(quán)重值,所述檢索單元通過(guò)將由檢測(cè)單元檢測(cè)到的目標(biāo)物的特征量信息和存儲(chǔ)在所述存儲(chǔ)單元中的目標(biāo)物各自的特征量信息進(jìn)行對(duì)照,計(jì)算1次類(lèi)似度,在1次類(lèi)似度的值上加上乘以該其他目標(biāo)物的權(quán)重值而得到的值,從而計(jì)算2次類(lèi)似度。
10.如權(quán)利要求2所述的影像檢索裝置,其特征在于,具備頻度計(jì)數(shù)單元,對(duì)建立了關(guān)聯(lián)的所述目標(biāo)物在所述內(nèi)容中出現(xiàn)的頻度進(jìn)行計(jì)數(shù), 對(duì)于該建立了關(guān)聯(lián)的目標(biāo)物計(jì)數(shù)的頻度越多,則與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比,所述增加單元越使建立了關(guān)聯(lián)的所述目標(biāo)物的權(quán)重值相對(duì)地增加。
11.如權(quán)利要求2所述的影像檢索裝置,其特征在于,具備時(shí)間計(jì)數(shù)單元,對(duì)于建立了關(guān)聯(lián)的所述目標(biāo)物,對(duì)在所述內(nèi)容中出現(xiàn)的再現(xiàn)時(shí)間軸上的長(zhǎng)度進(jìn)行計(jì)數(shù),對(duì)于該建立了關(guān)聯(lián)的目標(biāo)物計(jì)數(shù)的長(zhǎng)度越大,則與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比,所述增加單元越使建立了關(guān)聯(lián)的所述目標(biāo)物的權(quán)重值相對(duì)地增加。
12.如權(quán)利要求2所述的影像檢索裝置,其特征在于,該建立了關(guān)聯(lián)的目標(biāo)物在幀中占有的大小越大,則與未建立關(guān)聯(lián)的目標(biāo)物的權(quán)重值相比,所述增加單元越使建立了關(guān)聯(lián)的所述目標(biāo)物的權(quán)重值相對(duì)地增加。
13.如權(quán)利要求2所述的影像檢索裝置,其特征在于,具備履歷存儲(chǔ)單元,存儲(chǔ)用于確定被所述再現(xiàn)單元快放或回放的幀的信息, 所述增加單元參照所述履歷存儲(chǔ)單元,如果示出包含建立了關(guān)聯(lián)的所述目標(biāo)物的幀被快放,則減小該建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值的增加量,或者,所述增加單元參照所述履歷存儲(chǔ)單元,如果示出包含建立了關(guān)聯(lián)的所述目標(biāo)物的幀被回放,則增大該建立了關(guān)聯(lián)的目標(biāo)物的權(quán)重值的增加量。
14.如權(quán)利要求1所述的影像檢索裝置,其特征在于,具備存儲(chǔ)單元,存儲(chǔ)多個(gè)目標(biāo)物和各目標(biāo)物在內(nèi)容中的再現(xiàn)時(shí)間軸上出現(xiàn)的順序, 所述檢測(cè)單元對(duì)于檢測(cè)到的多個(gè)目標(biāo)物,決定在所述內(nèi)容中的再現(xiàn)時(shí)間軸上出現(xiàn)的順序,所述檢索單元從存儲(chǔ)在所述存儲(chǔ)單元中的多個(gè)目標(biāo)物中,檢索與由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的順序的吻合度較高的目標(biāo)物。
15.如權(quán)利要求2所述的影像檢索裝置,其特征在于,具備儲(chǔ)存單元,將由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物和各目標(biāo)物的權(quán)重值建立關(guān)聯(lián)并儲(chǔ)存,所述關(guān)聯(lián)建立單元將儲(chǔ)存的所述多個(gè)目標(biāo)物作為所述關(guān)聯(lián)建立的對(duì)象。
16.如權(quán)利要求15所述的影像檢索裝置,其特征在于,所述儲(chǔ)存單元對(duì)于儲(chǔ)存的多個(gè)目標(biāo)物的每一個(gè),存儲(chǔ)系列識(shí)別信息, 由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè)與表示系列名的信息建立了關(guān)聯(lián), 所述關(guān)聯(lián)建立單元參照儲(chǔ)存的所述多個(gè)目標(biāo)物,將由所述檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物各自的系列名與系列名為一致的目標(biāo)物建立關(guān)聯(lián)。
17.一種影像檢索方法,其特征在于,包括以下步驟 再現(xiàn)步驟,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理步驟,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)步驟,根據(jù)所述受理步驟的受理來(lái)檢測(cè)目標(biāo)物;賦予步驟,對(duì)于通過(guò)檢測(cè)步驟檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;以及檢索步驟,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。
18.—種程序,使計(jì)算機(jī)執(zhí)行影像檢索處理,其特征在于,所述影像檢索處理包括以下步驟再現(xiàn)步驟,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理步驟,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)步驟,根據(jù)所述受理步驟的受理來(lái)檢測(cè)目標(biāo)物;賦予步驟,對(duì)于通過(guò)檢測(cè)步驟檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;以及檢索步驟,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。
19.一種集成電路,其特征在于,具備 再現(xiàn)單元,將由多個(gè)幀構(gòu)成的內(nèi)容再現(xiàn);受理單元,在所述內(nèi)容的再現(xiàn)中,從用戶(hù)多次受理用于指定包含在構(gòu)成該內(nèi)容的幀中的目標(biāo)物的輸入;檢測(cè)單元,根據(jù)所述受理單元的受理來(lái)檢測(cè)目標(biāo)物;賦予單元,對(duì)于由檢測(cè)單元檢測(cè)到的多個(gè)目標(biāo)物的每一個(gè),賦予基于包含各目標(biāo)物的各幀的內(nèi)容上的時(shí)間序列的特征來(lái)調(diào)整的權(quán)重值;以及檢索單元,基于賦予了所述權(quán)重值的多個(gè)目標(biāo)物進(jìn)行檢索。
全文摘要
從影像中的不同幀提取多個(gè)目標(biāo)物。然后,基于與提取的多個(gè)目標(biāo)物對(duì)應(yīng)的各幀的時(shí)間序列的特征,對(duì)各目標(biāo)物賦予權(quán)重值。然后,基于賦予了權(quán)重值的多個(gè)目標(biāo)物,進(jìn)行與該多個(gè)目標(biāo)物類(lèi)似的目標(biāo)物的檢索。
文檔編號(hào)H04N5/76GK102474586SQ201180003170
公開(kāi)日2012年5月23日 申請(qǐng)日期2011年3月17日 優(yōu)先權(quán)日2010年6月16日
發(fā)明者三浦康史, 宮本慎吾, 山本雅哉 申請(qǐng)人:松下電器產(chǎn)業(yè)株式會(huì)社