本發(fā)明涉及計(jì)算機(jī)視覺和腦神經(jīng)科學(xué)等多學(xué)科的交叉技術(shù)領(lǐng)域,具體涉及一種基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法。
背景技術(shù):
隨著無人機(jī)等智能系統(tǒng)的廣泛研究和應(yīng)用,障礙物的檢測和躲避逐漸成為研究的熱點(diǎn)。其中,障礙物檢測也是計(jì)算機(jī)視覺領(lǐng)域的研究熱點(diǎn)之一。計(jì)算機(jī)視覺領(lǐng)域的研究者們已經(jīng)提出了許多障礙物檢測的方法。根據(jù)基本思想和原理,這些障礙物檢測算法主要分為以下兩類:
(1)提取前景:雙目視覺技術(shù)通過校準(zhǔn)和立體匹配計(jì)算得到視差圖,視差圖反映了圖像中的對象相對于攝像頭的遠(yuǎn)近關(guān)系。該方法設(shè)定適當(dāng)?shù)拈撝堤崛∏熬皡^(qū)域是使用雙目視覺解決障礙物檢測的核心思想。但是,該方法計(jì)算復(fù)雜度較高,適用于深度信息豐富而且障礙物較大情況下的檢測。
(2)提取運(yùn)動物體:諸如幀間差分法、光流法背景建模法等計(jì)算機(jī)視覺領(lǐng)域中運(yùn)動檢測的算法均要求背景簡單且不能出現(xiàn)劇烈變化。其中,幀間差分法通過對相鄰兩張圖像做差分運(yùn)算,再通過灰度值的變化發(fā)現(xiàn)運(yùn)動的目標(biāo)。該方法實(shí)現(xiàn)簡單,要求背景相對簡單,不能出現(xiàn)劇烈的變化。光流法利用圖像序列中像素灰度值的時序變化和相關(guān)性來確定空間各像素點(diǎn)所發(fā)生的運(yùn)動。該方法適用于背景復(fù)雜且不斷變化的場景,結(jié)果易受光照影響。背景建模法假定背景符合某一規(guī)律的模型,通過多幀背景圖像估計(jì)出模型的參數(shù),完成背景建模;再針對每一幀對背景差分,從而得到前景并進(jìn)一步判斷前景的運(yùn)動。該方法要求背景符合某一分布,在背景復(fù)雜或難以用模型描述時就不適用了。
縱觀已有的避障方法,雖然在障礙物檢測上面已經(jīng)取得了相當(dāng)矚目的成就,但從根本原理而言,這些方法和真正大腦處理視覺應(yīng)急反應(yīng)機(jī)制相比存在著很大的區(qū)別。
首先,在計(jì)算復(fù)雜度上,大腦中采用的是第二視覺系統(tǒng)的信息處理機(jī)制,能夠準(zhǔn)確快速地定位突然出現(xiàn)的障礙物,并進(jìn)行防衛(wèi)。大腦的恐懼應(yīng)急反應(yīng)是由皮層下的快速反應(yīng)通路完成的,而障礙物檢測的算法一般是由第一視覺通路來完成的,該通路對信息的處理相對精細(xì),但由此帶來的時間消耗較大,例如對背景建模的計(jì)算、立體匹配中視差圖的計(jì)算都需要大量的時間,這是遠(yuǎn)遠(yuǎn)達(dá)不到動物或者人類的生存要求的。再有,受光照等環(huán)境因素的影響,已有的算法的處理結(jié)果通常伴隨一定的錯誤發(fā)生,而準(zhǔn)確率對于動物或者人類的生存來說是至關(guān)重要的。大腦進(jìn)化出的第二視覺通路專門應(yīng)對突發(fā)的危險(xiǎn)情況并做出本能地防衛(wèi)行為,該通路直接從視網(wǎng)膜投射到上丘,上丘中的PV+神經(jīng)元對逼近式運(yùn)動響應(yīng)十分敏感,對朝向自身的運(yùn)動響應(yīng)非?;钴S,并計(jì)算得到不同區(qū)域的危險(xiǎn)性提供給丘腦枕,丘腦枕根據(jù)視野中不同區(qū)域的危險(xiǎn)性調(diào)整注意力轉(zhuǎn)向最危險(xiǎn)的區(qū)域,丘腦枕將危險(xiǎn)傳遞給杏仁核產(chǎn)生恐懼情緒后直接導(dǎo)致了PAG執(zhí)行躲避的行為。然而,腦處理緊急情況下的應(yīng)急躲避行為,錯誤的發(fā)生往往會降低很多。
有鑒于此,特提出本發(fā)明。
技術(shù)實(shí)現(xiàn)要素:
為了解決現(xiàn)有技術(shù)中的上述問題,即為了解決如何提高應(yīng)急反應(yīng)能力的技術(shù)問題而提供一種基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法。
為了實(shí)現(xiàn)上述目的,一方面,提供以下技術(shù)方案:
一種基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法,所述方法包括:
獲取圖像序列;
基于視網(wǎng)膜信息處理機(jī)制,檢測所述圖像序列中障礙物的運(yùn)動方向和運(yùn)動速度;
基于所述障礙物的所述運(yùn)動方向和所述運(yùn)動速度,根據(jù)PV+神經(jīng)元信息處理機(jī)制,進(jìn)行逼近式運(yùn)動檢測,得到逼近式運(yùn)動響應(yīng);
基于所述逼近式運(yùn)動響應(yīng),根據(jù)丘腦枕信息處理機(jī)制,確定最危險(xiǎn)區(qū)域;
對所述最危險(xiǎn)的區(qū)域做出應(yīng)急避障行為。
進(jìn)一步地,所述基于視網(wǎng)膜信息處理機(jī)制,檢測所述圖像序列中障礙物的運(yùn)動方向和運(yùn)動速度,具體包括:
獲取所述圖像序列中顯著度高的特征點(diǎn);
計(jì)算所述特征點(diǎn)的運(yùn)動方向和運(yùn)動速度,得到所述圖像序列中障礙物的運(yùn)動方向和運(yùn)動速度。
進(jìn)一步地,特征為灰度對比度,所述獲取所述圖像序列中顯著度高的特征點(diǎn)具體包括:
根據(jù)下式計(jì)算所述圖像序列中各像素點(diǎn)的灰度差值:
其中,所述E(u,v)表示所述灰度差值;所述(x,y)表示像素點(diǎn)坐標(biāo);所述u表示沿x軸水平移動的距離;所述v表示沿y軸豎直移動的距離;所述w(x,y)表示窗口函數(shù);所述I(x,y)表示所述像素點(diǎn)(x,y)對應(yīng)的灰度值;所述I(x+u,y+v)表示像素點(diǎn)(x+u,y+v)對應(yīng)的灰度值;
根據(jù)下式計(jì)算所述各像素點(diǎn)的自相關(guān)矩陣:
其中,所述M表示所述自相關(guān)矩陣;所述Ix表示x方向的差分;所述Iy表示y方向的差分;
計(jì)算所述各像素點(diǎn)的所述自相關(guān)矩陣的特征值,并將所述自相關(guān)矩陣的特征值中的最小值確定為所述各像素點(diǎn)的特征值;
重復(fù)選擇所述圖像序列中任一鄰域,確定所述鄰域內(nèi)像素點(diǎn)特征值最大的像素點(diǎn);
過濾像素點(diǎn)特征值小于閾值的像素點(diǎn),得到特征點(diǎn);
對所有所述特征點(diǎn)進(jìn)行排序,針對每一特征點(diǎn),任選一鄰域,比較所述鄰域內(nèi)是否存在比該特征點(diǎn)的特征值大的特征點(diǎn),若存在,則忽略該特征點(diǎn),從而得到顯著度高的特征點(diǎn)。
進(jìn)一步地,所述計(jì)算所述特征點(diǎn)的運(yùn)動方向和運(yùn)動速度具體包括:
針對所述圖像序列,在第一時刻的幀中,利用最小二乘法,查找與第二時刻幀中特征點(diǎn)同一位置鄰近區(qū)域內(nèi)灰度值相近的像素點(diǎn),從而得到所述特征點(diǎn)的所述運(yùn)動速度,其中,所述第一時刻與所述第二時刻為相鄰時刻;
通過計(jì)算相鄰二幀所述特征點(diǎn)運(yùn)動的斜率,得到所述特征點(diǎn)的所述運(yùn)動方向。
進(jìn)一步地,所述斜率通過下式計(jì)算得到:
其中,以所述幀的左下角為原點(diǎn),以水平向右方向?yàn)閄軸正方向,以豎直向上方向?yàn)閅軸正方向;t表示時刻;所述ki表示所述相鄰二幀特征點(diǎn)運(yùn)動的所述斜率;(xi1,yi1)表示所述t時刻第i個特征點(diǎn)的位置坐標(biāo),所述(xi2,yi2)表示t+1時刻所述第i個特征點(diǎn)的位置坐標(biāo),所述i取正整數(shù)。
進(jìn)一步地,所述基于所述障礙物的所述運(yùn)動方向和所述運(yùn)動速度,根據(jù)PV+神經(jīng)元信息處理機(jī)制,進(jìn)行逼近式運(yùn)動檢測,得到逼近式運(yùn)動響應(yīng),具體包括:
計(jì)算所述圖像序列中所有特征點(diǎn)運(yùn)動方向的平均值;
根據(jù)所述平均值計(jì)算所述特征點(diǎn)運(yùn)動方向的方差;
基于方差,根據(jù)下式計(jì)算逼近式運(yùn)動響應(yīng)函數(shù):
其中,所述G(d0)表示所述逼近式運(yùn)動響應(yīng)函數(shù);所述d0表示所述特征點(diǎn)運(yùn)動方向的所述方差。
進(jìn)一步地,所述基于逼近式響應(yīng),根據(jù)丘腦枕信息處理機(jī)制,確定最危險(xiǎn)區(qū)域,具體包括:
針對具有逼近式運(yùn)動的特征點(diǎn)進(jìn)行聚類,得到潛在危險(xiǎn)障礙物;
確定所述潛在危險(xiǎn)障礙物的危險(xiǎn)性;
將所述危險(xiǎn)性的最大值確定為所述最危險(xiǎn)區(qū)域。
進(jìn)一步地,所述針對具有逼近式運(yùn)動的特征點(diǎn)進(jìn)行聚類,得到潛在危險(xiǎn)障礙物,具體包括:
針對所述具有逼近式運(yùn)動的特征點(diǎn),計(jì)算其鄰域內(nèi)特征點(diǎn)的數(shù)量,如果該數(shù)量大于數(shù)量閾值,則將所述具有逼近式運(yùn)動的特征點(diǎn)確定為潛在危險(xiǎn)區(qū)域核心點(diǎn);
以所述潛在危險(xiǎn)區(qū)域核心點(diǎn)為中心進(jìn)行聚類,計(jì)算潛在危險(xiǎn)區(qū)域;
當(dāng)所有的所述特征點(diǎn)都被聚類或剩余的所述特征點(diǎn)的數(shù)量小于聚類閾值,則將聚類的類別數(shù)確定為所述潛在危險(xiǎn)障礙物。
進(jìn)一步地,所述以所述潛在危險(xiǎn)區(qū)域核心點(diǎn)為中心進(jìn)行聚類,計(jì)算潛在危險(xiǎn)區(qū)域,具體包括:
步驟1:以所述潛在危險(xiǎn)區(qū)域核心點(diǎn)為種子點(diǎn),將與所述種子點(diǎn)歐氏距離小于距離閾值的特征點(diǎn)確定為所述種子點(diǎn)的臨近可達(dá)點(diǎn),并將所述種子點(diǎn)和所述臨近可達(dá)點(diǎn)構(gòu)成核心點(diǎn)群;
步驟2:將與所述核心點(diǎn)群歐氏距離小于距離閾值的特征點(diǎn)確定為新的臨近可達(dá)點(diǎn),并將所述新的臨近可達(dá)點(diǎn)加入到所述核心點(diǎn)群中;
步驟3:重復(fù)步驟1和步驟2,直至無新的臨近可達(dá)點(diǎn)加入到所述核心點(diǎn)群中;
步驟4:將步驟3得到的核心點(diǎn)群確定為所述潛在危險(xiǎn)區(qū)域。
進(jìn)一步地,所述確定所述潛在危險(xiǎn)障礙物的危險(xiǎn)性具體包括:
將圖像中組成物體的特征點(diǎn)的運(yùn)動距離的平均值確定為所述物體的運(yùn)動速度;
基于所述物體的運(yùn)動速度,并根據(jù)下式計(jì)算所述潛在危險(xiǎn)障礙物的危險(xiǎn)性:
其中,所述s(x,y,v)表示所述潛在危險(xiǎn)障礙物的危險(xiǎn)性;所述o(x,y)表示全部特征點(diǎn);所述α表示加權(quán)系數(shù);所述β表示加權(quán)系數(shù);所述x表示組成所述物體的全部特征點(diǎn)橫坐標(biāo)的集合;所述y表示組成所述物體的全部特征點(diǎn)縱坐標(biāo)的集合;所述v表示物體的運(yùn)動速度。
為了實(shí)現(xiàn)上述目的,另一方面,還提供一種基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法,用于無人機(jī),所述方法包括:
獲取場景圖像;
提取所述場景圖像中顯著度高的特征點(diǎn);
計(jì)算所述特征點(diǎn)的運(yùn)動方向和運(yùn)動速度;
將所述特征點(diǎn)的所述運(yùn)動方向和所述運(yùn)動速度傳遞至上丘腦;
上丘淺層區(qū)域的PV+神經(jīng)元檢測逼近式運(yùn)動,并將逼近式運(yùn)動區(qū)域的信號經(jīng)由PBG投射到丘腦枕;
所述丘腦枕根據(jù)障礙物的危險(xiǎn)程度調(diào)整注意力的轉(zhuǎn)移;
所述丘腦枕控制眼睛轉(zhuǎn)向最危險(xiǎn)的區(qū)域,杏仁核同時接受所述丘腦枕的輸入產(chǎn)生恐懼反應(yīng)信號,并將所述恐懼反應(yīng)信號傳向PAG區(qū),從而進(jìn)行應(yīng)急避障。
本發(fā)明實(shí)施例提供一種基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法。該方法包括獲取圖像序列;基于視網(wǎng)膜信息處理機(jī)制,檢測圖像序列中障礙物的運(yùn)動方向和運(yùn)動速度;基于障礙物的運(yùn)動方向和運(yùn)動速度,根據(jù)PV+神經(jīng)元信息處理機(jī)制,進(jìn)行逼近式運(yùn)動檢測,得到逼近式運(yùn)動響應(yīng);基于逼近式運(yùn)動響應(yīng),根據(jù)丘腦枕信息處理機(jī)制,確定最危險(xiǎn)區(qū)域;對最危險(xiǎn)的區(qū)域做出應(yīng)急避障行為。本發(fā)明實(shí)施例借鑒動物或者人類能夠?qū)ξkU(xiǎn)對象產(chǎn)生快速防衛(wèi)行為的能力,結(jié)合恐懼反應(yīng)的腦機(jī)制,解決了如何提高應(yīng)急反應(yīng)能力的技術(shù)問題。
附圖說明
圖1是根據(jù)本發(fā)明實(shí)施例的基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法的流程示意圖;
圖2是根據(jù)本發(fā)明實(shí)施例的使用特征點(diǎn)描述圖像的示意圖;
圖3是根據(jù)本發(fā)明實(shí)施例的特征點(diǎn)運(yùn)動方向的檢測示意圖;
圖4是根據(jù)本發(fā)明實(shí)施例的PV+神經(jīng)元感知到逼近式運(yùn)動的特征點(diǎn)示意圖;
圖5是根據(jù)本發(fā)明實(shí)施例的計(jì)算特征點(diǎn)運(yùn)動方向的說明示意圖;
圖6a是根據(jù)本發(fā)明實(shí)施例的特征點(diǎn)向右運(yùn)動的方差示意圖;
圖6b是根據(jù)本發(fā)明實(shí)施例的特征點(diǎn)向左運(yùn)動的方差示意圖;
圖6c是根據(jù)本發(fā)明實(shí)施例的特征點(diǎn)逼近式運(yùn)動的方差示意圖;
圖6d是根據(jù)本發(fā)明實(shí)施例的特征點(diǎn)后退運(yùn)動的方差示意圖;
圖7是根據(jù)本發(fā)明實(shí)施例的丘腦枕注意到的最危險(xiǎn)區(qū)域示意圖;
圖8是根據(jù)本發(fā)明另一實(shí)施例的基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法的流程示意圖;
圖9是根據(jù)本發(fā)明實(shí)施例的使用小拳頭朝向無人機(jī)投射后檢測到的障礙物區(qū)域示意圖。
具體實(shí)施方式
下面參照附圖來描述本發(fā)明的優(yōu)選實(shí)施方式。本領(lǐng)域技術(shù)人員應(yīng)當(dāng)理解的是,這些實(shí)施方式僅僅用于解釋本發(fā)明的技術(shù)原理,并非旨在限制本發(fā)明的保護(hù)范圍。
本發(fā)明實(shí)施例的基本構(gòu)思是受大腦產(chǎn)生視覺恐懼反應(yīng)腦機(jī)制的啟發(fā),采用大腦中的第二視覺系統(tǒng)的信息處理機(jī)制,能夠準(zhǔn)確快速地定位突然出現(xiàn)的障礙物,根據(jù)大腦會對危險(xiǎn)的物體產(chǎn)生恐懼反應(yīng)并產(chǎn)生本能的防衛(wèi)行為。
大腦的恐懼應(yīng)急反應(yīng)是由皮層下的快速反應(yīng)通路完成的,具體為:視網(wǎng)膜將光信號轉(zhuǎn)化成電信號,直接將該電信號投射到上丘,由淺層區(qū)域的PV+神經(jīng)元檢測出障礙物的逼近式運(yùn)動,該信號再經(jīng)由二疊體旁核(PBG)投射到丘腦枕,丘腦枕調(diào)整動物或者人的注意力到有逼近式運(yùn)動的區(qū)域,即有危險(xiǎn)的區(qū)域,丘腦枕的信號還會投射到杏仁核使人類產(chǎn)生恐懼反應(yīng),該恐懼反應(yīng)直接連接到中腦導(dǎo)水管周圍灰質(zhì)(PAG)引發(fā)本能的防衛(wèi)行為。
圖1示出了基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法的流程示意圖。該方法可以通過S100至S140來實(shí)現(xiàn)。其中:
S100:獲取圖像序列。
S110:基于視網(wǎng)膜信息處理機(jī)制,檢測圖像序列中障礙物的運(yùn)動方向和運(yùn)動速度。
圖2示例性地示出了使用特征點(diǎn)描述圖像的示意圖。從中可以看出,使用顯著的特征點(diǎn)能夠均勻的表征圖像的特點(diǎn),這樣既可以減少計(jì)算復(fù)雜度,又不會失去圖像中的重要信息。
具體地,本步驟可以包括:
S111:獲取圖像序列中顯著度高的特征點(diǎn)。
其中,特征包括但不限于圖像序列中每個像素點(diǎn)的灰度對比度。
進(jìn)一步地,以灰度對比度為例,本步驟還可以包括:
S111a:根據(jù)下式計(jì)算圖像序列中各像素點(diǎn)的灰度差值:
其中,E(u,v)表示灰度差值,也即將滑動窗口平移(u,v)所產(chǎn)生的灰度變化;(x,y)表示像素點(diǎn)坐標(biāo);u表示沿x軸水平移動的距離;v表示沿y軸豎直移動的距離;w(x,y)表示高斯函數(shù);I(x,y)表示像素點(diǎn)(x,y)對應(yīng)的灰度值;I(x+u,y+v)表示像素點(diǎn)(x+u,y+v)對應(yīng)的灰度值;σ表示高斯函數(shù)參數(shù),其可以根據(jù)經(jīng)驗(yàn)取值。
上述公式可以用來近似。
S111b:根據(jù)下式計(jì)算圖像序列中每個像素點(diǎn)的自相關(guān)矩陣:
其中,M表示自相關(guān)矩陣;w(x,y)表示高斯函數(shù);Ix表示x方向的差分;Iy表示y方向的差分。
S111c:計(jì)算各像素點(diǎn)的自相關(guān)矩陣的特征值,并將自相關(guān)矩陣的特征值中的最小值確定為各像素點(diǎn)的特征值。
本步驟中用自相關(guān)矩陣的特征值中的最小值來表示該像素點(diǎn)相對于鄰域內(nèi)其它像素點(diǎn)的灰度變化情況。
S111d:重復(fù)選擇圖像序列中任一鄰域,確定該鄰域內(nèi)像素點(diǎn)特征值最大的像素點(diǎn)。
舉例來說,選擇圖像上任意一個3×3鄰域,僅僅保留該鄰域內(nèi)特征值最大的像素點(diǎn)即可。
S111e:過濾像素點(diǎn)特征值小于閾值的像素點(diǎn),得到特征點(diǎn)。
在實(shí)際實(shí)施過程中,針對通過3×3鄰域保留的像素點(diǎn),過濾掉特征值小于的像素點(diǎn)。其中,λi表示針對任一鄰域保留的像素點(diǎn)特征值最大的第i個像素點(diǎn)的特征值。
本步驟通過過濾,保留下來一些像素點(diǎn),稱為特征點(diǎn)。
S111f:對所有特征點(diǎn)進(jìn)行排序,針對每一個特征點(diǎn),任選一鄰域,比較該鄰域內(nèi)是否存在比該特征點(diǎn)的特征值大的特征點(diǎn),若存在,則忽略該特征點(diǎn),從而得到顯著度高的特征點(diǎn)。
舉例來說,對所有特征點(diǎn)進(jìn)行排序,針對第一特征點(diǎn),任選一個5×5的鄰域,在該5×5的鄰域內(nèi)判斷是否存在比第一特征點(diǎn)的特征值大的特征點(diǎn),如果存在,則忽略該第一特征點(diǎn),以此類推,可以針對第二特征點(diǎn)等進(jìn)行同理的檢測,最終得到顯著度高的特征點(diǎn)。
S112:計(jì)算特征點(diǎn)的運(yùn)動方向和運(yùn)動速度。
在獲得顯著度高的特征點(diǎn)后,視網(wǎng)膜計(jì)算這些特征點(diǎn)的運(yùn)動方向和速度,并上傳給上丘進(jìn)行進(jìn)一步的處理。圖3示例性地示出了特征點(diǎn)運(yùn)動方向的檢測示意圖。圖3示出了圖像中特征點(diǎn)的運(yùn)動路徑,路徑的起點(diǎn)是t時刻該特征點(diǎn)的位置坐標(biāo),圓點(diǎn)是路徑的終點(diǎn),表示t+1時刻該特征點(diǎn)的位置坐標(biāo)。其中,路徑長度表示運(yùn)動速度。
具體地,本步驟可以包括:
S112a:針對圖像序列,在第一時刻的幀中,利用最小二乘法,查找與第二時刻幀中特征點(diǎn)同一位置鄰近區(qū)域內(nèi)灰度值相近的像素點(diǎn),從而得到特征點(diǎn)的運(yùn)動速度,其中,第一時刻與第二時刻為相鄰時刻。
本步驟通過查找與第二時刻幀中特征點(diǎn)同一位置鄰近區(qū)域內(nèi)灰度值相近的像素點(diǎn),得到一系列匹配點(diǎn),形成運(yùn)動路徑,該運(yùn)動路徑的長度即為特征點(diǎn)的運(yùn)動速度。
舉例來說,對于特征點(diǎn)的任一鄰域內(nèi)建立如下模型:I(x,y,t)=I(x+dx,y+dy,t+dt),其中,I(x,y,t)表示t時刻像素點(diǎn)(x,y)對應(yīng)的灰度值;I(x+dx,y+dy,t+dt)表示t+dt時刻像素點(diǎn)(x+dx,y+dy)對應(yīng)的灰度值;用一階泰勒級數(shù)展開,得到:
對上式進(jìn)行優(yōu)化,得到:
Ixdx+Iydy+Itdt=0
其中,Ix表示x方向的差分;Iy表示y方向的差分;It表示t方向的差分;t表示時刻。
令那么:Ixu+Iyv=-It,即:
令:A=[IxIy],b=-It,則得到:
對上式運(yùn)用最小二乘法,得到匹配點(diǎn)。
S112b:通過計(jì)算相鄰兩幀特征點(diǎn)運(yùn)動的斜率,得到特征點(diǎn)的運(yùn)動方向。
其中,相鄰兩幀特征點(diǎn)運(yùn)動的斜率可以通過以下方式得到:
其中,以幀的左下角為原點(diǎn),以水平向右方向?yàn)閄軸正方向,以豎直向上方向?yàn)閅軸正方向;ki表示相鄰兩幀特征點(diǎn)運(yùn)動的斜率;(xi1,yi1)表示t時刻第i個特征點(diǎn)的位置坐標(biāo),(xi2,yi2)表示t+1時刻該特征點(diǎn)的位置坐標(biāo)。
S120:基于障礙物的運(yùn)動方向和運(yùn)動速度,根據(jù)PV+神經(jīng)元信息處理機(jī)制,進(jìn)行逼近式運(yùn)動檢測,得到逼近式運(yùn)動響應(yīng)。
視網(wǎng)膜處理得到的特征點(diǎn)的運(yùn)動方向和速度的信息會傳遞至上丘腦進(jìn)行進(jìn)一步的處理。上丘淺層區(qū)域的PV+神經(jīng)元對逼近式運(yùn)動響應(yīng)十分敏感,對朝向自身的運(yùn)動響應(yīng)非?;钴S。PV+神經(jīng)元感知到逼近式運(yùn)動的特征點(diǎn)如圖4所示。
具體地,本步驟可以包括:
S121:計(jì)算圖像序列中所有特征點(diǎn)運(yùn)動方向的平均值。
例如,本步驟可以通過下式計(jì)算得到所有特征點(diǎn)運(yùn)動方向的平均值:
其中,表示所有特征點(diǎn)運(yùn)動方向的平均值;ki表示第i個特征點(diǎn)的運(yùn)動方向;i取正整數(shù)。
S122:根據(jù)平均值計(jì)算特征點(diǎn)運(yùn)動方向的方差。
作為示例,可以根據(jù)下式計(jì)算特征點(diǎn)運(yùn)動方向的方差:
其中,d0表示特征點(diǎn)運(yùn)動方向的方差;n表示特征點(diǎn)的總個數(shù)。
圖5示例性地示出了計(jì)算特征點(diǎn)運(yùn)動方向的說明示意圖。
圖6a示例性地示出了特征點(diǎn)向右運(yùn)動的方差示意圖。圖6b示例性地示出了特征點(diǎn)向左運(yùn)動的方差示意圖。圖6c示例性地示出了特征點(diǎn)逼近式運(yùn)動的方差示意圖。圖6d示例性地示出了特征點(diǎn)后退運(yùn)動的方差示意圖。其中,線條指向圓點(diǎn)的方向表示運(yùn)動方向。逼近式運(yùn)動相比向右、左、后運(yùn)動具有明顯的發(fā)散現(xiàn)象,特征點(diǎn)朝同一方向運(yùn)動時,運(yùn)動方向基本相同,特征點(diǎn)后退運(yùn)動時,運(yùn)動方向是匯聚式的。即特征點(diǎn)朝同一方向運(yùn)動或后退運(yùn)動時,運(yùn)動方向的方差很小;特征點(diǎn)的運(yùn)動是逼近式運(yùn)動時,各個特征點(diǎn)的運(yùn)動方向有明顯的不同,方差很大。
S123:基于方差,根據(jù)下式計(jì)算逼近式運(yùn)動響應(yīng)函數(shù):
其中,G(d0)表示逼近式運(yùn)動響應(yīng)函數(shù);d0表示特征點(diǎn)運(yùn)動方向的方差。
這里,定義具有逼近式運(yùn)動方向的區(qū)域?yàn)槲kU(xiǎn)障礙物。
當(dāng)G(d0)=1時,表示PV+神經(jīng)元活躍。
S130:基于逼近式運(yùn)動響應(yīng),根據(jù)丘腦枕信息處理機(jī)制,確定最危險(xiǎn)區(qū)域。
上丘淺層PV+神經(jīng)元檢測出危險(xiǎn)障礙物后,這些有關(guān)危險(xiǎn)障礙物的信號會經(jīng)由二疊體旁核(PBG)投射到丘腦枕,丘腦枕根據(jù)障礙物的危險(xiǎn)程度調(diào)整注意力的轉(zhuǎn)移。
圖7示出了丘腦枕注意到的最危險(xiǎn)區(qū)域示意圖。
具體地,本步驟可以包括:
S131:針對具有逼近式運(yùn)動的特征點(diǎn)進(jìn)行聚類,得到潛在危險(xiǎn)障礙物。
其中,聚類的方法包括但不限于密度聚類的方法。
進(jìn)一步地,本步驟還可以包括:
S131a:針對具有逼近式運(yùn)動的特征點(diǎn),計(jì)算其鄰域內(nèi)特征點(diǎn)的數(shù)量,如果該數(shù)量大于數(shù)量閾值,則將該具有逼近式運(yùn)動的特征點(diǎn)確定為潛在危險(xiǎn)區(qū)域核心點(diǎn)。
舉例來說,對于特征點(diǎn)i,計(jì)算其在半徑50像素的領(lǐng)域內(nèi)特征點(diǎn)的個數(shù),如果超過20則認(rèn)為它是一個核心點(diǎn)。
S131b:以潛在危險(xiǎn)區(qū)域核心點(diǎn)為中心進(jìn)行聚類,計(jì)算潛在危險(xiǎn)區(qū)域。
進(jìn)一步地,本步驟還可以包括:
步驟A:以潛在危險(xiǎn)區(qū)域核心點(diǎn)為種子點(diǎn),將與該種子點(diǎn)歐氏距離小于距離閾值的特征點(diǎn)確定為該種子點(diǎn)的臨近可達(dá)點(diǎn),并將該種子點(diǎn)和該臨近可達(dá)點(diǎn)構(gòu)成核心點(diǎn)群。
步驟B:將與該核心點(diǎn)群歐氏距離小于距離閾值的特征點(diǎn)確定為新的臨近可達(dá)點(diǎn),并將該新的臨近可達(dá)點(diǎn)加入到核心點(diǎn)群中。
步驟C:重復(fù)步驟A和步驟B,直至無新的臨近可達(dá)點(diǎn)加入到核心點(diǎn)群中。
步驟D:將步驟C得到的核心點(diǎn)群確定為潛在危險(xiǎn)區(qū)域。
S131c:當(dāng)所有的特征點(diǎn)都被聚類或剩余的特征點(diǎn)的數(shù)量小于聚類閾值,則將聚類的類別數(shù)確定為潛在危險(xiǎn)障礙物。
聚類后形成的類別數(shù)就是具有潛在危險(xiǎn)性的障礙物,即潛在危險(xiǎn)障礙物。
S132:確定潛在危險(xiǎn)障礙物的危險(xiǎn)性。
當(dāng)只有一個潛在危險(xiǎn)區(qū)域的時候,定義危險(xiǎn)區(qū)域內(nèi)特征點(diǎn)的多少表征潛在危險(xiǎn)障礙物危險(xiǎn)性的大小,特征點(diǎn)越多,危險(xiǎn)性越大;當(dāng)存在多個潛在危險(xiǎn)區(qū)域時,定義危險(xiǎn)性還與物體運(yùn)動的速度成正比,物體運(yùn)動越快表示它越危險(xiǎn)。
具體地,本步驟可以包括:
S132a:將圖像中組成物體的特征點(diǎn)的運(yùn)動距離的平均值確定為物體的運(yùn)動速度。
例如,根據(jù)下式計(jì)算物體的運(yùn)動速度:
其中,(xi1,yi1)是t時刻組成該物體的第i個特征點(diǎn)的位置坐標(biāo),(xi2,yi2)是t+1時刻同一特征點(diǎn)的位置坐標(biāo)。
S132b:基于物體的運(yùn)動速度,并根據(jù)下式計(jì)算潛在危險(xiǎn)障礙物的危險(xiǎn)性:
其中,s(x,y,v)表示潛在危險(xiǎn)障礙物的危險(xiǎn)性;o(x,y)表示全部特征點(diǎn);α表示加權(quán)系數(shù);β表示加權(quán)系數(shù);x表示組成該物體的全部特征點(diǎn)橫坐標(biāo)的集合;y表示組成該物體的全部特征點(diǎn)縱坐標(biāo)的集合;v表示物體的運(yùn)動速度。
S133:將危險(xiǎn)性的最大值確定為最危險(xiǎn)區(qū)域。
例如,可以選擇的物體為最危險(xiǎn)區(qū)域。
S140:對最危險(xiǎn)的區(qū)域做出應(yīng)急避障行為。
模擬信號從丘腦枕到達(dá)杏仁核再到PAG的過程,丘腦枕控制眼睛轉(zhuǎn)向最危險(xiǎn)的區(qū)域,杏仁核同時接受丘腦枕的輸入產(chǎn)生恐懼反應(yīng),并將該信號傳向下游的PAG區(qū),引發(fā)本能的防衛(wèi)行為。
受視覺恐懼反應(yīng)腦機(jī)制啟發(fā),基于上述對最危險(xiǎn)的區(qū)域做出應(yīng)急避障行為,本發(fā)明實(shí)施例還提供一種基于視覺恐懼反應(yīng)腦機(jī)制的應(yīng)急避障方法。該方法可以應(yīng)用于無人機(jī)。如圖8所示,該方法可以包括:
S200:獲取場景圖像。
其中,可以由無人機(jī)通過攝像頭采集真實(shí)場景中的圖片,作為場景圖像。
S210:提取場景圖像中顯著度高的特征點(diǎn)。
具體地,可以通過視網(wǎng)膜提取圖像中顯著度高的特征點(diǎn)。
S220:計(jì)算特征點(diǎn)的運(yùn)動方向和運(yùn)動速度。
S230:將特征點(diǎn)的運(yùn)動方向和運(yùn)動速度傳遞至上丘腦。
S240:上丘淺層區(qū)域的PV+神經(jīng)元檢測逼近式運(yùn)動,并將逼近式運(yùn)動區(qū)域的信號經(jīng)由PBG投射到丘腦枕。
其中,上丘淺層區(qū)域的PV+神經(jīng)元對逼近式運(yùn)動響應(yīng)十分敏感。逼近式運(yùn)動區(qū)域的信號即為危險(xiǎn)障礙物。
S250:丘腦枕根據(jù)障礙物的危險(xiǎn)程度調(diào)整注意力的轉(zhuǎn)移。
S260:丘腦枕控制眼睛轉(zhuǎn)向最危險(xiǎn)的區(qū)域,杏仁核同時接受丘腦枕的輸入產(chǎn)生恐懼反應(yīng)信號,并將該恐懼反應(yīng)信號傳向PAG區(qū),從而進(jìn)行應(yīng)急避障。
本步驟中,丘腦枕控制眼睛轉(zhuǎn)向最危險(xiǎn)的區(qū)域,杏仁核同時接受丘腦枕的輸入產(chǎn)生恐懼反應(yīng)信號,并將該信號傳向下游的PAG區(qū),引發(fā)本能的防衛(wèi)行為,從而進(jìn)行應(yīng)急避障。
如圖9示出了使用小拳頭朝向無人機(jī)投射后檢測到的障礙物區(qū)域示意圖。其中,無人機(jī)在檢測到小拳頭的逼近式運(yùn)動后立刻鎖定目標(biāo)并快速地做出后退指令進(jìn)行躲避。
本發(fā)明實(shí)施例提供的方法在無人機(jī)懸停狀態(tài)下,對于突然出現(xiàn)的投射物的快速應(yīng)急躲避任務(wù)中取得了很好的效果,提高了在緊急狀態(tài)下或突發(fā)事件時無人機(jī)的應(yīng)急反應(yīng)能力,對無人機(jī)應(yīng)急避障領(lǐng)域做出了新的探索。
上述實(shí)施例中雖然將各個步驟按照上述先后次序的方式進(jìn)行了描述,但是本領(lǐng)域技術(shù)人員可以理解,為了實(shí)現(xiàn)本實(shí)施例的效果,不同的步驟之間不必按照這樣的次序執(zhí)行,其可以同時(并行)執(zhí)行或以顛倒的次序執(zhí)行,這些簡單的變化都在本發(fā)明的保護(hù)范圍之內(nèi)。
至此,已經(jīng)結(jié)合附圖所示的優(yōu)選實(shí)施方式描述了本發(fā)明的技術(shù)方案,但是,本領(lǐng)域技術(shù)人員容易理解的是,本發(fā)明的保護(hù)范圍顯然不局限于這些具體實(shí)施方式。在不偏離本發(fā)明的原理的前提下,本領(lǐng)域技術(shù)人員可以對相關(guān)技術(shù)特征作出等同的更改或替換,這些更改或替換之后的技術(shù)方案都將落入本發(fā)明的保護(hù)范圍之內(nèi)。