基于組稀疏的高維特征選擇及圖像標(biāo)注研究.pdf

1、眾所周知，圖像中存在紋理、顏色和形狀等全局特征以及SIFT和LBP等局部特征，不同視覺(jué)特征在表示特定高層語(yǔ)義時(shí)所起重要程度不同，正確的特征選擇對(duì)于圖像標(biāo)注來(lái)說(shuō)具有十分重要的意義。由于這些異構(gòu)特征之間存在明顯的組效應(yīng)，即同一種類型視覺(jué)特征可自然歸屬為一組（如SIFT特征歸屬為一組，而顏色直方圖歸屬為另一組），因此可充分利用這種“異構(gòu)特征成組”先驗(yàn)知識(shí) 來(lái)加強(qiáng)高維特征表達(dá)，使得圖像異構(gòu)特征在表達(dá)時(shí)能充分利用這種結(jié)構(gòu)性組效應(yīng)。本文根據(jù)圖像異構(gòu)

2、特征之間所存在的結(jié)構(gòu)組效應(yīng)，對(duì)基于組稀疏的高維特征選擇方法及其在圖像標(biāo)注中的應(yīng)用進(jìn)行了研究。
　　首先，根據(jù)圖像異構(gòu)特征之間所存在組效應(yīng)，應(yīng)用組lasso以及Logistic回歸構(gòu)造了適合圖像處理的異構(gòu)特征選擇機(jī)制(GroupLassowithLogisticRegression，簡(jiǎn)稱GLLR)，從而對(duì)圖像進(jìn)行標(biāo)注。此外，從現(xiàn)實(shí)世界中所獲得數(shù)據(jù)中提取的高維異構(gòu)特征往往分布在復(fù)雜非歐氏空間且線性不可分，為了將這種線性不可分的數(shù)據(jù)變得

3、線性可分，以便于分析理解，本文將核學(xué)習(xí)的方法應(yīng)用到圖像標(biāo)注中，提出了一種基于組稀疏和多核學(xué)習(xí)的圖像異構(gòu)特征選擇方法(MultipleKernelLearningwithGroupSparsity,簡(jiǎn)稱MKLGS)。由于MKLGS無(wú)法對(duì)組內(nèi)的特征進(jìn)行稀疏選擇，為了加強(qiáng)特征的組稀疏效應(yīng)，本文提出了一種結(jié)合組稀疏和組合核學(xué)習(xí)的圖像標(biāo)注算法（CompositeKernelLearningwithGroupStructure，簡(jiǎn)稱CKLGS）。區(qū)

4、別與MKLGS，CKLGS可以同時(shí)在特征組內(nèi)和組間進(jìn)行選擇，使得異構(gòu)特征的選擇更具稀疏性及可解釋性。
　　接著，本文提出了一種結(jié)合組稀疏的半監(jiān)督跨域?qū)W習(xí)圖像標(biāo)注算法(Semi-supervisedCross-domainLearningwithGroupSparsity，簡(jiǎn)稱S2CLGS)，利用目標(biāo)域中未標(biāo)注數(shù)據(jù)的流形結(jié)構(gòu)信息以及輔助域中的標(biāo)注數(shù)據(jù)來(lái)增強(qiáng)圖像標(biāo)注的性能，在最小化目標(biāo)域和輔助域的圖像分布差異同時(shí)，根據(jù)圖像數(shù)據(jù)的結(jié)構(gòu)組

5、稀疏特征選擇機(jī)制，選擇最具區(qū)別性特征子集，進(jìn)而訓(xùn)練該語(yǔ)義的分類模型，實(shí)現(xiàn)半監(jiān)督的跨域圖像標(biāo)注機(jī)制。該方法的特點(diǎn)在于同時(shí)利用了半監(jiān)督判別分析，跨域?qū)W習(xí)以及組稀疏結(jié)構(gòu)特性。
　　隨后，本文提出了一種基于非凸正則化因子的組群稀疏方法(NOn-conVexgroupspArsity,簡(jiǎn)稱NOVA)，引入非凸的正則化因子使得基于特征組群結(jié)構(gòu)屬性的特征選擇方法具有連續(xù)、無(wú)偏差和稀疏等“Oracleproperty”，能夠保證特征選擇結(jié)果的一致

6、性。通過(guò)在模擬數(shù)據(jù)上進(jìn)行的實(shí)驗(yàn)對(duì)比，證明了NOVA收斂于正確的模型(truemodel)，通過(guò)在真實(shí)數(shù)據(jù)集上進(jìn)行的大量對(duì)比實(shí)驗(yàn)，本文證明了NOVA優(yōu)于其他特征選擇算法。
　　最后，本文提出了一種基于非凸組稀疏的多核學(xué)習(xí)圖像標(biāo)注算法(MultipleKernelLearningwithNOn-conVexgroupspArsity，簡(jiǎn)稱MKL-NOVA)，以此來(lái)克服高維數(shù)據(jù)線性不可分問(wèn)題以及凸正則化因子的選擇結(jié)果不一致問(wèn)題。考慮到圖