半監(jiān)督流形學習的算法分析與應用.pdf

1、本文介紹了基于流形的機器學習算法--流形學習。其中包括等距映射、局部線性嵌入映射、拉普拉斯特征映射和擴散映射，展現(xiàn)了這些經(jīng)典算法的思想、推導過程以及實驗效果，并在此基礎(chǔ)上推出了維數(shù)約簡算法的一個整體框架一圖投影，在圖投影框架中重新審視了各個算法的相似性定義，以及在信息挖掘和行為感知領(lǐng)域的應用。實際上，許多維數(shù)約簡應用的例子都是處理一些具有部分標記樣本的數(shù)據(jù)集。所以，在本文中我們將著重考慮基于標記信息的流形學習算法。我們推出了兩種解決此類

2、問題的算法來進行維數(shù)約簡和數(shù)據(jù)表示，一種算法是基于拉普拉斯特征映射的，一種是基于擴散映射的。這兩種算法都能夠做到既保持流形的局部幾何結(jié)構(gòu)，又能保持整體統(tǒng)計標記信息。這兩種算法與以往經(jīng)典算法不同之處就是利用標記信息改造了基本幾何信息構(gòu)造的相似性矩陣。算法分別在手寫數(shù)字，人臉圖像和天氣等數(shù)據(jù)庫中得到了很好的應用。半監(jiān)督的拉普拉斯特征映射是改造了經(jīng)典的拉普拉斯特征映射框架而得到的，該算法使得目標函數(shù)考慮了標記信息。首先，通過局部鄰域關(guān)系構(gòu)建一

3、個加權(quán)圖，然后通過樣本的標記信息改造這個局部結(jié)構(gòu)關(guān)系使得樣本之間的關(guān)系依賴于標記信息，最后通過解決廣義特征分解問題得到樣本在低維空間的表示。實驗證明該算法通過考慮標記信息，使得性能得到了很大的提升。半監(jiān)督擴算映射是一種基于傳統(tǒng)的擴散映射的算法。該算法的相似性矩陣是通過樣本標記的后驗概率改造得到的，樣本的標記后驗概率是通過有限步EM迭代算法得到。值得一提的是，半監(jiān)督擴散映射能夠?qū)⒉煌瑯擞浀臉颖就队暗讲煌淖涌臻g中去，這樣使得后續(xù)的分類和識