基于數據及標記關聯的多標記學習算法研究.pdf

1、多標記學習最早出現在文檔分類問題中,由于歧義性問題的存在,造成一條數據可能同時具有多個不同的類別標記。多標記學習問題廣泛存在于現實實際問題中,多標記學習已逐漸成為國際機器學習界一個新的研究熱點,在眾多領域得到了廣泛應用。隨著對多標記學習的逐步深入研究,還衍生出了多示例學習、多標記排序等新的研究問題,對多標記學習相關問題的研究有著重要的積極意義。本文緒論主要介紹了多標記學習的研究背景及研究意義、目前國內外多標記學習的研究現狀及面臨的主要問

2、題;簡要介紹了多標記學習的形式化定義與衡量多標記學習算法的評價準則等。詳細介紹了多標記學習中幾種典型的算法。本文主要從數據相關性與標記相關性兩個方面對多標記學習問題進行了研究,并基于以上研究提出了相應的算法來解決多標記學習所遇到的問題,并對相應的算法進行了一定量的對比試驗來驗證算法的優(yōu)越性。
　　本文主要從以下兩個方面開展對多標記學習問題的研究:
　　(1)針對數據相關性問題的研究,提出了一種基于標記特征的多標記學習改進算法

3、W-LIFT。樣例具有一定的分布特性,具有相同標記的樣例通常聚集到一起,一個樣例的標記信息可能會對附近其他樣例的學習提供有用信息,特別是在數據比較匱乏的情形下,利用已標記的數據與未標記數據間的相互關系,能夠在一定程度上避免因為數據匱乏所造成的誤差,使得分類性能更加準確。LIFT算法是基于標記特征的一種多標記學習算法,算法在分類過程中采用等權重方式,忽略了樣例之間的相關性?；趯永嚓P性問題的研究,本文提出了W-LIFT算法,算法在分類

4、過程中考慮樣例之間的相互關系,通過加權的方式使生成的特征集更加準確,用于提高多標記分類的效果。并對此進行了大量的對比實驗,實驗結果表明W-LIFT算法的分類性能良好。
　　(2)針對標記相關性問題的研究,提出了一種局部順序分類器鏈算法LOCC。在多標記的實際分類問題中,一個標記可能會為與其相關的其他標記提供有用信息,特別是那些含有少量訓練樣例的標記,考慮標記相關性能夠減小因數據不足造成的誤差。目前有研究將標記相關性引入多標記學習,

5、通過分類器鏈的形式將標記結果引入屬性空間,為學習其他標記提供有用信息。分類器鏈中標記的預測順序具有隨機性,分類結果存在著很大的不確定性與不穩(wěn)定性,且容易造成錯誤信息的傳播。,基于對標記相關性問題及分類器鏈算法的研究,本文提出了LOCC算法,算法充分考慮標記的局部分布特性,從概率角度給出樣例可能具有的標記,并根據可能性大小對分類器進行排序,賦予標記一個有序的學習過程,解決分類器鏈中因分類器順序問題造成的誤差。通過與其他多標記分類算法的大量