因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)研究.pdf

1、因果貝葉斯網(wǎng)絡(luò)也被稱為信念網(wǎng)絡(luò)，是基于概率圖理論的一種不確定性知識表達和推理模型。它在數(shù)據(jù)挖掘、模式識別、數(shù)據(jù)壓縮、基因信息調(diào)控、圖象處理、工業(yè)制造等方面都有重要的應(yīng)用。因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)作為貝葉斯網(wǎng)絡(luò)參數(shù)學(xué)習(xí)、推理、分類的基礎(chǔ)，它的學(xué)習(xí)方法顯得特別重要。到目前為止，因果貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)學(xué)習(xí)是一個NP難題。本文的內(nèi)容可分為以下幾部分：
　　(1)介紹了因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的研究背景、現(xiàn)狀以及基本理論。
　　(2)針對爬山算

2、法和GS算法在學(xué)習(xí)因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)時很難得到近似全局最優(yōu)結(jié)構(gòu)和搜索次數(shù)多的問題，提出了一種基于X2測試的貪婪搜索結(jié)構(gòu)學(xué)習(xí)算法CIGS算法。在爬山算法和GS算法在學(xué)習(xí)貝葉斯網(wǎng)絡(luò)前，對初始化網(wǎng)絡(luò)進行了全局性的處理，先通過X2測試學(xué)習(xí)得到一個無向圖，然后用條件相對平均熵對這個無向圖判別方向，使得學(xué)習(xí)到的網(wǎng)絡(luò)中邊的方向更加準確，最后用GS算法進行學(xué)習(xí)。實驗證明CIGS算法與爬山算法、GS算法相比能夠得到更優(yōu)的近似全局最優(yōu)結(jié)構(gòu)，減少了搜索次數(shù)使

3、得算法在時間性能上更高效。
　　(3)針對獨立性測試算法，如PC算法、TPDA算法由于計算性能的限制，很難在多結(jié)點的大數(shù)據(jù)集上運行的問題，引入了d-分離樹的概念，應(yīng)用d-分離樹把大的貝葉斯網(wǎng)絡(luò)分解為多個小的網(wǎng)絡(luò)，然后對這些小網(wǎng)絡(luò)采用獨立性測試的方法進行學(xué)習(xí)，再把學(xué)習(xí)得到小網(wǎng)絡(luò)整合起來，基于此，提出了一種基于d-分離樹分解的GES因果貝葉網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)改進算法，這種因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法很好地結(jié)合了搜索評分和獨立性測試這兩類結(jié)構(gòu)學(xué)

4、習(xí)算法的優(yōu)點，能夠更加有效地學(xué)習(xí)因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)。
　　(4)對貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的主動學(xué)習(xí)領(lǐng)域進行了研究。分析了貝葉斯網(wǎng)絡(luò)的因果強度和三種擾動模型，最后分別采用互信息、對稱熵、不對稱信息熵來選擇擾動節(jié)點進行結(jié)構(gòu)學(xué)習(xí)，并實驗驗證了這幾種方法的優(yōu)劣。分析了這幾種方法用于因果貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)的精確程度，還提出了用互信息和不對稱熵結(jié)合的方式選擇擾動結(jié)點進行結(jié)構(gòu)學(xué)習(xí)的方法。實驗表明，這種方法針對數(shù)據(jù)集較少的小規(guī)模網(wǎng)絡(luò)上很大程度上提高了因果