基于信息論的數(shù)據(jù)挖掘算法.pdf

1、信息論中的多個概念可用于衡量所研究的對象之間的相關(guān)性、多樣性，以及衡量分布之間的距離，這些技術(shù)已被廣泛應(yīng)用于計算機(jī)科學(xué)的各個領(lǐng)域。本文我們使用信息論技術(shù)定義了幾個數(shù)據(jù)挖掘問題，提出了相應(yīng)的挖掘算法。其中我們所處理的問題包括相關(guān)性模式的挖掘，多樣性模式的挖掘，特征選擇和相關(guān)聚類等。另外我們也討論了將數(shù)據(jù)公開發(fā)布為數(shù)據(jù)挖掘的應(yīng)用提供實(shí)際數(shù)據(jù)時可能面臨的隱私泄露問題，繼續(xù)了對t-相近性隱私保護(hù)模型的討論。
　　 本文的主要貢獻(xiàn)可以總結(jié)

2、如下：
　　 1.基于衡量隨機(jī)變量之間依賴性的條件熵，我們引入了對稱的、滿足三角不等式的信息距離，使用該距離定義了新的依賴樹和相關(guān)模式，提出了相應(yīng)的挖掘算法，還使用了該距離來衡量特征之間的相關(guān)性進(jìn)行特征選擇。
　　 2.基于衡量隨機(jī)變量之間依賴性的聯(lián)合熵，我們引入了二值型數(shù)據(jù)上的熵多樣性模式挖掘問題。通過建立不同隨機(jī)變量聯(lián)合熵之間的聯(lián)系，提出了基于這些上下界的快速多樣性模式挖掘算法；在此基礎(chǔ)上提出了一個改進(jìn)的非冗余交互特

3、征子集挖掘算法。
　　 3.基于衡量連續(xù)分布之間距離的Kullback-Leibler divergence，我們提出了一個新的非線性相關(guān)聚類算法。
　　 4.基于衡量離散分布之間距離的Kullback-Leibler divergence，我們引入了新的t-相近性隱私保護(hù)模型，該模型可以解決已有的方法所存在的缺陷，并討論了和語義隱私之間的聯(lián)系。
　　 在這些工作中，我們都依次給出了問題定義，對問題或性質(zhì)進(jìn)行分析