基于Wikipedia的文本表示模型及其在文本挖掘中的應(yīng)用.pdf

1、隨著計(jì)算機(jī)和網(wǎng)絡(luò)技術(shù)的發(fā)展，可用的信息數(shù)量在不斷增長(zhǎng)。為了能夠快速準(zhǔn)確地獲取信息，研究者們開發(fā)了很多有效的算法。這些算法主要針對(duì)結(jié)構(gòu)化的數(shù)據(jù)，而事實(shí)上可獲取的大部分信息都存儲(chǔ)在非結(jié)構(gòu)化的文本數(shù)據(jù)中。通過文本表示，可以將非結(jié)構(gòu)化的數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化的數(shù)據(jù)。傳統(tǒng)的文本表示方法是通過利用數(shù)學(xué)工具對(duì)文本數(shù)據(jù)集進(jìn)行分析，抽取出重要的信息，但是缺乏語義信息。Wikipedia作為最大的電子百科全書，包含了大量的背景知識(shí)。本文的工作是利用Wikiped

2、ia豐富的結(jié)構(gòu)特點(diǎn)，從中抽取出顯式的語義信息加入到文本表示中，并在文本分類、聚類和主題描述等任務(wù)中驗(yàn)證新的表示方法的改進(jìn)。本文取得的主要研究成果如下：
　　(1)利用從Wikipedia中抽取出的特征詞間的語義相關(guān)性改進(jìn)特征加權(quán)，提出了一種基于局部特征語義相關(guān)性的加權(quán)方法。該方法的設(shè)計(jì)思想是：一個(gè)特征與文檔的語義相關(guān)性可以通過該特征與文檔內(nèi)其它特征的語義相關(guān)性度量。其中特征的顯式語義相關(guān)性通過將特征詞映射到Wikipedia概念，

3、然后利用Wikipedia鏈接計(jì)算概念間的相關(guān)性得到。實(shí)驗(yàn)表明基于局部特征語義相關(guān)性的思想在分類和聚類任務(wù)中改進(jìn)了傳統(tǒng)的特征加權(quán)以及現(xiàn)有的利用特征相關(guān)性的方法，并且在時(shí)間復(fù)雜度上與現(xiàn)有的利用特征相關(guān)性的方法相比有明顯優(yōu)勢(shì)。
　　(2)利用Wikipedia構(gòu)建文本的概念表示空間，提出將文本表示成由特征詞與概念組成的兩層表示模型的思想，并設(shè)計(jì)了多層分類和聚類框架以應(yīng)用兩層表示模型。文本在概念層表示的構(gòu)建是通過特征詞到Wikipedi

4、a概念的映射實(shí)現(xiàn)，在這個(gè)過程中提出了利用上下文進(jìn)行概念消歧和概念加權(quán)的方法，以及利用文檔段落結(jié)構(gòu)的加速策略。通過與各種單層向量空間的語義文本表示方法相比，提出的兩層表示模型和多層分類聚類框架在分類聚類的效果、時(shí)間復(fù)雜度和空間復(fù)雜度上都顯示了優(yōu)勢(shì)。
　　(3)提出基于顯式特征相關(guān)性的特征簇文本表示方法。該方法的設(shè)計(jì)思想是：Wikipedia豐富的結(jié)構(gòu)特點(diǎn)為度量Wikipedia概念間和Wikipedia類間的語義相關(guān)性提供了資源，如

5、果用Wikipedia概念或Wikipedia類作為特征表示文本，利用從Wikipedia中獲取的語義相關(guān)性對(duì)特征進(jìn)行聚類，可以得到高質(zhì)量的特征語義簇，從而實(shí)現(xiàn)特征的降維。其中，將文本表示在Wikipedia類特征空間是通過從特征詞到Wikipedia概念再到Wikipedia類的映射實(shí)現(xiàn)的。在這個(gè)過程中針對(duì)從特征詞到Wikipedia概念映射中的錯(cuò)誤，提出了一種Wikipedia類過濾方法，使得在概念空間的錯(cuò)誤不會(huì)被傳入到Wikipe

6、dia類特征空間。為了計(jì)算Wikipedia類間的語義相關(guān)性，分析現(xiàn)有方法的不足，提出了一種新的基于Wikipedia類圖計(jì)算Wikipedia類結(jié)點(diǎn)相關(guān)性的方法，在標(biāo)準(zhǔn)數(shù)據(jù)集上的測(cè)試結(jié)果顯示，提出的方法優(yōu)于三種現(xiàn)有的方法。在文本分類的實(shí)驗(yàn)結(jié)果顯示，在小訓(xùn)練集下，基于特征語義簇的表示方法優(yōu)于向量空間模型表示。同時(shí)也發(fā)現(xiàn)在Wikipedia概念空間和Wikipedia類空間，由于使用了外部語義相關(guān)性度量，改進(jìn)幅度明顯大于在特征詞空間使用基

7、于文檔集合的內(nèi)部特征相關(guān)性度量。此外，利用特征簇表示，通過抽取出特征簇的核心特征，在三個(gè)空間得到了不同程度的主題描述。
　　(4)通過將Wikipedia類信息和特征詞與wikipedia類對(duì)應(yīng)關(guān)系信息加入到LDA主題建模過程中，提出了多視圖LDA主題建模方法。其設(shè)計(jì)思想是在特征詞和Wikipedia類兩個(gè)特征空間同時(shí)建模，并且特征詞在主題上的分布直接受到與其相關(guān)的Wikipedia類在主題上的分布的影響，反之亦然。它通過改進(jìn)LD