文本情感分類及觀點(diǎn)摘要關(guān)鍵問題研究.pdf

1、人類自然語言文本承載了兩種信息,客觀事實信息和帶有人的主觀感情色彩的信息,這些帶有人的主觀性信息的文本反映了人們對于某個特定對象的態(tài)度、立場和意見等。文本情感分析以帶有主觀性信息的文本為研究對象,目的是識別、分類、抽取、標(biāo)注這些文本里表達(dá)的情感、觀點(diǎn)、影響。
　　 隨著互聯(lián)網(wǎng)的迅猛發(fā)展,論壇、社區(qū)、博客、購物網(wǎng)站等社會媒體上面的主觀性評論信息越來越多,甚至呈現(xiàn)爆炸式的增長。越來越多的人或機(jī)構(gòu)開始習(xí)慣于在網(wǎng)絡(luò)上搜索評論信息來幫助做

2、出決定。但是,Web上的海量信息使他們在進(jìn)行檢索后不得不在數(shù)量巨大的評論中一條一條地人工翻閱、檢查、判斷信息,以便做出綜合判斷。在這種情況下,如果能夠?qū)@些海量的評論信息進(jìn)行綜述,得到的觀點(diǎn)綜述信息勢必對消費(fèi)者和生產(chǎn)商兩方都具有很高的參考價值。這方面的工作就是基于觀點(diǎn)的多文檔摘要。同時,如果能夠自動對這些評論進(jìn)行分析,分析出哪些評論對評論對象持肯定態(tài)度,哪些持否定態(tài)度,以及肯定或否定的程度,便可極大提高用戶獲取評論信息時的效率。這方面的

3、工作就是情感分類。
　　 本文圍繞文本情感分析中的多文檔觀點(diǎn)摘要和情感分類這兩個子課題進(jìn)行了研究,主要工作包括以下三方面:
　　 (1)提出了一種基于觀點(diǎn)的多文檔摘要方法。
　　 現(xiàn)有基于觀點(diǎn)的多文檔摘要方法多數(shù)根據(jù)被評論的特征/方面(feature/aspect)進(jìn)行摘要,稱為基于特征/方面的觀點(diǎn)摘要。這種摘要很大程度上依賴于對評論特征和評論詞的精確識別,而實際中經(jīng)常存在句子中缺少顯式給出的評價特征或評論詞的情

4、況,這樣的句子在基于特征的觀點(diǎn)挖掘中很容易被忽略,從而影響后續(xù)生成的摘要的質(zhì)量。而要精確挖掘句子中的評論特征和評論詞又需要領(lǐng)域知識的支持,這又會造成領(lǐng)域依賴性。同時,這種基于特征/方面的觀點(diǎn)摘要將關(guān)注點(diǎn)放在對每個特征的評價上,不能提供一個覆蓋所有評論中主要主題和基本觀點(diǎn)的綜述信息。
　　 針對以上問題,本文提出了一種通用的領(lǐng)域無關(guān)的多文檔觀點(diǎn)摘要方法。本方法采用傳統(tǒng)摘錄式多文檔摘要技術(shù),結(jié)合概率主題模型LDA(Latent Di

5、richlet Allocation,LDA)和語義傾向進(jìn)行多文檔觀點(diǎn)摘要。本文方法首先利用LDA模型對多文檔的句子集合建模,挖掘文本集合中的潛在主題,利用Gibbs抽樣得到句子在主題上的概率分布和主題在詞上的概率分布,同時對句子進(jìn)行詞性分析并利用Wo rdNet和SentiWordNet計算句子中詞的語義傾向值;然后依次計算主題的重要度、詞的重要度,在這兩者基礎(chǔ)上結(jié)合詞的語義傾向計算句子的重要度;最終根據(jù)句子的重要度排序依次抽取句子,

6、根據(jù)主題去除句子冗余后得到抽取式文摘。本文方法利用LDA模型挖掘評論文本中的重要主題,并結(jié)合語義傾向挖掘在重要主題上的主觀性較強(qiáng)的觀點(diǎn)。實驗證明,本文方法得到的摘要更接近專家摘要。
　　 (2)提出了一種基于集成學(xué)習(xí)的不平衡數(shù)據(jù)集情感分類方法。
　　 目前二元情感分類的研究重點(diǎn)都放在了如何提高情感分類的性能上,卻忽略了現(xiàn)實中經(jīng)常出現(xiàn)情感分類樣本中一個類別的樣本數(shù)量幾倍于另一個類別樣本數(shù)量的情況,即情感分類樣本的類別“不平

7、衡”問題。而當(dāng)前對情感分類的研究絕大多數(shù)都是在平衡的數(shù)據(jù)集上進(jìn)行的,由此導(dǎo)致在平衡的數(shù)據(jù)集上得到的性能較好的情感分類器,在實際中應(yīng)用時很難保持原有的性能。因此,研究如何對不平衡的情感分類數(shù)據(jù)進(jìn)行分類,并提高其分類性能具有非常重要的意義,這也是情感分類技術(shù)能真正運(yùn)用到實踐過程中必須解決的一個問題。
　　 針對上述問題,本文提出了一種綜合了不平衡數(shù)據(jù)集分類和集成學(xué)習(xí)兩方面技術(shù)的情感分類方法。作為一種混合的方法,該方法從算法和數(shù)據(jù)兩個

8、層面著手,在集成學(xué)習(xí)的框架下,綜合了欠抽樣、Bootstrap重采樣和隨機(jī)特征選擇三種方法來處理訓(xùn)練集,以便同時獲得這三種方法的優(yōu)勢,得到若干在樣本和特征空間都不相同的具有較大差異性的訓(xùn)練子集,由此得到具有較大差異性的基分類器,并最終提高集成得到的總分類器的性能。在“不平衡”情感數(shù)據(jù)集上的實驗證明該方法可顯著提高“不平衡”情感數(shù)據(jù)集的分類性能。
　　 (3)提出了細(xì)粒度的情感分類并研究了文本分類預(yù)處理技術(shù)對情感分類的影響。

9、>　　 大量的情感分類研究重點(diǎn)放在二元情感分類上,即將主觀性文本分為肯定類別或否定類別,而現(xiàn)實中帶主觀性信息的文本并不總是分為肯定或否定兩類,例如很多網(wǎng)上商城的評價信息都是對應(yīng)著1星到5星的等級信息,在這種情況下僅僅研究將評論信息分為肯定和否定兩個類別不能滿足實際的需要。針對這種情況,本文提出了對含有主觀性信息的文本進(jìn)行更細(xì)致的分類,稱為細(xì)粒度的情感分類,該分類不僅考慮評論文本的肯定和否定的極性,還考慮評論的力度等級。本文同時分析了細(xì)

10、粒度情感分類與普通多類分類問題本質(zhì)上的不同。
　　 考慮到情感分類和傳統(tǒng)的基于主題分類的目的不同,為了更好地研究細(xì)粒度的情感分類,本文針對有指導(dǎo)的機(jī)器學(xué)習(xí)方法,分析了影響情感分類的各種因素,研究比對了特征詞數(shù)目、停用詞表、文本特征選擇、特征權(quán)重計算和文本分類方法在情感分類這個特殊問題上的性能表現(xiàn),發(fā)現(xiàn)將文本分類技術(shù)應(yīng)用于情感分類時在停用詞、分類方法等方面和應(yīng)用于主題分類時表現(xiàn)不同。最后,針對細(xì)粒度的中文文本情感分類問題,本文利用