版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、近來(lái)伴隨互聯(lián)網(wǎng)信息技術(shù)和產(chǎn)業(yè)鏈迅猛發(fā)展,各行業(yè)數(shù)據(jù)規(guī)模均呈現(xiàn)指數(shù)級(jí)增長(zhǎng),尤其以電商和社交網(wǎng)絡(luò)為服務(wù)內(nèi)容的企業(yè)數(shù)據(jù)中心。盡管數(shù)據(jù)量規(guī)模巨大,方便基本事務(wù)都有跡可循,但數(shù)據(jù)結(jié)構(gòu)混亂,大規(guī)模數(shù)據(jù)沒(méi)有合理得被分門歸類,導(dǎo)致隱含的價(jià)值無(wú)法被提取,因而容易陷入面對(duì)茫茫數(shù)據(jù)而無(wú)計(jì)可施的困境。
怎么從龐大文本數(shù)據(jù)集中獲取有價(jià)值的信息,已經(jīng)成為研究人員探索的熱點(diǎn)。以機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘和自然語(yǔ)言處理為基礎(chǔ)的文本分類可以把不規(guī)則的數(shù)據(jù)根據(jù)給定的算法
2、分門歸類,其作為核心技術(shù),能夠從海量文本數(shù)據(jù)集中獲取所需信息。經(jīng)分析調(diào)研,文本分類不同的階段對(duì)最終文本分類的效果有著不同程度的影響,尤其是特征選擇環(huán)節(jié)更是起著決定性的作用,同時(shí)特征選擇也能夠有效一定程度上解決高維稀疏引發(fā)的高計(jì)算復(fù)雜度和低分類精度問(wèn)題。
所以,本文以特征選擇展開(kāi)研究,針對(duì)經(jīng)典文本特征選擇算法沒(méi)有對(duì)類內(nèi)文檔特征詞頻度、類間集中度、類內(nèi)分散度的綜合衡量,提出了基于卡方統(tǒng)計(jì)(CHI)和互信息(MI)的改進(jìn)型組合特征選
3、擇算法CHMI,并在公開(kāi)中文語(yǔ)料庫(kù)上和經(jīng)典文本特征選擇算法做了對(duì)比,驗(yàn)證了CHMI較經(jīng)典算法在分類效果上有所提高。
雖然本文提出的CHMI算法在文本分類效果上較經(jīng)典特征選擇算法具有一定的優(yōu)勢(shì),但是面對(duì)龐大的數(shù)據(jù)集,該算法還是無(wú)法解決自身算法復(fù)雜度高而引發(fā)的時(shí)間消耗和空間消耗大的問(wèn)題。
因此本文將CHMI算法和Hadoop云平臺(tái)下的MapReduce模型相結(jié)合,提出了基于云平臺(tái)的文本特征選擇算法MRCHMI,實(shí)驗(yàn)驗(yàn)證了
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于野草算法的文本特征選擇研究.pdf
- 基于云平臺(tái)的特征選擇并行化研究.pdf
- 文本特征選擇算法的研究.pdf
- 基于文本聚類的特征選擇算法研究.pdf
- 基于特征選擇和特征加權(quán)算法的文本分類研究.pdf
- 基于改進(jìn)入侵野草算法的文本特征選擇研究.pdf
- 文本數(shù)據(jù)挖掘中基于云模型的特征選擇方法研究.pdf
- 基于云計(jì)算的文本挖掘算法研究.pdf
- 基于互信息特征選擇算法的文本自動(dòng)分類研究.pdf
- 文本分類中基于綜合度量特征選擇算法的研究.pdf
- SVM文本分類中基于法向量的特征選擇算法研究.pdf
- 文本分類中特征選擇算法研究.pdf
- 文本表示模型和特征選擇算法研究.pdf
- 基于類別的特征選擇算法的文本分類系統(tǒng).pdf
- 基于Boosting思想的文本特征選擇研究.pdf
- 基于云計(jì)算的文本聚類算法研究.pdf
- 文本分類中基于k-means的特征選擇算法研究.pdf
- 基于VSM模型和特征選擇算法的中文文本自動(dòng)分類研究.pdf
- 文本分類中特征選擇與加權(quán)算法的研究.pdf
- 文本分類中特征選擇算法的研究與改進(jìn).pdf
評(píng)論
0/150
提交評(píng)論