基于YARN的工業(yè)大數(shù)據(jù)處理平臺研究與實現(xiàn).pdf

1、隨著數(shù)字化、網(wǎng)絡(luò)化和虛擬化技術(shù)的廣泛應(yīng)用，工業(yè)企業(yè)的信息化和智能化程度得到了顯著提高，其產(chǎn)生的結(jié)構(gòu)化、半結(jié)構(gòu)和非結(jié)構(gòu)化工業(yè)信息數(shù)據(jù)也呈指數(shù)式增長。企業(yè)在積累海量信息數(shù)據(jù)的同時，也產(chǎn)生了從這些海量數(shù)據(jù)中挖掘有價值信息的需求，盡管企業(yè)決策者已經(jīng)意識到這些大數(shù)據(jù)中蘊含著巨大的經(jīng)濟價值，但仍然缺乏能夠有效管理和分析這些大數(shù)據(jù)的先進技術(shù)和方法。因此，設(shè)計和實現(xiàn)一個工業(yè)大數(shù)據(jù)處理平臺來統(tǒng)一存儲、管理和分析企業(yè)生產(chǎn)及經(jīng)營過程中的海量數(shù)據(jù)，并最大化挖掘

2、這些數(shù)據(jù)潛在隱藏的價值，推動企業(yè)發(fā)展由業(yè)務(wù)驅(qū)動向數(shù)據(jù)驅(qū)動的智能制造模式轉(zhuǎn)型，具有重大的現(xiàn)實意義。
　　工業(yè)大數(shù)據(jù)以規(guī)模龐大、實時性高、數(shù)據(jù)類型多樣、分散性強和價值密度低為主要特點，傳統(tǒng)的數(shù)據(jù)管理分析平臺已經(jīng)無法很好地滿足工業(yè)大數(shù)據(jù)的分析和應(yīng)用需求。因此，必須研究新的有效的工業(yè)大數(shù)據(jù)處理平臺。本文基于YARN設(shè)計和實現(xiàn)了一個能夠?qū)I(yè)大數(shù)據(jù)進行存儲、管理和分析的工業(yè)大數(shù)據(jù)處理平臺，主要工作和研究成果如下：
　　（1）研究當(dāng)前主

3、流的大數(shù)據(jù)存儲與管理技術(shù)，應(yīng)用分布式文件系統(tǒng)HDFS和NOSQL數(shù)據(jù)庫技術(shù)解決工業(yè)大數(shù)據(jù)帶來的數(shù)據(jù)規(guī)模問題。針對工業(yè)大數(shù)據(jù)的多源異構(gòu)性，設(shè)計和實現(xiàn)一個多級存儲系統(tǒng)，解決工業(yè)大數(shù)據(jù)中不同數(shù)據(jù)類型對存儲模型的要求，再通過提供一個數(shù)據(jù)適配器讓用戶能夠統(tǒng)一訪問和管理工業(yè)大數(shù)據(jù)。
　?。?）研究不同模型的大數(shù)據(jù)計算技術(shù)，采用MapReduce解決工業(yè)大數(shù)據(jù)離線批處理計算，采用Spark解決工業(yè)大數(shù)據(jù)快速迭代計算，采用Strom解決工業(yè)大數(shù)據(jù)

4、流計算，再基于YARN集成這三種計算模型，以共享集群模式滿足企業(yè)不同業(yè)務(wù)應(yīng)用對數(shù)據(jù)處理的時效性要求，并采用優(yōu)勢份額分配算法解決平臺中多計算模型之間的資源公平分配問題。
　?。?）采用開源的Apache HUE技術(shù)，為用戶提供一個交互性的可視化大數(shù)據(jù)分析界面，方便用戶提交MapReduce應(yīng)用程序、HiveSql命令、Spark應(yīng)用程序以及交互查詢和數(shù)據(jù)分析結(jié)果展示等功能，同時將R語言與本平臺結(jié)合起來，為用戶提供多語言的應(yīng)用開發(fā)環(huán)境