海量數(shù)據(jù)分析處理方法的研究.pdf

1、隨著信息技術(shù)的發(fā)展,很多領(lǐng)域?qū)π畔⑾到y(tǒng)的建設(shè)處在轉(zhuǎn)型階段。以金融領(lǐng)域為例,后續(xù)IT建設(shè)的重心逐步從建設(shè)“核心業(yè)務(wù)交易系統(tǒng)”進入到構(gòu)建“以客戶為中心、以風(fēng)險控制和盈利分析為目標(biāo)的信息管理系統(tǒng)”的發(fā)展階段。這種轉(zhuǎn)型需要對原有業(yè)務(wù)系統(tǒng)的數(shù)據(jù)進行統(tǒng)一分析,實現(xiàn)數(shù)據(jù)跨部門、跨時間和跨平臺共享。為此海量數(shù)據(jù)分析處理需求強烈。MapReduce是由Google公司首先提出的,一種能在大型計算機集群上并發(fā)地處理海量數(shù)據(jù)的框架模型。使用者通過指定一個Ma

2、p函數(shù)將輸入數(shù)據(jù)轉(zhuǎn)化成為一系列中間鍵-值對,然后由一個自定義的reduce函數(shù)將具有相同鍵的值聚集起來,將結(jié)果輸出。很多現(xiàn)實世界對海量數(shù)據(jù)的處理,都可以用這種模型來表示。并行數(shù)據(jù)庫作為一種高性能的數(shù)據(jù)庫系統(tǒng),是并行技術(shù)和數(shù)據(jù)庫技術(shù)結(jié)合的產(chǎn)物,它大大提高了關(guān)系數(shù)據(jù)庫中對數(shù)據(jù)的處理效率。常見的并行數(shù)據(jù)庫根據(jù)并行架構(gòu)的不同,可以分為共性內(nèi)存、共性磁盤、無共享的三種架構(gòu)方式。本文在分析Mapreduce和并行數(shù)據(jù)庫的基礎(chǔ)上,提出了一種并發(fā)處理海

3、量數(shù)據(jù)的更通用、更可擴展的平臺大概架構(gòu)。并對相關(guān)的產(chǎn)品進行了詳細的測試。首先,我們分析了MapReduce和并行數(shù)據(jù)庫對海量數(shù)據(jù)處理的并行方式,具體的了解了兩種方法的發(fā)展以及實現(xiàn)思路。接著,我們從多個方面對兩者進行了詳細的比較,得到了它們的優(yōu)缺點,為后續(xù)的設(shè)計打下了基礎(chǔ)。接著我們提出了三種MapReduce和SQL結(jié)合的方式,分別是MapReduce引擎增加SQL層、MapReduce調(diào)度SQL語句、SQL語句調(diào)用MapReduce,通

4、過三種結(jié)合方式的比較,我們認(rèn)為SQL語句調(diào)用MapReduce的方法是最好的一種。然后,我們提出了將并行數(shù)據(jù)庫和MapReduce結(jié)合的大概設(shè)計框架,這種架構(gòu)采用客戶端、主控節(jié)點、分支節(jié)點的三點式架構(gòu)。其中,主控節(jié)點負(fù)責(zé)收集與處理其他節(jié)點的各種信息；分支節(jié)點負(fù)責(zé)任務(wù)的具體執(zhí)行。接著,我們通過MapReduce的自定義函數(shù)對SQL進行了擴展,提出了將MapReduce嵌入到SQL語句里面的方式和具體的執(zhí)行方式。接著,我們描述了數(shù)據(jù)分布策略