電商數(shù)據(jù)倉(cāng)庫(kù)作業(yè)調(diào)度系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、數(shù)據(jù)已成為當(dāng)代互聯(lián)網(wǎng)企業(yè)核心競(jìng)爭(zhēng)力，而高效的作業(yè)調(diào)度系統(tǒng)是離線海量數(shù)據(jù)管理的重要工具，誰(shuí)能有效管理這些海量數(shù)據(jù)，并能有效挖掘其中有價(jià)值信息，誰(shuí)就站在了戰(zhàn)略至高點(diǎn)。ETL作業(yè)是數(shù)據(jù)倉(cāng)庫(kù)日常工作的核心內(nèi)容，海量具有復(fù)雜關(guān)系的作業(yè)只有在作業(yè)調(diào)度系統(tǒng)的調(diào)度管理下才能高效有序進(jìn)行。在當(dāng)前以數(shù)據(jù)為生產(chǎn)力的信息經(jīng)濟(jì)時(shí)代，電商數(shù)據(jù)倉(cāng)庫(kù)日常工作已不是簡(jiǎn)單的數(shù)據(jù)備份和日志拉取，任何能夠關(guān)聯(lián)的數(shù)據(jù)都有可能產(chǎn)生新的火花。由此，作業(yè)調(diào)度系統(tǒng)不僅要保證高效和穩(wěn)定地

2、觸發(fā)作業(yè)，又要兼顧各作業(yè)之間的依賴(lài)關(guān)系，最后以作業(yè)鏈的形式有序觸發(fā)所有作業(yè)。這些要求是作業(yè)調(diào)度系統(tǒng)建設(shè)將要面臨的新的挑戰(zhàn)。隨著大數(shù)據(jù)時(shí)代的到來(lái)，以Hadoop生態(tài)系統(tǒng)為基礎(chǔ)的大數(shù)據(jù)處理工具得到了市場(chǎng)的廣泛認(rèn)可。而Hive數(shù)據(jù)庫(kù)的誕生正迎合了大數(shù)據(jù)時(shí)代的需要。本系統(tǒng)將對(duì)Hive數(shù)據(jù)處理的支持納入數(shù)據(jù)倉(cāng)庫(kù)重要部分，充分利用了hadoop集群穩(wěn)定高擴(kuò)展性?xún)?yōu)勢(shì)，采用分布式集群滿足電子商務(wù)企業(yè)對(duì)數(shù)據(jù)倉(cāng)庫(kù)的穩(wěn)定/高效/經(jīng)濟(jì)的需求。由此新的作業(yè)調(diào)度系

3、統(tǒng)不僅支持常規(guī)關(guān)系型數(shù)據(jù)庫(kù)處理，還能兼容HIVE數(shù)據(jù)處理功能。目前，國(guó)內(nèi)外各大企業(yè)數(shù)據(jù)倉(cāng)庫(kù)作業(yè)調(diào)度系統(tǒng)多以自主建設(shè)為主，也有些優(yōu)秀的開(kāi)源作業(yè)調(diào)度系統(tǒng)（如OOZIE）和一些優(yōu)秀的作業(yè)調(diào)度系統(tǒng)框架（如quartz），但是在使用場(chǎng)景和功能上與企業(yè)當(dāng)前發(fā)展階段需求不符。
　　本研究通過(guò)總結(jié)日常工作中的調(diào)度需求，為企業(yè)設(shè)計(jì)開(kāi)發(fā)了一套符合當(dāng)前發(fā)展階段的定制化的電商數(shù)據(jù)倉(cāng)庫(kù)作業(yè)調(diào)度引擎，數(shù)據(jù)開(kāi)發(fā)人員能夠方便地在任意作業(yè)機(jī)部署自己的作業(yè)，并提供按