分布式計算框架Antnest的任務(wù)調(diào)度設(shè)計與實(shí)現(xiàn).pdf

1、近年來隨著計算機(jī)網(wǎng)絡(luò)技術(shù)的高速發(fā)展,互聯(lián)網(wǎng)企業(yè)為用戶提供的應(yīng)用和個性化服務(wù)也越來越多,隨之而來的是用戶提交的海量數(shù)據(jù),企業(yè)必須及時而又正確地處理這些數(shù)據(jù)并向用戶反饋結(jié)果。通常,人們會選擇使用分布式計算系統(tǒng)來完成這些復(fù)雜的任務(wù)。然而傳統(tǒng)的分布式計算平臺往往需要配置大型的服務(wù)器集群,還需要專門的技術(shù)人員去跟進(jìn)和維護(hù),這給很多企業(yè)都帶來了巨大的經(jīng)濟(jì)開銷。
　　輕量級分布式任務(wù)計算框架Antnest采用了客戶機(jī)/服務(wù)器計算模式和三層體系結(jié)

2、構(gòu),可以將工作任務(wù)分布在廉價的任務(wù)節(jié)點(diǎn)上,中心節(jié)點(diǎn)負(fù)責(zé)整個系統(tǒng)的調(diào)度工作,任務(wù)節(jié)點(diǎn)采用多JVM多線程執(zhí)行任務(wù)。在Antnest中,提交的任務(wù)都是經(jīng)過定制的,不同的任務(wù)對實(shí)時性的要求各不相同,針對此,Antnest為任務(wù)調(diào)度系統(tǒng)設(shè)計了一種多級隊列搶占式調(diào)度算法,該算法充分考慮到任務(wù)對實(shí)時性的要求,高優(yōu)先級任務(wù)可以搶占系統(tǒng),被搶占任務(wù)會移入高優(yōu)先級隊列中等待調(diào)度,同時利用任務(wù)的預(yù)定啟動時間來確保任務(wù)執(zhí)行的有效性。另外,Antnest還設(shè)計了

3、動態(tài)任務(wù)分配算法來完成子任務(wù)的分配工作。在動態(tài)分配算法中,子任務(wù)和任務(wù)節(jié)點(diǎn)的分配關(guān)系是在任務(wù)的執(zhí)行過程中動態(tài)確定的,Antnest會優(yōu)先將子任務(wù)分配給最先執(zhí)行完子任務(wù)的任務(wù)節(jié)點(diǎn)。在任務(wù)調(diào)度系統(tǒng)的實(shí)現(xiàn)中,任務(wù)調(diào)度系統(tǒng)各模塊間通過自定義的通信協(xié)議完成消息通信,通過指定的任務(wù)接口觸發(fā)任務(wù)邏輯,利用任務(wù)節(jié)點(diǎn)的狀態(tài)管理機(jī)制完成資源管理并保證Antnest的可擴(kuò)展性,同時,利用心跳檢測和子任務(wù)重傳的容錯機(jī)制確保任務(wù)的正確執(zhí)行。
　　測試結(jié)果表