面向應(yīng)用的GPU并行計(jì)算關(guān)鍵技術(shù)研究.pdf

1、隨著信息技術(shù)的進(jìn)步，大規(guī)?？茖W(xué)與工程應(yīng)用對(duì)計(jì)算性能的需求不斷增加。由于功耗的限制，過(guò)去十年計(jì)算機(jī)技術(shù)的發(fā)展基本摒棄了通過(guò)提高處理器頻率來(lái)增加計(jì)算機(jī)性能的傳統(tǒng)模式，轉(zhuǎn)而朝著多核、眾核體系結(jié)構(gòu)方向發(fā)展。由于CPU的通用性，基于多核CPU的大規(guī)模計(jì)算機(jī)系統(tǒng)仍然面臨十分嚴(yán)峻的能耗問(wèn)題。在這樣的背景下，專(zhuān)用加速部件獲得了學(xué)術(shù)界和產(chǎn)業(yè)界的廣泛關(guān)注。尤其是以GPU為代表的異構(gòu)處理器，以其優(yōu)異的能效比，極大的促進(jìn)了高性能計(jì)算技術(shù)的發(fā)展。同時(shí)，基于CPU

2、-GPU架構(gòu)的異構(gòu)系統(tǒng)也已經(jīng)成為高性能超級(jí)計(jì)算機(jī)發(fā)展的主流方向之一，例如基于NVIDIA Kepler架構(gòu)的Titan計(jì)算機(jī)。雖然，GPU硬件技術(shù)已經(jīng)獲得了長(zhǎng)足的發(fā)展，但是，GPU的硬件體系結(jié)構(gòu)和編程模型與傳統(tǒng)CPU存在很大的不同，與之匹配的并行軟件技術(shù)相對(duì)落后，實(shí)際應(yīng)用的效率和并行程序開(kāi)發(fā)效率問(wèn)題尤為突出。本課題面向特定的應(yīng)用領(lǐng)域，深入開(kāi)展基于GPU以及CPU-GPU異構(gòu)系統(tǒng)的并行計(jì)算關(guān)鍵技術(shù)研究，涉及并行程序設(shè)計(jì)、并行編程模型、GP

3、U性能預(yù)測(cè)模型和不同多核、眾核處理器之間程序性能可移植性等問(wèn)題。本文的主要研究工作和創(chuàng)新點(diǎn)如下：
　　1.提出了一個(gè)基于GPU架構(gòu)的高效并行視頻編碼框架，并在GPU上實(shí)現(xiàn)了一個(gè)完整的H.264視頻編碼器。本文通過(guò)循環(huán)劃分技術(shù)，將整個(gè)編碼器以幀為單位分為四個(gè)部分，分別是幀間預(yù)測(cè)，幀內(nèi)編碼，熵編碼和去塊濾波。這四個(gè)部分都被加載到GPU上并行加速，既可以開(kāi)發(fā)每幀圖像潛在的并行性，也進(jìn)一步開(kāi)發(fā)了各個(gè)部分之間生產(chǎn)者-消費(fèi)者局域性，避免了不必

4、要的CPU-GPU之間數(shù)據(jù)傳輸。本文使用CUDA編程語(yǔ)言，實(shí)現(xiàn)了一個(gè)面向GPU的完整H.264并行編碼器。針對(duì)計(jì)算密集型組件運(yùn)動(dòng)估計(jì)，本文提出了一個(gè)面向大規(guī)模并行體系結(jié)構(gòu)的可擴(kuò)展并行算法（多分辨率多窗口幀間預(yù)測(cè)算法）。為了提高非規(guī)則算法的效率，本文提出了方向優(yōu)先的并行去塊濾波和基于分量的并行CAVLC算法，成功實(shí)現(xiàn)了大規(guī)模并行CAVLC編碼器，大大減少了編碼后傳回CPU的數(shù)據(jù)量。另外，本文還提出了一個(gè)多級(jí)并行幀內(nèi)編碼算法。實(shí)驗(yàn)結(jié)果表明，

5、本文實(shí)現(xiàn)的基于GPU的H.264編碼器可以滿(mǎn)足30幀每秒(fps)高清實(shí)時(shí)編碼需求。
　　2.提出并實(shí)現(xiàn)了基于大規(guī)模CPU-GPU異構(gòu)系統(tǒng)的高效地質(zhì)沉降模擬解決方案?；谔旌?1A超級(jí)計(jì)算機(jī)實(shí)現(xiàn)了三種全顯示雙巖沉降模擬方案：基于MPI的CPU-only實(shí)現(xiàn)、基于MPI+CUDA的GPU-only實(shí)現(xiàn)以及基于MPI+OpenMP+CUDA的CPU-GPU混合實(shí)現(xiàn)。采用基于OpenMP的CPU并行實(shí)現(xiàn)、基于CUDA的GPU并行實(shí)現(xiàn)和M

6、PI的節(jié)點(diǎn)間通信實(shí)現(xiàn)了GPU計(jì)算與CPU計(jì)算以及節(jié)點(diǎn)間通信的重疊。實(shí)驗(yàn)結(jié)果表明，本文提出的異構(gòu)實(shí)現(xiàn)可以獲得很高的性能，滿(mǎn)足高分辨率地質(zhì)沉降模擬的需求，在1024個(gè)天河-1A計(jì)算節(jié)點(diǎn)上獲得了72.8 TFlops的計(jì)算性能，模擬分辨率達(dá)到了131072×131072。
　　3.提出了一個(gè)基于數(shù)據(jù)傳輸?shù)膕tencil計(jì)算GPU性能分析預(yù)測(cè)模型。為了理解、預(yù)測(cè)stencil計(jì)算在GPU上可以獲得的性能以及刻畫(huà)其性能瓶頸，本文對(duì)stenc

7、il計(jì)算在GPU上的各種優(yōu)化實(shí)現(xiàn)進(jìn)行了量化分析，并從數(shù)據(jù)傳輸?shù)慕嵌忍岢隽艘粋€(gè)性能分析預(yù)測(cè)模型?；谌齻€(gè)并行粒度：一個(gè)CUDA線程、一個(gè)線程塊以及一組可以同時(shí)執(zhí)行的線程塊，本文分別對(duì)寄存器和SM片上存儲(chǔ)器、SM片上存儲(chǔ)器和L2 cache以及L2 cache和全局存儲(chǔ)器三個(gè)存儲(chǔ)層次之間的數(shù)據(jù)傳輸量進(jìn)行建模。結(jié)合GPU在各個(gè)存儲(chǔ)器上可以獲得的實(shí)際帶寬和數(shù)據(jù)傳輸量，進(jìn)一步預(yù)測(cè)程序的執(zhí)行時(shí)間。實(shí)驗(yàn)結(jié)果表明，本文提出的基于數(shù)據(jù)傳輸?shù)男阅茴A(yù)測(cè)模型對(duì)

8、于基本stencil實(shí)現(xiàn)在GPU上執(zhí)行時(shí)間的預(yù)測(cè)錯(cuò)誤率為6.9％，而對(duì)于經(jīng)過(guò)優(yōu)化實(shí)現(xiàn)的stencil程序的執(zhí)行時(shí)間預(yù)測(cè)錯(cuò)誤率為9.5%。
　　4.研究了OpenCL程序在多核CPU和GPU之間的性能可移植性問(wèn)題。雖然OpenCL編程使得同一個(gè)程序可以在不同硬件平臺(tái)之間實(shí)現(xiàn)代碼可移植，但是其性能可移植性卻遠(yuǎn)遠(yuǎn)不能滿(mǎn)足要求。本文從特定的應(yīng)用出發(fā)，研究基于OpenCL的stencil計(jì)算在CPU、GPU之間的性能可移植性問(wèn)題。通過(guò)在循環(huán)