基于GPU的矩陣乘法優(yōu)化研究.pdf

1、傳統(tǒng)單核處理器的性能由于散熱、功耗等問題，已無(wú)法與硬件資源發(fā)展速度相適應(yīng)，但近幾年來高性能計(jì)算領(lǐng)域的新興應(yīng)用的發(fā)展對(duì)計(jì)算機(jī)的性能要求卻越來越高。相對(duì)于傳統(tǒng)的單核處理器，多核/眾核處理器可利用線程級(jí)并行獲得性能提升，從而更好地滿足高性能計(jì)算領(lǐng)域?qū)τ?jì)算機(jī)的性能要求，目前已被學(xué)術(shù)界和產(chǎn)業(yè)界廣泛接受。然而，多核/眾核平臺(tái)雖擁有較高的浮點(diǎn)峰值和計(jì)算能力，但它的結(jié)構(gòu)和編程環(huán)境具有一定復(fù)雜性，如何充分挖掘眾核處理器的強(qiáng)大計(jì)算能力便成為了一個(gè)突出的問題

2、。為了解決該問題，探索眾多應(yīng)用中的核心算法，并針對(duì)多核/眾核平臺(tái)特點(diǎn)對(duì)其進(jìn)行優(yōu)化便顯得尤為重要。本文以稠密矩陣向量乘法(The matrix-vector multiplication routine forgeneral dense matrices，GEMV)、稀疏矩陣向量乘法(sparse matrix-vectormultiplication，SpMV)作為規(guī)則應(yīng)用核心算法與非規(guī)則應(yīng)用核心算法的代表進(jìn)行研究:
　　(1)采

3、用面向眾核GPU的高速緩存分塊方法設(shè)計(jì)更優(yōu)的基于眾核GPU稠密矩陣向量乘算法，第一種算法從提高線程并行度的角度出發(fā)，能夠很好的提高GPU的利用率。利用同一個(gè)warp的線程代替?zhèn)鹘y(tǒng)高速緩存算法中一個(gè)線程，計(jì)算向量y中的一個(gè)對(duì)應(yīng)元素。第二種算法，在第一種算法的基礎(chǔ)上加入了寄存器上數(shù)據(jù)重用的思想。寄存器資源是是GPU眾核平臺(tái)上最為快速的資源，是解決訪存瓶頸問題有效途徑。通過實(shí)驗(yàn)對(duì)比分析，新的算法較傳統(tǒng)庫(kù)函數(shù)有著很好的性能提升，尤其是對(duì)小型和行

4、數(shù)大于列數(shù)的矩陣，性能提升了10％以上。此外，本文針對(duì)GPU眾核架構(gòu)特點(diǎn)對(duì)寄存器重用次數(shù)對(duì)算法性能影響也進(jìn)行了進(jìn)一步研究。
　　(2)HYB存儲(chǔ)格式基礎(chǔ)上提出新的存儲(chǔ)格式對(duì)稀疏矩陣向量乘法進(jìn)行優(yōu)化，通過多次劃分使稀疏矩陣的COO存儲(chǔ)格式部分更小，并增加ELL格式的部分，以更好地利用眾核GPU的計(jì)算能力。此外，我們?cè)趯?shí)驗(yàn)過程中對(duì)劃分參數(shù)進(jìn)行了仔細(xì)分析，調(diào)優(yōu)后的結(jié)果進(jìn)一步的提升了算法性能。實(shí)驗(yàn)結(jié)果表明，與傳統(tǒng)的基于HYB格式的算法比較

5、，基于HYB-I格式的稀疏矩陣向量乘法在我們的稀疏矩陣測(cè)試集上獲得了更高的性能，最好的情況下性能提升比達(dá)到17％。
　　(3)針對(duì)稀疏矩陣向量乘法提出新的基于BCSR格式的高速緩存分塊方法，對(duì)稀疏矩陣進(jìn)行劃分并以CSR格式進(jìn)行存儲(chǔ)，利用高速緩存分塊思想，將向量x在共享內(nèi)存中多次利用，有效地提高了了訪存效率，使稀疏矩陣向量乘法性能得到提升。實(shí)驗(yàn)表明，最好情況下，稀疏矩陣向量乘的高速緩存分塊方法比CSR格式計(jì)算結(jié)果的速度有5倍的提升。