面向SMP的模板計算訪存優(yōu)化研究.pdf

1、共享存儲多核多級 Cache結(jié)構(gòu)已成為高性能計算領(lǐng)域通用的處理器架構(gòu)。雖然多級 Cache結(jié)構(gòu)能夠有效緩解“存儲墻”，但在科學(xué)計算程序中，訪存指令占有較大比重，訪存效率仍然很低，而且多核并行對訪存帶寬有更高的需求。因此，減少訪存次數(shù)和隱藏訪存延遲仍然是程序訪存優(yōu)化研究的主要內(nèi)容。
　　模板計算是一類在圖像和視頻處理、大規(guī)模科學(xué)和工程計算等領(lǐng)域廣泛使用的訪存密集型計算核心，已被眾多科研工作者作為性能優(yōu)化的對象，包括并行加速、通信優(yōu)化

2、、負(fù)載平衡等，而對模板計算的訪存優(yōu)化還需要進(jìn)一步研究。
　　本文以共享存儲多核處理器為平臺，從循環(huán)分塊、向量重組和數(shù)據(jù)預(yù)取三個方面對模板計算進(jìn)行了訪存優(yōu)化研究，主要貢獻(xiàn)及創(chuàng)新包括三個方面：
　　第一、改進(jìn)了傳統(tǒng)的循環(huán)分塊方法，并提出一種基于 OpenMP線程與數(shù)據(jù)塊綁定的并行算法。改進(jìn)的循環(huán)分塊方法綜合考慮了多核或多線程并行及多級Cache結(jié)構(gòu)的特性；基于 OpenMP線程與數(shù)據(jù)塊綁定的并行算法能夠有效的解決傳統(tǒng)并行算法中并

3、行開銷大、不能有效重用相鄰分塊之間的邊界數(shù)據(jù)等問題。
　　第二、采用向量重組減少模板計算的非對齊訪存，并提出一種向量拼接移位的向量重組方法。通過對模板計算訪存特點(diǎn)的分析，發(fā)現(xiàn)模板計算不僅可以進(jìn)行向量化，而且一些向量之間存在數(shù)據(jù)元素的重用。所以在模板計算向量化的基礎(chǔ)上，采用向量重組方法減少了模板計算存取數(shù)據(jù)的次數(shù)，有效提升了模板計算的訪存效率。在模板計算向量重組方法的研究中，不僅基于模板計算的訪存模式提出多種向量重組方法，而且基于模

4、板計算重組向量的特點(diǎn)提出向量拼接移位的向量重組方法，減少了向量操作次數(shù)。
　　第三、采用數(shù)據(jù)預(yù)取隱藏模板計算中的訪存延遲。數(shù)據(jù)預(yù)取充分利用處理器空閑帶寬對數(shù)據(jù)進(jìn)行存取，通過將訪存與計算重疊，能夠有效地隱藏訪存延遲。通過對Intel X86_64硬件預(yù)取和軟件預(yù)取機(jī)制的分析，分別對連續(xù)訪存和非連續(xù)訪存兩種模式下的模板計算使用了軟件預(yù)取優(yōu)化，并使用循環(huán)展開和循環(huán)剝皮優(yōu)化了數(shù)據(jù)預(yù)取。實(shí)驗(yàn)結(jié)果表明，軟件預(yù)取更有益于優(yōu)化非連續(xù)訪存模式下的模