一種降低片上多核系統(tǒng)緩存訪問(wèn)延遲的方法.pdf

1、片上多核處理器(Chip Multiprocessor，CMP)將多個(gè)簡(jiǎn)單的處理核心集成到一個(gè)物理芯片上，相對(duì)復(fù)雜的單核處理器設(shè)計(jì)而言可以更加有效的利用片上資源，有利于發(fā)掘應(yīng)用中線程級(jí)并行性。CMP的體系結(jié)構(gòu)特征決定了其具有功耗低、設(shè)計(jì)和驗(yàn)證簡(jiǎn)單等優(yōu)點(diǎn)。因此CMP成為處理器在今后一段時(shí)間內(nèi)發(fā)展的趨勢(shì)。為CMP系統(tǒng)中的多個(gè)處理核心提供與其計(jì)算能力匹配的數(shù)據(jù)傳輸是CMP系統(tǒng)面臨的主要問(wèn)題，緩存系統(tǒng)設(shè)計(jì)作為該問(wèn)題的主要解決方案成為CMP系統(tǒng)研

2、究的熱點(diǎn)之一。
　　 共享型的二級(jí)緩存設(shè)計(jì)可以更加有效的利用片上緩存，具有較低的缺失率，是CMP系統(tǒng)緩存設(shè)計(jì)的主要選擇。NUCA實(shí)現(xiàn)的共享型二級(jí)緩存設(shè)計(jì)在邏輯上共享地址空間，但是物理上由多個(gè)二級(jí)緩存模塊組成，該方式的緩存設(shè)計(jì)可以提供較高的片上緩存訪問(wèn)帶寬，避免了單一的二級(jí)緩存成為CMP系統(tǒng)的瓶頸。但是NUCA實(shí)現(xiàn)的共享型二級(jí)緩存的平均訪問(wèn)延遲很大程度依賴(lài)于數(shù)據(jù)在緩存模塊之間的分布。
　　 本文提出了一種基于進(jìn)程調(diào)度對(duì)NU

3、CA實(shí)現(xiàn)的緩存設(shè)計(jì)訪問(wèn)延遲進(jìn)行優(yōu)化的方案(Cache Access Latency Optimization Scheme based on Process Scheduling，CaLoSPS)。CaLoSPS方案通過(guò)添加硬件計(jì)數(shù)器實(shí)現(xiàn)對(duì)應(yīng)用訪問(wèn)緩存規(guī)律的收集。CaLoSPS方案在操作系統(tǒng)已有基礎(chǔ)上對(duì)調(diào)度模塊進(jìn)行改動(dòng)，增加了針對(duì)緩存訪問(wèn)規(guī)律的中粒度調(diào)度模塊。中粒度調(diào)度模塊以應(yīng)用對(duì)緩存模塊的訪問(wèn)規(guī)律作為輸入，根據(jù)緩存訪問(wèn)規(guī)律對(duì)進(jìn)程進(jìn)行調(diào)

4、度，并將進(jìn)程遷移到距離其經(jīng)常訪問(wèn)的緩存模塊較近的處理核心上執(zhí)行從而降低進(jìn)程訪問(wèn)緩存的平均延遲。
　　 CaLoSPS方案根據(jù)進(jìn)程對(duì)緩存的訪問(wèn)規(guī)律對(duì)進(jìn)程調(diào)度和遷移，可以降低CMP系統(tǒng)中處理核心訪問(wèn)緩存的平均延遲。同時(shí)，CaLoSPS方案減少了數(shù)據(jù)在片上網(wǎng)絡(luò)中的傳遞。仿真結(jié)果表明，CaLoSPS方案可以將緩存訪問(wèn)延遲平均降低10.65％，對(duì)某些特定基準(zhǔn)測(cè)試程序最高可以降低25.89％；對(duì)片上互連網(wǎng)絡(luò)的延遲平均可以降低19.59％，對(duì)