流水和指令級(jí)高度并行的超級(jí)機(jī)

1、第五章流水和指令級(jí)高度并行的超級(jí)機(jī),,加速機(jī)器語(yǔ)言解釋的兩種方式,通過(guò)選用更高速的器件，采用更好的運(yùn)算方法、提高指令內(nèi)各微操作的并行程度，減少解釋過(guò)程所需要的拍數(shù)，以加快每條指令的解釋。通過(guò)控制機(jī)構(gòu)采用同時(shí)解釋兩條、多條以至整段程序的控制方式，加快整個(gè)機(jī)器語(yǔ)言程序的解釋。重疊、流水。,What Is Pipelining,Laundry（洗衣） ExampleAnn, Brian, Cathy, Dave each have

2、 one load of clothes to wash, dry, and foldWasher takes 30 minutesDryer takes 40 minutes“Folder” takes 20 minutes,What Is Pipelining,Sequential laundry takes 6 hours for 4 loadsIf they learned pipelining, how long

3、 would laundry take?,30,40,20,,,,30,40,20,,,,30,40,20,,,,30,40,20,,,,6 PM,,,7,8,9,10,11,Midnight,TaskOrder,,Time,What Is Pipelining Start work ASAP,Pipelined laundry takes 3.5 hours for 4 loads,6 PM,,,7,8,9,10

4、,11,Midnight,TaskOrder,,Time,Pipelining Lessons,Pipelining doesn’t help latency of single task, it helps throughput of entire workloadPipeline rate limited by slowest pipeline stageMultiple tasks operating sim

5、ultaneouslyPotential speedup = Number pipe stagesUnbalanced lengths of pipe stages reduces speedupTime to “fill” pipeline and time to “drain（排出）” it reduces speedup,6 PM,,,7,8,9,TaskOrder,,Time,What Is Pipeli

6、ning,目錄,重疊方式 流水方式 向量的流水處理與向量流水處理機(jī) 指令級(jí)高度并行的超級(jí)處理機(jī),§1 重疊方式,基本思想和一次重疊 相關(guān)處理,順序解釋與重疊解釋,順序解釋,重疊解釋的一種方式,一次重疊的工作方式,基本思想和一次重疊,順序解釋?zhuān)焊鳁l機(jī)器指令之間順序串行地執(zhí)行，執(zhí)行完一條指令后采取出下條指令來(lái)執(zhí)行，而且每條指令內(nèi)部的各個(gè)微操作也是順序串行地執(zhí)行。 優(yōu)點(diǎn)：控制簡(jiǎn)單。重疊解釋?zhuān)涸诮忉尩趉條指令的操作完成之

7、前，就可開(kāi)始解釋第k+1條指令不能加快一條指令的實(shí)現(xiàn)但能加快相鄰兩條以至一段程序的解釋,時(shí)間重疊，解決訪存沖突,操作數(shù)和指令分存于兩個(gè)獨(dú)立編址且可同時(shí)訪問(wèn)的存儲(chǔ)器，有利于實(shí)現(xiàn)指令保護(hù)，增加總線控制和軟件設(shè)計(jì)的復(fù)雜性混存，采用多體交叉主存結(jié)構(gòu)增設(shè)指令緩沖寄存器,解決訪存沖突（續(xù)）,在硬件上，保證又獨(dú)立的指令分析部件和指令執(zhí)行部件； 兩部分執(zhí)行的時(shí)間常常不相同，在硬件上解決好控制上的同步； 控制上的其他問(wèn)題指令轉(zhuǎn)移，下圖,相關(guān)

8、問(wèn)題,數(shù)相關(guān)：第k、k+1條指令的數(shù)據(jù)地址之間有了關(guān)聯(lián)。數(shù)相關(guān)不僅發(fā)生在主存空間，還會(huì)發(fā)生在通用寄存器空間指令相關(guān)：采用Von Neumann型機(jī)器上指令可修改的辦法經(jīng)第k條指令的執(zhí)行來(lái)形成第k+1條指令,指令相關(guān)的處理,原因：Von Neumann型機(jī)器的指令允許修改。解決：在程序執(zhí)行過(guò)程中，不準(zhǔn)修改指令，除可解決指令相關(guān)，也可實(shí)現(xiàn)程序的可再入性和程序的遞歸調(diào)用。,主存空間數(shù)相關(guān)的處理,相鄰兩條指令之間要求對(duì)主存同一單元線寫(xiě)入

9、而后再讀出的關(guān)聯(lián)。解決：延遲。,通用寄存器數(shù)相關(guān)處理,延遲和設(shè)置“相關(guān)專(zhuān)用通路”是解決重疊方式相關(guān)處理的兩種基本方法。前者設(shè)備不變，降低速度；后者增加設(shè)備，效率不變。,舉例,假設(shè)指令：操作碼 L1 L3 B2 d2L1,L3分別指明存放第一操作數(shù)和結(jié)果數(shù)的通用寄存器號(hào)B2為形成第二操作數(shù)地址的基址值所在的通用寄存器號(hào)D2為相對(duì)位移量,指令解釋過(guò)程中與通用寄存器內(nèi)容有關(guān)的微操作時(shí)間關(guān)系,存結(jié)果,“執(zhí)行”、“分析”重疊時(shí)

10、，訪問(wèn)通用寄存器組的時(shí)間關(guān)系,,當(dāng)程序執(zhí)行過(guò)程中出現(xiàn)L1(k+1)=L3(k),就發(fā)生L1相關(guān)；而當(dāng)L2(k+1)=L3(k),就發(fā)生L2相關(guān)；解決：退后，延遲設(shè)備不增加，速度降低，適合于相關(guān)概率低設(shè)置“相關(guān)專(zhuān)用通路”增加設(shè)備，效率不會(huì)明顯下降，適合于相關(guān)概率高,用相關(guān)專(zhuān)用通路解決通用寄存器組的數(shù)相關(guān),順序執(zhí)行方式,執(zhí)行n條指令所用的時(shí)間為：如每段時(shí)間都為t，則執(zhí)行n條指令所用的時(shí)間為：T=3nt主要優(yōu)點(diǎn)：控制

11、簡(jiǎn)單，節(jié)省設(shè)備主要缺點(diǎn)：執(zhí)行指令的速度慢，功能部件的利用率很低。,一次重疊執(zhí)行方式(一種最簡(jiǎn)單的流水線方式),如果兩個(gè)過(guò)程的時(shí)間相等，則執(zhí)行n條指令的時(shí)間為：T=(1+2n)t主要優(yōu)點(diǎn)：指令的執(zhí)行時(shí)間縮短功能部件的利用率明顯提高主要缺點(diǎn)：需要增加一些硬件控制過(guò)程稍復(fù)雜,二次重疊執(zhí)行方式,如果三過(guò)程的時(shí)間相等，執(zhí)行n條指令的時(shí)間為：T=(2+n)t理想情況下同時(shí)有三條指令在執(zhí)行處理機(jī)的結(jié)構(gòu)要作比較大的改變，必須采用先行

12、控制方式,先行控制方式的原理,采用二次重疊執(zhí)行方式，必須解決兩個(gè)問(wèn)題：有獨(dú)立的取指令部件、指令分析部件和指令執(zhí)行部件 獨(dú)立的控制器：存儲(chǔ)控制器、指令控制器、運(yùn)算控制器要解決訪問(wèn)主存儲(chǔ)器的沖突問(wèn)題 取指令、分析指令、執(zhí)行指令都可能要訪問(wèn)存儲(chǔ)器解決訪存沖突的方法：采用低位交叉存取方式：這種方法不能根本解決沖突問(wèn)題。,先行控制方式的原理（續(xù)）,兩個(gè)獨(dú)立的存儲(chǔ)器：獨(dú)立的指令存儲(chǔ)器和數(shù)據(jù)存儲(chǔ)器。如果再規(guī)定，執(zhí)行指令所需

13、要的操作數(shù)和執(zhí)行結(jié)果只寫(xiě)到通用寄存器，那么，取指令、分析指令和執(zhí)行指令就可以同時(shí)進(jìn)行。 在許多高性能處理機(jī)中，有獨(dú)立的指令Cache和數(shù)據(jù)Cache。 這種結(jié)構(gòu)被稱(chēng)為哈佛結(jié)構(gòu)(Harvard architecture)。,先行控制方式的原理（續(xù)）,采用先行控制技術(shù)。先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和預(yù)處理技術(shù)。緩沖技術(shù)是在工作速度不固定的兩個(gè)功能部件之間設(shè)置緩沖棧，用以平滑它們的工作。在采用了緩沖技術(shù)和預(yù)處理技術(shù)之后，運(yùn)