《《計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)》PPT課件》由會(huì)員分享，可在線閱讀，更多相關(guān)《《計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)》PPT課件（71頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、第五章標(biāo)量處理機(jī),5.1先行控制技術(shù) 5.2 流水線處理機(jī) 5.3 超標(biāo)量與超流水線處理機(jī),只有標(biāo)量數(shù)據(jù)表示和標(biāo)量指令系統(tǒng)的處理機(jī)稱為標(biāo)量處理機(jī) 提高指令執(zhí)行速度的主要途徑：(1) 提高處理機(jī)的工作主頻(2) 采用更好的算法和設(shè)計(jì)更好的功能部件(3) 采用指令級(jí)并行技術(shù) 三種指令級(jí)并行處理機(jī)：(1) 流水線處理機(jī)和超流水線(Super- pipelining)處理機(jī)(2) 超標(biāo)量(Superscalar)處理機(jī)(3) 超長(zhǎng)指令字(VLIW: Very Long Instruction Word)處理機(jī),5.1先行控制技術(shù),先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和與處理技術(shù)。,一條指令的執(zhí)行過(guò)程可以分為多
2、個(gè)階段，如： 取指 分析 執(zhí)行 可以有多種處理方式：,5.1 指令的重疊執(zhí)行方式,1、順序執(zhí)行方式 執(zhí)行n條指令所用的時(shí)間為： 如果每段時(shí)間都為t，則執(zhí)行n條指令所用的時(shí)間為： T=3nt,取指令k,分析k,執(zhí)行k,取指令k+1,分析k+1,執(zhí)行k+1,主要優(yōu)點(diǎn)：控制簡(jiǎn)單，節(jié)省設(shè)備。 主要缺點(diǎn)：執(zhí)行指令的速度慢，功能部件的利用率很低。 2、一次重疊執(zhí)行方式 一種最簡(jiǎn)單的流水線方式 如果兩個(gè)過(guò)程的時(shí)間相等，則執(zhí)行n條指令的時(shí)間為：T=(1+2n)t,取指,分析,執(zhí)行,取指,分析,執(zhí)行,取指,分析,執(zhí)行,主要優(yōu)點(diǎn)：指令的執(zhí)行時(shí)間縮短功能部件的利用率明顯提高 主要缺點(diǎn)：需要增加一些硬件控制過(guò)程稍復(fù)雜
3、,3、二次重疊執(zhí)行方式 如果三過(guò)程的時(shí)間相等，執(zhí)行n條指令的時(shí)間為：T=(2+n)t 理想情況下同時(shí)有三條指令在執(zhí)行 處理機(jī)的結(jié)構(gòu)要作比較大的改變，必須采用先行控制方式,取指k+2,分析k+2,執(zhí)行k+2,取指k+1,分析k+1,執(zhí)行k+1,取指k,分析k,執(zhí)行k,5.1.2先行控制方式的原理 1、采用二次重疊執(zhí)行方式，必須解決兩個(gè)問(wèn)題： (1) 有獨(dú)立的取指令部件、指令分析部件 和指令執(zhí)行部件 獨(dú)立的控制器： 存儲(chǔ)控制器、指令控制器、運(yùn)算控制器 (2) 要解決訪問(wèn)主存儲(chǔ)器的沖突問(wèn)題 取指令、分析指令、執(zhí)行指令都可能要訪問(wèn)存儲(chǔ)器 2、解決訪存沖突的方法： (1) 采用低位交叉存取方式： 這種方
4、法不能根本解決沖突問(wèn)題。 取指令、讀操作數(shù)、寫(xiě)結(jié)果。,(2) 兩個(gè)獨(dú)立的存儲(chǔ)器：獨(dú)立的指令存儲(chǔ)器和數(shù)據(jù)存儲(chǔ)器。 如果再規(guī)定，執(zhí)行指令所需要的操作數(shù)和執(zhí)行結(jié)果只寫(xiě)到通用寄存器，那么，取指令、分析指令和執(zhí)行指令就可以同時(shí)進(jìn)行。 在許多高性能處理機(jī)中，有獨(dú)立的指令Cache和數(shù)據(jù)Cache。 這種結(jié)構(gòu)被稱為哈佛結(jié)構(gòu)。 (3) 采用先行控制技術(shù)。 先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和預(yù)處理技術(shù)。 緩沖技術(shù)是在工作速度不固定的兩個(gè)功能部件之間設(shè)置緩沖棧，用以平滑它們的工作。 在采用了緩沖技術(shù)和預(yù)處理技術(shù)之后，運(yùn)算器能夠?qū)Ｐ挠跀?shù)據(jù)的運(yùn)算，從而大幅度提高程序的執(zhí)行速度。,5.1.2.1處理機(jī)結(jié)構(gòu),圖5.3 5.4
5、 需要解決的三個(gè)問(wèn)題： （1）指令不同，執(zhí)行與分析相互等待 （2）數(shù)據(jù)相關(guān) （3）轉(zhuǎn)移指令,5.1.2.2指令執(zhí)行順序Fig5.6 5.7 5.8,5.1.2.3先行緩沖棧 Fig5.9 先行指令緩沖棧用于平滑主存儲(chǔ)器和指令分析器的工作。 先行指令緩沖棧用于平滑分析與運(yùn)算。 先行讀數(shù)棧用于平滑主存與運(yùn)算器。 后行寫(xiě)數(shù)棧用于平滑主存與運(yùn)算器。,5.1.2.4緩沖深度的設(shè)計(jì)各個(gè)緩沖棧中的緩沖寄存器個(gè)數(shù)的設(shè)置,靜態(tài)分析法 一種極端 另一種極端,5.1.3數(shù)據(jù)相關(guān),（1）數(shù)據(jù)相關(guān)包括 指令相關(guān) 主存操作數(shù)相關(guān) 通用寄存器相關(guān) 變址相關(guān) （2）解決數(shù)據(jù)相關(guān)的途徑： 一、推后分析法 二、設(shè)置專用路徑,5.
6、1.4控制相關(guān),包括：無(wú)條件轉(zhuǎn)移、一般條件轉(zhuǎn)移、安全條件轉(zhuǎn)移。 解決方法： 1、軟件猜測(cè)法 2、硬件猜測(cè)法 3、兩個(gè)先行指令緩沖棧,5.2 流水線處理機(jī) 5.2.1 流水線工作原理 5.2.2 流水線的分類 5.2.3 線性流水線的性能分析 5.2.4 非線性流水線的調(diào)度技術(shù) 5.2.5局部相關(guān) 5.2.6全局相關(guān),處理機(jī)內(nèi)部并行性 空間并行性： 設(shè)置多個(gè)獨(dú)立的操作部件 多操作部件處理機(jī) 超標(biāo)量處理機(jī) 時(shí)間并行性：采用流水線技術(shù)。不增加或只增加少量硬件就能使運(yùn)算速度提高幾倍流水線處理機(jī)超流水線處理機(jī),5.2.1 流水線工作原理 1、簡(jiǎn)單流水線 流水線的每一個(gè)階段稱為流水步、流水步驟、流水段、流
7、水線階段、流水功能段、功能段、流水級(jí)、流水節(jié)拍等。,分析器 分析k+1,流水鎖存器,執(zhí)行部件 執(zhí)行k,流水鎖存器,輸 入,輸 出,t1,t2,在每一個(gè)流水段的末尾或開(kāi)頭必須設(shè)置一個(gè)寄存器，稱為流水寄存器、流水鎖存器、流水閘門寄存器等。會(huì)增加指令的執(zhí)行時(shí)間。 為了簡(jiǎn)化，在一般流水線中不畫(huà)出流水鎖存器。 2、一種指令流水線,取指,形成操作數(shù)地址,譯碼,取操 作數(shù),執(zhí)行,保存 結(jié)果,一般4至12個(gè)流水段，等于及大于8個(gè)流水段的稱為超流水線處理機(jī) 3、流水線的時(shí)空?qǐng)D 一條簡(jiǎn)單流水線的時(shí)空?qǐng)D：,分析k,分析k+1,分析k+2,分析k+3,執(zhí)行k,執(zhí)行k+1,執(zhí)行k+2,執(zhí)行k+3,時(shí)間,空間,0,t1,
8、t2,t3,t4,t5,一個(gè)浮點(diǎn)加法器流水線的時(shí)空?qǐng)D(由求階差、對(duì)階、尾數(shù)加和規(guī)格化4個(gè)流水段組成)：,ED1,時(shí)間,空間,0,t1,t2,t3,t4,t5,ED2,ED3,ED4,ED5,EA1,EA2,EA3,EA4,EA5,MA1,MA2,MA3,MA4,MA5,NL1,NL2,NL3,NL4,NL5,t6,t7,t8,NL：規(guī)格化,MA：尾數(shù)加,EA：對(duì)階,ED：求階差,4、流水線的主要特點(diǎn) 只有連續(xù)提供同類任務(wù)才能充分發(fā)揮流水線的效率：對(duì)于指令流水線：要盡量減少因條件分支造成的“斷流”對(duì)于操作部件：主要通過(guò)編譯技術(shù)，盡量提供連續(xù)的同類操作 在流水線的每一個(gè)流水線段中都要設(shè)置一個(gè)流水鎖
9、存器時(shí)間開(kāi)銷：流水線的執(zhí)行時(shí)間加長(zhǎng)是流水線中需要增加的主要硬件之一,各流水段的時(shí)間應(yīng)盡量相等流水線處理機(jī)的基本時(shí)鐘周期等于時(shí)間最長(zhǎng)的流水段的時(shí)間長(zhǎng)度 流水線需要有“裝入時(shí)間”和“排空時(shí)間”,裝入時(shí)間：在流水線開(kāi)始時(shí)有一段流水線填入時(shí)間，使得流水線填滿。 正常流動(dòng)時(shí)間：流水線正常工作，各功能段源源不斷滿載工作。 排空時(shí)間：在流水線第一條指令結(jié)束時(shí)，其他指令還需要一段釋放時(shí)間。,5.2.2 流水線的分類 1、線性流水線與非線性流水線 流水線的各個(gè)流水段之間是否有反饋信號(hào) 線性流水線(Linear Pipelining)每個(gè)流水段都流過(guò)一次，且僅流過(guò)一次 非線性流水線(Nonlinear Pipel
10、ining)在流水線的某些流水段之間有反饋回路或前饋回路 線性流水線能夠用流水線連接圖唯一表示非線性流水線必須用流水線連接圖流水線預(yù)約表等共同表示,S1,輸入,S2,S3,輸出,前饋回路,反饋回路,一種簡(jiǎn)單的非線性流水線,2、按照流水線的級(jí)別來(lái)分 處理機(jī)級(jí)流水線, 又稱為指令流水線 (Instruction Pipelining)例如：在采用先行控制器的處理機(jī)中，各功能部件之間的流水線,先行指令緩沖棧,輸入,先行控制方式中的指令流水線,先行指令分析器,先行讀數(shù)棧先行操作棧,取指,譯碼,取操作數(shù),指令執(zhí) 行部件,后行 寫(xiě)數(shù)棧,輸出,執(zhí)行,寫(xiě)結(jié)果,部件級(jí)流水線（操作流水線），如浮點(diǎn)加法器流水線 處
11、理機(jī)之間的流水線稱為宏流水線 (Macro Pipelining)每個(gè)處理機(jī)對(duì)同一個(gè)數(shù)據(jù)流的不同部分分別進(jìn)行處理,求階差,輸入,輸出,t1,對(duì)階,尾數(shù)加,規(guī)格化,t2,t3,t4,P1,輸 入,任務(wù)1,M,M,P2,任務(wù)2,M,P3,任務(wù)3,輸 出,3、單功能流水線與多功能流水線 單功能流水線：只能完成一種固定功能的流水線Cray-1計(jì)算機(jī)中有12條；YH-1計(jì)算機(jī)有18條；Pentium有一條5段的定點(diǎn)和一條8段的浮點(diǎn)流水線；Pentium有三條指令流水線，其中兩條定點(diǎn)指令流水線，一條浮點(diǎn)指令流水線。,多功能流水線：流水線的各段通過(guò)不同連接實(shí)現(xiàn)不同功能 Texas公司的ASC計(jì)算機(jī)中的8段流
12、水線，能夠?qū)崿F(xiàn)：定點(diǎn)加減法、定點(diǎn)乘法、浮點(diǎn)加法、浮點(diǎn)乘法、邏輯運(yùn)算、移位操作、數(shù)據(jù)轉(zhuǎn)換、向量運(yùn)算等。,4、靜態(tài)流水線與動(dòng)態(tài)流水線 靜態(tài)流水線：同一段時(shí)間內(nèi)，多功能流水線中的各個(gè)功能段只能按照一種固定的方式連接，實(shí)現(xiàn)一種固定的功能。只有連續(xù)出現(xiàn)同一種運(yùn)算時(shí)，流水線的效率才能得到充分的發(fā)揮。 動(dòng)態(tài)流水線：在同一段時(shí)間內(nèi)，多功能流水線中的各段可以按照不同的方式連接，同時(shí)執(zhí)行多種功能。,5.2.3 線性流水線的性能分析 衡量流水線性能的主要指標(biāo)有：吞吐率、加速比和效率 1、吞吐率（Through Put） 定義:單位時(shí)間內(nèi)能處理的指令條數(shù)或能輸出的數(shù)據(jù)量。吞吐率越高，計(jì)算機(jī)系統(tǒng)的處理能力就越強(qiáng)。就流水
13、線而言，吞吐率就是單位時(shí)間內(nèi)能流出的任務(wù)數(shù)或能流出的結(jié)果數(shù)。 求流水線吞吐率的最基本公式：TP = n / Tk n為任務(wù)數(shù), Tk為完成n個(gè)任務(wù)所用時(shí)間 各段執(zhí)行時(shí)間相等，輸入連續(xù)任務(wù)情況下完成n個(gè)連續(xù)任務(wù)需要的總時(shí)間為：Tk= (k+n-1) t k為流水線的段數(shù)， t為時(shí)鐘周期,吞吐率：最大吞吐率為： 各段執(zhí)行時(shí)間不相等、輸入連續(xù)任務(wù)情況下：吞吐率為：最大吞吐率為：,2、加速比（Speedup） 計(jì)算流水線加速比的基本公式：S = 順序執(zhí)行時(shí)間T0 / 流水線執(zhí)行時(shí)間Tk 各段執(zhí)行時(shí)間相等，輸入連續(xù)任務(wù)情況下加速比為： 最大加速比為： 各段執(zhí)行時(shí)間不等，輸入連續(xù)任務(wù)情況下實(shí)際加速比為：,
14、3、效率（Efficiency） 定義：設(shè)備的利用率，直接反映了處理機(jī)結(jié)構(gòu)有效程度。 計(jì)算流水線效率的一般公式： 各流水段執(zhí)行時(shí)間相等，輸入n個(gè)連續(xù)任務(wù)流水線的效率為： 流水線的最高效率為： 各流水段執(zhí)行時(shí)間不等，輸入n個(gè)連續(xù)任務(wù)流水線的效率為：,流水線各段的設(shè)備量或各段的價(jià)格不相等時(shí)：流水線的效率為：即：其中，ai k，且,流水線的吞吐率、加速比與效率的關(guān)系：因?yàn)橐虼耍篍=TP t ，S=kE 5、流水線性能分析舉例 對(duì)于單功能線性流水線，輸入連續(xù)任務(wù)的情況，通過(guò)上面給出的公式很容易計(jì)算出流水線的吞吐率、加速比和效率。,例5.1：用一條4段浮點(diǎn)加法器流水線求8個(gè)浮點(diǎn)數(shù)的和：ZABCDEFGH
15、 分析： 1、線性流水線，輸入任務(wù)不連續(xù) 2、存在數(shù)據(jù)相關(guān)，如只有A+B的運(yùn)算結(jié)果出來(lái)之后才能做加C的運(yùn)算 3、如果這樣，與順序執(zhí)行方式完全一樣 4、如果作如下變換： Z = (A+B) + (C+D) + (E+F) + (G+H) 小括號(hào)內(nèi)的操作之間，沒(méi)有數(shù)據(jù)相關(guān)，可以連續(xù)輸入到流水線中。,解：Z = (A+B) + (C+D) + (E+F) + (G+H),1,時(shí)間,空間,2,3,求階差,4,5,6,7,1,2,3,4,5,6,7,1,2,3,4,5,6,7,1,2,3,4,5,6,7,對(duì)階,尾數(shù)加,規(guī)格化,加數(shù),A,C,E,G,A+B,E+F,B,D,F,H,C+D,G+H,A+B+
16、C+D,E+F+G+H,結(jié)果,A+B,C+D,E+F,G+H,A+B+C+D,E+F+G+H,7個(gè)浮點(diǎn)加法共用了15個(gè)時(shí)鐘周期。流水線的吞吐率為：流水線的加速比為：流水線的效率為：,5.2.4非流水線的調(diào)度技術(shù),5.2.4.1非線性流水線的表示 1、一條非流水線一般需要一個(gè)各功能段之間的連接圖和一張預(yù)約表共同來(lái)表示。 2、一張非線性流水線的預(yù)約表可能與多個(gè)非線性流水線連接圖相對(duì)應(yīng) 3、一個(gè)非線性流水線的連接圖也可能對(duì)應(yīng)有多張預(yù)約表,5.2.4.2非線性流水線的沖突,向一條非線性流水線的輸入端連續(xù)輸入兩個(gè)任務(wù)之間的時(shí)間間隔稱為非線性流水線的啟動(dòng)距離或等待時(shí)間。 非線性流水線的沖突：某一個(gè)或幾個(gè)功
17、能段中發(fā)生的多個(gè)任務(wù)同時(shí)爭(zhēng)用同一功能段的情況。 禁止啟動(dòng)距離：引起非線性流水線功能段沖突的啟動(dòng)距離。所有的禁止啟動(dòng)距離為沖突向量。 非線性流水線中，不發(fā)生沖突的啟動(dòng)距離通常情況下是一個(gè)循環(huán)數(shù)列。 恒定循環(huán)。,5.2.4.3無(wú)沖突調(diào)度方法,對(duì)于一張有K列的預(yù)約表，則有m=k-1。禁止向量用C=（CmC3C2C1）, 如果i在禁止向量中，則Ci=1，否則Ci=0，其中Cm一定為1，因?yàn)閙比在禁止向量中。 一張預(yù)約表對(duì)應(yīng)一個(gè)狀態(tài)圖 不同的預(yù)約也可能有相同的狀態(tài)圖,5.2.4.4優(yōu)化調(diào)度方法,1、最小平均啟動(dòng)距離的下限是任意一行中“叉號(hào)”的最多個(gè)數(shù)。 2、最小平均啟動(dòng)距離小于或等于任意一個(gè)簡(jiǎn)單循環(huán)的平
18、均啟動(dòng)距離。 3、最小平均啟動(dòng)距離的上限是1的個(gè)數(shù)加1。 上述方法適用于單功能非線性流水線和靜態(tài)多功能非線性流水線。,5.2.5局部相關(guān),5.2.5.1順序流動(dòng)與亂序流動(dòng) 先寫(xiě)后讀寫(xiě)讀 先讀后寫(xiě)讀寫(xiě) 寫(xiě)寫(xiě) B0和B2之間的相關(guān)是全局相關(guān)，B2內(nèi)部的相關(guān)是局部相關(guān)。,5.2.5.2數(shù)據(jù)相關(guān)及其避免方法,先寫(xiě)后讀 先讀后寫(xiě) 寫(xiě)寫(xiě) 避免方式： （1）延遲執(zhí)行 （2）建立專用路徑如采用分散控制的公共數(shù)據(jù)總線法，采用集中控制的CDC記分牌法等。,5.2.5.3 數(shù)據(jù)重定向,P308 圖5.62 P309 圖5.63,5.2.5.4 Tomasula動(dòng)態(tài)指令調(diào)度算法令牌法,5.2.6 全局相關(guān),全局相關(guān)是
19、由條件轉(zhuǎn)移或程序中斷引起的相關(guān)，也叫控制相關(guān)。 5.2.6.1 轉(zhuǎn)移的影響 為了不破壞通用寄存器和主存儲(chǔ)器中的內(nèi)容，有兩種方法： （1）只進(jìn)行指令譯碼和準(zhǔn)備好運(yùn)算所需要的操作數(shù)，在轉(zhuǎn)移條件沒(méi)有形成之前不執(zhí)行運(yùn)算。簡(jiǎn)單 （2）一直執(zhí)行運(yùn)算，但不送回運(yùn)算結(jié)果。設(shè)置緩沖器，回送結(jié)果復(fù)雜,減少條件轉(zhuǎn)移指令影響可采取的措施 1、延遲轉(zhuǎn)移技術(shù)和指令取消技術(shù) 2、靜轉(zhuǎn)移預(yù)測(cè)技術(shù) 3、動(dòng)態(tài)轉(zhuǎn)移預(yù)測(cè)技術(shù),5.2.6.2動(dòng)態(tài)轉(zhuǎn)移預(yù)測(cè)技術(shù),動(dòng)態(tài)轉(zhuǎn)移預(yù)測(cè)技術(shù)要解決的兩個(gè)問(wèn)題： （1）如何記錄轉(zhuǎn)移歷史信息。 （2）如何根據(jù)所記錄的轉(zhuǎn)移歷史信息預(yù)測(cè)轉(zhuǎn)移的方向。,三種動(dòng)態(tài)轉(zhuǎn)移預(yù)測(cè)技術(shù),方法一：在指令Cache中記錄轉(zhuǎn)移歷史
20、信息 方法二：轉(zhuǎn)移目標(biāo)地址緩沖棧 方法三：轉(zhuǎn)移目標(biāo)指令緩沖棧 5.2.6.3提前形成條件碼 5.2.6.4精確斷點(diǎn)與不精確斷點(diǎn) 不精確斷點(diǎn)最后進(jìn)入流水線的那條指令的地址 精確斷點(diǎn)從中間進(jìn)入流水線的那條指令的地址,5.3超標(biāo)量處理機(jī)與超流水線處理機(jī),指令級(jí)并行處理機(jī)： 超標(biāo)量 m 超流水線 n 超標(biāo)量超流水線 （m,n） 區(qū)別：一般流水線處理機(jī)，具有一個(gè)多功能的操作部件。ILP1,5.3.1 超標(biāo)量處理機(jī) 5.3.1 .1基本結(jié)構(gòu) 5.3.1.2 單發(fā)射與多發(fā)射 5.3.1.3 超標(biāo)量處理機(jī)性能,5.3.1 基本結(jié)構(gòu),典型結(jié)構(gòu) （1）多個(gè)操作部件。 （2）一個(gè)或幾個(gè)較大的通用寄存器堆。 （3）一
21、個(gè)或兩個(gè)高速Cache. 先進(jìn)的 （1）三個(gè)處理單元 包括 A 定點(diǎn)CPU-由多個(gè)整數(shù)處理部件組成。 B 浮點(diǎn)CPU-浮點(diǎn)加法和乘除部件組成。 C 圖形加速部件 （2）大量的寄存器,5.3.1.2 單發(fā)射與多發(fā)射 單發(fā)射處理機(jī)：取指、譯碼各設(shè)置一套，ILP的期望值1。一般為ILP1 多發(fā)射處理機(jī)：取指、譯碼各設(shè)置兩套以上，ILP的期望值m。一般為1ILPm 先行至另窗口可以先發(fā)射無(wú)數(shù)據(jù)相關(guān)的指令。,5.3.1.3多流水線調(diào)度,指令的發(fā)射順序與完成順序 （1）順序發(fā)射順序完成 （2）順序發(fā)射亂序完成 （3）亂序發(fā)射順序完成 其中（1）和（2）均未用先行指令窗口 Fig 5.74 5.75 5.7
22、6 及程序,5.3.1.4資源沖突,以無(wú)流水線的操作與有流水線的操作相比，后者比前者少了3個(gè)時(shí)鐘周天氣，“忙”標(biāo)志觸發(fā)器。 每個(gè)時(shí)鐘發(fā)射m條指令，對(duì)延遲時(shí)間為K個(gè)時(shí)鐘周期的操作。不用流水線結(jié)構(gòu)則使用同一個(gè)部件的兩條指令的序號(hào)用那個(gè)該至少相差m*k.若用流水線，則相差m個(gè)，則不沖突。,5.3.1.5超標(biāo)量處理機(jī)性能 N條指令在單流水線普通標(biāo)量處理機(jī)上的執(zhí)行時(shí)間: T(1,1)=(k+N-1)t，k是流水級(jí)數(shù)，t為始終周期 N條指令在一臺(tái)每個(gè)時(shí)鐘周期發(fā)射m條指令的超標(biāo)量處理機(jī)上所需時(shí)間： T(m,1)=k+(N-m)/m t 則相對(duì)于單流水線普通標(biāo)量處理機(jī)的加速比為： S(m,1)=T(1,1)/
23、T(m,1)=m(k+N-1)/N+m(k-1) 當(dāng)N趨近于無(wú)窮大時(shí)，S(m,1)max=m,5.3.2超流水線處理機(jī) 兩種定義：一個(gè)周期內(nèi)能夠分時(shí)發(fā)射多條指令的處理機(jī)稱為超流水線處理機(jī) 兩種不同并行性：超標(biāo)量處理機(jī)采用的是空間并行性超流水線處理機(jī)采用的是時(shí)間并行性,5.3.2.1 指令執(zhí)行時(shí)序 每隔1/n個(gè)時(shí)鐘周期發(fā)射一條指令，流水線周期為1/n個(gè)時(shí)鐘周期 在超標(biāo)量處理機(jī)中，流水線的有些功能段還可以進(jìn)一步細(xì)分 例如：ID功能段可以再細(xì)分為譯碼、讀第一操作數(shù)和讀第二操作數(shù)三個(gè)流水段。也有些功能段不能再細(xì)分，如WR功能段一般不再細(xì)分。因此有超流水線的另外一種定義：有8個(gè)或8個(gè)以上流水段的處理機(jī)稱
24、為超流水線處理機(jī),5.3.2.2 典型處理機(jī)結(jié)構(gòu) MIPS R4000處理機(jī)每個(gè)時(shí)鐘周期包含兩個(gè)流水段，是一種很標(biāo)準(zhǔn)的超流水線處理機(jī)結(jié)構(gòu)。指令流水線有8個(gè)流水段 有兩個(gè)Cache，指令Cache和數(shù)據(jù)Cache的容量各8KB，每個(gè)時(shí)鐘周期可以訪問(wèn)Cache兩次，因此在一個(gè)時(shí)鐘周期內(nèi)可以從指令Cache中讀出兩條指令，從數(shù)據(jù)Cache中讀出或?qū)懭雰蓚€(gè)數(shù)據(jù)。 主要運(yùn)算部件有整數(shù)部件和浮點(diǎn)部件,5.3.2.3 超流水線處理機(jī)性能 指令級(jí)并行度為(1,n)的超流水線處理機(jī)，執(zhí)行N條指令所的時(shí)間為： K是指令流水線的時(shí)鐘周期數(shù)，而不是流水線級(jí)數(shù) 超流水線處理機(jī)相對(duì)于單流水線普通標(biāo)量處理機(jī)的加速比為：,即
25、： 超流水線處理機(jī)的加速比的最大值為：S(1,n)MAX = n,5.3.3 超標(biāo)量超流水線處理機(jī) 把超標(biāo)量與超流水線技術(shù)結(jié)合在一起，就成為超標(biāo)量超流水線處理機(jī)從開(kāi)發(fā)程序的指令級(jí)并行性來(lái)看 （1）超標(biāo)量開(kāi)發(fā)空間并行性依靠多個(gè)操作在重復(fù)設(shè)置的部件上并行操作來(lái)提高速度。 （2）超標(biāo)量開(kāi)發(fā)時(shí)間并行性在同一個(gè)部件操作上重疊操作。 5.3.3.1 指令執(zhí)行時(shí)序 5.3.3.2 典型處理機(jī)結(jié)構(gòu) 5.3.3.3 超標(biāo)量超流水線處理機(jī)性能,5.5.1 指令執(zhí)行時(shí)序 超標(biāo)量超流水線處理機(jī)在一個(gè)時(shí)鐘周期內(nèi)分時(shí)發(fā)射指令n次，每次同時(shí)發(fā)射指令m條，每個(gè)時(shí)鐘周期總共發(fā)射指令m n條。,IF,時(shí)鐘周期,指令,I1,I2,
26、I3,ID,EX,WR,1,2,3,4,5,I4,I5,I6,I7,I8,I9,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,IF,ID,EX,WR,I10,I11,I12,每時(shí)鐘周期發(fā)射3次,每次3條指令,5.5.2 典型處理機(jī)結(jié)構(gòu) DEC公司的Alpha處理機(jī)采用超標(biāo)量超流水線結(jié)構(gòu)。主要由四個(gè)功能部件和兩個(gè)Cache組成：整數(shù)部件EBOX、浮點(diǎn)部件FBOX、地址部件ABOX和中央控制部件IBOX。
27、中央控制部件IBOX可以同時(shí)從指令Cache中讀入兩條指令，同時(shí)對(duì)讀入的兩條指令進(jìn)行譯碼，并且對(duì)這兩條指令作資源沖突檢測(cè)，進(jìn)行數(shù)據(jù)相關(guān)性和控制相關(guān)性分析。如果資源和相,關(guān)性允許，IBOX就把兩條指令同時(shí)發(fā)射給EBOX、ABOX和FBOX三個(gè)指令執(zhí)行部件中的兩個(gè)。 指令流水線采用順序發(fā)射亂序完成的控制方式。在指令Cache中有一個(gè)轉(zhuǎn)移歷史表，實(shí)現(xiàn)條件轉(zhuǎn)移的動(dòng)態(tài)預(yù)測(cè)。在EBOX內(nèi)還有多條專用數(shù)據(jù)通路，可以把運(yùn)算結(jié)果直接送到執(zhí)行部件。 Alpha 21064處理機(jī)共有三條指令流水線整數(shù)操作流水線和訪問(wèn)存儲(chǔ)器流水線分為7個(gè)流水段，其中，取指令和分,析指令為4個(gè)流水段，運(yùn)算2個(gè)流水段，寫(xiě)結(jié)果1個(gè)流水段。
28、浮點(diǎn)操作流水線分為10個(gè)流水段，其中，浮點(diǎn)執(zhí)行部件FBOX的延遲時(shí)間為6個(gè)流水段。 所有指令執(zhí)行部件EBOX、IBOX、ABOX和FBOX中都設(shè)置由專用數(shù)據(jù)通路。 Alpha 21064處理機(jī)的三條指令流水線的平均段數(shù)為8段，每個(gè)時(shí)鐘周期發(fā)射兩條指令。因此，Alpha 21064處理機(jī)是超標(biāo)量超流水線處理機(jī)。,5.5.3 超標(biāo)量超流水線處理機(jī)性能 指令級(jí)并行度為(m,n)的超標(biāo)量超流水線處理機(jī)，連續(xù)執(zhí)行N條指令所需要的時(shí)間為： 超標(biāo)量超流水線處理機(jī)相對(duì)于單流水線標(biāo)量處理機(jī)的加速比為：,在理想情況下，超標(biāo)量超流水線處理機(jī)加速比的最大值為： S(m, n)MAXm n,本 章 重 點(diǎn) 1、指令的重疊執(zhí)行方式及時(shí)空?qǐng)D表示方法 2、線性流水線的性能分析及計(jì)算 3、超標(biāo)量處理機(jī)的指令執(zhí)行時(shí)序及性能 4、超流水線處理機(jī)的指令執(zhí)行時(shí)序及性能 5、超標(biāo)量超流水線處理機(jī)的指令執(zhí)行時(shí)序 及性能,
《計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)》PPT課件
