《計(jì)算機(jī)原理》PPT課件

計(jì)算機(jī)原理 第四章 評(píng)估和理解計(jì)算機(jī)性能 2 本講簡(jiǎn)要說(shuō)明 目的 與要求：掌握計(jì)算機(jī)中的 性能評(píng)價(jià) 授課重點(diǎn)： 計(jì)算機(jī)性能指標(biāo) 授課難點(diǎn)： 如何合理評(píng)價(jià)計(jì)算機(jī)的性能 閱讀章節(jié)： Computer Organization and Design 第 4章， 計(jì)算機(jī)原理和設(shè)計(jì) 第 1 章第 4節(jié) 作業(yè)安排： Computer Organization and Design P272 4.1、 4.2、 4. 3 (選做 ) 、 4.10 、 4.11和 4.14 (選做 )題 3 制造成本（ manufacturing cost） 衡量計(jì)算機(jī)性能的基本指標(biāo) 響應(yīng)時(shí)間（ Response Time） 執(zhí)行時(shí)間（ Execution Time）、等待時(shí)間（ Latency） 吞吐量（ Throughput ） 帶寬（ Bandwidth） 指令執(zhí)行速度（ MIPS、 MFLOPS） 計(jì)算機(jī)性能評(píng)估 CPU Time=cycle time CPI Instructions / program 基準(zhǔn)程序（ Benchmark） 主要內(nèi)容 4 單晶硅錠 圓形薄片 / 硅拋光片 （ 6/8/12寸 ,厚度不足 1mm） IC小片 / 芯片 不合格的用磁 漿點(diǎn)上記號(hào) 封裝：將芯片固定在塑膠或陶瓷基座上，把芯片上蝕刻出來(lái) 的引線與基座底部伸出的引腳連接，蓋上蓋板并封焊成芯片 約需 400多道工序！ “晶圓” / 大芯 片 Integrated Circuits Costs manufacturing process 在考察性能前，先考察成本！ 5 Integrated Circuits Costs 公式 Die cost = Dies per wafer = Die Yield = 每個(gè)圓晶片上的小片數(shù)、集成電路成本都與芯片面積有關(guān)！ a r e aD ie a r e aw a f e r _ _ Y ie ldw a f e rp e rD ie w a f t e rp e rC o s t _ _ 小片合格率 與芯片成本有關(guān)的因素 圓晶價(jià)格 圓晶所含小片數(shù) 小片合格率 2 ) _ _ _ ( 1 ( 1 area Die area per Defect x + 6 IC cost = Die cost + Testing cost + Packaging cost Final test yield 封裝成本（ Packaging cost） : 取決于引腳數(shù)、散熱性等 Other Costs Chip Die Package Test 序列 2 有 6條 . 序列 1 需 2 1+1 2+2 3=10 cycles; 序列 2 需 4 1+1 2+1 3=9 cycles 序列 1 的 CPI=10/5=2; 序列 2 的 CPI=9/6=1.5 雖然序列 2的指令條數(shù) 更多，但速度更快！ 26 Marketing Metrics （產(chǎn)品宣稱指標(biāo)） MIPS = Instruction Count / Execution Time 106 = Clock Rate / CPI 106 一種用來(lái)代替執(zhí)行時(shí)間的指標(biāo) Million Instructions Per Seconds 因?yàn)槊織l指令執(zhí)行時(shí)間不同，所以 MIPS是一個(gè)平均值 不同機(jī)器的指令集不同 程序由不同的指令混合而成 指令使用的頻度動(dòng)態(tài)變化 Peak MIPS（不實(shí)用） MIPS數(shù)不能說(shuō)明性能的好壞？ MFLOPS = FP Operations / Execution Time 106 Million Floating-point Operations Per Second 與機(jī)器相關(guān)性大 并不是程序中花時(shí)間的部分 用 MIPS數(shù)表示性 能有沒有局限 ? 用 MFLOPS數(shù)表示 性能也有局限！ 27 Example: MIPS數(shù)不可靠！ Consider the computer with three instruction classes and CPI measurements from the example 4. Now suppose we measure the code for the same program from two different compilers and obtain the following data: Assume that the computers clock rate is 4GHz. Which code sequence will execute faster according to MIPS? According to execution time? CPU clock cycles 1 = (5 1+1 2+1 3) 109 = 10 109 CPU clock cycles 2 = (10 1+1 2+1 3) 109 = 15 109 Execution time 1 = 10 109 / 4 109 = 2.5 seconds Execution time 2 = 15 109 / 4 109 = 3.75 seconds MIPS 1 = (5+1+1) 109 / 2.5 106 = 2800 MIPS 2 = (10+1+1) 109 / 3.75 106 = 3200 結(jié)論： 來(lái)自 compiler2 產(chǎn)生代碼的 MIPS高， 而 來(lái)自 compiler1產(chǎn)生 的代碼的執(zhí)行時(shí)間快 。 28 選擇性能評(píng)價(jià)程序（ Benchmarks） 用基準(zhǔn)程序來(lái)評(píng)測(cè)計(jì)算機(jī)的性能 基準(zhǔn)測(cè)試程序是專門用來(lái)進(jìn)行性能評(píng)價(jià)的一組程序 不同用戶使用的計(jì)算機(jī)用不同的基準(zhǔn)程序 基準(zhǔn)程序通過(guò)運(yùn)行實(shí)際負(fù)載來(lái)反映計(jì)算機(jī)的性能 最好的基準(zhǔn)程序是用戶實(shí)際使用的程序或典型的簡(jiǎn)單程序 基準(zhǔn)程序的缺陷 現(xiàn)象：基準(zhǔn)程序的性能與某段短代碼密切相關(guān)時(shí)，會(huì)被利 用以得到不當(dāng)?shù)男阅茉u(píng)測(cè)結(jié)果 手段：硬件系統(tǒng)設(shè)計(jì)人員或編譯器開發(fā)者針對(duì)這些代碼片 段進(jìn)行特殊的優(yōu)化，使得執(zhí)行這段代碼的速度非常快 例 1： Intel Pentium處理器運(yùn)行 SPECint時(shí)用了公司內(nèi)部使用的特 殊編譯器，使其性能極高 例 2：矩陣乘法程序 SPECmatrix300有 99%的時(shí)間運(yùn)行在一行語(yǔ)句 上，有些廠商用特殊編譯器優(yōu)化該語(yǔ)句，使性能達(dá) VAX11/780的 729.8倍 ！ 29 用于性能評(píng)估的程序 (Toy) Benchmarks（短小基準(zhǔn)程序） 程序短小容易編譯，便于仿真或手工編譯，因而可用于對(duì)新 開發(fā)的機(jī)器進(jìn)行性能評(píng)測(cè) . （因?yàn)樾聶C(jī)器往往沒有配編譯器） 大?。?10-100 line 例： sieve, puzzle, quicksort 缺陷：不是實(shí)際使用的程序，只用于新開發(fā)的計(jì)算機(jī)。 Synthetic Benchmarks（綜合基準(zhǔn)程序） 目的：試圖用一個(gè)基準(zhǔn)程序去涵蓋一系列基準(zhǔn)程序的特征 做法：使各種語(yǔ)句的執(zhí)行頻度與一系列基準(zhǔn)程序中的頻度一 致 例： Whetstone(Algol 60Fortran), Dhrystone(AdaC) 缺陷：不是實(shí)際用的程序，可特殊優(yōu)化使評(píng)測(cè)結(jié)果優(yōu)，但實(shí) 際并不如此 Kernels（核心程序段） 實(shí)際程序中的耗時(shí)較多的關(guān)鍵片斷 通常用在科學(xué)計(jì)算領(lǐng)域測(cè)試某個(gè)特殊功能的性能 例： Livermore loops(21 loops), Linpack(linear algebra) Real programs（頻繁使用的實(shí)際程序） e.g., gcc, spice 30 Successful Benchmark: SPEC 1988年， 5家公司（ Sun, MIPS, HP, Apollo, DEC ）聯(lián)合 提出 Systems Performance Evaluation Committee (SPEC) SPEC給出一組標(biāo)準(zhǔn)的測(cè)試程序、標(biāo)準(zhǔn)輸入和測(cè)試報(bào)告。 它們是一些實(shí)際的程序，包括 OS calls、 I/O等 版本 89： 10 programs = 4 for integer + 6 for FP, 用每個(gè)程 序的執(zhí)行時(shí)間求出一個(gè)綜合性能指標(biāo) 版本 92： SPECInt92 (6 integer programs) and SPECfp92 (14 floating point programs) 整數(shù)和浮點(diǎn)數(shù)單獨(dú)提供衡量指標(biāo)： SPECInt92和 SPECfp92 增加 SPECbase: 禁止使用任何與程序有關(guān)的編譯優(yōu)化開關(guān) 版本 95： 8 int + 10fp 較新版本： include SPEC HPC96, SPEC JVM98, SPEC WEB99, SPEC OMP2001. SPEC CPU2000 http:/www.spec.org for more details benchmarks useful for 3 years Base machine is changed from VAX-11/780 to Sun SPARC 10/40 31 如何給出綜合評(píng)價(jià)結(jié)果 ? Program 1: 1 sec on machine A, 10 sec on machine B Program 2: 1000 sec on A， 100 sec on B What are your conclusions? A is 10 times faster than B for program1. B is 10 times faster than A for Program2. 一種簡(jiǎn)單的綜合評(píng)價(jià)指標(biāo) Total execution time B is 1001/110=9.1 times faster than A 實(shí)際上，須考慮每個(gè)程序在作業(yè)中的使用頻度，即加權(quán)平均 問(wèn)題：如果用一組基準(zhǔn)程序在不同的機(jī)器上測(cè)出了 運(yùn)行時(shí)間，那么如何綜合評(píng)價(jià)機(jī)器的性能呢？ 例： 無(wú)法比較 A和 B的 好壞，須用一個(gè) 綜合的值來(lái)表示 32 綜合性能評(píng)價(jià)的方法 可用兩種平均值來(lái)評(píng)價(jià)性能 Arithmetic mean(算術(shù)平均 )：求和后除 n Geometric mean(幾何平均 )：求積后開根號(hào) n 根據(jù)算術(shù)平均執(zhí)行時(shí)間能得到程序總平均執(zhí)行時(shí)間 根據(jù)幾何平均執(zhí)行時(shí)間不能得到程序總的執(zhí)行時(shí)間 執(zhí)行時(shí)間的規(guī)格化 (測(cè)試機(jī)器相對(duì)于參考機(jī)器的性能 ) time on reference machine time on measured machine 平均規(guī)格化執(zhí)行時(shí)間不能用算術(shù)平均來(lái)計(jì)算，而應(yīng) 該用幾何平均 program A going from 2 seconds to 1 second as important as program B going from 2000 seconds to 1000 seconds. （算術(shù)平均值不能反映這一點(diǎn)！） 算術(shù)平均和幾何平均各有長(zhǎng)處，可靈活使用！ 33 Impact of Means on SPECmark89 for IBM 550 Ratio to VAX: Time: Weighted Time: Program Before After Before After Before After gcc 30 29 49 51 8.91 9.22 espresso 35 34 65 67 7.64 7.86 spice 47 47 510 510 5.69 5.69 doduc 46 49 41 38 5.81 5.45 nasa7 78 144 258 140 3.43 1.86 li 34 34 183 183 7.86 7.86 eqntott 40 40 28 28 6.68 6.68 matrix300 78 730 58 6 3.43 0.37 fpppp 90 87 34 35 2.97 3.07 tomcatv 133 138 20 19 2.01 1.94 Mean 54 72 124 108 54.42 49.9 Geometric Arithmetic Weighted Arith. Ratio 1.33 Ratio 1.16 Ratio 1.09 注： “ After 表示 加了特 殊編譯 開關(guān)后 的結(jié)果 。 好的評(píng) 價(jià)標(biāo)準(zhǔn) 應(yīng)該對(duì) 特殊處 理不敏 感！ 該表反映了不同的均值計(jì)算法得到的結(jié)論可能不同。 34 性能、功耗及能量效率 功耗： 能耗 =C V2 f 功耗逐漸成為處理器性能的主要限制 電源的消耗通常是與性能及價(jià)格同樣重要的因素 CMOS電路可以通過(guò)降低頻率來(lái)降低電能消耗 最大時(shí)鐘頻率 可調(diào)時(shí)鐘頻率 相對(duì)性能 相對(duì)效率 35 計(jì)算機(jī)某方面改進(jìn)，系統(tǒng)的性能能成比例提高嗎？ 例：假設(shè)某個(gè)程序在某臺(tái)計(jì)算機(jī)上運(yùn)行時(shí)所需的時(shí)間是 100秒， 其中 80秒是用來(lái)執(zhí)行乘法操作。若希望使該程序的速度提 高到原來(lái)的 5倍，乘法部件的速度應(yīng)該是原來(lái)的多少倍呢？ 若其中 90秒用來(lái)執(zhí)行乘法操作，結(jié)果又會(huì)如何？ 受改進(jìn)影響部分的執(zhí)行時(shí)間 改進(jìn)后程序的執(zhí)行時(shí)間 = （ Amdahl定律） 改進(jìn)部分性能提高的倍數(shù) + 未受改進(jìn)影響部分的執(zhí)行時(shí)間 因?yàn)橄到y(tǒng)性能提高到原來(lái)的 5倍，故新的執(zhí)行時(shí)間應(yīng)該是 20秒 20秒 = 80秒 /n +(100-80)秒， 0 = 80秒 /n 說(shuō)明如果乘法只是占到總計(jì)算量的 80%的話，無(wú)論對(duì)乘法 部件做何種改進(jìn)，系統(tǒng)性能都不可能提高到原來(lái)的 5倍。 硬件設(shè)計(jì)的基本策略：使最常用的部分變得更快 36 小結(jié) 性能的定義：一般用程序的響應(yīng)時(shí)間或系統(tǒng)的吞吐率表示機(jī) 器或系統(tǒng)整體性能 CPU性能的測(cè)量（用戶程序的 CPU執(zhí)行時(shí)間） 一般把程序的響應(yīng)時(shí)間劃分成 CPU時(shí)間和等待時(shí)間， CPU時(shí)間又分成 用戶 CPU時(shí)間和系統(tǒng) CPU時(shí)間 因?yàn)椴僮飨到y(tǒng)對(duì)自己所花費(fèi)的時(shí)間進(jìn)行測(cè)量時(shí)，不十分準(zhǔn)確，所以， 對(duì) CPU性能的測(cè)算一般通過(guò)測(cè)算用戶 CPU時(shí)間來(lái)進(jìn)行 各種性能指標(biāo)之間的關(guān)系 CPU執(zhí)行時(shí)間 =CPU時(shí)鐘周期數(shù) x 時(shí)鐘周期 時(shí)鐘周期和時(shí)鐘頻率互為倒數(shù) CPU時(shí)鐘周期數(shù) = 程序指令數(shù) x 每條指令的平均時(shí)鐘周期數(shù) CPI MIPS數(shù)在有些情況下不能說(shuō)明問(wèn)題，不具有可比性！ 性能評(píng)價(jià)程序的選擇 采用一組基準(zhǔn)測(cè)試程序進(jìn)行綜合 (算術(shù) (加權(quán) )平均 /幾何平均 )評(píng)測(cè) 有些制造商會(huì)針對(duì)評(píng)測(cè)程序中頻繁出現(xiàn)的語(yǔ)句采用專門編譯器，使評(píng) 測(cè)程序運(yùn)行效率大幅提高。因此有時(shí)基準(zhǔn)評(píng)測(cè)程序也不能說(shuō)明問(wèn)題 對(duì)某種特定指令集體系結(jié)構(gòu)，提高計(jì)算機(jī)性能的主要途徑有 提高時(shí)鐘頻率（第七章 流水線） 優(yōu)化處理器中數(shù)據(jù)通路結(jié)構(gòu)以降低 CPI(第六章 處理器 ) 用編譯優(yōu)化措施來(lái)減少指令條數(shù)或降低指令復(fù)雜度 (第二章 指令系統(tǒng) ) 37 謝謝！