1、編輯ppt1一、吞吐率（一、吞吐率（TP, Though put rateTP, Though put rate） 二、加速比（二、加速比（S S，Speedup ratioSpeedup ratio） 三、效率三、效率(E(E，Efficiency)Efficiency) 四、吞吐率、加速比和效率之間的關系四、吞吐率、加速比和效率之間的關系 五、流水線最佳段數的選擇五、流水線最佳段數的選擇第三節第三節 線性流水線的性能分析線性流水線的性能分析 編輯ppt2一、吞吐率（一、吞吐率（TP, Though put rateTP, Though put rate） 1. 吞吐率的定義 流水線的吞吐率

2、是指在單位時間內流水線所完成的任務數量或輸出的結果數量。即： TP = n / Tk 式中：n為任務數，Tk是處理完成n個任務所用的時間，（3.1）式是計算流水線吞吐率最基本公式。 編輯ppt3 2. 流水線各段的執行時間相等的吞吐率 若有一條k段的線性流水線，各段的執行時間相等，均為t。當n個任務是連續的理想情況下輸入到流水線，流水線的時空圖如圖所示。空間 S4 1 2 3 n-1 n S3 1 2 3 n-1 n S2 1 2 3 n-1 n S1 1 2 3 n-1 n 時間 kt （n-1）t nt （k-1）t Tk各段執行時間均相等的流水線時空圖 編輯ppt4 流水線完成n個任務所

3、需要的總時間可從兩方面來分析。一是從流水線的輸出端看，用k個t輸出第一任務，即kt為“裝入時間”，其余n-1個任務，每個t輸出一個任務，即用n-1個時期周期輸出n-1個任務。二是從流水線的輸入端看，用n個t向流水線輸入n個任務，另外還要用k-1個t作為流水線的“排空時間”。因此，流水線完成n個任務需要的總時間為： Tk = （n + k -1）t 代入式得到流水線各段時間均相等，連續輸入n個任務的一條k段線性流水線的實際吞吐率為： nTP = （n + k -1）t m a xnn1T Plim( nk1)tt m axnT PT Pnk1編輯ppt5 3. 流水線各段的執行時間不相等的吞吐率

4、 若有一條k段的線性流水線，各段的執行時間不相等，且分別為t1、t2、tk，即流水線中存在“瓶頸”流水段，連接圖如圖3.16所示，相應的時空圖如圖3.17所示。那么，除第一個任務外，其余（n-1）個任務必須按“瓶頸”流水段的時間間隔maxt1、t2、tk連續流入流水線。因此，流水線存在“瓶頸”流水段時，連續輸入n個任務的一條k段線性流水線的實際吞吐率為：S2S1S4S3輸入輸出t 3t t t編輯ppt6 1 2 3 n 1 2 3 n 1 2 3 n 1 2 3 nS4S3S2S1時間i1tki(n-1)t2Tk編輯ppt7i12k=1nTPt(n1) max tt t ki、 、max12

5、k1TPmax t t t 、編輯ppt8 4. 流水線“瓶頸”問題的兩種解決方法（1）分離“瓶頸” 流水段將流水線的“瓶頸”功能段部分再細分，分解成幾個獨立的子功能段，消除執行時間不相等而帶來的“瓶頸” 段。例如，把圖3.16所示的第二個流水段再細分為三個子流水段，分別為S2-1、S2-2和S2-3，如圖所示。這樣，每個流水段及子流水段的延遲時間均為t。（2）重復設置“瓶頸” 流水段 如果由于結構等方面的原因，瓶頸流水段難以再細分，則可以通過重復設置瓶頸流水段，讓多個瓶頸流水段并行工作，消除執行時間不相等而帶來的“瓶頸” 段。例如，把圖所示的第二個流水段重復設置，流水線連接圖如圖所示。但是，

6、采用瓶頸流水段重復設置的方法，其控制邏輯比較復雜。 編輯ppt9S1S2-2S2-3S3S4S2-1S2-1S2-2S2-3S4S3S1編輯ppt101 2 3 4 5 6 7 8 9 n-2 n-1 n1 2 3 4 5 6 7 8 9 n-2 n-1n 1 4 7 n-2 2 5 8 n-1 3 6 9 n1 2 3 4 5 6 7 8 9 n-2n-1 n編輯ppt11 1. 加速比的定義 流水線的加速比是指完成同樣一批任務，不使用流水線即順序執行所用的時間與使用流水線所用的時間之比。如果不使用流水線所用的時間為T0，使用流水線的執行時間為Tk，則流水線的加速比為：S = T0 / Tk

7、 是計算流水線加速比的基本公式。二、加速比（二、加速比（S S，Speedup ratioSpeedup ratio） 2. 流水線各段的執行時間相等的加速比nktnkS=(k+n1) tkn1maxnnks= lim =knk 編輯ppt123. 流水線各段的執行時間不相等的加速比 i=1i12k=1ntSt(n1) m axt t t 、 、kiki編輯ppt13三、效率三、效率(E(E，Efficiency)Efficiency) 1. 效率的定義 流水線的效率是指流水線的設備利用率。在時空圖上，流水線的效率定義為n個任務占用的時空區與k個流水段占用的總時空區之比。即： E=n個任務占用

8、的時空區/k個流水段占用的總時空區式是計算流水線效率的基本公式，其分母是n個任務所用的時間與k個流水段所圍成的時空總面積，分子是n個任務實際上占用的有效時空面積。因此，流水線的效率包含時間和空間兩方面的因素，通過時空圖來計算流水線的效率非常方便。編輯ppt14kt n k tnktnE=k(k+n)tk+n1 maxnnE= lim =1k+n1 2. 流水線各段的執行時間相等的效率 各段的執行時間相等，均為t的k段的線性流水線，完成n個連續任務所需要的時間見式，每個功能段在這段時間內都被占用，則時空圖的總面積為。一個任務占用的時空區為，n個任務實際占用的有效面積為各段的執行時間相等的流水線效

9、率為： 相應的流水線的最大效率為： 從式中可以看出，當nk時，流水線的效率達到最大值1。這時，流水線的各段均處于忙碌狀態。從時空圖中看，每一塊都是有效的。k (k+n) t 編輯ppt15 3. 流水線各段的執行時間不相等的效率 i=1i12k=1ntEkt(n1) maxt t t kiki、 、編輯ppt16四、吞吐率、加速比和效率之間的關系四、吞吐率、加速比和效率之間的關系E=TPtTP=E/ tE=S/kS = kE 說明流水線的效率是流水線實際加速比S與它的最大加速比Smax=k之比。只有當流水線的效率達到其最大值，即E=1時，才能使實際加速比達到最大，即S=k。 各段的執行時間不相

10、等時，即流水線中存在“瓶頸”流水段，那么，除了瓶頸流水段一直處于忙碌狀態之外，其他各個流水段都有空閑時間，這些流水段的效率沒有得到充分發揮。因此，整個流水線的吞吐率、加速比和效率也比較低。采用兩種提高流水線吞吐率的方法，由于能夠使流水線中的各個流水段始終處于忙碌狀態，沒有空閑時間。因此，流水線的吞吐率、加速比和效率也就顯著提高了。 編輯ppt17五、流水線最佳段數的選擇五、流水線最佳段數的選擇假設在非流水線的機器上采用順序執行方式完成一個任務所需要的時間為t，那么，在同等速度的有k段流水線的機器上執行一個任務需要的時間為：t/k+d，其中d為鎖存器的延遲時間。流水線的最大吞吐率為：TP=1/(t