1、5時間序列模型5.1時間序列數字化技術的應用和發展使得隨機序列的分析變得日益廣泛和 重要，并由平穩隨機過程在時間軸上的取樣引出平穩離散隨機信號或時間序列的概念.對于這類隨機序列，主要采用相關函數和功率譜 進行分析.對于平穩離散時間信號，還常用時間序列描述方法進行研 究，由此提出時間序列模型法.它是采用各種隨機差分方程表示時間 序列信號的模型.在許多情況下，一個平穩離散隨機信號可以視為白 噪聲序列通過某一離散時間線性系統所產生的.在時間序列信號模型分析中，AR(自回歸)模型、MA(滑動平均) 模型和ARM(自回歸滑動平均)模型是三種最常見的標準線性模型， 它們均由白噪聲序列通過離散時間線性系統而

2、產生.而實際應用中許多平穩時間序列往往可由這些模型近似表示，使得有關的分析變得更為簡單，也為平穩隨機序列的分析和產生提供了有效方法.另外，這些線性模型都具有連續功率譜形狀，在參數譜估計方面顯示出極大的 優點.除非特別說明，本章只討論具有連續譜特性的平穩時間序列.5.2自回歸(AR)模型設'(n)為具有零均值，方差為 二2的平穩白噪聲序列，隨機序列 x(n)由如下隨機差分方程表示：px(n) _ 八 akx(n _ k) (n)k=i式中p為一正整數,ak(k=0,1, ,p)為實常數，不失一般性，設ao =1， 并設ap =0.上式表示的信號稱為p階自回歸模型.顯然，x(n)是它的p個

3、過去值和白噪聲(n)的線性組合.用AR (p)表示上式的模型.對于上式，從統計觀點講，稱x(n)以隨機誤差(n)線性回歸于它的p個過去 值.為使分析方便，首先研究一階和二階 AR模型，然后根據p階AR模型的分析，研究AR模型的自相關函數及功率譜密度.1. 一階AR模型根據隨機序列的差分表達式，當P=1時，可得一階AR模型x(n)二 ax(n1)亠八(n)式中a為不等于零的實常數.上式為一階隨機差分方程.若設x(0)=0， 可得：2x(n) = (n) ax(n 1) = (n) a (n 1) a x(n_2)二二(n) a (n -1)an(1)容易得到一階矩Ex(n) =(1 aan4)E

4、p (n)_a E (n).E(n) na =1a =1如果E(n) -0，由上式可以看出，x(n)的均值有可能不滿足平穩性， 即可能不滿足一階平穩.然而，如果系數|a <1，當n較大時，則有1imEx( n)=廠£鞏 n)I a在此情況下，x(n)是一階漸進平穩的.通常，Ep (n)=0，可得時間序列x(n)的自相關函數(二階矩)為:Rx(n,n m)二 Ex(n)x(n m)= E (n) a (n1廠an(1)同(n + m) +ao(n + m1) +an初七(1)2 mm，：2= ；na am：；2(n)U-a22n 二n,2n aa"a =1顯然，當a=1

5、時，x(n)并不滿足自相關平穩性，但是，當a < 1并且n足夠大時，有lim Rx(n,n m) = Rx(m)=n_對于實隨機序列，由于m對于R(m)對稱分布，有2 m -n aRx(m)n 21 -a對于a ：1，不難推得，當a為正數時，Rx(m)恒為正，且呈指數衰減. 當a為負數時，Rx(m)正負相間指數衰減.根據Rx(m)可得x( n)的方差為：2c2Rx (0)T1 -a說明平穩隨機序列x(n)的方差二2比白噪聲方差二2大.最后討論AR(1)模型的功率譜.對Rx(m)式兩邊取z變換，可得其傳遞函數為：H(z)11 - azz - ax(n)的功率譜為4 2Zb 2Sx(z) =

6、H (z) Hd(z-a)(1-az)令zV,有Sx() 口1 a2 - 2a cos 2二 n- ,-_ - - :2.二階AR模型定義隨機序列x(n)的二階AR模型為:1 - ae j 'x(n) a1x(n-1) a2x(n-2) = (n)式中ai和a2均為實常數，a? =0.上式二階差分方程的特征多項式為:2zaiza2定義后移算子D為后移一步的運算，即Dx(n) = x(n -1)于是，二階AR模型成為：(1 a1D a2D2)x (n )= (n) = (1 - 乙。)(1 - z2D)x( n)(-a1 -4a2式中Z1和Z2為二階AR模型特征多項式的根，即Z1,2所以

7、，有特解為:/、(n)1l,Z|Z21 /、x(n)-(n)(1Z1D)(1Z2D)乙一Z2 (1 Z1D) (1Z2D)1F k卅k出 r 乂 L / Z1 -Z2 D (n)Z1 -Z2 _k=0:k 1 k 1八 Z1_Z2(n-k)心 Z - Z2根據模型差分方程，零輸入下得齊次方程x(n) ax(n1) a2x(n2) = 0其解為:x(n)二 Az： A2Z；式中A和A2是待定系數，由初始條件確定模型特解和上式之和即為模型的解：x（n） = A1z1n - A2z； ' 勺（n - k）7 zi - z2當-1,2<1時，上式右邊齊次解隨n的增大而趨于零，而特解部分具

8、有 有限方差，在均方意義下收斂，隨n的增大而漸近收斂于特解公式的 平穩結果.實際上，二階模型的平穩條件與其系數ai和a2是有關的，這可通 過ai和a2平面表示.設zi,2 <1，并設Zi +Z2 = -ai和=a2，根據乙ci， 在其兩邊同乘（I-Z2），有zi z2 - ziz2 : I 或ai - a2 I其次，根據不等式z-I，兩邊同乘（i p），有zi z2 ziz -i或 a 一 a2 ：-1根據上式分析，得到以下三個條件：a2 : 1,a1 - a2 乜-1 以及 a -a2 ： 1這就是保證二階AR模型平穩的條件，可用系數分布圖說明.圖中示出 了二階系數欠阻尼、過阻尼和臨界

9、阻尼三種情況的系數區域分布， 分 別對應于以下三種情況：（1）欠阻尼：出現Zi和Z2 對共軛復根.（2）過阻尼：出現zi和Z2不同的實根.（3）臨界阻尼：出現zi和Z2相同的實根.a22.5a2=0.25*a1*a11.50.51欠阻尼臨界阻尼-2-1-0.50過阻尼"Xa1-1a2=-a1-1-1.5-2 11-3-2-1對于平穩的情況，考察二階 AR模型的自相關函數，對模型方差方程兩邊同乘x(n m)并作集平均，可得: x(n) ajX(n -1) a2x(n - 2)x(n m)a1x(n m-1) a2x(nm-2)二 E，( n m)，(n)考慮到Eo( n+m)®

10、;( n) =時,.0,可得:Rx(0) a1Rx(1) a2Rx"：,Rx(m) ajRx (m-1) a2Rx(m-2) = 0, m = 0以及Rx(0) a1Rx(1) a2Rx(2)Rx(1) a1Rx(0) a2Rx(1)=0Rx(2) a“Rx (1) a2Rx(00由此解得:2Rx (0)二(1七2)62(1 - a2)(1a2)ai-aiRx(1)丸 Rx(0)1 + a2廣 2RJ2)=a? Rx(0)l(1+a2)丿最后，分析AR(2)模型的功率譜密度.容易知道，其傳遞函數為:H(z)11a1zJ a2z于是，x(n)的功率譜為:1 21a1za2z2z =ej

11、3. p階AR模型定義如下隨機差分方程為p階AR模型x(n) yx(n-1) 一一apx(n - p)二(n)式中ak(k=1,2, ,p)為實常數，且ap=0.對上式兩邊取z變換，可得：p、akX(z)z* =W(z), (a。=1)k=0于是，以上AP(p)模型的傳遞函數為：H(z)X(z)W(z)1p1 a akz"km根據它的特征多項式可解出p個H(z)的極點Z1,Z2,，Zp.于是，該模型H(z)二的傳遞函數可寫為:(1 _討)(1 _Z2ZJ)(1-ZpZ-1)所以，AR模型的傳遞函數只有極點，除原點外沒有任何零點，屬于 全極點模型，對應于全極點濾波器，具有無限沖激響應(

12、IIR).因此， 模型傳遞函數的性質完全取決于 p個極點在z平面上的分布情況.可以證明，如果所有p個極點均滿足|召| c1(i=1,2,，p)，那么，AR模型信 號滿足漸近平穩性.條件|Zi ：1(i =1,2,p)意味著有界輸入通過線性系 統導致有界輸出，系統H(z)是穩定的，這說明模型傳遞函數的穩定性與模型的平穩性是等價的.根據AR模型的傳遞函數,p階AR模型的功率譜密度為:H3)2p1 akekk珀2-npn (e-Zk)i斗可見AR模型的功率譜由各模型系數a'k =1,2，,p)確定.最后討論AR(p)模型參數與相關函數的關系.根據自相關函數的定義，有Ex( n)x( n m)

13、 =Rx(m)p=Ex(n)-' akx(n m _ k) (n m)k#p-x' akRx(m-k) Ex(n) (n m)k =1由于aEx( n)co( n + m) = *0,于是，有:" p2一£ akRx(m _k)+6, m = 0Rx(m)二kp1- akRx(m-k),m = 0將上式分別以m =1,2,p代入，可得以下矩陣方程形式:-Rx(0)Rx(1)Rx(2)aRx(-1)Rx(0)Rx(1)a-Rx(-2)Rx(-1)Rx(0)aRx(-P)-Rx(_p + 1)Rx(p+2)1a1a200Rx(p)Rx(p-1)Rx(P_2)Rx

14、(0)_?p-0 一由于Rx(m)= Rx(_m)，可得_Rx(0)Rx(1)Rx(2)Rx(p) T_1-Rx(1)Rx(0)Rx(1)-Rx(P-1)a10Rx(2)Rx(1)aRx(0)aRx(P-2)ia2=03-Rx(P)Rx(p1)Rx(p2)Rx(0)_ap 一-0 一上式稱為尤里-沃克(Yule-Walker )方程.所以，如果選擇了 AR(p)模型，并可選定或根據觀測數據估計模型的自相關函數， 則可由尤里-沃克方程解出p個模型參數ak，由此確定該模型，估計模型的功率譜密度函數.關于其他AR(p)參數譜估計法還有很多，請有興趣的同 學自行查閱相關文獻.5.3滑動平均(MA)模型

15、滑動平均模型(MA模型)是時間序列模型另一種主要形式，通 常用MA(q)記q階MA莫型.定義為：qx(n)八 bk (n - k)k=0式中bjk =1,2, ,q)為實常數，且bq =0 ,稱為MA(q)模型的參數，通常 有b。=1 , (n)仍為零均值、方差為匚2的白噪聲序列.由于q是有限的， 所以MA(q)模型也是平穩的.1. 一階MA模型定義MA(1)模型為：x(n) = (n) b (n -1)容易求得Ex2(n)二 Rx(0) "2 =1 b2Rx(1) =bRx (m) = 0, m 1顯然，MA(1)模型是一階相關的，其相關系數在士 0.5之間取值.2. q階MA模型

16、對于MA(q)模型qx(n)八 ，(nk)k=1上式兩邊取z變換，可得該模型的傳遞函數為：H(z) -1 b1zJ b2zbqzT可知H(z)有q個零點k(k =1,2/ ,q)，于是H(z) =(1z，)(1 說')(V qz-1)這是一個全零點模型，具有有限沖激響應(FIR).由MA(q)的定義式，可見x(n)是白噪聲序列(n)的當前值和(q-1) 個過去值的線性組合，所以，當x(n)中的n大于q時，其白噪聲序列的線性組合將全部為更新后的值，由此可以推斷，相隔長度大于q的x(n)其自相關函數為零，即x(k)與x(k q i)(i =1,2,3,)互不相關.因此,MA(q)模型自相關

17、函數的相關長度為q .MA(q)的自相關函數為:qqRx(m)二 Ex(n)x(n m)二 E, bk (n-k) b(n m-k)7k£由于E (n)，(n m)0,于是有q2Rx(m) =；n' bkbk_m,0 遼 m m qk由此可得x(n)的方差為:q-X = Rx(0) = ； n 一 bkk -m所以，MA(q)模型的二階矩與階次和參數有關.Rx(m)式子證明了 MA(q)模型自相關函數的相關長度為q ,當各模型參數bk均為丄時，其相關函數具有如下簡單形式:q +1Rx(m)二c 2nq 1q+J根據MA(q)的全零點傳遞函數，模型的功率譜密度函數為:Sx(&#

18、39;)二二2q1 - bke”k =1也可用全零點譜形式表示:q2Sx®) "nD(Z-如)k#5.4自回歸滑動平均(ARMA模型如果用一個p階自回歸模型和一個q階滑動平均模型組成一個混 合模型，可得一個形如以下差分方程的模型：pqakX(n-k) 八 bk (n-k)k z0k z0式中ak(k =0,1,2- , p)和bk(k =0,1,2, ,q)均為實常數，且ak和bk不為零， 通常有ao二b。=1.如果q =0,上式退化為一個 AR(p)信號模型；如果 P = 0，則為一個MA(q)信號模型.上式定義的模型稱為自回歸滑動平 均模型，也稱ARM模型，記為ARMA(p,q).對上式兩邊取z變換，可得ARMAI型的傳遞函數為：qH (z) = A(z) _ kz = (Z '1)(Z 2)(Z q)(Z八葩：a ”Z J(Z 2) (Z p) akZ