基于貝葉斯方法的系統辨識、貝葉斯、最大后驗概率估計葉斯的起源和基本原理對于統計決策函數、統計推斷、統計的估算等做出了貢獻.1763年發表了這方面。貝葉斯(ReverendThomasBayes1702-1761)學派奠基性的作品是貝葉斯的的數學家拉普拉(Laplace,P.S)用貝葉斯的方法導出了重要的“相繼律”，貝葉斯意大利的菲納特(B.deFinetti)及其英國的杰弗(Jeffreys,H.)都對貝葉斯學派的第二次世界大戰后，瓦爾德(Wald,A.)提出了統計的決策理論，在這一理1958年英國最悠久的統計雜志Biometrika全文重新刊登了貝葉斯的論文，20世RobbinsH為代表，提出了經驗貝葉斯方法和經典方法P(BA)P(A)P(BA,C)P(AC)P(BP(BA)P(A)P(BA,C)P(AC)P(B)P(BC)由已知的先驗概率P(BA)求出P(AB)Zk=z(k),u(k),z(k-1),u(k-1),,z(1),u(1),z(0),u(0)}Zkz(k-1),u(k-1),z(k-2),u(k-2),,z(1),u(1),z(0),u(0)}Zk=z(k),u(k),Zk-1}p(9|Zk)=p(9|z(k),Zk-1)=p(9|Z1)=p(9|z(1),z0)=原則上說，根據(1)式可求得θ的后驗概率密度函數，但實際上這是有困難有可能得到(1)式的解析解。求得參數θ的后驗概率密度后，就可以利用它進一參數估計方法2.1極大后驗參數估計方法極大后驗參數估計方法就是把后驗概率密度函數p(9|Zk)，達到極大值作為Maxp(9|Zk)orMaxp(9|Zk)or?9 kalogp|Zk-1)9?=0(4)MAPMAP若讓式(4)第一項取0，則對應的估計就是極大似然估計。可見，極大后2.2條件期望參數估計方法3.1最小二乘模型的Bayes參數辨識kzk,-zT(k-n),u(k-1),u(k-m)]TP(9Zk)=(6)Zi，均值為，協方差陣為 P0lJ P0lJ(9)p(z(k)|9,Z)=1exp|-p(9|Z)=Norm.exp|-1「z(k)-QNorm：Norm=(2)-N/2pzkZk將(11)式兩邊取對數后分別對θ求導，得：?9Lk」k-1Lk-1」?logp(9|Zk)=1Q「z(k)-Q?9Lk」k-1Lk-1」由(13)式計算得：TT-1?1T-1TII-2Qk令1Kk=PkQk，則得出：k22k2k-2logp(9|Z)=Const+2(k)-(k)0T9-1k22k2k2kkk-1k-1k-1k-1k-1k-1k-1k-1+19T02kkk-1k-1k-1k-1k-1k-1k-1k-1PPTP-9T0kz(k)+9?1k-1-0kz(k)+9?1k-1]|T9=Const，+「|9-1P0z(k)-PP-19?]|TP-1|「9-1P0z(k)-PP-19?]|L|kkkk-1k-1」|kL|2kkkk-1k-1」|3.2貝葉斯估計收斂性k2kk利用K=1k2kkz(k)-0T9?=z(k)-0T{9?+K[z(k)-0T9?]}=(1-0T)1(k)k-0T]kk-1kkkk-1=(1-0kTPk0k)[z(k)-0T9?]2kk-1E(2)=E[D(z(k))]=E[0T9-0T9?]2=E[0T(9-9?)]2kkkkkkkkkkkkkk=E[0T(9-9?)(9k-)T]k=0Tkkkkkkkkkkkkkk4.1.仿真模型V(k)e(k)++u(u(k)z(k)yz(k)(|A(z-1)=1-1.5z-1+0.7z-2=C(z-1)zzu(k)G(z-1)+v(k)N(z-1)=z(k)u(k)+v(k)=z(k)u(k)B(z-1)+v(k)D(z-1)=z(k)A(z-1)ukzzv(k)(1-z-1+0.2z-2)=z(k)(1-1.5z-1+0.7z-2)1.0u(k)z-1+0.5u(k)z-2+v(k)-v(k)z-1+0.2v(k)z-2=z(k)-1.5z(k)z-1+0.7z(k)z-24.2程序流程圖應及模型斂情況NY應及模型斂情況NY給被識別的e和P賦初值參數bb1bb 2dd1dd2dd3值析態，即a1=-1.5000,a2=0.7000,b1=1.0000,b2=0.5000,d1=1.0000,例的Bayes最小二乘遞推算法的辨識結果與增廣最小二乘遞推算法的辨識結果sy1;y2=1;y3=1;y4=0;%四個移位積存器的輸出初始值xxory,y4);%第一個移位積存器的輸入信號xy%第二個移位積存器的輸入信號xy%第三個移位積存器的輸入信號xy%第四個移位積存器的輸入信號y(i)=y4;%第四個移位積存器的輸出信號，幅值"0"和"1"ify(i)>0.5,u(i)=-1;%M序列的值為"1"時,辨識的輸入信號取“-1”elseu(i)=1;%M序列的值為"0"時,辨識的輸入信號取“1”endyx1;y2=x2;y3=x3;y4=x4;%為下一次的輸入信號作準備figure形subplot(2,1,1);%畫第一個圖形的第一個子圖stem(u),gridon%畫出M序列輸入信號v=randn(1,60);%產生一組60個正態分布的隨機噪聲subplot(2,1,2);%畫第一個圖形的第二個子圖plot(v),gridon;%畫出隨機噪聲信號R=corrcoef(u,v);%計算輸入信號與隨機噪聲信號的相關系數r=R(1,2)%取出互相關系數rv=std(v)*std(v)%計算隨機噪聲的方差u%顯示輸入信號v%顯示噪聲信號zzeros0);zm=zeros(1,60);%定義輸出采樣矩陣與模型輸出矩陣的大小z;z(1)=0;zs(2)=0;zs(1)=0;%輸出采樣、系統實際輸出、模型輸出賦初值zm;zm(1)=0;%模型輸出賦初值sc0=[0.0010.0010.0010.0010.0010.0010.001]';%直接給出被辨識參數的初始值,p0=10^6*eye(7,7);%直接給出初始狀態P0，即一個充分大的實數單位矩陣E=5.e-9;%相對誤差E=0.000000005c=[c0,zeros(7,59)];%被辨識參數矩陣的初始值及大小e=zeros(7,60);%相對誤差的初始值及大小fork=3:60;%開始求Kxh*p0*h1+rv;xinvx);k1=p0*h1*x1;%Kccce2=e1./c0;%求參數的相對變化e(:,k)=e2;c0=c1;%給下一次用c(:,k)=c1;%把辨識參數c列向量加入辨識參數矩陣p1=p0-k1*k1'*x;%findp(k)p0=p1;%給下次用ife2<=Ebreak;%若收斂情況滿足要求，終止計算end%判斷結束end%循環結束c,e,z,zs,zm%顯示被辨識參數、誤差情況、輸出采樣值、實際輸出值、模型輸出值%分離賦值a1=c(1,:);a2=c(2,:);b1=c(3,:);b2=c(4,:);%分離出a1、a2、b1、b2figure形plot(i,a1,'r',i,a2,'r:',i,b1,'b',i,b2,'b:',i,d1,'g',i,d2,'g:',i,d3,'g+')%畫出各個被辨識參數lePa