1、工程數學工程數學工程數學工程數學11212()0(1)()0nnnfxxxfxxx 非非線線性性方方程程組組的的一一般般形形式式， ， ， ， ，11( )( )0( )( )0 (2),:nnnnxfxxF xxfxF xFDRR令令則則方方程程(1)(1)可可改改寫寫為為*(2)( )0 xDxF x 若若存存在在，使使方方程程組組精精確確成成立立，則則稱稱 為為方方程程組組的的解解。第二節第二節 非線性方程組的簡單迭代法非線性方程組的簡單迭代法一、引言一、引言工程數學工程數學工程數學工程數學幾類典型非線性問題幾類典型非線性問題2( )( , )ln01(0)1, (1)2ytf t yt

2、ytyy 非非線線性性兩兩點點邊邊：值值題題例例問問21101()( ,)(ln)1,21,2,.,iiiiiiinOyyyf tytyyyin 2 2i ii i2 22 2略略去去h h ，并并令令y yy y( (t t ) )，有有- -2 2 + += =h hh h為為非非線線性性方方程程組組。()O i ii i2 2i i- -1 1i ii i+ +1 1i i2 2將將區區間間 0 0，1 1 n n+ +1 1等等分分，在在內內點點t t( (i i= =1 1, ,2 2, ,. . . ., ,n n) )用用差差商商逼逼近近y y ( (t t ) )，得得y y(

3、 (t t) )- -2 2y y( (t t ) )+ +y y( (t t) )y y ( (t t ) )= =h hh h解解：工程數學工程數學工程數學工程數學2211122222221112209ln)0(ln)0(ln)0(ln)nnnnnnyhtyyh tyyh tyyh ty 寫寫成成矩矩陣陣向向量量形形式式2-12-1-12-1-12-1-12-1-12-1-12-12工程數學工程數學工程數學工程數學例：半線性橢圓型邊值問題例：半線性橢圓型邊值問題2222(,),0,1(,) |(,)uufx y ux yxyu x yx y 解解:(1)剖分求解域剖分求解域.1,.,1 ,

4、 0, NNjijhyyihxxjiYN+1N:2100 1 2 . N N+1 X工程數學工程數學工程數學工程數學)(),(),(2),(),()(),(),(2),(),(221122221122hOhyxuyxuyxuyxyuhOhyxuyxuyxuyxxujijijijijijijiji (2)對微分算子進行離散對微分算子進行離散.21,1,222, 1, 1222),(2),(huuuyxyuhuuuyxxujijijijijijijiji 在每個點在每個點(xi,yj)上的有限差分方程為上的有限差分方程為2,1,1,1,14(,)1,i jijiji ji jijuuuuuh f

5、ih jh ui jN 在邊界上在邊界上0,1,0,1(0,),(1,),(,0),(,1),1,2,.,jNjii Nujh ujh ujhujhi jN 工程數學工程數學工程數學工程數學對非邊界點進行編號對非邊界點進行編號: 順序為順序為-從下往上從下往上,從左往右從左往右),(),.,(),(),.,(.,),(),(),(),.,(),(212222111211NNNNNNyxyxyxyxyxyxyxyxyx相應的解向量和右端向量分別為相應的解向量和右端向量分別為 1,12,1,11,22,2,21,2,1,12,1,11,22,2,21,2,2,(,.,.,.,.,)( )(,.,.

6、,.,.,),(,)(,)NNNTNN NNNNTNN Ni jijijuuuuuuuuuuF uFFFFFFFFFFh f ih jh uih jh 其其中中為為非非線線性性函函數數 含含右右端端項項及及相相應應邊邊界界點點。工程數學工程數學工程數學工程數學1122( )NNAuF uAIIAAIIA 非非線線性性方方程程組組其其中中 4114114iiA工程數學工程數學工程數學工程數學 多元向量值函數的導數多元向量值函數的導數111122221212( )( )( )( )( )( )( )( )( )nn nnnnnnF xxFxfxfxfxxxxfxfxfxxxxFxDF xRfxfx

7、fxxxx 多多元元向向量量值值函函數數 ( ( ) )在在點點 的的導導數數記記為為( ( ) )，( ( ) )= =( ( ) )= =F xxFxF xxJacobi多多元元向向量量值值函函數數 ( ( ) )在在點點 的的導導數數( ( ) )又又常常稱稱為為( ( ) )在在點點 的的矩矩陣陣。工程數學工程數學工程數學工程數學221213212132( )( )51xxx xF xDF xxxx x 例例已已知知，求求：。11112322212313212313( )( )( )( )( )( )22152fxfxfxxxxFxDF xfxfxfxxxxxxxxxx x ( )=(

8、 )( )=( )：= =解解工程數學工程數學工程數學工程數學多元實函數的高階導數多元實函數的高階導數2222121122221222222212( )( )( )( )( )( )( )( )( )nn nnnnnf xf xf xxxxxxf xf xf xf xD f xRx xxxxf xf xf xx xxxx ( )( )的的二二階階導導數數( )=( )=12( )( )( )Tnf xf xf xf xf xxxx ( ( ) )的的一一階階導導數數( ( ) )= =( ),( ),( )( )nf xxRnnf xHessianH xD f x多多元元實實函函數數的的二二階

9、階導導數數是是一一個個矩矩陣陣稱稱為為的的矩矩陣陣 記記為為工程數學工程數學工程數學工程數學(1)( )(0)(1)(2)( )( )*(),lim()()0( )kkkkkxxxxxxxxxxF xxx 由由迭迭代代格格式式產產生生迭迭代代序序列列若若，則則，即即稱稱為為映映射射的的不不動動點點。( )0( )F xxx 將將寫寫成成便便于于迭迭代代的的形形式式 研究非線性方程組解的存在唯一性問題可轉研究非線性方程組解的存在唯一性問題可轉化為研究不動點的存在唯一性。化為研究不動點的存在唯一性。二、壓縮映射與不動點迭代（簡單迭代法）二、壓縮映射與不動點迭代（簡單迭代法）工程數學工程數學工程數學

10、工程數學 *(0)(1)( )( )*0( )*:1)()( ).2)1,( )( )( )();(2),1()nnkkkkkDRRDDDxDxDDLx yDxyL xyxDxxxxDxxxxLxx 設設映映射射， 是是閉閉集集, ,若若有有，即即對對，有有是是 上上的的壓壓縮縮映映射射，即即存存在在正正常常數數，使使都都有有則則有有:(1):(1)在在 上上有有唯唯一一不不動動點點滿滿足足對對 初初值值由由迭迭代代格格式式產產生生的的迭迭代代序序列列收收斂斂到到 ，定定理理 （壓壓縮縮映映射射原原理理）且且有有估估計計式式( )(1)( )*(1)(0)11kkkkxxLLxxxxL 工程數

11、學工程數學工程數學工程數學()xyeeexyexy (1)( )( )011()kkkkxxxDD 條條件件 ）是是保保證證由由產產生生的的迭迭代代序序列列仍仍在在 中中，這這是是證證明明對對壓壓在在 中中存存在在縮縮映映射射原原理理的的認認識識和和討討論論不不動動點點的的不不可可：少少的的條條件件。22( )1 1, ( )20,1, ( )xDDxeDxDx 條條件件 ）是是要要求求映映射射 是是 上上的的壓壓縮縮映映射射，這這個個“壓壓縮縮”與與所所取取的的閉閉集集 有有關關（也也與與范范數數有有關關）如如可可以以驗驗算算在在 上上是是壓壓縮縮的的，而而在在上上不不是是壓壓縮縮映映射射。

12、工程數學工程數學工程數學工程數學2*22( )0,1!02,1( )( )()()()(1)220,3,0,1|( )( )|12 |12 |11,0,1|( )( )|xxxxxyxyxyxyxyxyx yxyxyLx yxyL xy 在在中中不不動動點點，但但它它不不是是壓壓縮縮的的對對任任意意小小的的正正數數，取取顯顯然然則則有有這這是是一一個個等等式式，而而可可以以無無限限接接近近于于 ，因因此此，不不存存在在能能對對都都有有例例：3壓壓縮縮映映射射原原理理只只是是一一個個充充分分性性原原理理，不不是是充充分分必必要要的的，也也就就是是說說，不不滿滿足足壓壓縮縮映映射射原原理理，也也可

13、可能能有有不不動動點點。工程數學工程數學工程數學工程數學線線性性問問題題與與非非線線性性問問題題有有本本質質的的區區別別：線線性性問問題題：解解存存在在唯唯一一，迭迭代代收收斂斂與與區區域域無無關關。非非線線性性問問題題：解解不不唯唯一一，有有多多解解性性，迭迭代代收收斂斂與與所所取取閉閉區區域域有有關關。(1)( )(0)4( ),( ),|( )( )| | 1kknnAxbxBxgxBxgxBxg AxbxxBxgx yRxxBxyBxR 非非線線性性問問題題的的迭迭代代法法是是線線性性方方程程組組迭迭代代法法的的推推廣廣線線性性問問題題相相當當于于令令用用壓壓縮縮映映射射原原理理的的形

14、形式式當當時時，對對任任意意初初值值均均收收斂斂。工程數學工程數學工程數學工程數學(0)51( )0:( )0( )1 , ,( ) , ;2, , ,1|( )( ) |( ) , ().(2) , ,nf xxRfRRf xxxxRRRRRxa bxa bx ya bLxyL xyxa bxxxxa b 將將壓壓縮縮映映射射原原理理用用到到時時，即即單單個個非非線線性性方方程程的的問問題題：這這時時的的壓壓縮縮映映射射原原理理為為: :設設 ：，若若有有）有有）存存在在正正常常數數，使使則則( (1 1) )在在中中存存在在唯唯一一不不動動點點，使使對對初初值值 (1)()()*0()*(

15、)(1)()*(1)(0)()11kkkkkkkkkxxxxLxxxxLLxxxxL 由由迭迭代代格格式式產產生生的的迭迭代代序序列列收收斂斂到到，且且有有估估計計式式工程數學工程數學工程數學工程數學,|( )( )| |( )|( , )2 , ,1|( )|xyxya bxa bLxL ，因因此此，在在壓壓縮縮映映射射原原理理中中條條件件 ）常常改改成成存存在在正正常常數數，使使62|( )|1nRDxLxD 在在中中一一般般形形式式的的壓壓縮縮映映射射原原理理中中的的條條件件 ）也也可可改改成成工程數學工程數學工程數學工程數學( )( )( )xF xxx 構構造造迭迭代代函函數數，使使

16、解解：122212230250 xxxx T T用用不不動動點點迭迭代代求求非非線線性性方方程程組組在在(1.5,0.7(1.5,0.7：) )例例附附近近的的解解。122212152( )1(3)2xxxxxx 即即為為1222152( )1(3)2xxx 迭迭代代函函數數工程數學工程數學工程數學工程數學1()2(1)21(1)()21:520,1,2,1(3)2kkkkxxkxx 不不動動點點迭迭代代格格式式（J Ja ac co ob bi i迭迭代代格格式式）212220(102):( )102xxDx 迭迭代代函函數數的的J Ja ac co ob bi i矩矩陣陣 1212(0)*

17、(6),)|1,2,0.5,1.53122xxxxxxxx T TT T取取一一個個包包括括點點(1.5,0.75)(1.5,0.75)的的鄰鄰域域S= (S= (計計算算出出在在S S上上，都都有有 D ( )D ( )因因此此，所所構構造造的的迭迭代代格格式式是是收收斂斂的的。取取初初值值=(1.5,1.0)=(1.5,1.0)迭迭代代計計算算6 6次次得得到到近近似似解解=(1.488,0.756)=(1.488,0.756)工程數學工程數學工程數學工程數學1( )2(1)21(1)(1)21:520,1,2,1(3)2kkkkxxkxx Gauss-SeidelGauss-Seidel

18、迭代格式迭代格式工程數學工程數學工程數學工程數學二、局部收斂性原理二、局部收斂性原理原理的局限性：原理的局限性：（1）收斂域）收斂域 很難找很難找（2）對非線性問題這是一個充分性原理，不是充分）對非線性問題這是一個充分性原理，不是充分必要的，只有對線性問題，才是充分必要條件必要的，只有對線性問題，才是充分必要條件.如：如：SBxDxgBxxbAx )()( *(0)(1)()*:()()|()nnnkkDRRDxxxxSxRxxxSxxx 設設，若若在在內內有有一一個個不不動動點點，在在點點可可導導，且且 ( () ) 1 1, ,則則存存在在一一個個鄰鄰域域對對鄰鄰域域中中任任意意初初值值，

19、迭迭代代格格式式產產生生的的迭迭代代序序列列收收2 2斂斂到到定定理理。工程數學工程數學工程數學工程數學P=1，C1為線性收斂，為線性收斂，P=2為平方收斂。為平方收斂。 (1)( )( )*0P(1)*( )*(1)*( )*( )0()10limkkkkkkkPkkkkxxxxPCxxC xxxxCxxxPP 設設迭迭代代格格式式產產生生的的迭迭代代序序列列收收斂斂到到。若若存存在在正正常常數數和和，使使或或使使則則稱稱迭迭代代序序列列是是 階階收收斂斂的的。定定義義也也稱稱此此迭迭代代格格式式是是 階階收收斂斂的的迭迭代代格格式式。三、收斂速度三、收斂速度工程數學工程數學工程數學工程數學

20、112212(,)0( )0(,)0fxxF xfxx 以以兩兩個個方方程程為為例例推推導導( )( )( )( )12( )( )( )( )11112112112212112( )( )( )( )22212212112212212(,)(,)(,)()()(,)(,)(,)()()(,)kkkTkkkkkkkkkkxxxxfffxxfxxxxxxxxlxxfffxxfxxxxxxxxlxx 已已知知第第 次次近近似似值值，在在作作泰泰勞勞展展開開 第三節第三節 非線性方程組的非線性方程組的NewtonNewton型算法型算法一、一、Newton-RaphsonNewton-Raphson

21、方法的迭代格式方法的迭代格式工程數學工程數學工程數學工程數學11(1)( )12( )(1)( )( )11(1)( )222212,()kkkkkkkkffxxxxxxxDF xffxxxx 記記11(1)( )( )( )1211112(1)( )( )( )222221212(,)(,)kkkkkkkkffxxxxfxxffxxfxxxx 112(1)212(,)( ),()0(,)klxxL xL xlxx 令令，得得到到( )( )( )(1)( )( )()()kkkkkkNewtonDF xxF xxxx 得得迭迭代代格格式式( )(1)1max()kkii nxF x 迭迭代代

22、終終止止標標準準為為或或工程數學工程數學工程數學工程數學( )()12kDF xJacobi計計算算的的方方法法（ ）解解系系法法：直直接接計計算算出出矩矩陣陣（ ）數數值值法法( )( )( )( )( )( )( )( )( )1111( )()(,)(,),1,.,kijkkkkkkkkijjjjninkjf xxf xxxhxxf xxhi jn ( )( )( )(1)( )( )1( )(1)( )( )1()()()()Newton( )( )( )kkkkkkkkkkDF xxF xxxDF xF xxxxxxDF xF x 的的迭迭代代函函數數是是工程數學工程數學工程數學工程

23、數學( )( )(1)(0)24( )( )( )( )46(0)3( )(0)( )(1( )1010(1,2,., )00(1,2,., )1010101min,max10(1(1)(2),2,.3).)(,kkkjjjjkkjjkjkjjkkkkjjiijhxxhjncxxhcxjnchhhxxhjn 可可按按以以下下幾幾種種方方案案選選取取取取一一般般工程數學工程數學工程數學工程數學(0)(1.5,1.0)Tx 用用牛牛頓頓迭迭代代法法解解方方例例程程組組，取取初初值值迭迭代代一一次次。 052032222121xxxxT2212121212(1)(0)(0)(0)(1)(0)(0)(

24、0)(0)1(0)2(0)( )( ),( )(23,25)12( )426-24k0,()()1.5 1.0120.5620.50.TTF xfxfxxxxxDF xxxxDF xxF xxxxxxxx ）按按格格式式（）取取計計算算將將初初值值（， ）代代入入得得解解得得（解解：(1)(1)(0)(0)0, 0.25) ,1.5,0.75)TTxxxx 于于是是求求出出解解為為（工程數學工程數學工程數學工程數學1*1*( )( )( )()()()0 xxDF xF xxIDF xDF xII N Ne ew wt to on n迭迭代代法法的的迭迭代代函函數數是是故故根根據據定定理理2

25、2知知N Ne ew wt to on n迭迭代代法法是是局局部部收收斂斂的的。2*( )2(1)*( )*( )( )()(0)kkkxxSxxc xxcxxxxc xx N Ne ew wt to on n迭迭代代法法的的迭迭代代函函數數滿滿足足對對一一切切，有有利利用用此此結結論論，令令，則則有有二、二、NewtonNewton迭代法的收斂性迭代法的收斂性由迭代收斂階的定義，由迭代收斂階的定義，Newton迭代法是平方收斂的。迭代法是平方收斂的。工程數學工程數學工程數學工程數學111211112()()()()()()(),(),()()(),()(),1,2,()()()()()()(

26、)(),(),()(ijn nTnnkikijkjTnxxDF xF xDF xaxF xfxfxfxDF xDF xIfxaxi jnxxxB xDxID B xB xDF xF xbxbxbxDB x 對對記記即即記記其其中中()(),1,2,in njbxi jnx ()0Dx 下下面面證證明明工程數學工程數學工程數學工程數學11*1*( )( )( )( )( )( )( )( )()01,2,()()(),1,2,()( ()()( ()0niikkkniikkkikkjjjknikikijkjjijn nb xax fxb xaxfxfxaxxxxfxknb xfxaxi jnxx

27、b xD B xIxDxID B xII 而而于于是是證證閉閉工程數學工程數學工程數學工程數學(0)(0)(0)(0)( )0,:0,1( , )0,( ,0)( ),( )0,()0,(0)1,( ,1)( ),( )0,()0,(1)( , )0( ),(0)(1)( , )nnF xFRRtH x ttH xxxxxxxtH xF xF xxF xxxH x txx txxxxH x t 設求解設求解引入一個參變量引入一個參變量構造函數（族），使其滿足要求構造函數（族），使其滿足要求時且有已知根時且有已知根使即，使即，時則由可求出根時則由可求出根使即使即由可得且有，。由可得且有，。稱稱(

28、 )( )( )0 xx txx tF xx 為同倫函數，稱為同倫曲線。為同倫函數，稱為同倫曲線。求出同倫曲線，即可求出的根 。求出同倫曲線，即可求出的根 。二、同倫算法二、同倫算法工程數學工程數學工程數學工程數學(0)(0)(0)( , )1( , )( )(1) ( )( )0()0( , )( )(1) ( )00,( ,0)()01,( ,1)()0H x tH x ttF xtxxxxH x ttF xtxtH xxtH xF x 構構造造的的方方法法（ ）取取其其中中有有根根使使顯顯然然滿滿足足要要求求 222121221212(0)(0)(0)02529( ),( ),01112

29、,()0( , )( )(1) ( ),0,1( , )00,( ,0)( )0,(0)( )1,( ,1)( )0,(1)TxxxxF xxxxxxxxH x ttF xtxtH x ttH xxxxxx ttH xF xxx 例例：取取可可構構造造同同倫倫函函數數求求解解有有（要要解解出出工程數學工程數學工程數學工程數學(0)(0)(0)(0)(1)(2)( , )( )(1)()( , )0,( )0,( ,0)( )()0,(0),1,( ,1)( )0,(1)nxRH x tF xtF xH x txx ttH xF xF xxxtH xF xxxx 任任取取初初值值，構構造造同同倫

30、倫函函數數求求解解解解出出顯顯然然滿滿足足要要求求解解解解(0)(3)( , )( )(1) (),0,1n nH x ttF xt A xxARt 非非奇奇異異工程數學工程數學工程數學工程數學0)()1()(),()0( xFtxFtxH求求解解同同倫倫方方程程),.,1 , 0( , 101,1 , 010NkNkttttNNkN 個個節節點點有有等等分分將將的的初初值值作作為為求求解解用用，的的解解由由于于0),()0(0)0 ,(),(1)0()0(0 txHxxxxHtxH)1()(0),(,)()2(2)1()1(xtxxNxtxHxxNewtonNN 步步求求出出重重復復以以上上過過程程繼繼續續到到第第，求求出出解解作作為為初初值值求求解解再再用用迭迭代代法法求求解解得得到到解解用用工程數學工程數學工程數學工程數學1(0)(1)( )( )1( )( )(1)( )( )1( ),(, )0,0,1,2,.,1Newton0,1,2,.,1(,)(,),1,2,.(,1)(,1)kknkkkkknkkkkktH txkNNxRkNkkxxDH xH xNNxRkN NNxxDH xH x 具具體體計計算算格格式式