1、 第二章第二章 向量與矩陣的范數向量與矩陣的范數定義定義： 設設 是實數域是實數域 （或復數域（或復數域 ）上）上的的 維線性空間，對于維線性空間，對于 中的任意一個向量中的任意一個向量 按照某一確定法則對應著一個實數，這個按照某一確定法則對應著一個實數，這個實數稱為實數稱為 的的范數范數，記為，記為 ，并且要求，并且要求范數滿足下列運算條件：范數滿足下列運算條件： （1）非負性：當）非負性：當 只只有且僅有當有且僅有當 （2） 齊次性：齊次性： 為任為任意數。意數。VRnVC0,00,0,kkk（3） 三角不等式：對于三角不等式：對于 中的任意兩個中的任意兩個向量向量 都有都有例例： 在在

2、維線性空間維線性空間 中，對于任意的中，對于任意的向量向量 定義定義V, nnC12(,)nna aaC11122211(1)(2)()(3)maxniiniiii naaa 證明：證明： 都是都是 上的范數，并且還有上的范數，并且還有nC12,12122(1)(2)(3)nnn引理引理 設設 均為非負實數，則總有均為非負實數，則總有 1,1pq111pqpquvuvpq, u vqniqipnipiiniibaba11111)()(Holder不等式不等式：設設1212,TTnnna aab bbC證：令證：令 ， ，其中，其中iauaibvb1111,pqpqnniiiiaabb11()p

3、qiiiipqaba babp aq b111111()pqpqnniiiiababpq11111()nnnpqiiiipqiiia bababpaqb代入上述不等式，則有代入上述不等式，則有Minkowski不等式不等式：設設則對任何則對任何 都有都有1212,TTnnna aab bbC1p 111111()()()nnnppppppiiiiiiiabab證明證明 以以 代入下式代入下式則則 111nnppiiiiiiiiabab ab1pqp11nnppqiiiiiiiiabab ab11nnppqqiiiiiiiia abb ab對上式由對上式由Holder不等式可得不等式可得 111

4、11() ()nnnppppqiiiiiiiiabaab1111() ()nnpppqiiiiibab111111()() ()nnnpppppqiiiiiiibbab此不等式兩端同除以此不等式兩端同除以 ，根據，根據 可得可得 11()npqiiiab111pq111111()()()nnnppppppiiiiiiiabab幾種常用的范數幾種常用的范數定義：定義：設向量設向量 ，對任，對任意的數意的數 ，稱，稱為向量為向量 的的 范數范數。p 12,Tna aa1p 11()nppipia（1）1范數范數（2）2范數范數 也稱為也稱為歐氏范數。歐氏范數。（3） 范數范數 121 2221()

5、()nHiia 1maxii na 11niia定義定義 設設 是是 維線性空間維線性空間 上定義的兩種向量范數，如果存在兩個與上定義的兩種向量范數，如果存在兩個與 無關的正數無關的正數 使得使得則稱向量范數則稱向量范數 等價。等價。nV,ab12,dd12,babddV,ab定理定理 有限維線性空間有限維線性空間 上的任意兩個上的任意兩個向量范數都是等價的。向量范數都是等價的。V利用向量范數可以去構造新的范數。利用向量范數可以去構造新的范數。例例1 1 設設 是是 上的向量范數，且上的向量范數，且 ，則由，則由所定義的所定義的 是是 上的向量范數。上的向量范數。mCb,( )m nACran

6、k An,nabACanC定義定義 對于任何一個矩陣對于任何一個矩陣 ，用，用 表示按照某一確定法則與矩陣表示按照某一確定法則與矩陣 相對相對應的一個實數，且滿足應的一個實數，且滿足AA（1）非負性：當）非負性：當 只有只有且僅有當且僅有當 （2） 齊次性：齊次性： 為任為任意復數。意復數。（3） 三角不等式：對于任意兩個同種形三角不等式：對于任意兩個同種形狀矩陣狀矩陣 都有都有0,0AA0,0AA,kAk Ak,A BABAB2. 矩陣范數矩陣范數m nAC（4）矩陣乘法的相容性：對于任意兩個可以）矩陣乘法的相容性：對于任意兩個可以相乘的矩陣相乘的矩陣 ，都有，都有那么我們稱那么我們稱 是是

7、矩陣矩陣 的范數。的范數。例例1 對于任意對于任意 ，定義，定義可以證明如此定義的可以證明如此定義的 為矩陣為矩陣 的的 范范數。數。,A BABA BAA111mnijmijAaA1mA1mm nAC證明證明 只需要驗證此定義滿足矩陣范數的只需要驗證此定義滿足矩陣范數的四條性質即可。非負性，齊次性與三角不四條性質即可。非負性，齊次性與三角不等式容易證明?，F在我們驗證乘法的相容等式容易證明?，F在我們驗證乘法的相容性。設性。設 ，則，則,m pp nACBC11111111111111111()()()()ppmnmnikkjikkjmijkijkppmnikkjijkkppmnikkjikjk

8、mmABa babababAB 例例2 設矩陣設矩陣 ，證明：，證明：是矩陣的是矩陣的 范數。范數。證明：非負性，齊次性和三角不等式容易證明：非負性，齊次性和三角不等式容易證得。現在我們考慮乘法的相容性。設證得?，F在我們考慮乘法的相容性。設 ，那么，那么n nAC,maxijmi jAna,n nn nACBCm,11,maxmaxmaxmaxmaxmaxnnikkjikkjmi ji jkkikkji kk jikkji kk jmmABna bnabn nabnanbAB因此因此 為矩陣為矩陣 的范數。的范數。mAA例例3 對于任意對于任意 ，定義，定義可以證明可以證明 也是矩陣也是矩陣

9、的范數。我們稱此的范數。我們稱此范數為矩陣范數為矩陣 的的Frobenious范數范數。證明證明 此定義的非負性，齊次性是顯然的。此定義的非負性，齊次性是顯然的。利用利用Holder不等式和不等式和Minkowski不等式容易不等式容易證明三角不等式?，F在我們驗證乘法的相容證明三角不等式?，F在我們驗證乘法的相容性。性。 設設 ，則，則 111222211()()()mnHHijFijAaTr A ATr AAFAAA,m ll nACBCm nAC22211111122111122111122()()()()()mnlmnlikkjikkjFijkijkmnllikkjijkkmlnlikkj

10、ikjkFFABa babababAB 于是有于是有 FFFABABFrobenious范數的性質范數的性質：（1）如果）如果 ，那么，那么（2） （3）對于任何）對于任何 階酉矩陣階酉矩陣 與與 階酉矩陣階酉矩陣 12nA2221niFiA21()()nHHiFiATr A AA AnmU 都有等式都有等式關于矩陣范數的等價性定理。關于矩陣范數的等價性定理。定理定理 設設 是矩陣是矩陣 的任意兩的任意兩種范數，則總存在正數種范數，則總存在正數 使得使得VHFFFFFAUAAAVUAV（酉不變性）,AA12,ddA12,m ndAAdAAC 3. 算子范數算子范數定義定義 設設 是向量范數，是

11、向量范數， 是矩陣范是矩陣范數，如果對于任何矩陣數，如果對于任何矩陣 與向量與向量 都有都有則稱矩陣范數則稱矩陣范數 與向量范數與向量范數 是相容是相容的。的。例例1 矩陣的矩陣的Frobenius范數與向量的范數與向量的2-范數范數是相容的是相容的.證明證明 因為因為 XAAXAXAXAX12211()mnijFijAa121 2221()()nHiiXxXX根據根據Holder不等式可以得到不等式可以得到222211112211122111222()()()()()mnmnijjijjijijmnnijjijjmnnijjijjFA Xa xa xaxaxAX 于是有于是有 例例2 設設

12、是向量的范數，則是向量的范數，則滿足矩陣范數的定義，且滿足矩陣范數的定義，且 是與向量范是與向量范 相容的矩陣范數。相容的矩陣范數。證明證明 首先我們驗證此定義滿足范數的四首先我們驗證此定義滿足范數的四條性質。非負性，齊次性與三角不等式易條性質。非負性，齊次性與三角不等式易證?，F在考慮矩陣范數的相容性。證。現在考慮矩陣范數的相容性。22FAXAXX0maxXAXAXAX000maxmax()maxXXXABXABXABXXBXAXAB因此因此 的確滿足矩陣范數的定義。的確滿足矩陣范數的定義。 A0maxXAXAXAXAAXAXX由定義定義 上面所定義的矩陣范數稱為由向量范上面所定義的矩陣范數稱

13、為由向量范數數 所誘導的所誘導的誘導范數誘導范數或或算子范數算子范數。X由向量由向量 P-范數范數 所誘導的矩陣范數稱為所誘導的矩陣范數稱為矩陣矩陣P-范數。即范數。即常用的常用的矩陣矩陣P-范數范數為為 ， 和和 。pX0maxppXpAXAX1A2AA定理定理 設設 ，則，則（1）我們稱此范數為矩陣我們稱此范數為矩陣 的的列和范數列和范數。m nAC11max(),1,2,mijjiAajnA（2） 表示矩陣表示矩陣 的第的第 個特征值。我們稱此范數為矩個特征值。我們稱此范數為矩陣陣 的的譜范數譜范數。（3）我們稱此范數為矩陣我們稱此范數為矩陣 的的行和范數行和范數。122max(),()

14、HHjjjAA AA AHA AjA1max(),1,2,nijijAaimA210023120A計算計算 ， ， 和和 。解解 1A2AAFA15A5A23FA例例 1 設設215A1 2 3500096=3 5 15069HA A，因為因為所以所以 0110000iAi100010001A練習練習 設設和分別計算這兩個矩陣的分別計算這兩個矩陣的 ， ， 和和 。2A1AAFA如何由矩陣范數構造與之相容的向量范數？如何由矩陣范數構造與之相容的向量范數？定理定理2 設設 是矩陣范數，則存在向量范數是矩陣范數，則存在向量范數 使得使得證明證明 對于任意的非零向量對于任意的非零向量 ，定義向量范，定義向量范數數 ，容易驗證此定義滿足向量，容易驗證此定義滿足向量范數的三個性質，且范數的三個性質，且*AX*AXAX*HXX矩陣的譜半徑及其性質矩陣的譜半徑及其性質定義定義 設設 ， 的的 個特征值為個特征值為 ，我們稱，我們稱為為矩陣矩陣 的譜半徑的譜半徑。例例1 設設 ，那么，那么n nACnA12,n 12( )max,nAAn nAC*HHAXAXAXAX( )AA這