2.1證:矩陣的秩(rank)是指矩陣中線性獨立行或列的最大數量,由題知矩陣??的秩是??,這意味著存在m個線性獨立的行（或列）,這??個線性獨立的行（或列）不能被A中的其他行（或列）通過線性組合來表示,由于??是一個m×n矩陣,它最多有n列.由于??至少有m個線性獨立的列,并且它最多有n列,這意味著??個線性獨立的列必須全部存在,因此m必須小于或等于n.2.2證:方程組Ax=b有唯一解意味著對于給定的m×n矩陣A和向量b,存在一個唯一的向量x使得方程成立.如果A的秩rank(A)等于n,這意味著A的所有列向量都是線性獨立的,因此A是滿秩的.進一步,如果增廣矩陣[A∣b]的秩rank[??∣??]也等于??,這表明向量b可以由A的列向量唯一地線性組合表示,即b屬于A的列空間.由于A的列向量構成了Rn的一組基,這意味著存在唯一的線性組合系數x使得Ax=b成立.如果存在兩個不同的解x1?和x2?,它們都滿足Ax=b,那么A(x1?x2??)=0,但由于A的列向量是線性獨立的,唯一滿足這個方程的是x1?x2=0?,即x1=x2?.這證明了方程組Ax=2.3證:根據線性代數的知識,我們知道在??維空間Rn中,最多只能有n個線性無關的向量.如果有超過n個向量,它們必然是線性相關的.這意味著至少存在一組非全零的標量α1,α2…,αk?,現在,假設我們有k≥n+2個向量a1,a2…,ak.由于k≥n+1,根據題目給定的條件,這些向量一定是線性相關的.我們可以找到一組標量α1,α2…,αk,使得i=1kαiai=0,并且至少有一個αi≠0.為了滿足i=1kαi=0,我們可以進行如下操作:首先,選擇一個非零的標量αj,然后調整其他標量,使得αj?的值減去其他所有標量的和等于0.具體來說,我們可以設置αj=1,然后將α2.4證:（1）為了簡化計算,先對矩陣M進行行變換,即交換第i行和第i+(m?k)行（對于i=1,2,…,k）,這樣可以將Mk,k塊移動到矩陣的左上角,同時Im?k?∣detM∣=|detMk,k根據分塊矩陣的行列式性質,當分塊矩陣的右上角是零矩陣時,其行列式等于主對角線子矩陣的行列式乘積;當分塊矩陣的右下角是單位矩陣時,其行列式等于左上角的子矩陣的行列式.因此:|detMk,kOk,m?kMm?k,kIm?k綜上,我們證明了∣detM∣=∣detMk,k∣（2）由（1）知∣detM∣=∣detMk,k∣.為了使得

detM=det(?Mk,k)

成立,我們需要考慮特別地,當Mk,k

是奇異矩陣（即

detMk,k=0）時,無論Mk,k的符號如何變化,其行列式都是0.因此,在這種情況下,detM=det(?當Mk,k是非奇異矩陣（即

detMk,k≠0）時,detM

和

det(?Mk,k)

的符號是不同的（因為

det(?Mk,k?)=?detMk,k）.此時,detM=det(?Mk,k2.5證：（1）對集合S中任意兩點，及每個數，有由題設，有因此，，故S是凸集。（2）對集合S中任意兩點，及每個數，有由題設，有因此，，故S是凸集。（3）對集合S中任意兩點，及每個數，有由題設，有因此，，故S是凸集。2.6證：對任意兩點及每個數，根據集合S的定義，存在，使，由于C是凸集，必有，因此，，故S是凸集。2.7證：對任意兩點及每個數，存在，使，因此有，，而，故，即S是凸集。2.8證：用數學歸納法。當時，由凸集的定義知上式顯然成立。設時結論成立，當時，有由于時結論也成立。從而得證。2.9設A是m×n矩陣，B是l×n矩陣，，證明下列兩個系統恰有一個有解：系統1Ax≤系統2AT證由于Bx=Bx≤0因此系統1有解，即AB?根據Farkas定理，得(ATBT無解.記u無解.反之亦然。2.10設A是m×n矩陣，c∈Rn，則下列兩個系統恰有一個有解：系統1Ax系統2A證若系統1有解，即A有解，則根據Farkas定理，有A無解，即AA無解.反之，若ATy≥c,y≥0有解，即A有解，亦即A有解.根據Farkas定理，有A無解，即Ax無解.2.11證明Ax≤，.證根據Farkas定理，只需證明ATy無解，事實上，AT1對此線性方程組的增廣矩陣做初等行變換：1此線性方程組ATy=c的系數矩陣與增廣矩陣的秩不等，因此無解，即ATy2.12證明下列不等式組無解：證將不等式組寫作Ax<0根據Gordan定理，只需證明ATy=1ATy=0y12.13判別下列函數是否為凸函數：(1)(2)(3)(4)(5)解：（1）為半正定矩陣，故是凸函數。為不定矩陣，故不是凸函數。因此Hesse矩陣為半正定矩陣，因此是凸函數。（4）于是Hesse矩陣為不定矩陣，故不是凸函數。（5）的Hesse矩陣為做合同變換：由此可得為不定矩陣，因此不是凸函數。2.14設，，是否為S上的凸函數？解：函數的Hesse矩陣為易知在集合S上不是半正定矩陣，如在點(0,1)處的Hesse矩陣是，是不定矩陣。因此不是S上的凸函數。2.15證明為嚴格凸函數的充要條件是Hesse矩陣A正定。證先證必要性。設是嚴格凸函數。根據定理1.4.14，對任意非零向量x及=0，必有（1）將在=0處展開，有（2）有（1）式和（2）式知由于式二次凸函數，因此即A正定。再證充分性。設A正定，對任意兩個不同點x和=0，根據中值定理，有根據定理1.4.14，是嚴格凸函數。2.16設f是定義在Rn上的函數，如果對每一點x∈Rn及正數t均有f(tx)=tf(x)，則稱f為正齊次函數。證明Rn上的正齊次函數f為凸函數的充要條件是，對任何x(1)，x(2)∈Rn，有證先證必要性。設正齊次函數是凸函數，則對任意兩點必有由于是正齊次函數，有代入前式得，即.再證充分性.設正齊次函數對任意的x(1)，x(2)∈Rn滿足，則對任意的x(1)，x(2)∈Rn及每個數λ∈0fλ因此是Rn上的凸函數。2.17證:假設有一個矩陣A,它的范數||A||<1,若把矩陣A乘以自己k次,得到的新矩陣Ak的范數不會超過??的范數的k次方,即||A||k≤||A||k.因為||A||<1,我們可以把||A||k想象成1元的k次方,這就像是一個不斷縮小的數列.這個數列的和是有限的.隨著k變得越來越大,||A||k會越來越小,最終趨近于0.這是因為每次k增加,||A||k2.18證:對于矩陣A,特征值λ滿足Ax=λx,其中x是非零向量.對于任意非零向量x,我們有:||Ax||≤||A||如果Ax=λx,那么:||λ||?||x||=||Ax||≤||A|||λ|≤||A||由于這個不等式對任意非零向量x都成立,特別是對于對應于最大特征值的單位特征向量,有:max1≤i≤n∣λi?(A)∣≤2.19解:（1）梯度是一個向量,其分量是函數對每個變量的偏導數.將函數??(x)展開得到:??(x)=(a1?x1?+a2?x2?+…+anxn))?(b1x1?+b2x2?+…+bnxn??).對于即梯度向量???(??)的第i個分量是ai(bT??)+bi(a（2）Hessian矩陣的每個元素fij是??(x)中元素的二階偏導數.由題知??(x)是兩個線性項的乘積,它的Hessian矩陣將會是一個對角矩陣,因為只有xi和對于??(x),Hessian矩陣??(x)由下式給出:對于對角線上的元素fii,我們有:fii=?2f?xi2=2(aTb),對于非對角線上的元素fij因此,Hessian矩陣??(x)可以表示為:??(x)=2(aTb)I,2.20解:已知??(t)=??(g(t)),根據鏈式法則有:df(t)dt=???(g(t)由g(t)=[3t+5,2t?6]T可得:dg(t)dt=[d(3t+5)dt,d(2t?6)dt]=[3,2],由??(x)=x126+x224得:???因此,df2.21解:要在同一張圖上繪制兩個函數的水平集,我們需要分別解出??1(x1,x2)=12和??2(x??1(x1,x2已知??1(x1,x2)=x12-x22??2(x1,x2)已知:??2(x1,x2)=2x1x2=16,可知:x1在一張平面坐標系中,我們可以繪制這些水平集.對于??1?,我們將x2作為參數,分別計算x1的正負平方根,得到兩個拋物線.對于??2?,我們同樣將x2?要尋找fx=[從第二個開始解得:x1=8x2,將x1代入第一個方程,有:8x22-x22=12,即:64x22-x22=12,x24+12故滿足題意的點[x1?,x2]T是:圖像如下:(橫坐標是x2,縱坐標是x12.22泰勒級數是函數在某一點的無窮級數展開,它可以用函數在該點的導數來表示.給定函數??(x)和展開點x0（1）已知函數??(??)=x1e?x2+x22+1,展開點x0=[1?,0]T,首先計算??(??)在x0處的值,即0階導數??(x0):??接下來,我們計算1階導數??′(??),由于??(??)是兩個變量x1和x2的函數,我們需要分別對x1和x2求偏導,求導可得:?f?x1=e?x2,計算2階導數??′′(??),?2f?x12=0,?2f?x22=x1e?x2+2,?2現在,我們可以寫出??(x)在x0處的泰勒級數展開式,忽略三次及更高階項??(x)=2+[1,-1]?[x1?1?,x2]T+12[x1?1?,x2]?0?1?13?（2）已知函數??(??)=x14+2x12x22+x24,展開點x0=[1?,1]T,首先計算??(??)在接下來,我們計算1階導數??′(??),由于??(x)是兩個變量x1和x2的函數,我們需要分別對x1和x2求偏導:?f?x1=4x13+4x1計算2階導數??′′(??),?2f?x12=12x1+4x22,?2f?x22=4x1現在,我們可以寫出??(x)在x0??(x)=4+[8,8]