算法設計與分析王曉東 編著1算法設計與分析主要內容介紹第1章 算法引論第2章 遞歸與分治策略第3章 動態規劃第4章 貪心算法第5章 回溯法第6章 分支限界法2算法設計與分析主要內容介紹（續）第7章 概率算法第8章 NP完全性理論第9章 近似算法第10章 算法優化策略3算法設計與分析第1章算法引論1.1 算法與程序1.2 表達算法的抽象機制1.3 描述算法1.4 算法復雜性分析本章主要知識點：4算法設計與分析1.1 算法與程序輸入：有零個或多個外部量作為算法的輸入。輸出：算法產生至少一個量作為輸出。確定性：組成算法的每條指令清晰、無歧義。有限性：算法中每條指令的執行次數有限，執行每條指令的時間也有限。是算法用某種程序設計語言的具體實現。程序可以不滿足算法的性質(4)即有限性。

是滿足下述性質的指令序列。算法：程序：5算法設計與分析1.從機器語言到高級語言的抽象1.2 表達算法的抽象機制高級程序設計語言的主要好處是：（4）把繁雜瑣碎的事務交給編譯程序，所以自動化程度高，開發周期短，程序員可以集中時間和精力從事更重要的創造性勞動，提高程序質量。（1）高級語言更接近算法語言，易學、易掌握，一般工程技術人員只需要幾周時間的培訓就可以勝任程序員的工作；（2）高級語言為程序員提供了結構化程序設計的環境和工具，使得設計出來的程序可讀性好，可維護性強，可靠性高；（3）高級語言不依賴于機器語言，與具體的計算機硬件關系不大，因而所寫出來的程序可植性好、重用率高；6算法設計與分析2.抽象數據類型1.2 表達算法的抽象機制

抽象數據類型是算法的一個數據模型連同定義在該模型上并作為算法構件的一組運算。

抽象數據類型帶給算法設計的好處有：

（1）算法頂層設計與底層實現分離；（2）算法設計與數據結構設計隔開，允許數據結構自由選擇；（3）數據模型和該模型上的運算統一在ADT中，便于空間和時間耗費的折衷；（4）用抽象數據類型表述的算法具有很好的可維護性；（5）算法自然呈現模塊化；（6）為自頂向下逐步求精和模塊化提供有效途徑和工具；（7）算法結構清晰，層次分明，便于算法正確性的證明和復雜性的分析。

7算法設計與分析在本書中，采用Java語言描述算法。1.Java程序結構

1.3 描述算法以下，對Java語言的若干重要特性作簡要概述。

（1）Java程序的兩種類型：應用程序和applet 區別：應用程序的主方法為main，其可在命令行中用命令 語句java應用程序名來執行；

applet的主方法為init，其必須嵌入HTML文件，由

Web瀏覽器或applet閱讀器來執行。（2）包：java程序和類可以包(packages)的形式組織管理。

（3）import語句：在java程序中可用import語句加載所需的包。 例如，importjava.io.*;語句加載java.io包。

8算法設計與分析1.3 描述算法2.Java數據類型數據類型

基本數據類型：詳見下頁表1-1

非基本數據類型：如

Byte,Integer,Boolean,String等。

Java對兩種數據類型的不同處理方式：

對基本數據類型：在聲明一個具有基本數據類型的變量時，自 動建立該數據類型的對象（或稱實例）。如:intk;對非基本數據類型：語句Strings;并不建立具有數據類型 String的對象，而是建立一個類型String的引用對象， 數據類型為String的對象可用下面的new語句建立。s=newString(“Welcome”);Strings=newString(“Welcome”);9算法設計與分析1.3 描述算法表格1-1Java基本數據類型類型缺省值分配空間（bits）取值范圍booleanfalse1[true,false]byte08[-128,127]char\u000016[\u0000,\uFFFF]double0.064±4.9*10-324~±1.8*10308float0.032±1.4*10-45~±3.4*1038int032[-2147483648,2147483647]long064±9.2*1017short016[-32768,32767]10算法設計與分析1.3 描述算法3.方法在Java中，執行特定任務的函數或過程統稱為方法(methods)。例如，java的Math類給出的常見數學計算的方法如下表所示：方法功能方法功能abs(x)x的絕對值max(x,y)x和y中較大者ceil(x)不小于x的最小整數min(x,y)x和y中較小者cos(x)x的余弦pow(x,y)xyexp(x)exsin(x)x的正弦floor(x)不大于x的最大整數sqrt(x)x的平方根log(x)x的自然對數tan(x)x的正切11算法設計與分析1.3 描述算法3.方法

計算表達式 值的自定義方法ab描述如下：

publicstaticintab(inta,intb){return(a+b+Math.abs(a-b))/2;}

（1）方法參數：Java中所有方法的參數均為值參數。上述方法ab中，a和b 是形式參數，在調用方法時通過實際參數賦值。

（2）方法重載：Java允許方法重載，即允許定義有不同簽名的同名方法。 上述方法ab可重載為：

publicstaticdoubleab(doublea,doubleb){return(a+b+Math.abs(a-b))/2.0;}

12算法設計與分析1.3 描述算法4.異常Java的異常提供了一種處理錯誤的方法。當程序發現一個錯誤，就引發一個異常，以便在合適地方捕獲異常并進行處理。通常用try塊來定義異常處理。每個異常處理由一個catch語句組成。

publicstaticvoidmain(String[]args){try{f();}

catch(exception1){異常處理;}

catch(exception2){異常處理;}

…

finally{finally塊;}}

13算法設計與分析1.3 描述算法5.Java的類(4)訪問修飾公有(public)私有(private)保護(protected)Java的類一般由4個部分組成：(1)類名(2)數據成員(3)方法14算法設計與分析1.3 描述算法6.通用方法

下面的方法swap用于交換一維整型數組a的位置i和位置j處的值。

publicstaticvoidswap(int[]a,inti,intj){inttemp=a[i];a[i]=a[j];a[j]=temp;}

publicstaticvoidswap(object[]a,inti,intj){objecttemp=a[i];a[i]=a[j];a[j]=temp;}

該方法只適用于整型數組該方法具有通用性，適用于Object類型及其所有子類以上方法修改如下：15算法設計與分析1.3 描述算法6.通用方法

（1）Computable界面

publicstaticComputablesum(Computable[]a,intn){if(a.length==0)returnnull;Computablesum=(Computable)a[0].zero();for(inti=0;i<n;i++)sum.increment(a[i]);returnsum;}利用此界面使方法sum通用化

16算法設計與分析1.3 描述算法6.通用方法

（2）java.lang.Comparable界面Java的Comparable界面中惟一的方法頭compareTo用于比較2個元素的大小。例如java.lang.CpareTo(y)返回x-y的符號，當x<y時返回負數，當x=y時返回0，當x>y時返回正數。（3）Operable

界面有些通用方法同時需要Computable界面和Comparable界面的支持。為此可定義Operable界面如下:publicinterfaceOperableextendsComputable,Comparable{}（4）自定義包裝類由于Java的包裝類如Integer等已定義為final型，因此無法定義其子類，作進一步擴充。為了需要可自定義包裝類。17算法設計與分析1.3 描述算法7.垃圾收集8.遞歸 Java的new運算用于分配所需的內存空間。例如，int[]a=newint[500000];分配2000000字節空間給整型數組a。頻繁用new分配空間可能會耗盡內存。Java的垃圾收集器會適時掃描內存，回收不用的空間（垃圾）給new重新分配。Java允許方法調用其自身。這類方法稱為遞歸方法。publicstaticintsum(int[]a,intn){if(n==0)return0;elsereturna[n-1]+sum(a,n-1);}計算一維整型數組前n個元素之和的遞歸方法

18算法設計與分析1.4 算法復雜性分析

算法復雜性是算法運行所需要的計算機資源的量，需要時間資源的量稱為時間復雜性，需要的空間資源的量稱為空間復雜性。這個量應該只依賴于算法要解的問題的規模、算法的輸入和算法本身的函數。如果分別用N、I和A表示算法要解問題的規模、算法的輸入和算法本身，而且用C表示復雜性，那么，應該有C=F(N,I,A)。一般把時間復雜性和空間復雜性分開，并分別用T和S來表示，則有：T=T(N,I)和S=S(N,I)

。 （通常，讓A隱含在復雜性函數名當中）

19算法設計與分析1.4 算法復雜性分析最壞情況下的時間復雜性：最好情況下的時間復雜性：平均情況下的時間復雜性：其中DN是規模為N的合法輸入的集合；I*是DN中使T(N,I*)達到Tmax(N)的合法輸入；是中使T(N,)達到Tmin(N)的合法輸入；而P(I)是在算法的應用中出現輸入I的概率。20算法設計與分析1.4 算法復雜性分析算法復雜性在漸近意義下的階：漸近意義下的記號：O、Ω、θ、o

設f(N)和g(N)是定義在正數集上的正函數。

O的定義：如果存在正的常數C和自然數N0，使得當NN0時有f(N)Cg(N)，則稱函數f(N)當N充分大時上有界，且g(N)是它的一個上界，記為f(N)=O(g(N))。即f(N)的階不高于g(N)的階。根據O的定義，容易證明它有如下運算規則：(1)O(f)+O(g)=O(max(f,g))；(2)O(f)+O(g)=O(f+g)；(3)O(f)O(g)=O(fg)；(4)如果g(N)=O(f(N))，則O(f)+O(g)=O(f)；(5)O(Cf(N))=O(f(N))，其中C是一個正的常數；(6)f=O(f)。

21算法設計與分析1.4 算法復雜性分析Ω的定義：如果存在正的常數C和自然數N0，使得當NN0時有f(N)Cg(N)，則稱函數f(N)當N充分大時下有界，且g(N)是它的一個下界，記為f(N)=Ω(g(N))。即f(N)的階不低于g(N)的階。θ的定義：定義f(N)=θ(g(N))當且僅當f(N)=O(g(N))且f(N)=Ω(g(N))。此時稱f(N)與g(N)同階。o的定義：對于任意給定的ε＞0，都存在正整數N0，使得當NN0時有f(N)/Cg(N)ε,則稱函數f(N)當N充分大時的階比g(N)低，記為f(N)=o(g(N))。例如，4NlogN+7=o(3N2+4NlogN+7)。

22算法設計與分析第2章遞歸與分治策略23算法設計與分析將要求解的較大規模的問題分割成k個更小規模的子問題。算法總體思想nT(n/2)T(n/2)T(n/2)T(n/2)T(n)=

對這k個子問題分別求解。如果子問題的規模仍然不夠小，則再劃分為k個子問題，如此遞歸的進行下去，直到問題規模足夠小，很容易求出其解為止。24算法設計與分析算法總體思想對這k個子問題分別求解。如果子問題的規模仍然不夠小，則再劃分為k個子問題，如此遞歸的進行下去，直到問題規模足夠小，很容易求出其解為止。nT(n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)

將求出的小規模的問題的解合并為一個更大規模的問題的解，自底向上逐步求出原來問題的解。25算法設計與分析算法總體思想將求出的小規模的問題的解合并為一個更大規模的問題的解，自底向上逐步求出原來問題的解。nT(n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)26算法設計與分析算法總體思想將求出的小規模的問題的解合并為一個更大規模的問題的解，自底向上逐步求出原來問題的解。nT(n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)

分治法的設計思想是，將一個難以直接解決的大問題，分割成一些規模較小的相同問題，以便各個擊破，分而治之。

凡治眾如治寡，分數是也。

----孫子兵法27算法設計與分析2.1遞歸的概念直接或間接地調用自身的算法稱為遞歸算法。用函數自身給出定義的函數稱為遞歸函數。由分治法產生的子問題往往是原問題的較小模式，這就為使用遞歸技術提供了方便。在這種情況下，反復應用分治手段，可以使子問題與原問題類型一致而其規模卻不斷縮小，最終使子問題縮小到很容易直接求出其解。這自然導致遞歸過程的產生。分治與遞歸像一對孿生兄弟，經常同時應用在算法設計之中，并由此產生許多高效算法。下面來看幾個實例。28算法設計與分析2.1遞歸的概念例1階乘函數階乘函數可遞歸地定義為：邊界條件遞歸方程邊界條件與遞歸方程是遞歸函數的二個要素，遞歸函數只有具備了這兩個要素，才能在有限次計算后得出結果。29算法設計與分析2.1遞歸的概念例2Fibonacci數列無窮數列1，1，2，3，5，8，13，21，34，55，…，被稱為Fibonacci數列。它可以遞歸地定義為：邊界條件遞歸方程第n個Fibonacci數可遞歸地計算如下：publicstaticintfibonacci(intn){

if(n<=1)return1;

return

fibonacci(n-1)+fibonacci(n-2);}30算法設計與分析31算法設計與分析2.1遞歸的概念例3Ackerman函數當一個函數及它的一個變量是由函數自身定義時，稱這個函數是雙遞歸函數。Ackerman函數A(n，m)定義如下：32算法設計與分析2.1遞歸的概念例3Ackerman函數前2例中的函數都可以找到相應的非遞歸方式定義：但本例中的Ackerman函數卻無法找到非遞歸的定義。33算法設計與分析2.1遞歸的概念例3Ackerman函數A(n，m)的自變量m的每一個值都定義了一個單變量函數：M=0時，A(n,0)=n+2M=1時，A(n,1)=A(A(n-1,1),0)=A(n-1,1)+2，和A(1,1)=2故A(n,1)=2*nM=2時，A(n,2)=A(A(n-1,2),1)=2A(n-1,2)，和A(1,2)=A(A(0,2),1)=A(1,1)=2，故A(n,2)=2^n。M=3時，類似的可以推出M=4時，A(n,4)的增長速度非常快，以至于沒有適當的數學式子來表示這一函數。34算法設計與分析2.1遞歸的概念例3Ackerman函數定義單變量的Ackerman函數A(n)為，A(n)=A(n，n)。定義其擬逆函數α(n)為：α(n)=min{k｜A(k)≥n}。即α(n)是使n≤A(k)成立的最小的k值。α(n)在復雜度分析中常遇到。對于通常所見到的正整數n，有α(n)≤4。但在理論上α(n)沒有上界，隨著n的增加，它以難以想象的慢速度趨向正無窮大。35算法設計與分析2.1遞歸的概念例4排列問題設計一個遞歸算法生成n個元素{r1,r2,…,rn}的全排列。設R={r1,r2,…,rn}是要進行排列的n個元素，Ri=R-{ri}。集合X中元素的全排列記為perm(X)。(ri)perm(X)表示在全排列perm(X)的每一個排列前加上前綴得到的排列。R的全排列可歸納定義如下：

當n=1時，perm(R)=(r)，其中r是集合R中唯一的元素；當n>1時，perm(R)由(r1)perm(R1)，(r2)perm(R2)，…，(rn)perm(Rn)構成。

36算法設計與分析2.1遞歸的概念例5整數劃分問題將正整數n表示成一系列正整數之和：n=n1+n2+…+nk，其中n1≥n2≥…≥nk≥1，k≥1。正整數n的這種表示稱為正整數n的劃分。求正整數n的不同劃分個數。例如正整數6有如下11種不同的劃分：

6；

5+1；

4+2，4+1+1；

3+3，3+2+1，3+1+1+1；

2+2+2，2+2+1+1，2+1+1+1+1；

1+1+1+1+1+1。37算法設計與分析(2)q(n,m)=q(n,n),mn;最大加數n1實際上不能大于n。因此，q(1,m)=1。(1)q(n,1)=1,n1;當最大加數n1不大于1時，任何正整數n只有一種劃分形式，即

(4)q(n,m)=q(n,m-1)+q(n-m,m),n>m>1;正整數n的最大加數n1不大于m的劃分由n1=m的劃分和n1≤n-1的劃分組成。(3)q(n,n)=1+q(n,n-1);正整數n的劃分由n1=n的劃分和n1≤n-1的劃分組成。2.1遞歸的概念例5整數劃分問題前面的幾個例子中，問題本身都具有比較明顯的遞歸關系，因而容易用遞歸函數直接求解。在本例中，如果設p(n)為正整數n的劃分數，則難以找到遞歸關系，因此考慮增加一個自變量：將最大加數n1不大于m的劃分個數記作q(n,m)。可以建立q(n,m)的如下遞歸關系。38算法設計與分析2.1遞歸的概念例5整數劃分問題前面的幾個例子中，問題本身都具有比較明顯的遞歸關系，因而容易用遞歸函數直接求解。在本例中，如果設p(n)為正整數n的劃分數，則難以找到遞歸關系，因此考慮增加一個自變量：將最大加數n1不大于m的劃分個數記作q(n,m)。可以建立q(n,m)的如下遞歸關系。正整數n的劃分數p(n)=q(n,n)。

39算法設計與分析40算法設計與分析2.1遞歸的概念例6Hanoi塔問題設a,b,c是3個塔座。開始時，在塔座a上有一疊共n個圓盤，這些圓盤自下而上，由大到小地疊在一起。各圓盤從小到大編號為1,2,…,n,現要求將塔座a上的這一疊圓盤移到塔座b上，并仍按同樣順序疊置。在移動圓盤時應遵守以下移動規則：規則1：每次只能移動1個圓盤；規則2：任何時刻都不允許將較大的圓盤壓在較小的圓盤之上；規則3：在滿足移動規則1和2的前提下，可將圓盤移至a,b,c中任一塔座上。41算法設計與分析在問題規模較大時，較難找到一般的方法，因此我們嘗試用遞歸技術來解決這個問題。當n=1時，問題比較簡單。此時，只要將編號為1的圓盤從塔座a直接移至塔座b上即可。當n＞1時，需要利用塔座c作為輔助塔座。此時若能設法將n-1個較小的圓盤依照移動規則從塔座a移至塔座c，然后，將剩下的最大圓盤從塔座a移至塔座b，最后，再設法將n-1個較小的圓盤依照移動規則從塔座c移至塔座b。由此可見，n個圓盤的移動問題可分為2次n-1個圓盤的移動問題，這又可以遞歸地用上述方法來做。由此可以設計出解Hanoi塔問題的遞歸算法如下。2.1遞歸的概念例6Hanoi塔問題

publicstaticvoidhanoi(intn,inta,intb,intc){

if(n>0){

hanoi(n-1,a,c,b);

move(a,b);

hanoi(n-1,c,b,a);}}思考題：如果塔的個數變為a,b,c,d四個，現要將n個圓盤從a全部移動到d，移動規則不變，求移動步數最小的方案。42算法設計與分析遞歸小結優點：結構清晰，可讀性強，而且容易用數學歸納法來證明算法的正確性，因此它為設計算法、調試程序帶來很大方便。缺點：遞歸算法的運行效率較低，無論是耗費的計算時間還是占用的存儲空間都比非遞歸算法要多。43算法設計與分析遞歸小結解決方法：在遞歸算法中消除遞歸調用，使其轉化為非遞歸算法。1.采用一個用戶定義的棧來模擬系統的遞歸調用工作棧。該方法通用性強，但本質上還是遞歸，只不過人工做了本來由編譯器做的事情，優化效果不明顯。2.用遞推來實現遞歸函數。3.通過Cooper變換、反演變換能將一些遞歸轉化為尾遞歸，從而迭代求出結果。后兩種方法在時空復雜度上均有較大改善，但其適用范圍有限。44算法設計與分析分治法的適用條件分治法所能解決的問題一般具有以下幾個特征：該問題的規模縮小到一定的程度就可以容易地解決；該問題可以分解為若干個規模較小的相同問題，即該問題具有最優子結構性質利用該問題分解出的子問題的解可以合并為該問題的解；該問題所分解出的各個子問題是相互獨立的，即子問題之間不包含公共的子問題。因為問題的計算復雜性一般是隨著問題規模的增加而增加，因此大部分問題滿足這個特征。這條特征是應用分治法的前提，它也是大多數問題可以滿足的，此特征反映了遞歸思想的應用能否利用分治法完全取決于問題是否具有這條特征，如果具備了前兩條特征，而不具備第三條特征，則可以考慮貪心算法或動態規劃。這條特征涉及到分治法的效率，如果各子問題是不獨立的，則分治法要做許多不必要的工作，重復地解公共的子問題，此時雖然也可用分治法，但一般用動態規劃較好。45算法設計與分析分治法的基本步驟divide-and-conquer(P){

if(|P|<=n0)adhoc(P);//解決小規模的問題

dividePintosmallersubinstancesP1,P2,...,Pk；//分解問題

for(i=1,i<=k,i++)yi=divide-and-conquer(Pi);//遞歸的解各子問題

returnmerge(y1,...,yk);//將各子問題的解合并為原問題的解

}

人們從大量實踐中發現，在用分治法設計算法時，最好使子問題的規模大致相同。即將一個問題分成大小相等的k個子問題的處理方法是行之有效的。這種使子問題規模大致相等的做法是出自一種平衡(balancing)子問題的思想，它幾乎總是比子問題規模不等的做法要好。46算法設計與分析分治法的復雜性分析一個分治法將規模為n的問題分成k個規模為n／m的子問題去解。設分解閥值n0=1，且adhoc解規模為1的問題耗費1個單位時間。再設將原問題分解為k個子問題以及用merge將k個子問題的解合并為原問題的解需用f(n)個單位時間。用T(n)表示該分治法解規模為|P|=n的問題所需的計算時間，則有：通過迭代法求得方程的解：注意：遞歸方程及其解只給出n等于m的方冪時T(n)的值，但是如果認為T(n)足夠平滑，那么由n等于m的方冪時T(n)的值可以估計T(n)的增長速度。通常假定T(n)是單調上升的，從而當mi≤n<mi+1時，T(mi)≤T(n)<T(mi+1)。

47算法設計與分析二分搜索技術分析：如果n=1即只有一個元素，則只要比較這個元素和x就可以確定x是否在表中。因此這個問題滿足分治法的第一個適用條件分析：比較x和a的中間元素a[mid]，若x=a[mid]，則x在L中的位置就是mid；如果x<a[mid]，由于a是遞增排序的，因此假如x在a中的話，x必然排在a[mid]的前面，所以我們只要在a[mid]的前面查找x即可；如果x>a[i]，同理我們只要在a[mid]的后面查找x即可。無論是在前面還是后面查找x，其方法都和在a中查找x一樣，只不過是查找的規模縮小了。這就說明了此問題滿足分治法的第二個和第三個適用條件。

分析：很顯然此問題分解出的子問題相互獨立，即在a[i]的前面或后面查找x是獨立的子問題，因此滿足分治法的第四個適用條件。給定已按升序排好序的n個元素a[0:n-1]，現要在這n個元素中找出一特定元素x。分析：該問題的規模縮小到一定的程度就可以容易地解決；該問題可以分解為若干個規模較小的相同問題;分解出的子問題的解可以合并為原問題的解；分解出的各個子問題是相互獨立的。48算法設計與分析二分搜索技術給定已按升序排好序的n個元素a[0:n-1]，現要在這n個元素中找出一特定元素x。據此容易設計出二分搜索算法：publicstaticintbinarySearch(int[]a,intx,intn){//在a[0]<=a[1]<=...<=a[n-1]中搜索x//找到x時返回其在數組中的位置，否則返回-1intleft=0;intright=n-1;

while(left<=right){intmiddle=(left+right)/2;

if(x==a[middle])returnmiddle;

if(x>a[middle])left=middle+1;

elseright=middle-1;}

return-1;//未找到x}算法復雜度分析：每執行一次算法的while循環，待搜索數組的大小減少一半。因此，在最壞情況下，while循環被執行了O(logn)次。循環體內運算需要O(1)時間，因此整個算法在最壞情況下的計算時間復雜性為O(logn)。思考題：給定a，用二分法設計出求an的算法。49算法設計與分析大整數的乘法請設計一個有效的算法，可以進行兩個n位大整數的乘法運算小學的方法：O(n2)效率太低分治法:abcd復雜度分析T(n)=O(n2)沒有改進X=Y=X=a2n/2+bY=c2n/2+d

XY=ac2n+(ad+bc)2n/2+bd

50算法設計與分析大整數的乘法請設計一個有效的算法，可以進行兩個n位大整數的乘法運算小學的方法：O(n2)效率太低分治法:XY=ac2n+(ad+bc)2n/2+bd

為了降低時間復雜度，必須減少乘法的次數。XY=ac2n+((a-c)(b-d)+ac+bd)2n/2+bdXY=ac2n+((a+c)(b+d)-ac-bd)2n/2+bd復雜度分析T(n)=O(nlog3)=O(n1.59)較大的改進細節問題：兩個XY的復雜度都是O(nlog3)，但考慮到a+c,b+d可能得到m+1位的結果，使問題的規模變大，故不選擇第2種方案。51算法設計與分析大整數的乘法請設計一個有效的算法，可以進行兩個n位大整數的乘法運算小學的方法：O(n2)效率太低分治法:O(n1.59)較大的改進更快的方法??如果將大整數分成更多段，用更復雜的方式把它們組合起來，將有可能得到更優的算法。最終的，這個思想導致了快速傅利葉變換(FastFourierTransform)的產生。該方法也可以看作是一個復雜的分治算法，對于大整數乘法，它能在O(nlogn)時間內解決。是否能找到線性時間的算法？？？目前為止還沒有結果。52算法設計與分析Strassen矩陣乘法A和B的乘積矩陣C中的元素C[i,j]定義為:

若依此定義來計算A和B的乘積矩陣C，則每計算C的一個元素C[i][j]，需要做n次乘法和n-1次加法。因此，算出矩陣C的個元素所需的計算時間為O(n3)傳統方法：O(n3)53算法設計與分析Strassen矩陣乘法使用與上例類似的技術，將矩陣A，B和C中每一矩陣都分塊成4個大小相等的子矩陣。由此可將方程C=AB重寫為：傳統方法：O(n3)分治法:由此可得：復雜度分析T(n)=O(n3)沒有改進54算法設計與分析Strassen矩陣乘法傳統方法：O(n3)分治法:為了降低時間復雜度，必須減少乘法的次數。復雜度分析T(n)=O(nlog7)=O(n2.81)較大的改進55算法設計與分析Strassen矩陣乘法傳統方法：O(n3)分治法:O(n2.81)更快的方法??Hopcroft和Kerr已經證明(1971)，計算2個２×２矩陣的乘積，7次乘法是必要的。因此，要想進一步改進矩陣乘法的時間復雜性，就不能再基于計算2×2矩陣的7次乘法這樣的方法了。或許應當研究３×３或５×５矩陣的更好算法。在Strassen之后又有許多算法改進了矩陣乘法的計算時間復雜性。目前最好的計算時間上界是O(n2.376)是否能找到O(n2)的算法？？？目前為止還沒有結果。56算法設計與分析棋盤覆蓋在一個2k×2k

個方格組成的棋盤中，恰有一個方格與其他方格不同，稱該方格為一特殊方格，且稱該棋盤為一特殊棋盤。在棋盤覆蓋問題中，要用圖示的4種不同形態的L型骨牌覆蓋給定的特殊棋盤上除特殊方格以外的所有方格，且任何2個L型骨牌不得重疊覆蓋。57算法設計與分析棋盤覆蓋當k>0時，將2k×2k棋盤分割為4個2k-1×2k-1

子棋盤(a)所示。特殊方格必位于4個較小子棋盤之一中，其余3個子棋盤中無特殊方格。為了將這3個無特殊方格的子棋盤轉化為特殊棋盤，可以用一個L型骨牌覆蓋這3個較小棋盤的會合處，如(b)所示，從而將原問題轉化為4個較小規模的棋盤覆蓋問題。遞歸地使用這種分割，直至棋盤簡化為棋盤1×1。

58算法設計與分析棋盤覆蓋

publicvoidchessBoard(inttr,inttc,intdr,intdc,intsize){

if(size==1)return;intt=tile++,//L型骨牌號

s=size/2;//分割棋盤

//覆蓋左上角子棋盤

if(dr<tr+s&&dc<tc+s)//特殊方格在此棋盤中

chessBoard(tr,tc,dr,dc,s);

else{//此棋盤中無特殊方格

//用t號L型骨牌覆蓋右下角

board[tr+s-1][tc+s-1]=t;//覆蓋其余方格

chessBoard(tr,tc,tr+s-1,tc+s-1,s);}//覆蓋右上角子棋盤

if(dr<tr+s&&dc>=tc+s)//特殊方格在此棋盤中

chessBoard(tr,tc+s,dr,dc,s);

else{//此棋盤中無特殊方格

//用t號L型骨牌覆蓋左下角

board[tr+s-1][tc+s]=t;//覆蓋其余方格

chessBoard(tr,tc+s,tr+s-1,tc+s,s);}//覆蓋左下角子棋盤

if(dr>=tr+s&&dc<tc+s)//特殊方格在此棋盤中

chessBoard(tr+s,tc,dr,dc,s);

else{//用t號L型骨牌覆蓋右上角

board[tr+s][tc+s-1]=t;//覆蓋其余方格

chessBoard(tr+s,tc,tr+s,tc+s-1,s);}//覆蓋右下角子棋盤

if(dr>=tr+s&&dc>=tc+s)//特殊方格在此棋盤中

chessBoard(tr+s,tc+s,dr,dc,s);

else{//用t號L型骨牌覆蓋左上角

board[tr+s][tc+s]=t;//覆蓋其余方格

chessBoard(tr+s,tc+s,tr+s,tc+s,s);}}復雜度分析T(n)=O(4k)漸進意義下的最優算法59算法設計與分析合并排序基本思想：將待排序元素分成大小大致相同的2個子集合，分別對2個子集合進行排序，最終將排好序的子集合合并成為所要求的排好序的集合。

publicstaticvoidmergeSort(Comparablea[],intleft,intright){

if(left<right){//至少有2個元素

inti=(left+right)/2;//取中點

mergeSort(a,left,i);

mergeSort(a,i+1,right);

merge(a,b,left,i,right);//合并到數組b

copy(a,b,left,right);//復制回數組a}}復雜度分析T(n)=O(nlogn)漸進意義下的最優算法60算法設計與分析合并排序算法mergeSort的遞歸過程可以消去。初始序列[49][38][65][97][76][13][27][3849][6597][1376][27]第一步第二步[38496597][132776]第三步[13273849657697]61算法設計與分析合并排序最壞時間復雜度：O(nlogn)平均時間復雜度：O(nlogn)輔助空間：O(n)穩定性：穩定思考題：給定有序表A[1:n]，修改合并排序算法，求出該有序表的逆序對數。62算法設計與分析快速排序在快速排序中，記錄的比較和交換是從兩端向中間進行的，關鍵字較大的記錄一次就能交換到后面單元，關鍵字較小的記錄一次就能交換到前面單元，記錄每次移動的距離較大，因而總的比較和移動次數較少。privatestaticvoidqSort(intp,intr){

if(p<r){intq=partition(p,r);//以a[p]為基準元素將a[p:r]劃分成3段a[p:q-1],a[q]和a[q+1:r]，使得a[p:q-1]中任何元素小于等于a[q]，a[q+1:r]中任何元素大于等于a[q]。下標q在劃分過程中確定。

qSort(p,q-1);//對左半段排序

qSort(q+1,r);//對右半段排序

}}快速排序是對氣泡排序的一種改進方法它是由C.A.R.Hoare于1962年提出的63算法設計與分析快速排序privatestaticintpartition(intp,intr){inti=p,j=r+1;Comparablex=a[p];//將>=x的元素交換到左邊區域

//將<=x的元素交換到右邊區域

while(true){

while(a[++i].compareTo(x)<0);

while(a[--j].compareTo(x)>0);

if(i>=j)break;MyMath.swap(a,i,j);}a[p]=a[j];a[j]=x;

returnj;}初始序列{6,7,5,2,5,8}j--;{5,7,5,2,6,8}i++;{5,6,5,2,7,8}j--;{5,2,5,6,7,8}i++;完成快速排序具有不穩定性。{6,7,5,2,5,8}{5,2,5}6{7,8}64算法設計與分析privatestaticintrandomizedPartition(intp,intr){inti=random(p,r);MyMath.swap(a,i,p);

return

partition(p,r);}快速排序快速排序算法的性能取決于劃分的對稱性。通過修改算法partition，可以設計出采用隨機選擇策略的快速排序算法。在快速排序算法的每一步中，當數組還沒有被劃分時，可以在a[p:r]中隨機選出一個元素作為劃分基準，這樣可以使劃分基準的選擇是隨機的，從而可以期望劃分是較對稱的。最壞時間復雜度：O(n2)平均時間復雜度：O(nlogn)輔助空間：O(n)或O(logn)穩定性：不穩定65算法設計與分析線性時間選擇給定線性序集中n個元素和一個整數k，1≤k≤n，要求找出這n個元素中第k小的元素privatestaticComparablerandomizedSelect(intp,intr,intk){

if(p==r)returna[p];inti=randomizedpartition(p,r),j=i-p+1;

if(k<=j)return

randomizedSelect(p,i,k);

else

return

randomizedSelect(i+1,r,k-j);}在最壞情況下，算法randomizedSelect需要O(n2)計算時間但可以證明，算法randomizedSelect可以在O(n)平均時間內找出n個輸入元素中的第k小元素。66算法設計與分析線性時間選擇如果能在線性時間內找到一個劃分基準，使得按這個基準所劃分出的2個子數組的長度都至少為原數組長度的ε倍(0<ε<1是某個正常數)，那么就可以在最壞情況下用O(n)時間完成選擇任務。例如，若ε=9/10，算法遞歸調用所產生的子數組的長度至少縮短1/10。所以，在最壞情況下，算法所需的計算時間T(n)滿足遞歸式T(n)≤T(9n/10)+O(n)。由此可得T(n)=O(n)。67算法設計與分析將n個輸入元素劃分成n/5個組，每組5個元素，只可能有一個組不是5個元素。用任意一種排序算法，將每組中的元素排好序，并取出每組的中位數，共n/5個。遞歸調用select來找出這n/5個元素的中位數。如果n/5是偶數，就找它的2個中位數中較大的一個。以這個元素作為劃分基準。線性時間選擇設所有元素互不相同。在這種情況下，找出的基準x至少比3(n-5)/10個元素大，因為在每一組中有2個元素小于本組的中位數，而n/5個中位數中又有(n-5)/10個小于基準x。同理，基準x也至少比3(n-5)/10個元素小。而當n≥75時，3(n-5)/10≥n/4所以按此基準劃分所得的2個子數組的長度都至少縮短1/4。68算法設計與分析privatestaticComparableselect(intp,intr,intk){

if(r-p<5){//用某個簡單排序算法對數組a[p:r]排序;

bubbleSort(p,r);

returna[p+k-1];}//將a[p+5*i]至a[p+5*i+4]的第3小元素

//與a[p+i]交換位置;//找中位數的中位數，r-p-4即上面所說的n-5

for(inti=0;i<=(r-p-4)/5;i++){ints=p+5*i,t=s+4;

for(intj=0;j<3;j++)bubble(s,t-j);MyMath.swap(a,p+i,s+2);}Comparablex=select(p,p+(r-p-4)/5,(r-p+6)/10);inti=partition(p,r,x),j=i-p+1;

if(k<=j)return

select(p,i,k);

elsereturnselect(i+1,r,k-j);}復雜度分析T(n)=O(n)上述算法將每一組的大小定為5，并選取75作為是否作遞歸調用的分界點。這2點保證了T(n)的遞歸式中2個自變量之和n/5+3n/4=19n/20=εn，0<ε<1。這是使T(n)=O(n)的關鍵之處。當然，除了5和75之外，還有其他選擇。69算法設計與分析最接近點對問題給定平面上n個點的集合S，找其中的一對點，使得在n個點組成的所有點對中，該點對間的距離最小。為了使問題易于理解和分析，先來考慮一維的情形。此時，S中的n個點退化為x軸上的n個實數x1,x2,…,xn。最接近點對即為這n個實數中相差最小的2個實數。假設我們用x軸上某個點m將S劃分為2個子集S1和S2，基于平衡子問題的思想，用S中各點坐標的中位數來作分割點。遞歸地在S1和S2上找出其最接近點對{p1,p2}和{q1,q2}，并設d=min{|p1-p2|,|q1-q2|}，S中的最接近點對或者是{p1,p2}，或者是{q1,q2}，或者是某個{p3,q3}，其中p3∈S1且q3∈S2。能否在線性時間內找到p3,q3？70算法設計與分析最接近點對問題如果S的最接近點對是{p3,q3}，即|p3-q3|<d，則p3和q3兩者與m的距離不超過d，即p3∈(m-d,m]，q3∈(m,m+d]。由于在S1中，每個長度為d的半閉區間至多包含一個點（否則必有兩點距離小于d），并且m是S1和S2的分割點，因此(m-d,m]中至多包含S中的一個點。由圖可以看出，如果(m-d,m]中有S中的點，則此點就是S1中最大點。因此，我們用線性時間就能找到區間(m-d,m]和(m,m+d]中所有點，即p3和q3。從而我們用線性時間就可以將S1的解和S2的解合并成為S的解。能否在線性時間內找到p3,q3？71算法設計與分析最接近點對問題下面來考慮二維的情形。選取一垂直線l:x=m來作為分割直線。其中m為S中各點x坐標的中位數。由此將S分割為S1和S2。遞歸地在S1和S2上找出其最小距離d1和d2，并設d=min{d1,d2}，S中的最接近點對或者是d，或者是某個{p,q}，其中p∈P1且q∈P2。能否在線性時間內找到p,q？72算法設計與分析最接近點對問題考慮P1中任意一點p，它若與P2中的點q構成最接近點對的候選者，則必有distance(p，q)＜d。滿足這個條件的P2中的點一定落在一個d×2d的矩形R中由d的意義可知，P2中任何2個S中的點的距離都不小于d。由此可以推出矩形R中最多只有6個S中的點。因此，在分治法的合并步驟中最多只需要檢查6×n/2=3n個候選者能否在線性時間內找到p3,q3？證明:將矩形R的長為2d的邊3等分，將它的長為d的邊2等分，由此導出6個(d/2)×(2d/3)的矩形。若矩形R中有多于6個S中的點，則由鴿舍原理易知至少有一個(d/2)×(2d/3)的小矩形中有2個以上S中的點。設u，v是位于同一小矩形中的2個點，則distance(u,v)<d。這與d的意義相矛盾。73算法設計與分析為了確切地知道要檢查哪6個點，可以將p和P2中所有S2的點投影到垂直線l上。由于能與p點一起構成最接近點對候選者的S2中點一定在矩形R中，所以它們在直線l上的投影點距p在l上投影點的距離小于d。由上面的分析可知，這種投影點最多只有6個。因此，若將P1和P2中所有S中點按其y坐標排好序，則對P1中所有點，對排好序的點列作一次掃描，就可以找出所有最接近點對的候選者。對P1中每一點最多只要檢查P2中排好序的相繼6個點。最接近點對問題74算法設計與分析最接近點對問題publicstaticdoublecpair2(S){n=|S|;

if(n<2)return;1.m=S中各點x間坐標的中位數;

構造S1和S2；

//S1={p∈S|x(p)<=m},S2={p∈S|x(p)>m}2.d1=cpair2(S1);d2=cpair2(S2);3.dm=min(d1,d2);4.設P1是S1中距垂直分割線l的距離在dm之內的所有點組成的集合；

P2是S2中距分割線l的距離在dm之內所有點組成的集合；將P1和P2中點依其y坐標值排序；并設X和Y是相應的已排好序的點列；5.通過掃描X以及對于X中每個點檢查Y中與其距離在dm之內的所有點(最多6個)可以完成合并；當X中的掃描指針逐次向上移動時，Y中的掃描指針可在寬為2dm的區間內移動；設dl是按這種掃描方式找到的點對間的最小距離；6.d=min(dm,dl);

returnd;}復雜度分析T(n)=O(nlogn)75算法設計與分析設計一個滿足以下要求的比賽日程表：(1)每個選手必須與其他n-1個選手各賽一次；(2)每個選手一天只能賽一次；(3)循環賽一共進行n-1天。按分治策略，將所有的選手分為兩半，n個選手的比賽日程表就可以通過為n/2個選手設計的比賽日程表來決定。遞歸地用對選手進行分割，直到只剩下2個選手時，比賽日程表的制定就變得很簡單。這時只要讓這2個選手進行比賽就可以了。123456782143658734127856432187655678123465872143785634128765432176算法設計與分析循環賽日程表設計一個滿足以下要求的比賽日程表：(1)每個選手必須與其他n-1個選手各賽一次；(2)每個選手一天只能賽一次；(3)循環賽一共進行n-1天。按分治策略，將所有的選手分為兩半，n個選手的比賽日程表就可以通過為n/2個選手設計的比賽日程表來決定。遞歸地用對選手進行分割，直到只剩下2個選手時，比賽日程表的制定就變得很簡單。這時只要讓這2個選手進行比賽就可以了。123456782143658734127856432187655678123465872143785634128765432177算法設計與分析第3章動態規劃78算法設計與分析動態規劃算法與分治法類似，其基本思想也是將待求解問題分解成若干個子問題nT(n/2)T(n/2)T(n/2)T(n/2)T(n)=79算法設計與分析算法總體思想動態規劃算法與分治法類似，其基本思想也是將待求解問題分解成若干個子問題nT(n/2)T(n/2)T(n/2)T(n/2)T(n)=80算法設計與分析但是經分解得到的子問題往往不是互相獨立的。不同子問題的數目常常只有多項式量級。在用分治法求解時，有些子問題被重復計算了許多次。算法總體思想nT(n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)81算法設計與分析如果能夠保存已解決的子問題的答案，而在需要時再找出已求得的答案，就可以避免大量重復計算，從而得到多項式時間算法。算法總體思想n=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2n/2T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)T(n/4)T(n)Thosewhocannotrememberthepastaredoomedtorepeatit.-----GeorgeSantayana,ThelifeofReason,BookI:IntroductionandReasoninCommonSense(1905)82算法設計與分析動態規劃基本步驟找出最優解的性質，并刻劃其結構特征。遞歸地定義最優值。以自底向上的方式計算出最優值。根據計算最優值時得到的信息，構造最優解。83算法設計與分析完全加括號的矩陣連乘積（1）單個矩陣是完全加括號的；（2）矩陣連乘積是完全加括號的，則可表示為2個完全加括號的矩陣連乘積和的乘積并加括號，即16000,10500,36000,87500,34500完全加括號的矩陣連乘積可遞歸地定義為：設有四個矩陣，它們的維數分別是：總共有五中完全加括號的方式84算法設計與分析矩陣連乘問題給定n個矩陣，其中與是可乘的，。考察這n個矩陣的連乘積由于矩陣乘法滿足結合律，所以計算矩陣的連乘可以有許多不同的計算次序。這種計算次序可以用加括號的方式來確定。若一個矩陣連乘積的計算次序完全確定，也就是說該連乘積已完全加括號，則可以依此次序反復調用2個矩陣相乘的標準算法計算出矩陣連乘積85算法設計與分析矩陣連乘問題給定n個矩陣｛A1,A2,…,An｝，其中Ai與Ai+1是可乘的，i=1,2,…,n-1。如何確定計算矩陣連乘積的計算次序，使得依此次序計算矩陣連乘積需要的數乘次數最少。窮舉法：列舉出所有可能的計算次序，并計算出每一種計算次序相應需要的數乘次數，從中找出一種數乘次數最少的計算次序。

算法復雜度分析：對于n個矩陣的連乘積，設其不同的計算次序為P(n)。由于每種加括號方式都可以分解為兩個子矩陣的加括號問題：(A1...Ak)(Ak+1…An)可以得到關于P(n)的遞推式如下：86算法設計與分析矩陣連乘問題窮舉法動態規劃將矩陣連乘積簡記為A[i:j]，這里i≤j考察計算A[i:j]的最優計算次序。設這個計算次序在矩陣Ak和Ak+1之間將矩陣鏈斷開，i≤k<j，則其相應完全加括號方式為計算量：A[i:k]的計算量加上A[k+1:j]的計算量，再加上A[i:k]和A[k+1:j]相乘的計算量87算法設計與分析分析最優解的結構特征：計算A[i:j]的最優次序所包含的計算矩陣子鏈A[i:k]和A[k+1:j]的次序也是最優的。矩陣連乘計算次序問題的最優解包含著其子問題的最優解。這種性質稱為最優子結構性質。問題的最優子結構性質是該問題可用動態規劃算法求解的顯著特征。88算法設計與分析建立遞歸關系設計算A[i:j]，1≤i≤j≤n，所需要的最少數乘次數m[i,j]，則原問題的最優值為m[1,n]當i=j時，A[i:j]=Ai，因此，m[i,i]=0，i=1,2,…,n當i<j時，可以遞歸地定義m[i,j]為：這里的維數為

的位置只有種可能89算法設計與分析計算最優值對于1≤i≤j≤n不同的有序對(i,j)對應于不同的子問題。因此，不同子問題的個數最多只有由此可見，在遞歸計算時，許多子問題被重復計算多次。這也是該問題可用動態規劃算法求解的又一顯著特征。用動態規劃算法解此問題，可依據其遞歸式以自底向上的方式進行計算。在計算過程中，保存已解決的子問題答案。每個子問題只計算一次，而在后面需要時只要簡單查一下，從而避免大量的重復計算，最終得到多項式時間的算法90算法設計與分析用動態規劃法求最優解publicstaticvoidmatrixChain(int[]p,int[][]m,int[][]s){intn=p.length-1;

for(inti=1;i<=n;i++)m[i][i]=0;

for(intr=2;r<=n;r++)

for(inti=1;i<=n-r+1;i++){intj=i+r-1;m[i][j]=m[i+1][j]+p[i-1]*p[i]*p[j];s[i][j]=i;

for(intk=i+1;k<j;k++){intt=m[i][k]+m[k+1][j]+p[i-1]*p[k]*p[j];

if(t<m[i][j]){m[i][j]=t;s[i][j]=k;}}}}A1A2A3A4A5A63035351515551010202025算法復雜度分析：算法matrixChain的主要計算量取決于算法中對r，i和k的3重循環。循環體內的計算量為