-負(fù)載能力和訪(fǎng)問(wèn)速度優(yōu)化的常用技術(shù)總結(jié)組件別離DNS負(fù)載均衡不同的web內(nèi)容分布到不同的效勞器上，并劃分子域，利用DNS將請(qǐng)求自然轉(zhuǎn)移到不同的效勞器上。主要可以分為兩大內(nèi)容：1.動(dòng)態(tài)內(nèi)容，CPU、IO密集型2.靜態(tài)內(nèi)容，IO密集型通過(guò)在DNS中配置多個(gè)A記錄，將請(qǐng)求轉(zhuǎn)移到集群中不同的效勞器，這有助于具有地域性問(wèn)題的大型web站點(diǎn)上，DNS可以使用戶(hù)就近訪(fǎng)問(wèn)相應(yīng)的web效勞器。像BIND這樣的DNS效勞軟件提供豐富的調(diào)度策略。但是，如果集群中的主機(jī)出現(xiàn)故障的話(huà)，需要更新DNS緩存，這通常需要一定的時(shí)間。另外，客戶(hù)端也可以通過(guò)設(shè)置host來(lái)繞開(kāi)DNS調(diào)度。跨域共享cookie：將cookie的*圍擴(kuò)大到父域。重定向通過(guò)使客戶(hù)端重定向，來(lái)分散和轉(zhuǎn)移請(qǐng)求壓力，比方一些下載效勞通常都有幾個(gè)鏡像效勞器。分布式緩存無(wú)法使用頁(yè)面級(jí)別緩存時(shí)，需要考慮直接緩存數(shù)據(jù)，比方使用memcached作為緩存。此時(shí)，需要考慮并發(fā)寫(xiě)memcached的問(wèn)題。另外，當(dāng)memcached橫向規(guī)模擴(kuò)大，效勞器數(shù)量增加時(shí)，需要一種對(duì)應(yīng)算法，能夠使應(yīng)用程序知道應(yīng)該哪個(gè)memcached效勞器〔比方，取模運(yùn)算〕。分布式緩存能夠自動(dòng)重建緩存，不必?fù)?dān)憂(yōu)down機(jī)。負(fù)載均衡負(fù)載均衡就是將請(qǐng)求分散，這涉及到應(yīng)當(dāng)如何設(shè)計(jì)調(diào)度策略，以讓集群發(fā)揮最大的性能。當(dāng)集群中的主機(jī)能力相當(dāng)時(shí)應(yīng)當(dāng)盡量平均調(diào)度，能力不均時(shí)應(yīng)當(dāng)能者多勞。隨著問(wèn)題的復(fù)雜，要時(shí)刻關(guān)注調(diào)度的性能，不要讓調(diào)度成為性能瓶頸。反向代理負(fù)載均衡反向代理效勞器工作在層，類(lèi)似代理效勞器，與普通的代理效勞器不同的是，效勞器在代理的后端，而不是客戶(hù)端在代理的后端，這類(lèi)似于NAT，只是NAT工作在網(wǎng)絡(luò)層。同樣是負(fù)載均衡，反向代理效勞器強(qiáng)調(diào)"轉(zhuǎn)發(fā)"而不是"轉(zhuǎn)移"，因?yàn)樗粌H要轉(zhuǎn)發(fā)客戶(hù)端的請(qǐng)求，還要轉(zhuǎn)發(fā)效勞端的響應(yīng)。可以用作反向代理效勞器的軟件有Ngin*、lig、Apache，另外目前也有一些專(zhuān)業(yè)的代理轉(zhuǎn)發(fā)設(shè)備能夠工作在應(yīng)用層，例如A10。使用代理轉(zhuǎn)發(fā)要注意以下問(wèn)題：由于反向代理的轉(zhuǎn)發(fā)特性，使得代理本身很可能成為性能瓶頸。一般對(duì)于CPU密集型請(qǐng)求，使用代理比擬適宜，如果是IO密集型的話(huà)，這種集群方式很可能無(wú)法發(fā)揮最大性能在代理上要開(kāi)啟**檢查，及時(shí)發(fā)現(xiàn)集群中的故障機(jī)，從而調(diào)整轉(zhuǎn)發(fā)策略，這通常比DNS方式實(shí)時(shí)性更好黏滯會(huì)話(huà)：對(duì)于啟動(dòng)session保存用戶(hù)信息，或者后端效勞器使用動(dòng)態(tài)內(nèi)容緩存. z.-的應(yīng)用，必須將用戶(hù)在一段會(huì)話(huà)中的的請(qǐng)求保持在同一臺(tái)效勞器上。代理效勞器一般支持類(lèi)似的配置。然而，盡量不要使應(yīng)用過(guò)于本地化，比方可以使用cookie保存用戶(hù)數(shù)據(jù)，或者分布式Session或分布式緩存。IP負(fù)載均衡字面上看，便是利用網(wǎng)絡(luò)層進(jìn)展請(qǐng)求轉(zhuǎn)發(fā)，類(lèi)似NAT網(wǎng)關(guān)。然而，使用網(wǎng)關(guān)轉(zhuǎn)發(fā)在帶寬上可能出現(xiàn)瓶頸，因?yàn)槌隹谥挥幸粋€(gè)，所以出口的帶寬要求較高。Linu*中的Netfilter模塊可以通過(guò)iptables的配置。比方：對(duì)外網(wǎng)端口8001的請(qǐng)求轉(zhuǎn)發(fā)給內(nèi)網(wǎng)*臺(tái)效勞器，而對(duì)外網(wǎng)端口8002的請(qǐng)求轉(zhuǎn)發(fā)給內(nèi)網(wǎng)另一臺(tái)效勞器。這種方式簡(jiǎn)單易行，但是無(wú)法對(duì)調(diào)度做太多配置。LVS-NAT同樣是Linu*中的在網(wǎng)絡(luò)層進(jìn)展轉(zhuǎn)發(fā)的方式，與Netfilter不同，它支持一些動(dòng)態(tài)調(diào)度算法，比方最小、帶權(quán)重的最小、最短期望延遲等。直接路由直接路由是通過(guò)調(diào)度器修改數(shù)據(jù)包的目的MAC地址，轉(zhuǎn)發(fā)請(qǐng)求數(shù)據(jù)包，但是響應(yīng)數(shù)據(jù)包可以直接發(fā)送給外網(wǎng)的方式。這樣做顯而易見(jiàn)的好處就是無(wú)需擔(dān)憂(yōu)網(wǎng)關(guān)瓶頸，但是實(shí)際的效勞器和調(diào)度效勞器都需要在WAN交換機(jī)上，并且擁有獨(dú)立的外網(wǎng)IP地址。這種方式的工作原理略微復(fù)雜：首先每臺(tái)效勞器都需要設(shè)置一個(gè)IP別名，這個(gè)IP別名是面向客戶(hù)端的一個(gè)虛擬IP，只有代理效勞器對(duì)這個(gè)IP別名的ARP請(qǐng)求做出響應(yīng)，這樣客戶(hù)端發(fā)給這個(gè)IP的請(qǐng)求包首先會(huì)到代理效勞器。然后代理效勞器將這個(gè)請(qǐng)求包的目的MAC地址填寫(xiě)為實(shí)際效勞器的MAC地址〔通過(guò)*種調(diào)度算法決定目的效勞器〕，由于目標(biāo)效勞器也具有這個(gè)IP別名，因此，轉(zhuǎn)發(fā)過(guò)來(lái)的數(shù)據(jù)包能夠被實(shí)際的效勞器接收并處理。最后由于數(shù)據(jù)包的源IP地址還是客戶(hù)端請(qǐng)求的IP地址，因此，實(shí)際的效勞器將通過(guò)交換機(jī)直接將響應(yīng)包轉(zhuǎn)發(fā)給客戶(hù)端而無(wú)需通過(guò)代理效勞器。Linu*下可以通過(guò)LVS-DR實(shí)現(xiàn)直接路由方式IP隧道IP隧道的意思是，調(diào)度器將原始的IP數(shù)據(jù)包封裝在新的IP數(shù)據(jù)包中，以實(shí)現(xiàn)調(diào)度，實(shí)際的效勞器可以將響應(yīng)數(shù)據(jù)包直接轉(zhuǎn)發(fā)給用戶(hù)端。共享文件系統(tǒng)對(duì)于一些簡(jiǎn)單的提供文件下載的效勞〔包括html中靜態(tài)資源等〕，自然要考慮利用集群來(lái)減壓，但是如何使這些資源在集群中的主機(jī)上同步呢。NFS一種方案是讓這些主機(jī)從同一個(gè)地方取數(shù)據(jù)。比方采用NFS〔NetworkFileSystem〕，基于PRC。這種方式簡(jiǎn)單易行，但是由于NFS效勞器本身的磁盤(pán)吞吐率，或者并發(fā)處理能力以及帶寬等問(wèn)題，往往很有局限性。冗余分發(fā)另一個(gè)方案就是在主機(jī)上冗余存儲(chǔ)資源，這樣主機(jī)無(wú)需訪(fǎng)問(wèn)共享文件系統(tǒng)，只需讀取本地磁盤(pán)上的資源即可。但是這也帶來(lái)了一個(gè)同步的問(wèn)題，如何同步這些數(shù)據(jù)呢：主動(dòng)分發(fā)式，還分為單級(jí)分發(fā)和多級(jí)分發(fā)，分發(fā)可以借助SCP、SFTP、協(xié)議WebDAV

擴(kuò)展. z.-單級(jí)分發(fā)：通過(guò)一次分發(fā)，就到達(dá)目的，這樣的方案簡(jiǎn)單易行，但是性能瓶頸會(huì)出現(xiàn)在磁盤(pán)壓力和網(wǎng)絡(luò)帶寬，難以擴(kuò)展多級(jí)分發(fā)：通過(guò)屢次分發(fā)，才到達(dá)目的地，這樣的方案能夠分散磁盤(pán)壓力和網(wǎng)絡(luò)帶寬壓力，而且容易擴(kuò)展，害處是本錢(qián)高被動(dòng)同步式容易理解，可以使用rsync，rsync同步時(shí)是根據(jù)最后更新時(shí)間進(jìn)展判定是否需要同步的條件的，因此，如果一個(gè)文件夾中有的文件數(shù)量太多的話(huà)，rsync掃描的時(shí)間就很長(zhǎng)了，可以通過(guò)給文件夾設(shè)置最后更新時(shí)間，并合理的規(guī)劃文件目錄，來(lái)加快rsync的掃描時(shí)間。即使不使用rsync，自己開(kāi)發(fā)同步程序也可以借助這樣的思想來(lái)提升性能。分布式文件系統(tǒng)分布式文件系統(tǒng)工作在用戶(hù)進(jìn)程層面上，它是一個(gè)管理文件的平臺(tái)，內(nèi)部維護(hù)冗余，檢索，追蹤、調(diào)度等工作，通常包含一個(gè)物理層面的組織構(gòu)造和邏輯層面的組織構(gòu)造。物理層面的組織構(gòu)造由分布式文件系統(tǒng)自行維護(hù)，邏輯層面的組織構(gòu)造面向用戶(hù)。其中"追蹤器"起到了關(guān)鍵的作用。MogileFS就是一個(gè)開(kāi)源分布式文件系統(tǒng)，用Perl編寫(xiě)，包含追蹤器、存儲(chǔ)節(jié)點(diǎn)、管理工具，它使用MySQL分布式文件系統(tǒng)的所有信息、使用WebDAV實(shí)現(xiàn)文件復(fù)制。其他著名的還有Hadoop。每個(gè)文件由一個(gè)key定義，需要讀取文件時(shí)，指定一個(gè)key，追蹤器會(huì)返回一個(gè)實(shí)際的路徑，在訪(fǎng)問(wèn)這個(gè)地址即可獲得文件。甚至可以將這個(gè)key對(duì)應(yīng)的path用分布式緩存緩存起來(lái)，這樣可以減少追蹤器的查詢(xún)開(kāi)銷(xiāo)，但這樣也會(huì)失去分布式文件系統(tǒng)的調(diào)度策略的優(yōu)越性。另外，可以利用支持repro*y的反向代理效勞器〔比方：Perlbal〕讓路徑重定向的工作由反向代理效勞器完成。數(shù)據(jù)庫(kù)擴(kuò)展1.主從復(fù)制，讀寫(xiě)別離這種方式是指利用數(shù)據(jù)庫(kù)的復(fù)制或鏡像功能，同時(shí)在多臺(tái)數(shù)據(jù)庫(kù)上保存一樣的數(shù)據(jù)，并且將讀操作和寫(xiě)操作分開(kāi)，寫(xiě)操作集中在一臺(tái)主數(shù)據(jù)庫(kù)上，讀操作集中在多臺(tái)從數(shù)據(jù)庫(kù)上，對(duì)于讀取比寫(xiě)更多的站點(diǎn)適合使用這種方式。如果不想在應(yīng)用程序?qū)用婢S護(hù)這種別離映射，則可以使用數(shù)據(jù)庫(kù)反向代理來(lái)自動(dòng)完成對(duì)讀寫(xiě)的別離。2.垂直分區(qū)對(duì)于不需要進(jìn)展聯(lián)合查詢(xún)的數(shù)據(jù)表可以分散到不同的數(shù)據(jù)庫(kù)效勞器上，這稱(chēng)為垂直分區(qū)；當(dāng)然每個(gè)分區(qū)自身也可以使用讀寫(xiě)別離。3.水平分區(qū)將同一個(gè)表的記錄拆分到不同的表甚至是效勞器上，稱(chēng)為水平分區(qū)，這往往需要一個(gè)穩(wěn)定的算法來(lái)保證讀取時(shí)能正確從不同的效勞器上取得數(shù)據(jù)，比方簡(jiǎn)單的對(duì)ID取模、*圍劃分、亦或者是保存映射關(guān)系。也可以使用類(lèi)似代理的產(chǎn)品spock。緩存構(gòu)建高性能web站點(diǎn)時(shí)，拋開(kāi)根底架構(gòu)〔數(shù)據(jù)庫(kù)分區(qū)的問(wèn)題也包括在根底架構(gòu)中了〕，在應(yīng)用程序、編碼層面主要要考慮的問(wèn)題就是緩存的設(shè)計(jì)，合理的緩存設(shè)計(jì)可以使提供動(dòng)態(tài)網(wǎng)頁(yè)效勞的性能大幅度提高。當(dāng)然，在架構(gòu)階段設(shè)計(jì)緩存解決方案，絕非簡(jiǎn)單的技術(shù)問(wèn)題，需要從業(yè)務(wù)出發(fā)，再結(jié)合各種技術(shù)。下面按照一次請(qǐng)求的順序，對(duì)每個(gè)環(huán)節(jié)的緩存設(shè)計(jì)從技術(shù)角度進(jìn)展討論。. z.-1.客戶(hù)端緩存可以利用客戶(hù)端瀏覽器的緩存機(jī)制，來(lái)減少瀏覽器對(duì)效勞端的請(qǐng)求次數(shù)〔當(dāng)然在效勞端進(jìn)展圖片等資源合并，并結(jié)合css圖片定位技術(shù)，也可以減少請(qǐng)求〕，利用好的緩存協(xié)商，可以設(shè)計(jì)出靈活的客戶(hù)端緩存方案。在頭中下面的內(nèi)容與緩存協(xié)商有關(guān)：Last-Modified：動(dòng)態(tài)頁(yè)面通過(guò)主動(dòng)推送該值，暗示瀏覽器在下次請(qǐng)求同一個(gè)url的時(shí)候，優(yōu)先使用If-Modified-Since值與效勞端進(jìn)展緩存協(xié)商，如果緩存沒(méi)有過(guò)期，則效勞端可以不用重新計(jì)算動(dòng)態(tài)網(wǎng)頁(yè)，通過(guò)返回304通知瀏覽器。的靜態(tài)資源往往使用這種方法。但是該方法有一個(gè)缺點(diǎn)：有時(shí)，文件的最后更改時(shí)間雖然改了，但是內(nèi)容卻沒(méi)有變，這樣無(wú)法充分發(fā)揮瀏覽器緩存的能力。ETag：Web效勞器為每個(gè)url生成一個(gè)散列值，增加在頭的ETag標(biāo)記中，瀏覽器會(huì)優(yōu)先使用If-None-Match加上這個(gè)散列值來(lái)協(xié)商緩存過(guò)期。通過(guò)對(duì)靜態(tài)文件的內(nèi)容進(jìn)展md5變換，可以生成散列值，這樣可以彌補(bǔ)Last-Modified的缺乏。但是隨之帶來(lái)的是效勞端md5變換的計(jì)算開(kāi)銷(xiāo)。E*pires：上述兩種方式，雖然可以使效勞端多少防止了反復(fù)的動(dòng)態(tài)網(wǎng)頁(yè)解析和計(jì)算，但瀏覽器還是必須通過(guò)請(qǐng)求來(lái)進(jìn)展協(xié)商，并沒(méi)有真正意義上減少請(qǐng)求的次數(shù)。通過(guò)在頭中添加E*pires標(biāo)記可以明確的告知瀏覽器過(guò)期形式，瀏覽器會(huì)徹底減少請(qǐng)求的次數(shù)。2.反向代理緩存在web效勞器前端，還有反向代理效勞器緩存。反向代理效勞器本質(zhì)上就是代理效勞器，只是將外網(wǎng)的請(qǐng)求轉(zhuǎn)發(fā)給內(nèi)網(wǎng)的web效勞器處理，他們都工作在應(yīng)用層，能夠理解協(xié)議。正向代理效勞器具有緩存、過(guò)濾等功能，反向代理效勞器同樣具有緩存的能力，而且還具備一定程度上的平安性。一切友好的動(dòng)態(tài)程序同樣能夠很好的在反向代理效勞器上實(shí)現(xiàn)緩存。重量級(jí)的squid、輕量級(jí)的varnish、甚至是Ngin*這樣的web效勞器軟件，都可以勝任反向代理效勞。上述的代理效勞器軟件產(chǎn)品，通過(guò)各種配置可以緩存基于 協(xié)議的web響應(yīng)。3.Web效勞器緩存Web效勞器有可能支持基于url的緩存〔基于key-value對(duì)〕，這類(lèi)似反向代理緩存。緩存通常可以通過(guò)配置存儲(chǔ)在內(nèi)存或磁盤(pán)上，在緩存有效期的問(wèn)題上，通常是基于協(xié)議中的頭部信息判斷。但是使用這樣的機(jī)制需要注意：動(dòng)態(tài)程序會(huì)可能變得依賴(lài)于特定的web效勞器注意編寫(xiě)面向緩存友好的動(dòng)態(tài)程序，會(huì)使你的動(dòng)態(tài)程序更有生命力web效勞器還具有緩存文件描述符〔類(lèi)似句柄〕的能力，這樣可以減少文件的open操作，同樣是一種減少系統(tǒng)調(diào)用的措施，這對(duì)于一些小文件有些效果，因?yàn)槲募叫』ㄔ趏pen上的開(kāi)銷(xiāo)將越來(lái)越占有重要的比例。4.應(yīng)用程序緩存應(yīng)用程序本身可以對(duì)動(dòng)態(tài)內(nèi)容進(jìn)展緩存，這可以表達(dá)在三個(gè)層面：. z.-動(dòng)態(tài)腳本緩存：每次腳本解析都需要消耗一定的時(shí)間，為了加快這個(gè)速度，一些效勞器端腳本語(yǔ)言都支持動(dòng)態(tài)腳本的預(yù)編譯，比方我們熟悉的ASP.NET、JSP都有所謂的中間語(yǔ)言，解析這些中間語(yǔ)言會(huì)快很多。動(dòng)態(tài)腳本框架支持的緩存：一些動(dòng)態(tài)腳本框架支持緩存，同樣在選型的時(shí)候要關(guān)注一下這些框架的緩存機(jī)制和原理，比方緩存如何存放，過(guò)期如何設(shè)置，是否支持局部緩存等。應(yīng)用程序自身實(shí)現(xiàn)緩存：應(yīng)用程序根據(jù)特定的業(yè)務(wù)需求獨(dú)立設(shè)計(jì)緩存。在緩存設(shè)計(jì)的具體技術(shù)上有以下幾點(diǎn)：緩存在內(nèi)存，這種方式的優(yōu)點(diǎn)就是減少了磁盤(pán)的讀寫(xiě)，但是內(nèi)存有限，單機(jī)不易擴(kuò)展。緩存在分布式緩存，這種方式的優(yōu)點(diǎn)是減少了磁盤(pán)讀寫(xiě)，并提高了可靠性和擴(kuò)展性，但是由于需要網(wǎng)絡(luò)IO，性能稍遜于單機(jī)緩存。局部頁(yè)面緩存，對(duì)于一些頁(yè)面無(wú)法完整緩存的，可以考慮局部緩存。靜態(tài)化，將靜態(tài)化可以極大的提高性能，因?yàn)橛脩?hù)的請(qǐng)求不需要?jiǎng)討B(tài)腳本處理。效勞器系統(tǒng)能力的制約因素：這局部?jī)?nèi)容對(duì)于所有的效勞器〔無(wú)論是代理效勞器、web效勞器還是其他〕，都具有普遍適用的意義。多進(jìn)程、多線(xiàn)程的選擇和調(diào)度：進(jìn)程切換和線(xiàn)程切換都需要一定的系統(tǒng)開(kāi)銷(xiāo)，通常使用多線(xiàn)程模型的web效勞器軟件比使用多進(jìn)程，具備更優(yōu)的性能。系統(tǒng)調(diào)用：一些需要從用戶(hù)模式切換到內(nèi)核模式的函數(shù)調(diào)用可以稱(chēng)為系統(tǒng)調(diào)用，比方：翻開(kāi)文件。系統(tǒng)調(diào)用會(huì)有一定程度上的開(kāi)銷(xiāo)，減少系統(tǒng)調(diào)用是可以加快處理速度的程序設(shè)計(jì)細(xì)節(jié)。TCP保持：可以通過(guò)保持TCP來(lái)減少效勞端和客戶(hù)端之間的創(chuàng)立和關(guān)閉TCP的操作。中的Connection:Keep-Alive就有這樣的功能IO模型：由于CPU的速度遠(yuǎn)遠(yuǎn)比IO快，IO延遲往往成為性能瓶頸，因此，IO模型十分重要。各種IO模型：PIO：CPU直接干預(yù)磁盤(pán)和內(nèi)存的數(shù)據(jù)交互，即無(wú)論是數(shù)據(jù)從內(nèi)存到磁盤(pán)還是磁盤(pán)到內(nèi)存都要經(jīng)過(guò)CPU存放器。這樣的模型，可想而知，CPU有很多時(shí)間都需要等待慢速設(shè)備。DMA〔DirectMemoryAccess〕：CPU通過(guò)向DMA控制器發(fā)送指令來(lái)控制處理數(shù)據(jù)，數(shù)據(jù)處理完之后通知CPU，這可以