1、在服務(wù)器上排除問(wèn)題的頭五分鐘我們團(tuán)隊(duì)為上-家公司承擔(dān)運(yùn)維、優(yōu)化和擴(kuò)展工作的時(shí)候，我們碰到了各種不同規(guī)模的性能很差的系統(tǒng)和 基礎(chǔ)設(shè)備（大型系統(tǒng)居多，比如cnn或者世界銀行的系統(tǒng)）。要是再趕上修復(fù)時(shí)間緊、奇葩的技術(shù)平臺(tái)、 缺少信息和文檔，基木上這過(guò)程都會(huì)慘痛到讓我們留下深刻的記憶。遇到服務(wù)器故障，問(wèn)題出現(xiàn)的原因很少可以一下就想到。我們基木上都會(huì)從以下步驟入手：一、盡可能搞清楚問(wèn)題的前因后果不要_下子就扎到服務(wù)器前面，你需要先搞明口對(duì)這臺(tái)服務(wù)器有多少已知的情況，還有故障的具體情況。 不然你很可能就是在無(wú)的放矢。必須搞清楚的問(wèn)題仃： 故障的表現(xiàn)是什么？無(wú)響應(yīng)？報(bào)錯(cuò)？ 故障是什么時(shí)候發(fā)現(xiàn)的？ 故障是否可

2、重現(xiàn)？ 有沒(méi)有出現(xiàn)的規(guī)律（比如每小時(shí)出現(xiàn)-次） 最后一次對(duì)整個(gè)平臺(tái)進(jìn)行更新的內(nèi)容是什么（代碼、服務(wù)器等）？ 故障影響的特定用戶群是什么樣的（已登錄的，退出的，某個(gè)地域的）？ 基礎(chǔ)架構(gòu)（物理的、邏輯的）的文檔是否能找到？ 是否有監(jiān)控平臺(tái)可用？（比如munin、zabbix、nagios、new relic什么都可以） 是否有日志可以查看?.（比如loggly、airbrake gray log-）最后兩個(gè)是最方便的信息來(lái)源，不過(guò)別抱太人希望，基木上它們都不會(huì)有。只能再繼續(xù)摸索了。二、有誰(shuí)在?1.2.$ w$ last用這兩個(gè)命令看看都仃誰(shuí)在線，仃哪些川戶訪問(wèn)過(guò)。這不是什么關(guān)鍵步驟，不過(guò)最好別在其

3、他川戶正干活 的時(shí)候來(lái)調(diào)試系統(tǒng)。有道是一山不容二虎嘛。(ne cook in the kitchen is enough.)三、之前發(fā)生了什么？1. $ history查看一下之前服務(wù)器上執(zhí)行過(guò)的命令。看一下總是沒(méi)錯(cuò)的，加上前面看的誰(shuí)登錄過(guò)的信息，應(yīng)該有點(diǎn)川。 另外作為admin要注意，不要利用自己的權(quán)限去侵犯別人的隱私哦。到這里先捉醒-下，等會(huì)你可能會(huì)需要更新histtimeformat環(huán)境變量來(lái)顯示這些命令被執(zhí)行的時(shí)間。對(duì) 要不然光看到一堆不知道啥時(shí)候執(zhí)行的命令，同樣會(huì)令人抓狂的。四、現(xiàn)在在運(yùn)行的進(jìn)程是啥？1. $ pstree -a2. $ ps aux這都是查看現(xiàn)冇進(jìn)程的。ps aux

4、的結(jié)果比較雜亂，pstree -a的結(jié)果比較簡(jiǎn)單明了，町以看到正 在運(yùn)行的進(jìn)程及相關(guān)用戶。五、監(jiān)聽的網(wǎng)絡(luò)服務(wù)$netstat-ntlp2$netstat-nulp3$netstat-nxlp我-般都分開運(yùn)行這三個(gè)命令，不想一下子看到列出一人堆所冇的服務(wù)。netstat -nalp倒也可以。 不過(guò)我絕不會(huì)用numeric選項(xiàng)(鄙人-點(diǎn)淺薄的看法：tp地址看起來(lái)更方便)。找到所有正在運(yùn)行的服務(wù)，檢查它們是否應(yīng)該運(yùn)行。查看各個(gè)監(jiān)聽端口。在netstat顯示的服務(wù)列表屮的 ptd利ps aux進(jìn)程列表中的是一樣的。如果服務(wù)器上冇好幾個(gè)java或者erlang什么的進(jìn)程在同時(shí)運(yùn)行，能夠按p1d 分別找到

5、每個(gè)進(jìn)程就很重要了。通常我們建議每臺(tái)服務(wù)器上運(yùn)行的服務(wù)少一點(diǎn)，必要時(shí)可以增加服務(wù)器。如果你看到一臺(tái)服務(wù)器上有三四 i-個(gè)監(jiān)聽端口開著，那述是做個(gè)記錄，回頭有空的時(shí)候清理一下，重新組織一下服務(wù)器。六、cpu和內(nèi)存1.$free -m2$uptime3$top4$htop注意以下問(wèn)題: 還冇空余的內(nèi)存嗎？服務(wù)器是否正在內(nèi)存和硬盤之間進(jìn)行swap? 還冇剩余的cpu嗎？服務(wù)器是幾核的？是否冇某些cpu核負(fù)載過(guò)多了？ 服務(wù)器最人的負(fù)載來(lái)自什么地方？平均負(fù)載是多少？七、硬件冇很多服務(wù)器還是裸機(jī)狀態(tài)，可以看一下： 找到raid卡（是否帶bbu備用電池?）、cpu、空余的內(nèi)存插槽。根據(jù)這些情況可以大致了解

6、換件問(wèn)題的來(lái)源和性能改進(jìn)的辦法。 網(wǎng)代是否設(shè)置好？是否止運(yùn)行在半雙工狀態(tài)？速度是lombps?有沒(méi)有tx/rx報(bào)錯(cuò)？八、10性能1.$ iostat -kx 22$ vmstat 2 103$ mpstat 2 104$ dstat -top-io -top-bio這些命令對(duì)于調(diào)試后端性能非常冇用。 檢查磁盤使用屋：服務(wù)器硬盤是否已滿？ 是否開啟了 swap交換模式（si/so）? cpu被誰(shuí)占用：系統(tǒng)進(jìn)程？用戶進(jìn)程？虛擬機(jī)？ dstat是我的最愛。用它可以看到誰(shuí)在進(jìn)行10：是不是mysql吃掉了所有的系統(tǒng)資源？還是 你的php進(jìn)程?九、掛載點(diǎn)和文件系統(tǒng)1$ mount2. $ cat /et

7、c/fstab3. $vgs4 $pvs5 $ivs6.$df -h7$ lsof +d / /一共掛載了多少文件系統(tǒng)？ 有沒(méi)有某個(gè)服務(wù)專用的文件系統(tǒng)？（比如mysql?） 文件系統(tǒng)的掛載選項(xiàng)是什么：noatime? default?冇沒(méi)冇文件系統(tǒng)被重新掛載為只讀模式了？ 磁盤空間是否還有剩余？ 是否有大文件被刪除但沒(méi)有清空？ beware not to kill your box */如果磁盤空間冇問(wèn)題，你是否還冇空間來(lái)擴(kuò)展一個(gè)分區(qū)？十、內(nèi)核.中斷和網(wǎng)絡(luò):l$ sysctl -a | grep 2$ cat /proc/interrupts3$ cat /proc/net/ip_conntr

8、ack /是否有某個(gè)定時(shí)任務(wù)運(yùn)行過(guò)于頻繁？ 是否有些用戶提交了隱藏的定時(shí)任務(wù)？ 在出現(xiàn)故障的時(shí)候，是否正好有某個(gè)備份任務(wù)在執(zhí)行？十三、應(yīng)用系統(tǒng)日志這里邊可分析的東西就多了，不過(guò)恐怕你作為運(yùn)維人員是沒(méi)功夫去仔細(xì)研究它的。關(guān)注那些明顯的問(wèn)題， 比如在一個(gè)典型的lamp (linux+apache+mysql+perl)應(yīng)用環(huán)境里: may take some time on busy servers */4$ netstat5.$ ss -s你的中斷請(qǐng)求是否是均衡地分配給cpu處理，還是會(huì)有某個(gè)cpu的核因?yàn)槿肆康木W(wǎng)絡(luò)中斷請(qǐng)求 或者raid請(qǐng)求而過(guò)載了？swap交換的設(shè)置是什么？對(duì)于工作站來(lái)說(shuō)sw

9、appinness設(shè)為60就很好,不過(guò)對(duì)于服務(wù)器就太 耕了：你最好永遠(yuǎn)不耍讓服務(wù)器做swap交換，不然對(duì)磁盤的讀寫會(huì)鎖死swap進(jìn)程。 conntrack_max是否設(shè)的足夠人，能應(yīng)付你服務(wù)器的流凰？ 在不同狀態(tài)k(time_wait, -)tcp連接時(shí)間的設(shè)置是怎樣的？如果要顯示所有存在的連接，netstat會(huì)比較慢，你可以先川ss看-下總體情況。你述川以看一下linux tcp tuning 了解網(wǎng)絡(luò)性能調(diào)優(yōu)的一些要點(diǎn)。十一.系統(tǒng)日志和內(nèi)核消息1.$ dmesg2$ less /var/log/messages3$ less /var/log/secure4$ less /var/log/

10、auth查看錯(cuò)誤和警告消息，比如看看是不是很多關(guān)于連接數(shù)過(guò)多導(dǎo)致？ 看看是否有硬件錯(cuò)誤或文件系統(tǒng)錯(cuò)誤？分析是否能將這此錯(cuò)謀事件和前面發(fā)現(xiàn)的疑點(diǎn)進(jìn)行時(shí)間上的比對(duì)。十二、定時(shí)任務(wù)1$ is /etc/cron* + cat2.$ for user in $ (cat /etc/passwd | cut -fl d：)； do crontab -u $user；done apache & nginx;查找訪問(wèn)和錯(cuò)誤口志，玄接找5xx錯(cuò)誤，再看看是否冇limit_zone錯(cuò) 誤。 mysql;在mysql. log找錯(cuò)誤消息，看看有沒(méi)有結(jié)構(gòu)損壞的表，是否有innodb 修復(fù)進(jìn)程在運(yùn)行，是否冇disk/index/query問(wèn)題. php-fpm;如果設(shè)定了 php-slovv日志,直接找錯(cuò)誤信息(php, mysql, memcache,)，如果沒(méi)設(shè) 定，趕緊設(shè)定。 varnish;在varnishlog和varnishstat 里，檢查hit/miss比.看看配置信息里是否遺 漏了什么規(guī)則，使最終用戶可以直接攻擊你的后端？ ha-proxy;后端的狀況如何？健康狀況檢查是否成功？是前端還是后端的隊(duì)列大小達(dá)到最大值 了？結(jié)論經(jīng)過(guò)這5分鐘z后，你應(yīng)該對(duì)如下