網絡存儲系統設計與測評-6中國傳媒大學研究生課程《數字媒體存儲技術》朱立谷:電話：65783324中國傳媒大學計算機學院網絡存儲實驗室網絡存儲性能測評1存儲測評的意義1.1存儲測評的混亂問題 1.2存儲測評的意義 2存儲測評的技術現狀 2.1存儲測評的技術現狀 2.2國外存儲測評機構與公司 2.3國內存儲測評的現狀3存儲性能測評的分類 3.1按負載產生方式分類 3.2按應用負載分類4存儲性能的影響因素 4.1硬件配置 4.2參數 5存儲綜合測評技術 5.1綜合評測指標體系5.2功能評測技術5.3性能基準測試程序5.4可用性測試技術1存儲測評的意義....’s....1.1存儲測評的混亂問題1.廠家基于市場策略的人為操作由于目前大多數用戶對存儲及其測評技術不了解，而存儲廠商也只公布其產品的測試結果，都未公開自己的系統具體配置、測試環境與方法。測試結果是和測試環境緊密相關的，相同的產品在不同的測試環境下所得到的測試結果截然不同；這些沒有描述測試環境與方法的結果對用戶來說參考意義并不大，因此沒有可對比性的測試結果直接影響用戶選購存儲產品。2.測試負載不符合買主的應用環境特征性能測試主要采用模擬方法對被測存儲系統進行壓力測試的，因此，測試節點端的配置和應用操作對存儲系統的影響巨大，如不同的數據塊大小、不同的讀寫比例、不同的存取操作模式、訪問文件的大小和并發連接的數量等都是影響存儲系統測試結果的關鍵因素。3.測試對象選擇不合理存儲產品應用時需要配備一整套的系統，單個設備的性能數據不足以代表整個存儲系統的性能數據。例如存儲系統不只包含核心的存儲控制器和磁盤柜，還包括適配器、網絡設備、線纜等組成部分，這部分器件的數據處理消耗對存儲系統的性能表現也會產生一定影響。因此，需要去研究存儲系統的硬件配置，比較各項參數的數值以及參數表以外的因素。為了優化配置，必須進行存儲系統性能瓶頸測試。因此，在對系統進行瓶頸測試時，需要詳細研究被測系統的具體配置，保證測試結果的真實與可靠，從而為優化系統提供技術方案。1.2存儲測評的意義1.對企業效益的影響存儲測評不僅可以根據企業的具體應用測試系統在投入運營前的性能和可靠性的關鍵指標，還可以為企業對產品的選型提供參考，也可以為存儲產品和系統的優化提供技術方案，使資源的利用率達到最大化。2.促進企業的研發能力存儲測評能幫助企業發現產品在研發的各個階段存在的問題，找出系統瓶頸，提供技術參考資料，為企業研發更好的技術提供了幫助。3.促進產業的健康發展存儲測評不僅能促進存儲相關軟硬件關鍵技術研究，而且可以促進產品的設計與優化，更可以為產品生產和系統集成等過程提供質量控制，還能促進存儲產品在典型應用中的產業化以及系統的優化升級等。2存儲測評的技術現狀2.1存儲測評的技術現狀目前，國內外存儲評測技術研究的主要內容是對存儲系統的性能評測。從最早的基準測試和硬盤性能評測工具、文件系統性能評測工具，已經發展到針對網絡文件服務器（、）的性能評測基準和塊級網絡存儲的性能評測基準。1988年成立的（）制定了商務應用基準程序的標準規范、性能和價格度量，并依據這些基準測試項目發布性能數據。系統每次事務進行2～10次磁盤存取，所以，軟件不僅可測量數據庫等軟件的效率，也可測量存儲系統的性能。文件系統性能評測軟件是目前最易獲得的存儲性能評測工具，常用的有、、和。、可以運行在多個操作系統上，是較好的文件操作的基準工具；可對各種常用的負載情況如文件服務器、、服務進行測量和評測，的工作負載規范已經成為平臺的事實標準，并且可以產生許多性能指標結果，是平臺最好用的、最常用的測試性能的基準工具；是測試應用下文件系統性能的新基準。目前已有一些針對網絡文件存儲系統的測量和評估的性能基準。()下屬的()小組維護的和是目前廣泛使用的文件服務器的性能評測基準。只能評測其中的性能。彌補了的缺陷，被接受為測試的性能基準，只能報告吞吐量而不能報告響應時間，因此，又開發了一個測試的新基準。目前尚無針對的性能評測工具。但由于存儲系統提供塊級存儲服務，在服務器上它被映射為本地磁盤，因此，文件系統性能評測基準也可以用來測試和評估的性能，是最常用的基準工具之一。即使采用用相同的的基準工工具用于于存儲系系統評測測，由于于用戶的的測試環環境、存存儲配置置和工作作負載等等方面都都不同，，因此，，得到的的測試指指標仍然然沒有可可比性。。因此，，2001年（（））創建了了第一個個行業標標準性能能基準測測試1(1)，它是是第一個個基于工工業標準準的存儲儲性能測測試體系系，可以以對存儲儲產品的的性能、、價格和和可靠性性三項指指標進行行評價。。基準的的最大特特點是定定義了標標準的測測試環境境、存儲儲配置和和工作負負載，并并且規定定測試結結果必須須經過審審計才予予以公布布，保證證測試結結果的真真實性和和可重復復性。1主要用用于針對對隨機應應用環境境的基準準測試，，隨著新新的應用用推廣，，又推出出了2和和3。2.2國國外存儲儲測評機機構與公公司網絡存儲儲工業協協會（，，）擁有420家來來自世界界各地的的公司成成員和7100多位個個人成員員，遍及及整個存存儲行業業。致力力于提供供相關行行業標準準，推動動開放式式存儲網網絡解決決方案的的市場。。為了是是存儲行行業的健健康發展展，提出出了“綠綠色存儲儲能源測測量規范范”，促促進存儲儲領域向向節能方方面發展展等。2010年初，，網絡存存儲工業業協會（（）出臺臺了“綠綠色存儲儲能源測測量規范范”（）），規規范包括括具體的的綠色存存儲的分分類方法法，即將將不同的的存儲技技術和存存儲系統統加以歸歸類以便便進行對對比，除除此以外外，還包包括一個個測量系系統空閑閑狀態下下能耗的的測量方方法。存儲性能能委員會會（，，）是存儲領領域擁有有舉足輕輕重地位位的第三三方存儲儲測評機機構，擁擁有數十十家大型型存儲企企業和研研究機構構會員，，致力于于建立標標準化的的測評基基準，為為企業和和用戶提提供客觀觀、公正正和權威威的檢測測結果。。目前，，、、、、、等存存儲巨頭頭都是的的重要會會員，他他們都按按照的測測評規范范對自身身產品進進行測評評，并把把測評結結果發給給審核，，把其審審核的結結果發布布到網上上供用戶戶了解。。已建立立起一套套測評規規范，包包括1、、2、3和等，，其中1是用于于測試存存儲產品品在隨機機應用環環境下的的性能，，2用于于測試存存儲產品品在順序序應用環環境下的的性能，，3用于于測試數數據備份份與恢復復等的應應用性能能，目前前還沒有有完善，，而則是是今年才才發布的的功耗測測評規范范，用于于測試存存儲產品品在多種種應用環環境下的的功耗情情況。標準性能評估估委員會（,））是一個全球性性的權威的第第三方應用性性能測評組織織，成立于1988年，，現有超過60家公司參參與。它提供供包括、圖形形系統、文件件系統、存儲儲系統、應用用等多個方面面的性能評價價標準和基準準測試程序，，其中用于于測量文件系系統的性能，，包括吞吐率率和響應時間間，2008是于2008年發布的的第一項服務務器標準的功功耗/性能測測試標準，推推動了存儲產產業功耗測評評研究的發展展。以一個通通用的公平的的標準來考量量一個服務器器的能耗表現現，作為第一一個可以在多多種負載條件件下測量能耗耗與性能關系系的服務器評評測標準，這這個標準設定定了統一的評評測基準，提提供了一種測測量服務器用用電效率的標標準方法，從從而避免了因因為每家公司司都會更加傾傾向自己的產產品而引起的的評測數據的的混亂。事務處理性能能委員會（，，）是一個專門負負責制定計算算機事務處理理能力測試標標準并監督其其執行的組織織。自其1988年成立立后，提出了了一系統基準準測試集，這這些測試集用用于評價計算算機系統進行行事務處理的的能力，包括括、、、等測測試集。其中中是一個聯機機事務處理的的測試集，被被廣泛用來測測試存儲系統統對與機遇數數據庫應用的的支持能力，，并通過每秒秒事務數量來來描述系統的的性能。2009年10月，推出了了功耗測評基基準V1.0.0基準準，把功耗測測評研究推向向了一個快速速發展的階段段。新罕布什爾大大學互操作實實驗室（，，）為世界著名的的中立第三方方測試實驗室室，專注于工工業之測試標標準，對于各各種技術領域域之研發測試試都有涉獵，，并提供標準準的產品互通通性()測試驗證服服務。公司公司成立于1981年，，經過30年年的發展和數數十次收購，，目前已成為為全球最大光光纖零件和光光通訊領域的的巨頭之一，，并從事大量量測評工作，，包括通信測測評、存儲測測評、系統測測評等，其測測試工工具是存儲業業知名的測試試工具，功能能全面，能滿滿足對存儲系系統的性能、、功能和可靠靠性等多方面面壓力測試。。許多研究機構構和實驗室，，如美國實驗驗室、美國國國家能源部、、、美國國防防部、大學、、加州大學分分校等，各大大存儲廠商也也有自己的存存儲測評研究究，如、、、、等等，有名名的存儲測評評工具如開發發的，開發的的、、等，，，公司的等等等。3存儲性能能測評的分類類3.1按負負載產生方式式分類存儲性能評測測按照請求發發生的方式可可以分成三大大類：基準程程序法、應用用仿真法和采采集法。基準程序法基準程序法（（）是目前一一致認可的測測試存儲產品品的較好方法法，它能有效效和精確地測測評產品的各各種特性。目目前已出現很很多成熟的存存儲測評基準準，如事務處處理委員會（（）提出的基基準測試集和和等，標準性性能評價委員員會（）提出出的和2008，存儲儲性能委員會會（）提出的的1，2和3等存儲測評評基準集及其其相應的基準準程序。應用仿真法應用仿真（））是一種高效效和可行的研研究手段，它它能解決日益益復雜的存儲儲系統打來的的多種問題，，如在真實系系統上驗證和和優化方案成成本高、設計計和實現周期期長的難題，，有時采用真真實系統缺乏乏可行性。這這類典型程序序包括、、和和等。采集法法。采集法法是用用特定定的方方法和和工具具收集集存儲儲系統統在具具體應應用下下的各各種典典型操操作，，這些些操作作是真真實環環境下下的多多種混混合操操作行行為，，然后后通過過收集集到的的集在在應用用系統統上進進行回回放測測試的的方法法。實驗室室一直直在其其研究究部門門的服服務器器上搜搜集大大量的的。從從2007年開開始，，公司司開始始利用用等工工具跟跟蹤、、記錄錄公司司研發發的系系列服服務器器產品品在各各種負負載下下的，，并在在網站站中公公開發發布。。3.2按按應用用負載載分類類目前主主流的的基準準測試試程序序側重重目的的不同同：有有的測測試服服務性性能，，有的的測試試數據據處理理性能能，有有的測測試科科學與與工程程計算算性能能，有有的測測試網網絡通通訊速速度等等。不不同的的測試試工具具有不不同適適用范范圍，，可分分為如如下六六類：：綜合測測試型型1基準準測試試程序序主要要是用用來測測試存存儲子子系統統在進進行隨隨機輸輸入/輸出出運算算、查查詢和和更新新等操操作時時的系系統性性能，，2是是面向向連續續應用用的性性能測測試體體系，，包括括大型型文件件處理理、大大型數數據庫庫查詢詢和視視頻點點播，，3針針對備備份和和恢復復性能能的評評測體體系。。性能型型其中96主主要用用于評評價響響應用用戶點點擊的的性能能，96值值是服服務器器每秒秒能夠夠支持持的連連接數數量。。開發的的主要要用于于評測測系統統在不不同環環境、、不同同負載載模式式下的的服務務性能能事務處處理性性能型型其中公公司的的基準準測試試主要要用于于對比比不同同層面面和類類型的的磁盤盤用于于數據據庫時時的性性能和和吞吐吐量，，是一一款比比較全全面的的針對對數據據庫應應用的的測試試工具具由(，，事事務處處理性性能委委員會會)負負責定定義了了諸如如、和和基準準測試試之類類的事事務處處理與與數據據庫性性能基基準測測試，，并依依據這這些基基準測測試項項目發發布客客觀性性能數數據。。系統軟軟件性性能型型由開發發主要要測試試操作作系統統性能能，其其具體體指標標包括括：空空系統統調用用時間間，進進程切切換時時間，，、、、、的的延遲遲和帶帶寬，，內存存、、、的讀讀寫性性能，，存儲儲映射射的性性能。。主要要評測測計算算機系系統的的網絡絡性能能，也也可用用來評評測（（））、的的性能能，、、的帶帶寬和和請求求應答答數。。用于于評測測系統統的性性能。。科學與與工程程計算算性能能型其中美美國開開發的的()主主要要用于于包括括8個個空氣氣動力力學計計算類類應用用，5個核核心程程序和和3個個偽應應用，，、多多重網網格求求解、、共軛軛梯度度方程程求解解、三三維、、整數數排序序。大大學開開發的的主要要用于于評測測共享享存儲儲系統統性能能，其其包括括7個個完整整的應應用和和5個個計算算核心心程序序，科科學與與工程程計算算，計計算機機圖形形學方方面的的并行行程序序。主主要用用于評評價大大型可可擴展展系統統的計計算性性能。。文件系系統性性能型型這類基基準測測試主主要進進行以以下幾幾個方方面的的測試試：文文件系系統建建立后后的讀讀/寫寫性能能測試試；文文件系系統建建立后后的文文件建建立測測試，，文件件建立立測試試后的的文件件刪除除測試試。用于于測測試試新新聞聞服服務務器器上上高高速速增增加加刪刪除除文文件件性性能能測測試試；；主要要用用于于測測試試文文件件系系統統在在郵郵件件系系統統或或電電子子商商務務系系統統中中性性能能。。3.3按按負負載載方方法法分分類類.....aa..a..4.存存儲儲性性能能的的影影響響因因素素4.1硬硬件件配配置置存儲儲系系統統包包含含很很多多硬硬件件子子系系統統，，如如磁磁盤盤、、磁磁盤盤接接口口、、交交換換機機、、網網卡卡、、主主板板、、內內存存、、等等等等，，簡簡單單的的存存儲儲結結構構如如圖圖所所示示。。1.讀讀寫寫方方式式讀寫寫方方式式主主要要包包括括隨隨機機讀讀、、順順序序讀讀或或混混合合讀讀寫寫三三種種。。對對存存儲儲設設備備性性能能測測評評的的過過程程中中，，選選擇擇不不同同的的讀讀寫寫方方式式將將直直接接影影響響到到最最終終的的測測試試結結果果。。2.塊塊大大小小存儲儲設設備備的的性性能能表表現現嚴嚴重重依依賴賴于于數數據據塊塊的的大大小小，，當當數數據據塊塊的的大大小小增增加加，，帶帶寬寬增增加加，，而而減減少少。。4.2參參數數3.讀寫寫比例讀寫比例例是指操操作流中中讀和寫寫操作各各占的比比例，讀讀比例與與寫比例例之和為為100%。4.文件件大小針對不同同的文件件存儲應應用，它它請求的的文件大大小是不不同的，，一般來來說服務務、服務務、新聞聞服務都都請求小小文件，，而音視視頻和大大文件處處理等服服務一般般是請求求大文件件。

(%)

(%)(%)

（隨機）

29

32

61

(順序)

11

28

39

40

60

100表1讀讀寫方式式參數5.存取取模式文件系統統中的存存取模式式分為共共享存取取訪問模模式（））和并并發存取取訪問模模式（））。對對于并發發存取訪訪問模式式，每個個進程擁擁有一個個屬于自自己的操操作文件件，因此此很容易易實現按按操作隊隊列進行行讀寫操操作，進進程只需需按照操操作隊列列循環讀讀寫相應應文件即即可。而而對于共共享存取取訪問模模式，由由于所有有并發進進程同時時操作同同一個文文件的不不同段或或不同塊塊。..a.–:..:“0”,.a.–25.1.–.....–-50,000100,000150,000200,000250,000300,000350,000400,000'2k''4k''16K''64K''256K'=.=.–.1,4134,6261,0002,0003,0004,0005,0006,000'2k''4k''16K''64K''256K',.....a,..:A’s5’s0101011010100x56A0’s1’s.a.:...–11a.:(,,).–2525a.–8.’s..–512.’s.A...:......:,a.:.....a32/33..5.存存儲儲綜綜合合測測評評技技術術網絡絡存存儲儲的的綜綜合合評評測測指指標標系系統統，，不不僅僅僅僅強強調調存存儲儲的的性性能能指指標標，，同同時時還還包包括括功功能能、、可可用用性性和和功功耗耗等等指指標標，，更更科科學學地地揭揭示示不不同同結結構構存存儲儲系系統統的的長長處處和和短短處處，，便便于于進進行行不不同同設設備備與與系系統統之之間間的的全全面面對對比比，，為為存存儲儲產產業業的的快快速速發發展展提提供供技技術術指指導導，，為為用用戶戶購購買買最最合合適適應應用用需需求求的的存存儲儲系系統統提提供供決決策策支支持持。。Q&A？THANKYOU!中國國傳傳媒媒大大學學計計算算機機學學院院網絡絡存存儲儲實實驗驗室室2012年2月14日謝謝謝12月月-2205:53:5305:5305:5312月月-2212月月-2205:5305:5305:53:5312月-2212月-2205:53:532022/12/315:53:539、靜夜夜四無無鄰，，荒居居舊業業貧。。。12月月-2212月月-22Saturday,December31,202210、雨中中黃葉葉樹，，燈下下白頭頭人。。。05:53:5305:53:5305:5312/31/20225:53:53AM11、以我獨沈沈久，愧君君相見頻。。。12月-2205:53:5305:53Dec-2231-Dec-2212、故人江江海別，，幾度隔隔山川。。。05:53:5305:53:5305:53Saturday,December31,202213、乍見翻疑夢夢，相悲各問問年。。12月-2212月-2205:53:5305:53:53December31,202214、他鄉生白發發，舊國見青青山。。31十二月月20225:53:53上午05:53:5312月-2215、比比不不了了得得就就不不比比，，得得不不到到的的就就不不要要。。。。。十二二月月225:53上上午午12月月-2205:53December31,202216、行動出成果果，工作出財財富。。2022/12/315:53:5305:53:5331December202217、做前，能夠夠環視四周；；做時，你只只能或者最好好沿著以腳為為起點的射線線向前。。5:53:53上午5:53上上午05:53:5312月-229、沒有有失敗敗，只只有暫暫時停停止成成功！！。12月月-2212月月-22Saturday,December31,202210、很多多事情情努力力了未未必有有結果果，但但是不不努力力卻什什么改改變也也沒有有。。。05:53:5305:53:5305:5312/31/20225:53:53AM11、成功就就是日復復一日那那一點點點小小努努力的積積累。。。12月-2205:53:5305:53Dec-2231-Dec-2212、世間成成事，不不求其絕絕對圓滿滿，留一一份不足足，可得得無限完完美。。。05:53:5305:53:5305:53Saturday,December31,202213、不知香積寺寺，數里入云云峰。。12月-2212月-2205:53:5305:53:53December31,202214、意志堅強強的人能把把世界放在在手中像泥泥塊一樣任任意揉捏。。31十二二月20225:53:53上上午05:53:5312