數字資產下的數據存儲實踐葛雙博阿里云數據庫高級產品專家集中存儲關系數據庫萬物互聯互聯網移動互聯網集中存儲關系數據庫萬物互聯互聯網移動互聯網人工智能智慧生活車聯網數字資產-〕里云云原生多模垂直化垂直化關系數據庫關系數據庫0.120252005201020150.12025-〕里云簡單易用/高可靠/擴容高可靠/擴容/數據處理簡單易用可靠性/可用性(硬件故障、數據備份)取指定數據在線擴容高吞吐在線擴容高吞吐LindormAPILindormMulti-Model引擎寬表時序搜索文件LindormStream數據流訂閱與計算LindormDFS存儲HadoopCompatibleFilesystemProtocol（100%HDFS兼容）透明轉存標準/性能型存儲透明轉存標準/性能型存儲容量型存儲容量型存儲分布式存儲分布式數據庫磁盤磁盤分庫分表磁盤分布式存儲分布式數據庫磁盤磁盤分庫分表磁盤傳統單機數據庫-〕里云支付寶賬單高度可控金融級節點存儲峰值請求支付寶賬單高度可控金融級節點存儲峰值請求手淘消息手淘消息菜鳥物流監控,大屏,軌跡,設備狀態…GMV&光明頂大屏g螞蟻智能風控推薦,搜索,BI報表…廣告直通車生意參謀淘寶淘寶天貓支付寶菜鳥阿里媽媽優酷大文娛飛豬AE友盟餓了么釘釘盒馬高德-〕里云低成本低成本高可靠高性能 -〕里云把存儲當算力，有效存儲越大，算力越大。100PB以上規模存儲，需要存儲集群能無限擴展。擴容不影響封裝數據的寫入和時空證明寫入吞吐在1-100GB/s磁盤故障、服務器故障，不影響封裝數據寫入和時空證封裝數據寫入和時空證明IO沖突。分布式分布式智能調度智能調度冗余度內磁盤或者節點故障不影響時空證明擴容不影響寫入和時空證明子集群可無限擴展元數據1+2容災，允許故障2個節點讀寫沖突時，優先保證時空證明智能控制Rebuild帶寬，保證時空證明 客戶端掛載提供文件操作接口(如有其他系統支持需求可根據實際情況進行支持)?單個LDFS集群掛載進程占用約10GB內存(可調)?單個LDFS掛載進程并發打開文件句柄數不超過10萬-〕里云 APP/ldfs-1//ldfs-1節點數量線性增長?每個子集群由3個元數據節點+最大120個存儲節點(67PB)構成?子集群內擴容存儲節點，應用無感知?元數據節點允許故障2臺接入交換機接入交換機接入交換機元數據節點存儲節點存儲節點存儲節點存儲節點元數據節點存儲節點存儲節點元數據節點節點數量線性增長?每個子集群由3個元數據節點+最大120個存儲節點(67PB)構成?子集群內擴容存儲節點，應用無感知?元數據節點允許故障2臺接入交換機接入交換機接入交換機元數據節點存儲節點存儲節點存儲節點存儲節點元數據節點存儲節點存儲節點元數據節點元數據節點元數據節點元數據節點存儲節點存儲節點客戶端節點客戶端節點無限水平擴展子集群1子集群2子集群N數據節點元數據節點故障容忍故障容忍冗余策略數據節點元數據節點故障容忍故障容忍推薦模式最小模式推薦模式最小模式存儲節點存儲節點8存儲節點存儲節點存儲節點協議機協議機協議機協議機….存儲節點存儲節點8扇形寫入高效利用帶寬8存儲節點存儲節點存儲節點協議機協議機協議機協議機….存儲節點存儲節點8扇形寫入模式存儲節點存儲節點以EC8+2舉例存儲節點智能識別切換智能識別切換-〕里云數據封裝模式數據封裝模式封裝流量WindowPost請求封裝流量WindowPost請求 數據副本數據副本數據副本數據副本 數據副本數據副本數據副本數據副本數據副本數據副本數據副本壞盤/慢盤宕機/網絡故障-〕里云數據副本數據副本壞盤/慢盤宕機/網絡故障1.以EC8+2為例，可容忍兩節點不可用可容忍兩節點不可用。損壞節點維修后可重新集群剩余節點進行并行數據Rebuild不可用節點免Rebuild流量影響WindowPost指標項指標內容磁盤水位單獨物理磁盤容量單機可用邏輯容量442TB(1000進制)/402TiB(1024進制)單機可承載密封塊單機帶寬單機rebuild能力里里存儲節點監控運維中心 元數據節點托管機房-〕里云?永久存儲，不刪除，總規模上百TB?時間維度：最近的數據最熱，最遠的數據最冷?部分股票和K線顆粒度是數據熱點?20%的熱數據占了80%的QPS快照類行情數據逐筆航行數據開盤價/收盤價/最高價/最低價/成交量/時間戳股票ID+時間+K線顆粒度程序觸發查詢，并發度高-〕里云最小值 最大值最小值一行情數據一K線統計……存儲原始行情數據存儲K線數據 !用戶查詢?同時引入MySQL和Redis，運維復雜?MySQL無法支撐海量存儲和高并發查詢?分庫分表無法應對業務持續增長帶來的擴容需求?分庫分表方案無法應對單機熱點數據?存儲成本高一行情數據一 內存中計算最大值最小值 結果寫入……存儲原始行情數據異常時加載存儲K線數據存儲原始行情數據 用戶查詢?使用Lindorm替換MySQL和Redis，無需維護兩套開源技術組件?Lindorm提供冷熱分離能力，存儲成本下降70%?在線彈性擴容?數據自動均衡和單機抗熱點?高性能，支持千萬級QPS?支持二級索引和全文檢索，提供數據分析能力?金融級容災(同城強一致和異地容災)?數據按時間線寫入，近線訪問為主?冷數據存儲成本減少80%，熱數據訪問性能提升15%01不壓縮 2快速壓縮?數據按時間線寫入，近線訪問為主?冷數據存儲成本減少80%，熱數據訪問性能提升15%01不壓縮 2快速壓縮3?即開即用，按表開啟?應用零改造?冷熱分隔線，靈活調整深度壓縮?自由設置冷熱的存儲介質、壓縮算法性能型存儲容量型存儲標準型存儲冷熱分離冷熱分離推送Server3(隔離服務器)Server2Server1Server0HotKey探測模塊Region匯報模塊Region匯報模塊收集推送Server3(隔離服務器)Server2Server1Server0HotKey探測模塊Region匯報模塊Region匯報模塊收集-〕里云釘釘釘釘BotHotKeyHotKey探測模塊RegionRegion匯報模塊當業務存在訪問熱點時，可能打爆服務器,影響全局服務熱點Key實時識別結合外部控制系統，自動隔離熱點KeyLindorm寬表引擎ServerServerServer行格式列格式Lindorm搜索引擎SearchServerSearchServerSearchServerLindormSQL引擎(DDL/DQL/DML等統一接入)簡單查詢&寫入&數據管理計算引擎ServerServerServer聯邦分析&ETL檢索聚合查詢簡單易用產品特性，開箱即用，無需額外開發和維護Lindorm寬表引擎ServerServerServer行格式列格式Lindorm搜索引擎SearchServerSearchServerSearchServerLindormSQL引擎(DDL/DQL/DML等統一接入)簡單查詢&寫入&數據管理計算引擎ServerServerServer聯邦分析&ETL檢索聚合查詢簡單易用產品特性，開箱即用，無需額外開發和維護在線高并發請求統一SQL訪問數據的管理、讀寫、分析等統一SQL接入根據SQL類型自動選擇合適的存儲引擎在線請求與分析請求自動資源隔離，消除相互影響數據一致元數據自動打通實時交互式分析數據按需自動同步，毫秒級低延遲支持強同步低成本數據統一存儲在LDFS，大幅減少碎片高性能寬表引擎：使用行存格式，支持高并發在線服務搜索引擎：使用倒排+列存(自研PAX、開源Parquet等多支持高性能分析üüüüüüüüüüüü復雜分析復雜分析計算引擎：基于Spark引擎深度優化，提供高性能融合分析分布式全分布式架構，水平擴展，自動容錯，滿足企業級高可靠需求Lindorm跨機房部署，支持機房級故障的自動恢復，并保證數據的強一致使用場景1.99.99%以上SLA優勢關鍵技術4.節點/機房故障后，自動切換Leader資源利用率高率請求容錯，去毛刺-〕里云機房A機房B機房CZoneAn邏輯圖部署圖數據同步服務t數據同步服務t-〕里云優勢以表為粒度，自由單雙向同步百毫秒數據延遲對lindorm集群無影響，由LTS做數據參與同步的集群數量、表數量無限制延遲可監控報警、數據鏈路可API管理分布式、自容錯、數據校驗-〕里云低成本低成本?智能壓縮，高壓縮率?按需在線擴容?自動冷熱分級存儲?多種存儲介質混存自動刪除過期數據云原生云原生和存儲獨立伸縮?秒級在線擴容，擴容過程不影響服務?100PB水平擴展高性能高性能?點查場景千萬級高并發下保證個位數毫秒?多維實時檢索?實時數據高并發寫入?離線數據快速導入數據處理數據處理?關系/鍵值/文件/搜索/時序/時空能力超融合，業務化繁為簡?二級索引和多維檢