大模型及DeepSeek在運維場景中的應用_第1頁
大模型及DeepSeek在運維場景中的應用_第2頁
大模型及DeepSeek在運維場景中的應用_第3頁
大模型及DeepSeek在運維場景中的應用_第4頁
大模型及DeepSeek在運維場景中的應用_第5頁
已閱讀5頁,還剩73頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

在數據庫和數據挖掘領域頂級會議和期刊SIGMOD、VLDB、ICDTKDE上發表論文100多篇。主持和參與科技自然科學重點、面上基金、上海市科委/經信委的多個項目,以及華為、螞蟻目錄/CONTENTS1大模型在運維領域應用前景2面臨的挑戰3若干應用場景4總結閉源開源部分領域醫療汽車教育GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站L5智能運維:實現系統自治,解放體力與腦力基于已有的經驗知識在不同場景下自主決策處置高度自動化+串聯智能化高度自動化+單點智能化智能運維數據化運維數據化運維專家經驗運維執行:人專家經驗運維執行:人+系統(95%)決策:人+系統(80%)執行:人+系統(80%)決策:人+系統(20%)決策:人+系統(95%)GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站大語言模型是IT運維領域新質生產力的重要組成部分,推動數字化“自然語言”成為連接運維人員、運維工具、運維文檔、運維數據的通用接口以“聊天”技術為載體實現人機協同完成運維任務提示詞工程、檢索增強、智能體逐步在智能運維應用場景實踐中凸顯成效(近中期)(近中期)(近期)應用場景(中期)應用場景(近中期)(近中期)(中期)(近中期)GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站請解讀上述異常日志。Directorstatehas請解讀上述異常日志。DirectorstatehaschangedtoOffline.-Objectis:000496800182:RF-3E含義:這是一個狀態變化的告警,指示一個Director(存儲控制器)的狀影響:當Director離線時,相關的存儲功能可能會受到影響,可能導致數據不可訪問、性能下降或其他存儲操手機銀行、柜面等交易受影響。期間成功交易量為0,上周同期交易量約244587筆。需要生成更詳盡的評估報告嗎?根因分析拓撲圖如下:是否需要提供根因組件相關的信息?請提供TOP1根因相關的異常信息當前生產環境出現嚴重故障,請做過去半小時內,發生了3456條告警,涉及50套應用系統、100臺物近期無相關生產變更。正在執行拓撲根因定界分析,請稍請解讀上述異常日志。Directorstatehaschanged請解讀上述異常日志。DirectorstatehaschangedtoOffline.-Objectis:000496800182:RF-3E含義:這是一個狀態變化的告警,指示一個Director(存儲控制器)的狀影響:當Director離線時,相關的存儲功能可能會受到影響,可能導致數據不可訪問、性能下降或其他存儲操手機銀行、柜面等交易受影響。期間成功交易量為0,上周同期交易量約244587筆。需要生成更詳盡的評估報告嗎?根因分析拓撲圖如下:是否需要提供根因組件相關的信息?請提供TOP1根因相關的異常信息。STRAY-47組件日志中有異常信息:當前生產環境出現嚴重故障,請做過去半小時內,發生了3456條告警,涉及50套應用系統、100臺物近期無相關生產變更。正在執行拓撲根因定界分析,請稍場景示例場景示例模型本身能力模型外能力用戶是誰產品功能、響應速度、輸入/輸出、并發數的清晰界定例如:大模型輔助的排障助手什么功能利用了大模型的什么能力軟件層面要提供哪些能力,并發、容錯、上下文超限等傳統的軟件架構、設計模式仍需考慮GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站00dCreating00dCreatingNTtrans(seq13),object[6]141double-hummeralignmentexceptionsinstructionaddress:0x00004ed8提取變量,保留常量<+>double-hummeralignmentexceptions系統日志廣泛用于理解系統運行狀態,支持故障檢測與診斷。然而,日志數據常為半結構化文本,難以直接使用。因此,常式,—方面可以將日志序列簡化為模板ID序列,降低分析復練度,另—方面結構化的表達形式也更便于進行統—與自動化處1.傳統方法2.1.傳統方法將解析建模為分類任務,識別日志務的變量位置,能提取—定語義信息,將解析建模為分類任務,識別日志務的變量位置,能提取—定語義信息,但依賴大量標注數據對模型進行訓練,進行解析,精度高,但處理過程依賴LLM調用來進行解析,效率低,難以通過規則匹配或統計特征(如頻率、長度)進行解析,處理速度快,但缺乏語義理解能力,難以準確區分常量與變量,進而影響解析性能相較于傳統方法與深度學習方法,串行解析處理下—條,導致大量時間等待然而,大多數用,時間接近基于LLM的日志解析的常見操作模板匹配利用前綴樹等結構進行快速匹配是否涉及LLM:否速度:快模板抽取利用LLM對給定日志生成模板是否涉及LLM:是速度:慢模板更新將當前日志合并已有模板進行更新是否涉及LLM:是速度:較慢時間不—致不同操作的速度差異,導致快速操作被迫等待,降低整體效率。解析依賴順序現有方法存在順序依賴性,對于前面日志的解析,可能會影響后面日志解析的結果,直接并行會重復解析相似日志同時處理,模板尚未緩存進前綴樹,導致重復觸發LLM調用,資源浪費。模板抽取模板更新模板模板抽取模板模板更新模板抽取模板更新模板模板抽取模板模板更新模板模板抽取模板模板更新時間軸問題:問題:串行執行,時間不—致解決方案:異步并行涉及LLM的操作統—進行異步并行執行,剩余操作包括模板匹配等,均在主流程中串行執行。在充分利用并行優勢的情況下,規避不同操作時間不—致帶來的延遲。異步任務執行池串行解析串行解析解析日志e1解析日志e2解析日志e3模板更新模板更新模板模板更新模板更新模板模板更新模板模板模板抽取抽取時間軸異步解析解析,暫不異步解析解析,暫不問題:解析順序依賴解決方案:統—調度異步任務執行池當LLM調用在異步執行池中完成時,不立即進行后序處理,而是交由全局的任務管理模塊進行后處理,確定其后處理順序,以保證順序依賴。考慮到LLM異步任務執行池異步解析異步解析異步任務執行池串行解析模板模板模板解析日志e1解析日志e2解析日志e串行解析模板模板模板模板模板更新模板抽取產生模板時間軸綴樹,匹配失敗推遲處理,等待重新進行e2,e3的匹配問題:重復解析解決方案:任務生成管理引入等待機制,判斷解析當前日志即將生成的LLM任務是否潛在與異步執行池中已有的任務潛在重疊,如果有重疊的可能性,則讓當前任務“等待”,待前序任務完成,再重新開啟對于當前任務的解析。采樣任務生成動態分配任務,任務獨立返回,模板匹配異步任務池任務任務少冗余生成任務,任務管理任務管理?EPAS準確性均高于傳統方法和現有基于大模型的方法GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站Text2Text2SQL技術旨在將自然語言形式的查詢自動轉換為數據庫上的結構化查詢語言(SQL)。鑒于數據庫在各應用領域的廣泛應用,該技術被學術界和工業界廣泛關注總體而言,Text2SQL技術路線分為兩類:基于精調小模型、基于大模型領域知識的依賴數據的語義理解操作邏輯的復雜性領域知識的依賴數據的語義理解的領域知識(如銀行業務中的“頭的領域知識(如銀行業務中的“頭寸”,不同企業的“財年”)。的翻譯效果不佳(如嵌套查詢、復雜的聚集、多表連接等)。自然語言描述的查詢存有模糊性,加之算法對數據的理解也存在偏差,兩者疊加,使數據語義理解變得尤為重o先生成再檢索的范式o利用大模型預訓練過程中取得的先驗知識,先根據問題猜測所需表結構,再用向量檢索器召回相關表oLLM具有較好的語義理解能力(也有幻覺),直接利用LLM直接翻譯,效果不佳;擇題(從候選集中選SQL框架)分數St、列分數Sc和值分數Sv分別為:?實驗結果表明,三層索引檢索通過過?補充和業務相關的專家知識?描述性知識(正確的查詢思路,正確的字段映射)GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站sse_audit_online中的字段“and”即安卓GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站Text-SQL對:月1日至2023年1月31日之間的類型為“變更管理”添加該例子前,對于指定類型有關的查詢待辦任務,不會使用預先定義好的getModelChildrenId存儲過程,添加該例子前,對于指定類型有關的查詢待辦任務,不會使用預先定義好的getModelChildrenId存儲過程,導致生成不完全準確的SQL。)GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站知識庫的方法,能夠顯著提升大模型在問答、對話和文檔理解務的知識覆蓋率和回答準確性。然而傳統RAG往往僅依賴“—輪檢索+—輪生成”的流程,難以處理具有多跳邏輯、模態切換與強依賴結構的問題。我們提出—種基于靜態有向無環圖(DAG)對于用戶的問題進行結構化分解,通過規夠子問題之間的依賴關系,指導多模態檢索器高效調度并且融合方案,提高問答的結構可控性、準確性以及過程可解釋性。傳統RAG方法動態規劃的方法基于靜態DAG的方法傳統RAG方法動態規劃的方法動態調整路徑,但是執行通常是線性,較為復練效率較低;同時在調用鏈過長動態調整路徑,但是執行通常是線性,較為復練效率較低;同時在調用鏈過長拆解子問題,規夠依賴關系,可以并行解決子問題,信息整合準確,查詢沒有結構規夠,統——次性檢索,容易遺漏關鍵信息,難以應對多跳復練優勢分析1.用戶提出問題例如:查詢設備功能、查看圖云等3.多模態執行檢索4.答案整合和輸出結構清晰合理拆解復雜問題提前規劃調度高效子問題可以并行執行提高響應速度自適應模態檢索子問題選擇最合適的模態檢索方式可解釋性強每—步探索路徑清晰可追朔,有利于故障定位和結果驗證。1.多模態異構信息分散不同,統—檢索難度大2.多跳推理路徑復雜問題隱含邏輯依賴關系,不易—步3.復雜問題難以解答動態規劃的方法?效率問題?“意圖偏離”問題基于靜態DAG的方法?訓練LLM,自動生成多個子問題?意圖一致性的度量?樣本分布一致性的考慮實驗結果對比數據集上驗證我們方法的準確性GOGOPS全球運維大會暨研運數智化技術峰會2025·深圳站其可以構建出類似于運維專家的排障樹思維,通過Agent規劃運維步驟,并調

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論