03彩訊多Agent調度框架設計04應用案例分享05實驗探索與未來方向預測大模型加持下人工智能發展趨勢互聯網生態向智能體生態發展互聯網生態向智能體生態發展中國人工智能行業政策“完善生成式人工智能發展和管理機制”《中共中央關于進一步全面深化改革推進中國式現代化的《國家人工智能產業綜合標準化體系建設指南》APPAPPAPPStoreLLM人民共和國網絡安全法》《中華人民共和國數據安全法》APPStoreLLM隨著大模型技術的發展，Agent的結構不同廠商幾乎大同小異，一般包含感知、規劃、執行、工具、記憶。為什么會需要一個Multi-Agent框架？簡單的說，人們的直覺是模仿人類分工協同的模式，能夠更有效的解決問題。更底層的邏輯是為了突破單Agent的一些限制。由于Agent之間是松耦合的,多智能求。Agent可以動態地加入或退出系統,提高系統的魯棒性。LongContext是很多LLM追求的特性 之一，單一的Agent也會受到Context的限制，因為由于Agent之間是松耦合的,多智能求。Agent可以動態地加入或退出系統,提高系統的魯棒性。Agent之間的交互和協商有助于實現整體最優。因此拆分Agent的功能避免超過上下multimulti-agent指的是由LLM語言模型驅動的多個獨立行動者Agent以特定方式連接在一起，每個代理都可以擁有自己的提示詞，LLM底層模型，調用工具和其他自定義代碼，以便與其他代理最好地協作。代表方法：ReACT單Agent核心功能：使用工具的能力multimulti-AgentAgents之間的協作：通過不同的Agent之間的分工協作（有的做規劃，有的執行，執行的時候可以調用工具，也可以利用LLM本身的代碼，總結能力等完成一些比較復雜的任務Agent自動化調度：廣播機制，訂閱發布者機制、Routing等多Agent行業主流框架概覽LangGraphAutoGenCrew.AIChatDevSwarmMetaGPTLangGraph是一個用LLM構建有狀態（stateful）、多參與者（multi-actor）應用庫，用于創建Agent和multi-agent工作流。LangGraph允許定義包含循環的流，它提供了對應用程序流和狀態的細粒度控制。此外，LangGraph包括內置的持久化機制，支持高級的human-in-the-loop和記憶功能。共享思考鏈上下文模式中介者模式LangGraph—共享思考鏈上下文模式用戶輸入用戶輸入開始路徑開始路徑AgentAAgentBRouter:根據agent輸出的語句路由消息。如果語句是"FINALANSWER"Router:根據agent輸出的語句路由消息。如果語句是"FINALANSWER"，則直接將消息發送給User。如果語句是"continue"或"startsender"，則將消息發送給ChartGenerator。stated[Sender]==AgentAstated[Sender]==AgentBCall_Tool?如果LLM調用了一個工具，路由器會繼續執行該?如果LLM返回“FINALANSWER”（最終答），Generator調用。AutoGenAutoGen由微軟推出，提供了一個統一的多智能體對話框架。該框架簡化了復雜LLM工作流的編排、自動化和優化。它最大限度地提高了LLM模型的性能，并克服了它們的弱點。它使得基于多智能體對話構建下一代LLM應用變得輕松。變其行為。數或工具的能力。使用GroupChat和GroupChat可以通過設置max_round和speaker_selection_method來控制Agent之間的通信流程。可以通過定義一個next_speaker可以通過插入特定的提示來影響Agent的發言順序，從而控制聊天的code_execution_config={"executor":code_executor})user_proxy.initiate_chat(assistant,③用戶Agent收到助手的響應后，嘗試通過征求人類輸入或準備自動生成的回復來進行回復。如果)上圖定義了一個簡單的研究工作流程，包含4個狀態：Init、Retrieve、Research和End。在每個狀態中，將調用不同的Agent來執行任務。Retrieve：首先調用Coder來編寫代碼，然后調用Executor來執行代碼。Research：我們將調用Scientist來閱讀論文并撰寫摘要。End：我們將結束工作流程。其中：Initializer：通過發送任務開始工作流程。(即右圖代碼所示的最下面user.initate_chat)Coder：通過編寫代碼從互聯網上獲取論文。Executor：執行代碼。Scientist：閱讀論文并撰寫摘要。SwarmSwarm是OpenAI開發的多智能體框架，Swarm關注的重點是讓智能體協作和執行變得輕量、高度可控且易于測試。Swarm的核心在于兩種原語抽象：智能體(agent)和交接(handoff)。智能體包含指令和工具，并且在任何時間都可以選擇將對話交接給另一個智能體。這種設計使得智能體之間可以靈活地傳遞任務，適應不同的場景和需求。主要組件：保其格式正確。并處理缺失工具。返回結果。不是流式的。工作流程：CrewAICrewAI是一個開創性的多Agent協作平臺，旨在通過多Agent協作提升AI解決方案的效率和智能。每個Agent都配備有一套獨特的工具和能力，能夠協作、分配任務、共享信息，并高效地解決復雜問題。和工具。彼此之間詢問，提高問題解決的效率。開發更復雜的流程，如共識和自主流程。后續使用。為Pydantic模型或Json格式。ChatDEV是由OpenBMB團隊開源的對話式AI開發平臺，旨在為開發者提供一個集模型訓練、交互設計和實時評估于一體的高效工具。ChatDEV基于經典的瀑布模型，將軟件開發過程劃分為：設計、編碼、測試和記錄四個階段。每個階段都有一個Agent團隊（如程序員、代碼評審員、測試工程師等他們通過協作對話和無縫工作流程推動開發進程。續性。務由程序員根據CTO的指示實現，設計師則負責圖形用指令明確并幫助程序員聚焦于解決特定子任務代碼中的不必要冗余，并提高了代碼的準確性。賴性配置說明和用戶手冊。這些文檔幫助用戶獨立解系統的使用方法。MetaGPT是一種多智能體框架，其利用SOP來協調基于LLM的多智能體系統，從而實現元編程技術。該框架使用智能體模擬了一個虛擬軟件團隊，包含產品經理、架構師、項目經理、工程師、質量工程師等角色，并引入SOP成為框架的虛擬軟件團隊的開發流程。其專注于軟件開發，覆蓋了從需求分析到代碼實現的全生命周期覆蓋。在MetaGPT中，多智能體被視為一個智能體社環境：環境是智能體生存和互動的公共場所。智能體從環境中）：經濟：這指的是多智能體環境中的價值交換系統，決定資源分配和任務優先級。行業多Agent框架總結分析05多輪交多輪交互場景04新手Swarm和易于上手，適合進行新手Swarm和易于上手，適合進行簡單的多Agent復雜任務LangGraph則是高級用戶的理想選擇，它提供了高度可定制的邏輯和編排能力個不錯的選擇LangGraph與開源LLM的兼容性很好，CrewAI也可作為不錯的選擇個不錯的選擇實驗框架設計與實現：框架整體架構介紹mapping-reAct融合的多智能體調度模式用戶輸入智慧大腦模塊用戶輸入智慧大腦模塊智能體構建響應智能體構建響應任務管理模塊任務管理模塊調度協同模塊調度協同模塊智慧大腦的角色與功能智慧大腦作為AIBOX多Agent系統的“大腦”，旨在將用戶與各類Agent連接起來。實現Agent的統一管理和協作，使得不同業務模塊中的Agent能夠協同工作，打破業務壁壘，實現資源的優化配置與智能分配。智慧大腦智能體創建智能體接入單智能體調度任務轉發智能體創建智能體接入單智能體調度任務轉發內部各業務智能體內部各業務智能體智能辦公?招聘數字員工?財務數字員工?審計數字員工?黨建數字員工通話?智能翻譯?商務速記?反詐防護?智能應答圖文變換?妙云相機?成語接龍?文生圖數字資產管理?資產檢索?資產分類?資產整理?內容生成?網約打車?外賣快遞?上門服務?搶購門票?景點預約?視頻點播支持復雜任務鏈的無縫執行。用戶體驗割裂現象。Agent之間建立了統一的能力標準，確保各Agent在業務執行中的表現一致，消除了能力參差不齊的問題，使得各項任務能夠在高智慧大腦：用戶意圖識別智慧大腦意圖識別模塊意圖識別與調度策略配置后處理組件Agent_1weatherAgent_2MusicMusic子智能體庫url2url3url4技能庫意圖理解是多Agent系統的重要模塊，我們為意圖識別模塊配置了豐富的組件。除此之外，為了加快意圖響應速度，還引入智慧大腦意圖識別模塊意圖識別與調度策略配置后處理組件Agent_1weatherAgent_2MusicMusic子智能體庫url2url3url4技能庫任務拆解與規劃：任務分解策略任務分解策略的目的是將用戶的輸入需求轉化為一系列小的、具體的任務，每個任務處理輸入中的一部分工作。通過將任務分解成多個子任務，可以讓系統更加靈活地處理多Agent系統的復雜需求。??從用戶輸入解析任務：通過對用戶的需求進下單等。），型選擇合適的操作。weatherweather中選擇.子智能體庫中選擇.子智能體庫…任務拆解與規劃：規劃任務的優先級與依賴關系完整的任務分解步驟的提示工程#1任務規劃階段AI助手可以將用戶輸入解析為多個任務：完整的任務分解步驟的提示工程#1任務規劃階段AI助手可以將用戶輸入解析為多個任務："dep"字段表示生成當前任務所依賴的新資源的前一個任務的id。特殊標簽"<resource>-task_id"表示在id為task_id的依賴任務中生成的文本、圖片、音頻和視頻。任務必須從以下選項中選擇：{{Agent_CLASS}}.任務之間存在邏輯關系，請注意它們的順序。如果無法解析用戶輸入，你需要回復空的JSON。以下是幾個參考案例：{{Demonstrations}}.聊天歷史記錄為{{ChatLogs}}。從聊天記錄中，你可以找到用戶提到的資源的路徑，以便于你的任務規劃。----Demonstrations用戶輸入：商品的描述，返回商品圖片及各個平臺的銷售價格A:[{"task":"search_goods","task_id":0,"dep":[-1],"args":("text":"商品的描述"}},{"task":"get_picture_url","task_id":1,"dep":[0],"args":{"text":"<resource>-0"}}, {"task":"get_price","task_id":2,"dep":[1],"args":{"text":"<resource>-1"}},]?依賴關系：在多個任務之間，某些任務務完成后才能執行。?任務優先級：根據任務的依賴關系，系統可行效率。?輸入依賴關系：<resource>-task_i是更早的子任務的輸出。多Agent協同調度：子Agent的分類與功能子智能體庫weatherEmailAgent3Music為了使得智慧大腦在任務分發時更好的拆分出子任務，我們對子Agent進行了分類設計。在任務拆分環節，智慧大腦會依據子Agent的類進行拆分，并建立了子Agent庫。子Agent作為底層被調用模塊，只需嚴格按照意圖大腦的分發任務執行子智能體庫weatherEmailAgent3MusicAgent之間的任務邏輯依賴，信息之間的轉發，均以此為?子智能體描述：子智能體描述是幫助智慧大腦為每一個?子智能體類：用于對Agent進行歸類，方便在智慧大腦建子任務類型。多Agent協同調度：調度策略與算法任務分配步驟的提示工程#2Agent選擇階段：根據用戶請求和調用命令，針對{{#1任務規劃階段}}劃分的task，AI助手幫助用戶從{{Agent}}和{{工具庫}}中為每一個task選擇一個合適的Agent來處理用戶請求。AI任務分配步驟的提示工程#2Agent選擇階段：根據用戶請求和調用命令，針對{{#1任務規劃階段}}劃分的task，AI助手幫助用戶從{{Agent}}和{{工具庫}}中為每一個task選擇一個合適的Agent來處理用戶請求。AI助手僅輸出最合適Agent的Agent_id。如果沒有匹配合適的Agent，你需要回復空的JSON。輸出必須嚴格遵守JSON格式：[{"task":task,"id":task_id,"dep":dependency_task_ids,"agent_id":"agen·t_id","reason":"你選擇的詳情原因","args":{"text":text,"image":URL,"audio":URL,"video":URL}}]我們有一份Agent列表供你選擇{{Agent}}請從列表中選擇需要的agent。?子Agent選擇：對于每一個拆分后?選擇子agent的原因：這是作為后續Re任務協同。多Agent協同調度：協同工作的機制子agent路由架構Agent_1Agent_1Agent_1我們通過為每一個子Agent配置路由來實現子Agent之間的協同工作機制，在我們的架構下Agent之間不是直接通信的，而是通過專屬的路由進行轉發，這樣有效的控制了Agent之間的通信標準問題子agent路由架構Agent_1Agent_1Agent_1?相應Json輸入：智慧大腦只會在確保只返回必要的信息。?路由間的傳遞：路由間的轉發，均通過讀取記錄。框架設計與實現：關鍵模塊與功能解析上下文召回智慧大腦框架設計與實現：智慧大腦模塊上下文召回智慧大腦?核心大模型：提供智慧大腦的核心計算能力，通過強大的大腦提供可用的Agent資源庫。持上下文連貫性，確保智能體的應答準確且相關。任務或支持多任務并行執行。定任務或支持多任務并行執行。任務或支持多任務并行執行。任務管理模塊任務管理模塊框架設計與實現：任務管理模塊子智能體庫檢索模塊上下文召回子智能體庫檢索模塊上下文召回存儲記錄模塊?核心推理模型：提供推理用戶請求，進行任務分解的核心計算能力，確保任務管理的高效執行。?子智能體檢索模塊：在任務拆分階段：檢索當前可用的Agent類型，為任務分解提供基礎信息。?上下文召回：記錄和檢索任務相關的上下文信息，保持任務管理在多輪操作中的一致性和連貫性。?任務拆分提示工程:使用提示工程方法將復雜任務分解為多個子任務，并提供必要的分解邏輯和依據。?存儲記錄模塊:負責記錄任務拆分過程中的關鍵數據，包括任務狀態、分解邏輯和依據等，支持后續任務追蹤、分析和優化。路由轉發分配模塊存儲記錄模塊上下文召回核心推理模型調度協同模塊路由轉發分配模塊存儲記錄模塊上下文召回核心推理模型調度協同模塊塊?核心推理模型：提供推理用戶請求，進行任務下發的核心計算能力，確保任務管理的高效執行。為拆分后的子任務匹配合適的Agent實例。?技能庫檢索模塊：在任務下發階段，根據任務需求，檢索技?任務下發提示工程:基于提示工程的方法，結合子智能體檢索能，確保任務執行的準確性和高效性。?存儲記錄模塊:負責記錄任務拆分過程中的關鍵數據，包括任化。度與協同工作。多智能體協同-單任務意圖以單意圖單任務為例展示智能體協同工作流程，通過意圖識別大腦調度智能體池中的相關能力模塊，完成用戶輸入的任務指令，并利用短期與長期記憶提升任務執行效率，實現自動化的任務分配與反饋數據流數據流↓↓意圖識別讀取數據基礎個人信息讀取數據基礎個人信息【2】郵箱地址【3】認證信息【4】。。。個人習慣【1】常用郵箱【2】常用聯系人【3】。。。長期記憶工作流節點智能體下發參數，收件人，收件時間，郵件內容執行結果輸入參數執行計劃執行結果用戶需求，對話信息智能體畫像、用戶畫像、會話數據郵箱智能體技能池昨晚8點收到了何嘉發來的offer讀取數據識別結果智能體調度體智能體池5G體1、需要用戶更新入參2、執行失敗信息反饋體調起參數執行中：正在新建郵件。。輸入參數是修改查詢條件工作流節點智能體下發參數，收件人，收件時間，郵件內容執行結果輸入參數執行計劃執行結果用戶需求，對話信息智能體畫像、用戶畫像、會話數據郵箱智能體技能池昨晚8點收到了何嘉發來的offer讀取數據識別結果智能體調度體智能體池5G體1、需要用戶更新入參2、執行失敗信息反饋體調起參數執行中：正在新建郵件。。輸入參數是修改查詢條件訪問數據池鏈接意圖大腦做多輪對話或推薦賬號、密碼技能調度1、郵箱智能體：為用戶提供電子郵件發送服務。主要功能：提供郵件回復功能（2）發送郵件：提供郵件發送功能（3）?2、云盤智能體3、5G消息智能體時間：昨晚8點發件人：何嘉技能執行查看郵件 執工作流節點執行APILLMXXX信息【2】【3】。。。工作流用戶交互界面 執多智能體協同-多任務意圖多任務處理流程，用戶請求包含多個操作，系統通過意圖識別大腦調度郵件智能體和云盤智能體，分別完成郵件發送與附件查詢的任務，實現多步驟任務的協同處理。執行中執行中：正在查找圖片。。查看郵件查看郵件用戶交互界面意圖識別輸入需求和附件，入參不足時進行多輪對話輸入需求，入參不足時進行多輪對話否等待郵箱智能體發送否否等待郵箱智能體發送否輸入參數輸入參數輸入參數輸入參數修改查詢條件修改查詢條件1、時間范圍擴大2、相似收件人查詢1、時間范圍擴大2、相似收件人查詢修改查詢條件修改查詢條件工作流1：發送郵件工作流2工作流1：發送郵件工作流2：查找圖片}發送附件素材發送附件素材是是是是是案例一：某地市不動產登記中心某地級市不動產智能客服：本方案核心為解決不動產行業疑難問題多、信息量龐大等難題，依托AIBox連接不動產領域海量知識，為該行業工作人員、企業及民眾的自助咨詢提供快速、統一、完整、準確的對話式AI同時將基于用戶對話數據回流給模型，實現模型的迭代學習。不斷強化，形成標準服務能力，為多渠道多場景的服務復用提供智能知識底座。主要數據源常見問題常見問題產權相關房屋買賣產權相關房屋買賣/租賃/土地管理/使用權…案例二：廣東移動營銷導購助手鏈路AI輔助解決方案的實踐經驗，樹立了行業樣板。案例三：智能報價助手制造者智能報價客服：核心為解決制造業報價困難、定制化程度高、疑難問題多、信息量龐大等難題，依托AIBox連接制造業領域海量知識，為客戶自助咨詢提供快速、統一、完整、準確的對話式AI智能咨詢問答服務。核心優勢報價書格式統一報價書格式統一案例四：智能客服中的復雜意圖規劃與任務調度天氣查詢案例五：數字員工系統的多Agent協同控制項目所需意圖能力項目所需業務能力…………語音搜索照片語音搜索筆記，并調用智能糾錯功能調用語音生成會議紀要功能案例六：基于AI郵箱的辦公數字員工實驗探索與未來方向預測間的依賴關系和執行順序。任務和模型。個任務。基于推理模型任務分發+路由轉發的機制的改進思路核心思路：對于用戶的請求，有一個核心控制進行任務理解，并將其拆解為各個單Agent可執行的子任務，再由核心控制模塊2.插件庫：用于記錄當前已配置的相關可直接調用的插件/技能/3.工作流庫：用于記錄當前已正確生成的工作流的工作流流動節點、執行順序以及工作流息，將信息轉發給不同的其他agent，并進行調用。信息驗證模塊是要基于核心控制模塊生成的預期輸出，監控每一個處于工作流的agent的輸出和輸出，預期結果的輸出，要將記錄結果再次返回給核心控制模塊，進行ReAct步驟。推理模型任務分發實驗驗證用戶請求輸入：“幫我構建一個可以根據當前天氣播放適合的音樂的多智響應會分為以下四個階段：query_weather->find_music->play_musica.query_weather｜agent_1｜根據任務需求，查詢天氣，agent_1的技能描述為查詢天氣，因此選擇agent_1b.find_music｜agent_3｜根據任務需求，查找音樂，agent_3的技能描述為查找音樂，因此選擇agent_3c.play_music｜agent_2｜根據任務需求，播放音樂，agent_2的技能描述為播放音樂，因此選擇agent_2{'id':'123457','object':'pletion','created':1733999455,'model':'Qwen2.5-32B-Instruct-GPTQ-Int4','choices':[{'index':0,'message':{'role':'assistant','content':'```json\n[\n{"task":"query_weather","id":0,"dep":[-1],"agent_id":"agent__1