




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
2024PAGEPAGE77/90摘要邊緣計算作為下一代無線網絡的關鍵技術,推動了網絡與計算設施的邊緣能的研究進展。主要包括:6G后描述邊緣智能網絡基礎設施,包括邊緣智能接入網和核心網。邊緣內生智能的關鍵技術:從模型輕量化、邊云協同智能、邊緣智能能進行詳細的講解,包括聯邦學習中的模型稀疏化和模型量化。邊緣內生智能應用:分析智慧交通、智能制造和智能節能等面向邊緣內生智能的典型應用。目錄引言 4背景 4邊緣計算與邊緣內生智能發展概述 4邊緣內生智能的重要性 56G邊緣智能網絡和基礎設施 7面向6G的邊緣內生智能架構 7架構整體概述 7內生智能面的設計與實現 8邊緣智能算力基礎設施 11邊緣智能硬件 11邊緣智能云平臺 19邊緣智能網絡基礎設施 28邊緣智能接入網 28邊緣智能核心網 36邊緣內生智能的關鍵技術 43模型輕量化 433.1.1剪枝 443.1.2知識蒸餾 453.1.3量化 473.1.4NAS 48邊云協同智能 49聯邦學習 49分割學習 51模型分割 52無線聯邦學習中的邊緣智能 54無線聯邦學習 54聯邦學習中的模型稀疏化 57聯邦學習的模型量化 60邊緣智能化部署 63無線側智能化驅動力 63智能化部署 63算力部署 66深度邊緣節點 67深度邊緣節點的無線網絡可編程 69深度邊緣節點的網元融合 69深度邊緣節點的跨域AI設計 72邊緣內生智能應用 75智慧交通 75智慧交通邊緣計算系統概述 75智慧交通邊緣計算類型 76智慧交通邊緣計算應用 78智能制造 80智能制造邊緣計算系統概述 80智能制造邊緣計算類型 82智能制造邊緣計算應用 83智能節能 86場景概述 86對邊緣智能的潛在需求與應用 86邊緣內生智能的發展與挑戰 87引言背景1G必須具備更高的性能和更強大的智能化能力,推動邊緣側網絡從“萬物互聯”向“智能互聯”AI“萬物互聯”[2]。邊緣內生智能能夠在原生網絡中實現各個單元之間的自我動態感知以及自AIAI管理[3]。邊緣計算與邊緣內生智能發展概述是一種將計算過程從中心服務器遷移到設備邊緣的技術。它的核心思想是將網戶在實時業務、應用智能、安全與隱私保護等方面的需求。能中的任務卸載和數據安全問題[4]。法實現復雜的人工智能算法和模型的運行[5]。隨著技術的不斷發展,邊緣設備高數據處理和響應的速度和效率[6]。邊緣內生智能的重要性邊緣內生智能的重要性包含如下方面:AIAI算法的性能[8]。然而,隨著萬物互聯時代的快速發展,傳統的云計算模式逐漸向邊緣AI了低延遲的數據處理,從而實現高性能的邊緣智能處理模式[9]。技術己經在日常AI也是創新前沿的關鍵驅動力,如自動駕駛、智能金融。因此,AI應該更接近服務器。這增加了人工智能的可用性和可訪問性[10]。參考文獻S.N.Himayat,H.Nikopour,Xue,G.andIlderem,“6G:ConnectivityintheEraofDistributedIntelligence,”IEEECommunicationsMagazine,vol.59,no.pp.45-50,2021.M.ElsayedandM.Erol-Kantarci,“AI-EnabledFutureWirelessNetworks:Challenges,Opportunities,andOpenIssues,”IEEEMagazine,vol.14,no.3,pp.70-77,Sep.2019.S.Deng,H.Zhao,Fang,J.S.DustdarandA.Zomaya,“EdgeIntelligence:TheConfluenceofEdgeComputingandArtificialIntelligence,”IEEEInternetofThingsJournal,vol.7,no.8,pp.7457-7469,Aug.2020.M.Pan,Suand“ReviewofResearchontheCurriculumforArtificialIntelligenceandIndustrialAutomationbasedonEdgeComputing,”2021InternationalConferenceonNetworkingandNetworkApplications(NaNA),LijiangChina,2021,pp.222-226.Xiao,G.Shi,Li,SaadandH.Poor,Self-LearningEdgeIntelligencein6G,”IEEECommunicationsMagazine,vol.58,no.12,pp.34-40,Dec.2020..H.HuandC.Jiang,“EdgeIntelligence:ChallengesandOpportunities,”2020InternationalConferenceonInformationandTelecommunicationSystems(CITS),Hangzhou,China,2020,pp.1-5.M.Mukherjee,R.Matam,C.X.Mavromoustakis,H.Jiang,G.MastorakisandM.Guo,“IntelligentEdgeComputing:SecurityandPrivacyChallenges,”IEEECommunicationsMagazine,vol.58,no.9,pp.26-31,Sep.2020. Sun,B.Xie,S.ZhouandZ.Niu,“MEET:Mobility-EnhancedEdgeinTelligenceforSmartandGreen6GNetworks,”IEEECommunicationsMagazine,vol.61,no.1,pp.64-70,Jan.2023.Q.Cui,Z.Gong,Ni,Hou,X.Chen,X.Zhang,“StochasticOnlineLearningforMobileEdgeComputing:LearningfromChanges,”IEEECommunicationsMagazine,vol.57,no.3,pp.63-69,2019.M.M.Sohul,MarojevicandJ.H.Reed,“ArtificialIntelligenceDefined5GRadioAccessNetworks,”IEEECommunicationsMagazine,vol.57,no.3,pp.14-20,2019.6G邊緣智能網絡和基礎設施6G的邊緣內生智能架構作為下一代無線網絡的關鍵使能技術,多接入邊緣計算(Multi-accessEdgeComputing,MEC)能夠支撐大量的新興業務。隨著人工智能(ArtificialIntelligenceAI)MECAI5G網MEC。6GMECMECMEC的靈活性和開放性,更好AIAI服務。架構整體概述邊緣內生智能架構由“四層三面”2.1所示。其中,“四層”礎設施層、虛擬化層、功能層和應用層;“三面”包含控制面、AI面和管理編排(managementandorchestration,MANO)面。圖2.1邊緣內生智能架構(一)四層:基礎設施層:位于邊緣內生智能架構的最下層、涵蓋了系統中的所有通信、(HardDisk(SolidState等;計算資源包括中央處理器(CentralProcessingUnit,CPU)、圖形處理器(GraphicsProcessingUnit,GPU)等。Docker容器并使其在資源池AI服務。功能層:AI功釋放和重組,并通過服務總線串聯。Docker容器來為用戶提供服務。(二)三面:控制面:負責從基礎設施層到應用層的控制信令傳輸和處理。MANOMANO源進行協調和管理。MANO面包含虛擬基礎設施管理器(VirtualizedInfrastructureManagerVIM)MANOMANO,分別用于對資源、功能和應用的管理編排。AIAIAI應用提供運行pytorch、tensorflowAI功能和一條服務總線;其應用層包含一個模板選擇器和一個智能算法模型庫,用于實現邊緣內生智能的靈活重構。內生智能面的設計與實現在邊緣內生智能架構中,基于微服務的AI面被解耦為獨立的AI功能,AI功能可被按需激活和調用;在應用請求到來時,被解耦的AI功能可以按需組合來為用戶提供AI服務,以實現內生智能。(一)內生智能面解耦:2.1所示,在內生智能面中,AI服務被解耦為數據采集功能(DataColltionuntion,CF(taPpoessinguntion,PF,(ModelTrainingFunction,(ModelFunction,MVF)以及數據存儲功能(DataStorageFunction,DSF),各功能介紹如下:DCF:AI模型訓練所需的原始數據并生成相應的訓練數據集。DPF:AI模型訓練所需的數據格式。MTF:AIAI算法的核心模型。MVF:AI模型的性能。DSF:AIAIF的相關參數。AIMANO來激活。(二)內生智能面重構:邊緣內生智能重構借鑒了模板與實例化思想,依據業務類型進行AI功能激活、運行環境配置和資源分配,以實現定制化的AI服務。模板:邊緣內生智能模板涉及模板信息information,和模板標識符identifierAI應用的組AIFAI應用對應模板的標識,存儲在模板選擇器AI應用需求定義該應用所需的功能激活、資源分配和運行環境配置相關參數。AIAI2.2所示,邊緣內生智能的實例化流程包含以下步驟:MANO對應用層持續監測,在接收到應用請求時向模板選擇器發送模板選擇請求TinfTinfMANO面MANOTinf進行實例化操作:配置應用所需的運行環境庫分配所需資源AIF2.2邊緣內生智能實例化流程邊緣智能算力基礎設施邊緣智能硬件系統的響應速度和效率。邊緣智能硬件對環境惡劣的工廠生產線上的各種數據進行實時采集、處理和分人的生理數據進行分析,實現遠程醫療和智能化診斷。實現數據的共享和協同處理。同時,它們還可以通過云端進行遠程管理和控制,實現設備的遠程監控和維護。(一)邊緣智能硬件需求(Near(Far/轉換、協議解析、工業控制、AI推理等,硬件產品形態的形式豐富多樣,比如工控機、PLC、網關、MEC等。功能產品示例NearEdge深度邊緣計算區域數字中心、CDN(內容分發網絡)、電信數據中心、托管服務商深度邊緣計算本地數據中心,重邊緣服務器,微數據中心(一體化機柜)遠邊緣FarEdge聚合分析和控制、數據管理AIBox、MEC、HCI(超融合基礎設施)聚合、轉換、過濾、數據縮減、轉發網關、小單元、路由器、接入點模擬數字轉換(傳感器)、發送控制數據(執行器)、直接分析/控制工控機、PLC(可編程邏輯控制器)、DCS(分散性控制器)等在明顯差異。究其原因,邊緣計算面臨以下幾個主要需求:復雜多樣的應用場景:邊緣部署領域的多樣性需要不同的基礎設施組合。邊緣部署跨越許多配置到管理工具等,使邊緣解決方案生態系統高度復雜化。工業互聯網、電網管理、智能商業大廳等。人工智能、機器學習、大模型、異構計算等技術的蓬勃發展進一步推AI原生計算能力趕上新的分析平臺的性能需求將推動許多新的邊緣基礎設AI應用的多樣性也使得邊緣計算硬件、軟件、服務和解決方案的需求變得更多豐富。長生命周期產品訴求:如軌道交通控制系統、中大型醫療設備、變電站/配電站采集控制單元、工業控DCS/MES5-7年甚至更長的生命周期對于這些應用包括運行在硬件設備上的平臺、業務應用、協議以及產生的數據;持續供應、服務、更新,以及平臺、業務應用等的持續迭代等;嚴苛的工作環境:更嚴苛的物理環境戶外。求會略高一些,在人機共處的情況下,還對邊緣計算設備的噪音有一定要求。20℃60防雷擊、抗震等指標要求對邊緣計算硬件設備也造成了很大的挑戰。更嚴格的數據安全環境全防護方案無法適用。分布式部署:精益化的需求日益明顯。同時,邊緣智能、物聯管控、軟件定義邊緣和5G/6G同時還需要考慮到后續在邊緣側的進一步擴展。對于高度參與物聯網的企業來(二)邊緣計算的技術特點邊緣異構加速計算:CPU難以高效處理,CPU+智能算力(GPU/FPGA/ASIC等)的異的科技趨勢。工業實時控制自動駕駛 數字孿生多媒體處理AIoT……工業實時控制自動駕駛 數字孿生多媒體處理AIoT……異構計算多樣工作負載的高效、低耗處理文本視頻位置信息傳感器音頻圖片AR/VR……碎片化客戶應用場
中國信通院預測,到2023年智能算力(GPU/FPGA/ASIC等)占總算力規模的70%2.3應用場景多樣性推動邊緣異構加速計算發展邊緣軟件定義:5GPLC數據的分析、存儲、運算等要求。原生邊緣智能:AIAI的邊緣原生智能算力需求。(三)邊緣計算硬件產品形態產品形態:邊緣服務器、工業計算機、網關和邊緣一體化機柜。邊緣服務器:于邊緣計算場景的通用服務器(general-purpose)和專為邊緣場景設計的邊緣優化型服務器(edge-optimized)。其中用于邊緣計算場景的通用服務器(general-purpose)與用于數據中心場景的通用服務器在硬件上幾乎沒有差別,往往應用于環境相對友好的場景中。邊緣優化型服務器(edge-optimized)與通用服務器相比,在外觀、功能、(如下表種安裝方法、安全性和OT集成等。從產品形態來看,邊緣優化型服務器(edge-optimized)又可以細分為定制型邊緣服務器(purpose-built)和邊緣微服務器(microserver)定制型邊緣服務器(purpose-built)是針對特定功能進行設計和構建,部署在安防、視頻監控等特定用例中的小型服務器,具有特定的外形尺寸、低能耗、廣泛的工作溫度和多種接口類型等特性,以適應惡劣環境。通常不會部署在標準數據中心,而是部署在邊緣數據中心。嵌入式使用場景而設計的微型服務器,能夠提供企業級計算和管理功能。邊緣優化型服務器(edge-optimized)特性設計具有更寬的溫度范圍、防潮、防塵、耐腐蝕、抗震、電磁兼容性等特點。機箱比通用服務器更小機箱深度,以適應現有基站站點、邊緣數據中心或特定的工業現場位置。操作與維護自動操作和維護以及遠程控制,最大限度地減少手動操作和維護。提供統一的運維管理界面。安全在復雜的部署環境下,需要防止潛在的網絡攻擊,以確保數據的安全性、高可用性和一致性,并在硬件層面防止惡意破壞。I/O前端I/O設計,提供更方便的操作和部署。安裝方式多種安裝方式,如壁掛式安裝。安裝和拆卸簡單。功耗低能耗,可限制直流、交流、布線等。網絡高可靠性、低延遲、無線支持等。工業計算機:和決策。工業計算機有以下特點:/MTTR(MeanTimetoRepair)5min,MTTF10PCMTTF10000~15000小時。的變化給予快速響應,及時進行采集和輸出調節(PC所不具有的),遇險自復位,保證系統的正常運行。擴充性:工業計算機由于采用底板+CPU20個板卡,能與工業現場的各種外設、板卡如與道控制器、視頻監控系統、車輛檢測儀等相連,以完成各種任務。ISAPCIPCIEPICMG上架式工控機 嵌入式工控機塔式工控機 工業一體機工業顯示邊緣網關:
圖2.4工業計算機示意圖處理。邊緣網關和基于云的物聯網平臺共同組成了邊緣計算物聯網架構。邊緣網關通常支持豐富的工業物聯網接口(PLC、RF、RS-485、DI)和與各種行業應用系統互聯,實現終端設備的智能連接。行業應用行業應用云化物聯網平臺Internet5G/4G/ETH5G/4G/ETH邊緣計算網關IPPLC/RF/RS485/DI…路燈配電設施電梯控制器容器管理行業APP行業APP傳感器&終端圖2.5邊緣計算物聯網架構示意圖先分析再傳輸,邊緣快速決策等等,大大提升了端-邊-云的綜合效率。CPU/GPU/NPU5G6G代部分有線數據傳輸,使部署更加靈活。邊緣一體化機柜:PDUIT設備快速邊緣部署及業務快速上PDUUPS前后門開關偵測器等。的影響因素,如防塵、防水、無法外掛空調機柜等。智能照明與門磁單元制冷設備配電單元UPSIT設備PDU電池模塊水浸應急風扇溫濕度2.6邊緣一體化機柜示意圖邊緣智能云平臺2.1.1化應用需求。括三個主要部分:邊側、云側和協同機制。服務,包括容器編排、數據存儲、安全性管理和監控等功能。效提供。的過程,它實現了應用程序的分布式計算和智能化服務。2.7邊緣智能內生云平臺總體架構2.7給出了一種邊緣智能云平臺實現,它與各種邊緣設備深度融合,以在云側,提供多邊緣集群管理,云邊資源協同、應用分發及業務數據交互等能力,可以部署于客戶云數據中心或公有云上。ICT基礎設施。主流邊緣智能云平臺一般有如下特點:界面。靈活數據接入:4G、5GWIFI云端。分配,無縫進行擴縮容。優化應用賦能:GPU虛擬AIGPU應用。極簡部署/運維:以全融合一體機形式部署的邊緣計算平臺實現開箱插電即運維數據,自動故障告警、修復。關上下文信息(身份、威脅/可信評估、角色、位置/時間、設備配置等)加強安全策略,且提供邊緣平臺上動態和靜態數據的加密。下面分章節對邊側內生智能平臺、云側運維管理平臺和協同機制這三部分做詳細介紹。(一)邊端內生智能平臺K8SKubernetes已經成為云和數據Kubernetes等輕量的云原KubernetesK8s更低的footprintx86和ArmGPU、NPU、VPU等異構器件。邊緣節點與中心云之間的網絡環境復雜,邊緣節點可能因為某些原因與中心云斷聯。由于邊緣節點數量眾多,環境復雜,IT運維人圖2.8用于MEC的邊側內生智能平臺2.8MEC(Multi-AccessEdgeComputing)K3s以及軟硬一體化的輕量級虛擬化,以輕量級虛擬化為5GMEC邊緣云模務器組成的集群上。主要功能包含:邊緣端管理:提供管理邊緣節點所有能力的邊端控制臺邊緣容器:Kubernetes的容器統一編排,管理能力性能保證輕量級虛擬化:提供秒級啟動、低內存占用的輕量級虛擬化能力鏡像管理:提供對虛擬機鏡像上傳、更新、刪除、分類管理等功能虛擬機模板:創建可以保存虛擬機配置的模板硬件加速:GPU卡等,通過硬件和加速器的融合實現對邊緣硬件的優化網絡隔離:提供基于虛擬網絡層面的子網二層隔離,保障網絡通信安全樣的智能運維需求訪問控制:支持基于用戶組的訪問控制(二)云側運維管理平臺廣泛分布的邊緣業務低成本的穩定和持續運行。LFEdgeAkraino(ZeroProvisioningandpntokutomtionPltom)“”DevOps在邊CI/CD流程的構建目標,將云端倉庫視為在這利用率、進程、內存等方面的狀態進行采集,并實時為運維人員提生平臺中,實現云邊統一運維管理。圖2.9云側運維管理平臺功能示例2.9展示了一款云側運維管理平臺叫做集中管理平臺CMO(CentralManagementandOrchestration),負責云邊協同管理,總體設計目的是為邊緣云算業務提供上線、部署、調度、優化、協同等全生命周期自動化保障。CMO功能包括:異構邊緣節點/集群管理:MEC、輕邊緣集群進行統一納管理框架于策略的智能調度豐富的云邊協同機制:云邊數據協同框架,支持應用分發,數據同步化運維效率的云端數據庫審計(三)協同機制云邊協同:圖2.10云邊協同的能力與內涵(ECC邊緣計算參考架構3.0)EC-laaSEC-PaaSEC-SaaS3.0云邊協IaaSPaaSSaaS資源協同數據協同是指邊緣計算節點與云端之間的數據交互與協同。在云邊協同中,邊緣計算節點主要負責現場/終端數據的采集、處理和分析,并將處理結果以及高效、低成本地對數據進行生命周期管理與價值挖掘。智能協同人工智能AIAIAI括應用的推送、安裝、卸載、更新、監控及日志等。應用管理協同的生命周期管理能力,包括應用的推送、安裝、卸載、更新、監控及日志等。業務管理協同是指邊緣計算節點主要提供模塊化、微服務化的應用/數字孿生//數字孿生/排能力,按需為客戶提供相關網絡增值業務。服務協同EC-SaaS(SaaS)SaaS在用戶應用層面的服務質量、服務能效等的協同。端負責將邊緣端的模型更新聚合并且發送回邊緣端。了某種程度的隱私泄露問題。KubeEdgeSednaKubeEdgeAIAIAISedna邊云協同增量學習、聯邦學習、終身學習和聯合推理等。邊緣節點間協同:
圖2.11Sedna架構圖與普通的云邊協同的差別主要在要解決多邊之間的網絡互通。圖2.12EdgeMesh架構圖EdgeMeshKubeEdge在邊緣場景下實現邊緣節點互通的一個解決方案。EdgeMeshKubeEdgeEdgeMesh(如邊緣資源有LibP2P點間的通信分為局域網內和跨局域網。局域網內的通信采用節點間直接通信,跨局域網的通信在打洞成功時Agent之間建立直連隧道,否則通過中繼轉發流量。(離線場景KubeEdgeapiserver;EdgeMeshDNS服務器,CoreDNS。極致輕量化:Agent,節省邊緣資源。邊緣智能網絡基礎設施邊緣智能接入網關鍵需求。運營商是邊緣計算網絡基礎設施主要提供者,在邊緣計算產業聯盟5.0ComputingAccess,邊緣計算接入網絡ECA中涉及的關鍵技術進行分析。圖2.13邊緣計算網絡基礎設施示意圖(運營商邊緣計算網絡技術白皮書)L2/L3局域網、WIFI、TSN(時間敏感網絡)、現場總線等。接入網需支持移動用戶和固定用戶同時接入,在移動網絡中,需要提供如2G/3G/4G/5GPON、以及各MBBFBBUPFQoS邊緣計算的部署位置和業務的多樣性對網絡的接入范圍、性能指標如時延、帶寬、高并發等方面提出了新的需求,因此需要ECA網絡通過以下關鍵技術實現:云網融合:針對業務現場人、機、物等不同設備的接入需求,運營商CAPEX投資。OPEXECA需要采用云網融合技術滿足運營商降低CAPEXOPEX的需求。異構計算CDN中需要ARMX86GPUNPUFPGA等ECA中進行異構計算。智能內生:不同的業務訴求對于智能化的要求不同,越來越多的業務QOS服務能力,同時將對時延不敏感的業務調度到其它空閑節點ECA內生智能。(一)邊緣智能接入網技術特點云網融合:成一體化供給、一體化運營、一體化服務的體系。vRAN v5G vBRASvCPE…云操作系統通用硬件加速硬件超融合一體機第一個階段為網絡云化,在固定網絡和移動通信網絡中存在大量傳統設備,例如防火墻、交換機、等,在移動通信網絡中有無線基站、核心網SDN和NFV技術,從傳統煙囪式架構演變為軟硬件解耦、開放、云化的架構。最底層vRAN v5G vBRASvCPE…云操作系統通用硬件加速硬件超融合一體機2.14軟硬解耦、開放的云化網絡這樣的架構有三方面的優點:采用通用硬件和專有硬件相比可以大幅降低成本。上線和既有業務的升級換代,同時降低網絡的運營維護成本。廠商綁定,從而降低成本,促進產業的繁榮和創新。SDN、NFV等技術實現虛擬化和云能的云化多數仍處于軟件化和虛擬化,并未達到云網一體的云原生設計。第二階段云網真正形成一體,網絡功能從設計到交付均采用云原生的理念,包括微服務化、容器化、DevOps、持續交付。另外,邊緣云、企業私有核心網數據面下沉到邊緣云,云桌面、云游戲這些場景又代表BRASNAS等,云網關負責按需轉發邊緣應用,提供用戶與邊緣應用的交互接口。此類場景屬于邊緣云內的增值服務,后續增值應用會逐步增加。AI、大數據、區塊鏈等新技術進一步結合,創造出更加智能化力,形成行業應用和云網基礎設施深度融合。EPCNFV5G核心網已經基本完全云化。無線基站云BRAS等設備也都在推動云化的進程。異構計算:Off-The-Shelf商用現成品或技術)的通用硬件,而通信網元在性能、實時性、著很多挑戰:CPU指令集是面向眾多應用需求而設計,SIMD指令早期的引入是面5G的向量指令集來優化性能,但是,CPU向量計算單元的數量、能夠支持的向量型計算單元。CPUcache、內存預取等機制都是為了優化內存訪問的性能,但是一旦發生cachemiss、TLBmiss、pagefault等現象時,相應指令的時延會大幅增加,造成了性能的不確定性。CPU微架構中有大量的設計都會有這樣的特點,例如分支預測、指令調度等都存在很多預測算法,預測準確時,CPU性能得到優化,但不確定性,都會對通信中對實時性要求高的運算帶來挑戰。CPUCPU而設計,線程的調度、切換都會對性CPU核隔離、核綁定、中斷CPU資源的浪費。5G3GPP5GPolar編碼為例,在信道編碼鏈中,polar編碼是重要一環,polar碼在編碼過程中需要進行復雜的羅內克積矩陣運算,導polar5G在FFTIFFT中需要完40965G物理層的性能和實時性需求CPUCPU結合硬件加速5GCPURAN執行。加速硬件的形態可以包括FPGA、DSP、ASIC、GPU等。CPU和加速硬件的組成關系也可以有多種方案:PCI-E槽位中。CPUPCI-E接口。CPUSoC方案。這三種方案,在性能、功耗、成本等方面逐步優化,但靈活性也逐級降低。2.15異構計算硬件形態CPU和加速硬件之間有兩種調用模式:Lookasideinline模式。在Lookaside模式下,加速硬件的調用類似軟件系統的函數調用,當應用程序執行APICPU繼續執行程序的后續部分。Lookaside模式比較適合加速硬件只支持物理層LDPCInlineLowPHY、HighPHY或者整個物理層,當上行數據進入基站后,首先數據會在加速CPU處理上層協議棧部分。異構計算對軟件也帶來很多新的需求。從云資源池的角度,在調度虛擬機或容器的具體運行服務器節點時,云平臺調度器需要能夠感知每個服務器節點的硬件能力,哪些節點具有什么類型的加速硬件,同時也需要感知虛機或容器承載的應用有哪些硬件需求,從而在調度或遷移的時候能夠匹配相應的硬件。從軟硬件解耦的角度,5G基站軟件期望有統一標準化的API,適配不同的加速硬件,從而降低基站軟件開發的復雜度,提高可移植性。開放式無線電接入網絡聯盟定義AAL(AccelerationAbstractionLayer)為加速硬件抽象層,使應用程序更容易使用和控制硬件加速器,完成對硬件加速器的調度和管理,以充分利用硬件資源,這項工作目前還在進行中。
2.16開放式無線電接入網絡AAL標準化邊緣計算將計算從集中式數據中心下沉到通信網絡接入網的邊緣位置,通過在物理位置上將網絡與計算融合,以分布式方式在更接近用戶的網絡邊緣提供低時延的計算服務,滿足低延遲高帶寬的場景,如視頻加速等。雖然邊緣計算物理位置上部署在邊緣網絡內,但在邏輯上,計算和網絡的編排與調度系統仍然是相互獨立的,缺乏靈活的動態性,導致無法實現網絡和計算在控制面的統一,難以及時響應實時和移動業務的需求。在網元級算力內生一體化方案中,通信行業的主要廠商實現方案主要分為兩類:通過在網絡設備上增加獨立的算力板卡或專用算力服務器來實現算力和網絡的硬件融合。例如,在5G基帶單元(BBU)上增加額外的算力板卡,以提供額外的計算能力。)算力內生網絡(ComputingNativeNetworkCNN)。這種方案不需要增加額外的硬件設備,而是通過解耦大量5G基帶單元的閑置算力與通信業務,為計算應用提供靈活、實時且低成本的算力支持。算力內生網絡將算力與通信網絡緊密結合,以滿足各種計算需求。這兩種方案的提出推動通信領域的算力與網絡的融合,以提供更強大的計算能力和靈活性。算力內生網絡基于5G、云原生和人工智能等ICT技術,為全行業提供連接、算力和應用服務。該網絡構建在3GPP5G網絡協議之上,通過虛擬化技術實現了通信業務與物理CPU核的解耦。算力以“vCPU核”為基本單位進行量化,通過虛擬機和hypervisor多核CPU虛擬化技術將空閑算力與通信服務算力隔離,在基站內利用網元空閑算力承載計算任務。這種解耦方式確保了通信業務的QoS優先保障,并實現了嚴格的內生算力邊界隔離。同時,通過設置計算資源和通信資源之間的安全邊界以保護通信服務的穩定性,并實時智能調整安全邊界,確保通信服務的優先性和服務質量的穩定。目前,算力內生技術已經成功應用于某電力專網項目的XR遠程專家輔助維修。某電站每年都要進行長達一個月的設備停運檢修,這期間只有經過嚴格訓練的工作人員穿戴特制防護服才能進入電廠進行檢修。當檢修遇到困難時,工作人員無法離開電廠求助,導致整個維修流程嚴重延誤,造成嚴重的經濟損失。通過算力內生網絡,維修工程師、遠程專家和檢修業務之間建立了更緊密的聯系。通過隨維修人員移動的5GAR眼鏡終端,通過無線接入到5G網絡,提供復雜維修過程的可視化和實時交互。遠程專家可以通過AR進行遠程指導維修任務。算力內生網絡不僅為AR遠程專家輔助提供了5G高帶寬、低延遲的高清互動視頻數據傳輸,還能支持場景渲染和圖像分發的計算服務調度,使維修人員可以隨時與遠程專家分享所見影像,以獲得專家的實時分析和指導,降低維修成本和提升維修效率。基于算力內生網絡,移動網絡基礎設施從單純的提供連接服務演進為提供連接服務+計算服務的新型通算一體基礎設施,可以滿足AI所需的連接和分布式計算服務,從而更好地支持面向6G的通感算智一體化演進。(二)邊緣智能接入網未來演進技術,這些技術目前正在進行和落地開展中。面向未來6G網絡架構,2023年12IMT-2030(6G)推進組在《6GITU-R最新6G體方向。未來邊緣智能接入網將是通信技術、算力網絡、AI技術等深度融合的5G全面支持數字化變革,技術上體現如下特征:6G網絡發展的基石,將進一步促進網絡的革新發展。展趨勢。ChatGPTAI6G時代的重要應用,對網絡帶來重大影響。區塊鏈等分布式技術,將助力網絡的集中+分布的協同發展。邊緣智能核心網業務從生產輔助進入行業生產核心環節,SLA(ServiceLevelAgreement,服務級別協議)的差異化需求,帶來了網絡5G/6G新級增長,也是走向智能化的重要驅動力。位推進網絡智能化的轉型。智能化演進:上述網絡的發展演進意味著核心網要管理的數據量更大、更復雜。目前的核心網仍缺乏足夠的智能來提供按需服務和更高的網絡資源利用效率。因此,需要通過分布式智能節點的協同提供全局AI能力,實現智能內生。這要求網絡通過原生支持AIAI能力作為網絡的基本服務,AI即服務(AlaaS),使網絡能夠自學習、自演進,并賦能行業AI,構筑全行業的泛在智能生態系統即“智能內生”。智能內生從字面意思來看可以分成“智能”和“內生”兩個部分。首先,“智能”表示以AI/ML作為核心技術,用于網絡自身的感知、分析、最優決策,AI技術因其具有強大的學習、分析和決策能力,以及分布式的網絡AI能力,與終端AI、云AI相互協作,實現全行業的智能泛在,體現無處不在的AI理念。其次,“內生”意味著“與生俱來”,即在開始設計6G網絡時就要支持AI應用在網絡中的無縫運行,這些AI應用包括網絡自身的AI應用以及行業AI應用。邊緣化部署:基于服務化架構(ServiceBaseArchitecture)的核心網可以支持輕量化的NFV部署,提供了按需設計的網絡功能滿足不同場景的移動性,QoS相關的需求;基于新的架構和新的功能可以根據行業場景靈活部署。UPF下沉混合組網UPF、MEC下沉至企業的工廠、園區,此方式可提供數據隔離、按需定制的5G專網服務,按需疊加行業應用所需的5G本地網應用,5G融合定位,低時延、高可靠等專網差異化增值業務。但與公網共用5GC控制面,信令數據、網絡功能等仍依賴公共網絡實現,網絡質量受公網實時狀況影響。5GC獨立組網,在企業的工廠、園區下沉AMF、SMF、UDM、PCF網元,對于控制面完全下沉,輕量化核心網本地獨立新建;構建一張增強帶寬、低時延、物理封閉的基礎連接網絡,實現用戶數據與公眾網絡數據完全隔離,且不受公眾網絡變化影響。UPF行業用戶專用獨享;數據面、信令面均與公眾網絡嚴格隔離;核心網內的能力可更大限度地開放給行業;可滿足行業更多的定制化需求;(一)邊緣智能核心網智能化演進3GPP在Rel-15即予以定義了NWDAF,全稱是網絡數據分析功能(NetworkDataAnalyticsFunction),作為核心網絡AI+大數據引擎,它是核心網中的一個重要組成部分。其在核心網中對NF、AF、OAM收集原始數據,并對原始數據進行智能分析,輸出分析數據給NF、AF、OAM等,用于優化網絡和業務。NWDAF旨在網絡中簡化核心網數據的生成和使用方式,以及生成洞察并根據這些洞察采取行動,他負責數據分析和智能決策,以優化網絡性能和增強最終用戶體驗。圖2.17NWDAF智能框架示意圖在Rel-18中繼續研究涉及AI在網絡中NWDAF的增強:通過聯邦學習與移動通信技術結合,構建面向商用的數據隱私保護方案,從而充分利用電信網的海量數據;在模型訓練及推理階段,通過考慮執行結果作為模型的輸入數據,使模型可以基于結果進行優化來提升模型分析準確性;與網管域智能化分析網元MDAF聯動,利用網管側的智能化分析結果,增加網絡側分析輸入信息,從而提高分析準確性。NWDAF網絡服務特點:邊緣計算的核心思想是將計算任務叢云端移到離用戶更近的網絡邊緣,減少了數據傳輸的延遲和帶寬消耗。NWDAF具有數據采集、生成模型、智能分析等功能,它將網絡數據分析功能部署在網絡邊緣節點上,可以實時捕獲和分析網絡數據,提供實時的網絡監控和安全防護。它還可以從上下行帶寬、時延、抖動等多維指標,智能判斷用戶業務體驗狀態,并觸發網絡側進行保障。這有效減少了數據傳輸的延遲,提高了數據處理的效率。同時,在架構上NWDAF和所有的核心網元進行連接,基于標準化的服務接口,向PCF/OAM/AF提供按需、快速、精準的智能分析服務,支持多場景靈活部署,滿足不同層級的應用要求,使能網絡功能實體,實現運營商網絡低成本、高效率的智能閉環。在具體業務保障中,通過與UPF、PCF等多網元系統性協作,結合實時感知、智能識別、數據分析,構建用戶體驗基線,實現按需觸發的動態保障機制,并為終端用戶提供有效的感知保障,實現數據業務體驗保障的端到端閉環服務。NWDAF相關應用場景:NWDAF是一個數據感知分析網元,以網絡數據為基礎對網絡進行自動感知和分析,并參與到網絡規劃、建設、運維、網優、運營全生命周期中,使得網絡易于維護和控制,提高網絡資源使用效率,提升用戶業務體驗。NWDAF適用于各種業務場景,特別是對于大規模的物聯網和移動互聯網應用來說,具有重要意義。首先,在物聯網應用中,NWDAF可以實時監控和分析物聯網設備數據,提供實時數據分析和決策支持。其次,在移動互聯網應用中,NWDAF可提供實時的網絡監控和安全防護,保護用戶的隱私和數據安全。NWDAF還可以應用于智能交通、智能制造、智慧城市等領域。以下列舉了部分應用場景:對網絡中大量數據分析處理提高系統效率智能數據采集:最大限度減少了訪問/聚合云到中心位置之間的數據移動。高效集成和測試:內置/預先測試的NWDAF交付和不同代(2G/3G/4G/5G)之間的開箱即用互聯功能。更簡單的編排:NWDAF是云原生網絡功能的一部分,可以部署在同一編排流程中。終端參數的定制或優化NWDAF數據,優化用戶移動性管理參數和無線資源管理參數等。業務(路徑)的優化QoS信息、業務負荷)預測對提高車聯網的服務質量有著NWDAFAFAF對業務參數的優化QoS信息、業務負荷)預測對提高車聯網的服務質量有著NWDAFAF,AIUEAI模型的應用效果缺乏有效的驗證和保障手段等,NWDAF難以采集有效且6G網絡,,面對上述挑戰,6G生智能的統一網絡架構設計,即在架構層面將網絡連接與人工智能三要素中的算力、算法及數據完成深度融合,將安全、AI6G架構中,并滲透到各領域、各網絡、各單元的全生命周期中,通過內生設計實現安全、AI等核心技術能力與通信網絡最深程度的融合。構建網絡內完整的智能體系,從而實現智能服務的高效與高質量保障。全新6G智能內生需實現多方面能力:AIAI服務需要通信和計算協AIAI所需的連接和分布式計算服務、以及AI的連接和計算融合控制需求,在編排管理、控制面、用戶面三個維度實現計算和通信深度融合。AIAI(AI素間的交互和集成,AI運行環境,AI工作流的高效運轉,AIAI低不準確的問題,AIAI實時性需求。,的多節點間智能業務協作,實現從單節點智能到分布式多節點智能的演進,AI計算模式造成的大量數據傳輸開銷,緩解數據傳輸中的數據隱私問題。(二)邊緣智能核心網邊緣化部署邊緣智能核心網對傳統網絡架構進行了重構,以網絡功能(NF)的方式重新定義了網絡實體,同時引入軟件定義網絡(SDN)/網絡功能虛擬化NF(服務提供功能實現并可互相調NFNF服務。NFNF服務互通的能力,并且可通過編排工具根據不同的需求進行編排和實例化部署。AMFSMFUPFUDM5G網絡和多接入邊緣計算(MEC,Multi-AccessEdgeComputing)之間的MEC對算力、網絡傳輸的要求。在實際部署時,UPF可以按照不同業務場景對時延、帶寬、可靠性等差異PF基于數據網絡標NetworkIP降低數據轉發時延。UPF的數據QoS調度能力,滿足企業一定的定制化需求。圖2.185GUPF下沉邊緣部署架構5GDNN,企業終端接入網絡時,基站會根據切片標識將信令發送至DNN,將數據面承UPF上。終端發送的數據包轉發方式與混合專網一致,采取絡影響。2.195G輕量化核心網全下沉部署架構品選擇權;行業對網絡的自主可控完全掌握在自己手中。邊緣內生智能的關鍵技術模型輕量化近年來,隨著人工智能技術的快速發展,深度神經網絡(DNN)獲得了越來越多的關注。DNN已被廣泛地應用于各個領域并取得了優異的效果,如目標DNN的參數量日益增加,模型結構也變得愈加復雜,這帶來了極大的存儲與計算資源需求。此外,隨著移動設備的普及和邊緣計算的興起,DNN模型在邊緣DNN模型DNNDNN剪枝20903.1DNN中,由于結構化剪枝和非結構化剪枝兩種。3.1剪枝示意圖根據剪枝準則對模型中的通道進行重要性分析;3)根據設定的剪枝率對模型的冗余通道進行刪減;4)對刪減后的模型進行微調,彌補因剪枝引入的性能損失。剪枝中L1L2PM[][1]ClustrPunin,CP)剪枝率的選擇。Hessian[13]可以根據卷積核內在特征找到不[14](ShiftPruning,SP)1x13.2所示。圖3.2SP算法3x3卷積分解的示意圖知識蒸餾2015Hinton學生模型進行模仿。3.3知識蒸餾中的師生框架3.4蒸餾的新型多尺度特征提取和融合方法使用了多尺度特征層部分,或者將早期知識轉移到后期模型。教師模型和學生模型的容量差異,出現了很多學生模型結構,如:1)層模型;2)教師模型的簡易量化版本;3)具有高效操作的小型模型;4)優化的全局網絡結構的小型模型;5)和教師模型一致的學生模型。通道的重建和等效刪除。3.4用于在線知識蒸餾的多尺度特征提取和融合(MFEF)示意圖量化從n位降低到m位,其中n>m,減少了模型的存儲開銷和運行功耗,加快3.5所示。量化用途廣泛,可以運用于大多數的模型和硬件,untiztionetining,(Postiningquntiztion,PTQ)。涉及對神經網絡參數進行量化,然后重新訓練它,可以使它能根PTQ。步驟一般如下:量化權重;使用浮點輸入和激活對模型執行前向訓練;使用浮點梯度對量化模型執行后向傳遞;使用浮點梯度更新權重,然后返回步驟(1)。當訓練數據不可用時,則采用訓練后量化方法。PTQ利用校準數據對預訓量化,但這通常會以犧牲可實現的精度為代價,因為至少需要4位數據進行存儲。圖3.5量化感知訓練(QAT)和訓練后量化(PTQ)的流程圖NAS神經架構搜索(NeuralArchitectureSearch,NAS)是一種模型壓縮技術,旨3.6所示。NAS的目標是通過到更高的效率和性能。NAS的三個重要方面為搜索空間、搜索策略和性能評估策略。NAS的搜索效率和結果。在特定任務中,人們可以利用先驗知識來減少搜索空間的大小和簡化搜索,如具有ResNet和InceptionNAS-Bench-101NASNAS算法可以找出最佳結構,但算法運行時間會過長。(RL)和基于梯度性能評估指標是幫助NAS在搜索空間找到性能更優的結構。正常模型訓練3.6神經架構搜索框架圖參考文獻Niu,ZouandLiu,“Cluster,ReconstructandPrune:EquivalentFilterPruningforCNNswithoutFine-Tuning,”2023IEEESymposiumonComputersandCommunications(ISCC),Gammarth,Tunisia,2023,pp.625-630.Pruning-and-distillation:One-stagejointcompressionframeworkforCNNsviaclustering.Liu,andNiu,“SplittablePattern-SpecificPruningforDeepNeuralNetworks,”2023IEEEInternationalConferenceonMultimediaandExpo(ICME),Brisbane,Australia,2023,pp.1439-1444.ShiftPruning:EquivalentPruningforCNNviaDifferentiableShiftOperator.Multi-scaleFeatureExtractionandFusionforOnlineKnowledgeDistillation.邊云協同智能聯邦學習聯邦學習(FederatedLearning,FL)是一種機器學習的分布式學習方法,其主要特點是在不集中存儲數據的情況下進行模型訓練[16]3.7式學習中涉及大量敏感信息的隱私問題。整個聯邦學習的訓練過程通常包括以下步驟:初始化:全局模型在聯邦學習開始時由一個中央服務器初始化。本地訓練:訓練是在本地進行的,不涉及對中央服務器的通信。模型更新:在本地訓練后,本地設備生成模型參數的更新。同步聚合:參數的聚合操作,例如加權平均,以生成全局模型的新版本。迭代上述步驟在多個迭代中重復進行,直到達到滿意的模型性能。圖3.7聯邦學習訓練框架低通信成本,但它也面臨一些挑戰。以下是一些聯邦學習的挑戰。數據異構性:不同(non-IID)時,這一問題變得更為嚴重。實際上,由于有限的觀測能力,邦學習部署在實際物聯網環境的瓶頸。隱私保護:聯邦學習的一個主要目標是在不共享原始數據的情況下進戰。設計有效的隱私保護機制對于用戶的信任至關重要。通信開銷:實用性至關重要。激勵機制:與聯邦學習,需要引入適當的激勵機制。聯邦學習在邊緣智能中發揮著重要作用,將在3.3節中進行詳細介紹。分割學習(也叫切割層3.83.8分割學習示意圖和時延,可以采用以下方式實現并行分割學習:模型更新;證能利用到其他客戶的數據;的優點。行,即“先并行后串行”。壓縮減少傳輸中間數據。由于深度神經網絡(DeepNeuralNetwork,DNN)是計算密集且結構復雜的,DNN模型直接部署在終端設備上將消耗大量的計算資源和內存,傳統的方法是DNN應用數據在帶給服源短缺之間的矛盾,一種可行的方案是將DNN進行模型分割和分區處理目前,模型分割的方法主要分為兩種:基于層粒度的分割和細粒度的分割方案。一部分部署在終端設備,另一部分傳輸至附近的具有較強計算能力的邊緣服務DNN3.9所示,當退出點向后移動時,每個分DNNDNN任務的適當部3.9具有不同推理精度的多分支早退網絡結構3.10(a)所示,基于工作負載分割的方案將輸入數據進行按行分割并部3.10(b)所示,由于神經網絡中卷積計算的獨立(Kernel-basedPartitionMethod,將每一層的卷積協作設備將各自推理運算得到的相應輸出特征圖通過多播的方式發送給其他協作設備進行數據聚合,以保證在下一次卷積之前每個設備擁有完整的輸入數據/特征圖。由于每個協作節點只生成部分特征圖信息,KPM保證了敏感數據的隱KPMKPM在減小單設備能夠成為一種具有潛力的分割卸載方案。3.10工作負載分割方案和卷積核分割方案參考文獻G.Hu,N.andR.“ClusteredDataSharingforNon-IIDFederatedLearningoverWirelessNetworks,”ICC2023-IEEEInternationalConferenceonCommunications,Rome,2023,pp.1175-1180.Niu,Z.HanandZou,“AnAdaptiveDevice-EdgeCo-InferenceFrameworkBasedonSoftActor-Critic,”2022IEEECommunicationsandNetworkingConference(WCNC),Austin,TX,USA,2022,pp.2571-2576.X.Zhang,N.B.SunandG.Hu,“AcceleratingDeepNeuralNetworkThroughEdge-DeviceAdaptiveInference,”2023IEEE34thAnnualInternationalSymposiumonPersonal,IndoorandMobileRadioCommunications(PIMRC),ON,Canada,2023,pp.1-6.無線聯邦學習中的邊緣智能無線聯邦學習(一)無線聯邦學習概述(Machine(ArtificialIntelligence,AI)技術正在快速發展,但將其應用于實際生產環節卻還面臨諸多ML“數據孤島”數據保護法規(GeneralDataProtectionRegulation,GDPR)[19]20185120203月份便對規范進行更新和加強[20]。因此,即便企業主觀上有數據在消費、醫療、金融等邊緣智能布局和應用的重點領域。為了解決智能和隱私之間的矛盾,聯邦學習(FederatedLearning,FL)的概2017年左右應運而生[21]MLFLML訓練的思路,不再從用戶處收集數據,而是將模型發送到用ML共享數據。圖3.11聯邦學習的基本流程FL3.11邊緣或云服務器統籌和調度若干根據數據分布特征的不同,可將FL細分為橫向聯邦學習(HorizontalFL,HFL)、縱向聯邦學習FLVFL)和遷移聯邦學習(TransferFLTFL)三種類型[22](特征VFL指的是用戶本身重疊較多,但不同節點的數據類型(特征)卻有明顯區別的情況,例如相同地區的兩家企業,則FLHFLHFL目HFL技術展開討論。“聯邦這種聯合在未來“萬物智聯”時代將會下沉到規模更大、分布更廣的用戶終端級FL,WFL),該技術將是未來邊緣智能系統中的一個關鍵使能技術。(二)無線聯邦學習與邊緣智能邊緣智能(EdgeIntelligence,EI)的核心訴求是將智能化下沉到邊緣,也即ML構造隨時接入、廣域覆蓋的個性化智能服務。EI的關鍵環節,和利用;另一方面,FL訓練過程需要消耗大量的資源,如何合理地安排用戶接智能模型的快速收斂是發展邊緣智能需要考慮的重要因素。聯邦學習中的模型稀疏化(一)模型稀疏化概述(StochasticGradientDescent,或其變種是目前DNNFL新的傳輸很多時候可以在不過度影響模型收斂的前提下降低通信量,這便是模型稀疏化的主要動機。總的來說,模型稀疏化指的是選擇性地傳輸部分模型參數,以降低需要傳輸的模型參數個數/維度,從而降低模型傳輸的開銷。(二)模型稀疏化的基本流程3.12模型稀疏化的基本流程圖3.12展示了模型稀疏化的基本流程,主要包括如下四個步驟:確定模型稀疏化的預算確定模型稀疏化的圖案kk稀疏(Rand稀疏k稀疏則是隨機地k稀疏無需對參數進行排序,計算開銷較小,且在理論分析上具有統計無偏的優勢,但由于不考慮參數重要性的差異,通常會導致收斂速度有明顯下降。存儲模型稀疏化的誤差并傳輸,則避免了通信資源的浪費。傳輸模型稀疏化的結果(也稱索引RandRandRand稀疏。(三)模型稀疏化的效果[23]Dense-SGD1/1000的參數,通信開銷大幅降低;同時可以看到,基RandRandK-SGD的收斂效果較差一些。因此,在實際應用中通常采稀疏,該方案對收斂速度的影響較小。(b)ResNet-20@CIFAR-103.13模型稀疏化的實驗效果聯邦學習的模型量化(一)模型量化概述ML1632位的浮點數進行ML中已被廣泛用于構建輕量級網絡模FL而言其更有必要性和可行性。如前所述,FLSGD及其(二)模型量化的基本流程圖3.14模型量化的基本流程圖3.14展示了模型量化的基本流程,主要包括如下三個步驟:確定量化參數模型量化——距離/最小值。以上三個步驟均在發射端完成。模型解量化2(三)模型量化的效果[24]3.15(IndependentandIdenticallyDistributed,都能在較低量MNIST1-bit。
(aCNN@MNIST(IID) (b)CNN@F-EMNIST(IID)3.15模型稀疏化的實驗效果Tikkinen-PiriC,RohunenA,MarkkulaJ.EUGeneralDataProtectionRegulation:Changesandimplicationsforpersonaldatacollectingcompanies[J].ComputerLaw&Security2018,34(1):134–153.洪延青,何延哲,楊建軍等.信息安全技術個人信息安全規范[S].國家市場監督管理總局;國家標準化管理委員會.北京:中國質檢出版社,2020:1–36[2020-03-06].McMahanB,MooreE,RamageD,etal.Communication-efficientlearningofdeepnetworksfromdecentralizeddata[C]//ArtificialIntelligenceandStatistics.2017:1273–1282.HowardAG,ZhuM,ChenB,etal.MobileNets:Efficientconvolutionalneuralnetworksformobilevisionapplications[J].arXivpreprintarXiv:1704.04861,2017.ShiS,ChuX,CheungKC,etal.Understandingtop-ksparsificationindistributeddeeplearning[J].arXivpreprintarXiv:1911.08772,2019.ZhengS,ShenC,ChenX.,Designandanalysisofuplinkanddownlinkcommunicationsforfederatedlearning[J].IEEEJournalonSelectedAreasinCommunications,2020,39(7):2150-2167.邊緣智能化部署無線側智能化驅動力移動通信產業是構建國家信息基礎設施、全面支撐經濟社會發展的戰略性、5G6G網絡將在5GAI能力賦予到各個領域的應用。無線側引入智能化的驅動力一方面來自于無線網絡自身需求:5GAIAI6G構還將降低數據收集、傳輸過程造成的時延和信息泄露隱患。智能化部署5G6G無線網絡的運行提供了許多潛在的功能增強,是無線3.16AI,如智能編排等已進行部AIRIS等受算力及效果的限制,還處于研究探索階段。下面將從技術演進及模型分級部署兩方面介紹網絡智能化演進情況。圖3.16無線側智能化部署架構(一)網絡智能化技術演進特征AIforNETNETforAI的階段轉功能、協議和流程進行深度融合設計。6GAIAIAI能力按需編排,為高水平網絡自治和多樣化業務需求提供智能化所需的基礎能力。6G無線網絡將向云化與分布式的方向發展,需要考慮分布式網元節點間多維異構資源的協調以及智能服務對性能的差異化需求。6G網絡中智能服務的質量,需要綜合考慮智能服務對通信、計算、數據和存儲資源的不同需求。(二)網絡智能化模型分級部署AI簡單分為模型訓練和AI同的應用案例和場景。5G基站側只支持小模型的推理,隨著基站算力的增強、基站云化技術6GAIAIMECOSS。在網管應用域網管設備已為通用服務器,可擴展性強,數據采集>15min時延,支持非實時智能化預測分析,具備大模型訓練能力。在邊緣云資源域層面MEC具備中模型訓練能力,支持大中模型推理。AI加速芯片的異構資源,支持實時智能化預測分析。但基站算力資源有限,只具備小模型訓練及小、中模型推理能力。(三)智能化網絡資源編排6G將是一個多元化的網絡:網絡層面,組網更多、頻段更復雜,且可能需5G/4G多個頻段密切協同;業務層面,應用場景更多且需求差異巨大,對76G在巨大的“剪刀差”。“網絡為中心”KPI為目標;承載在相同承載中的不同數據業務沒有被區6G用戶體驗。最優解實現網絡編排。用“用戶智能編排”2C業務場景,證明了用戶智能編排方案能夠實現多種業務的精準編排和導引,高清直播等大上行業務全程無卡頓,可實現增益:8%~25%;1.65s“體驗差”態的停留時間;30%以上。圖3.17分級智能化部署示意圖算力部署MEC時性越好,可根據應用、業務和算法對時延的需求選擇合適位置的算力節點。MR環境數據等,作為模型訓練的輸入,因此一般部署在網管側。AI應用,算力主要部署CPUGPUASICFPGA件架構基站在應對實時性要求高的計算時可采用CPU疊加GPU、ASIC、FPGA等專用芯片加速,實時性要求低的計算可通過疊加服務器的方式進行部署。圖3.18分布式算力部署示意圖深度邊緣節點6G新場景和新業務的提出,對網絡提出了按需定制和快速響應的要求,深6G6G智能、數據、網絡等多種形態的業務能力。深度邊緣節點的“深度”包含了兩方面的含義,第一,“深度”代表節點物理上6G深度”6G錨點。6G本和安全風險,進而提高相關業務的效率。3.19深度邊緣節點架構3.19為深度邊緣節點架構,該架構包括了基礎設施層、可編程資源池、CPUGPUDPUASICAI模型資AIAI的生命周AI算法針對網絡自由化和網絡場景的支持,算力編排器針對深度節點內的AI能力。深度邊緣節點的無線網絡可編程6G研究的重要技術手段。應用無線網絡可編程技術,能夠在消除網絡差異性的基礎上,算力、數據和智能多維度資源的編程,實現網絡的高效運轉。點內策略、算法等的靈活嵌入等操作。AI推理模型嵌入深度邊緣節點,實現智能內生。6G深度邊緣節點的核心主要包括可編程作用域、可編API設計將是最終智能可編程網絡呈深度邊緣節點的網元融合6G網絡旨在進一步提升移動通信性能、功能和應用范圍,為未來的數字社高效的方式支持差異化的應用需求。特別是針對行業應用,如數據業務/網絡控制信令不出園區、輕量級網絡部署等,核心網(CN)部分功能(如用戶面功能和控制面某些功能)將下沉至邊緣側,實現分布式部署,以保障時延、吞吐量、安全等具體指標。進一步,可考慮CN與無線接入網(RAN)融合,有助于提升系統性能和資源利用,降低網絡復雜度和成本,減少不必要的轉發及處理。RAN-CN融合包含兩個層次:1-部署方面:即在物理位置層面的共部署,RANCN內部處理邏輯相對獨立。2-功能方面:RANCN的邏輯功能和對應資源重構,以降低信令新興技術和應用提供更好的支持。驅動力分析:RAN-CN構的未來演進需求。首先,現有架構存在下述問題:RANCNN2N3的交互,當前的架構形態和交互模式無法充分利用網絡虛擬化和云化的優勢。CNRANCN頻進并不友好。單點轉發等導致的效率問題:UECN各網元交互的控制信息必須要通過CU-CPAMF此外,未來網絡演進需求如下:性能指標提升(如超高可靠、超低時延)RAN/CN協同或重構:如在確定性網絡中需要跨域協同和調度,來保障端到端的確定性服務。RAN通過與CN可實現面向6G的RAN(如通過NWDAF或其增強功能實現RAN網絡智能)。RAN-CN2B“疊式”的網絡設計,進行網絡功能架構和流程的簡化,有助于降低網絡成本和功耗,實現資源高效利用和處理效率提升。用例場景分析:融合實現更高效簡潔的網絡能力提供,同時保障網絡性能。邊緣移動性:自動駕駛/車輛網/智能交通、工業物聯網、飛行器、移動游戲移,考慮移動性管理功能重構,簡化功能和信令傳輸。降低延遲、提高應用的響應速度和用戶體驗。要網絡提供海量設備接入能力,對網絡架構簡化提出了需求。和及時的數據傳輸。潛在融合功能分析:會話管理功能:PDU會話建立過程為例,RANPDU會話和對QoSUuNG-UUESMF則需UPFRANUESMF的信令交互RANAMFRANCN會話管理相關功能可考慮重構和融合。狀態管理功能:CNCMRANRRC狀態存在耦合關系(例RRC狀態為IdleUERAN的連接未建立,則無法進入CM-Connected),狀態管理的復雜度、開銷較大。因此RANCN狀態管理相關的功能可進行重構和融合,簡化網絡狀態管理。移動性管理:Xn/N2RANCN配合AMFSMFUPF也需要提供中繼功能,區更新和尋呼,根據UE的狀態不同,可能涉及不同的區域更新(更新/RAN通知區域更新(CN觸發/RAN觸發定冗余,較為復雜。RAN/CN相關功能的融合可簡化流程和內部處理。深度邊緣節點的跨域AI設計當前無線接入網與核心網均采用集中式的外掛AIAIAI缺乏協同,僅能支持特定的智能化場景。隨著智能化場景的不斷AI3.20AI協同架構及潛RAN-CNRAN和CN域的AIN2RAN非實時智能控制器、CN和智能化服務。3.20AI協同架構及路徑RAN-CN融合:RAN的協作是實現各種具有不同需求的人工智能用例QoSCNRANRANCN架構對N2接口連CNAMFRANNWDAF之間的控制數NWDAF的交互。此外,考慮到分布式智能部署,RANCN的智能功能在物理上是緊密相連的,為兩者之間的邏輯功能進RAN-CN的協作/融合以實現內生AI,需要考慮以下幾個方面:考慮協作/RANCN型、算法等的共享和協調的具體協作/融合功能。確定協作/RANRAN-CN的協作/探索數據安全和隱私保護的考慮。RAN-CN的協作/融合涉及廣泛的數據共制和隱私保護策略來保護用戶數據和網絡信息的機密性和完整性。跨域智能管理域編排:AI協同能力,需要進一步增強運營管理域功能,提AIAIAIAIAI算力資源。AI的管理和編排。管理系統需要具備從不同網絡域獲取AI信息以及將其開放給其他域的能力。AI編排能力,例如跨域的數據整理和映射、人工智能任務的識別和分解、計算節點的匹配等。AI生命周期管理能力。除了數據收集、模型訓練和推理之估和模型更新等過程。管理系統需要支持跨域的分布式學習,例如管理垂直聯邦學習的訓練和推理。解決能力和閉環控制能力。邊緣內生智能應用智慧交通智慧交通邊緣計算系統概述性的要求。智慧交通計算系統通常由以下幾個組成部分構成:在本地進行數據處理、分析和決策(如信號燈、攝像頭、傳感器等)。基站等位置,以便快速處理和響應交通事件和需求。協同工作,進行實時數據處理和決策。從邊緣傳輸到中心,以供進一步的處理和分析。數據交互,提供更深入的交通管理和決策支持。智慧交通邊緣計算類型21TOPS、32TOPS、100TOPS、200TOPS、250TOPS幾種規格。智慧交通邊緣計算常見的兩種結構如下:區域邊緣計算獨立對路側感知數據進行集中運算,此方案不需要路側GPU形式部署于機房。域邊緣計算與路側邊緣計算進行分級部署,路側邊緣計算對路側原始AI分析處理后,將結構化數據回傳至區域邊緣計算,區域邊緣計GPU能力要求不高,對融合算法能力要求較高。智能交通邊緣計算硬件設施常用規格:產品類型服務器服務器X86工控機ARM工控機ARM工控機ARM工控機處理器服務器搭載大算力GPU服務器搭載大算力GPU工控機搭載大算力GPUNvidia AGXOrinNVIDIA OrinNX16GBNvidia AGXXavierCPUIntel Gold 521816C*2Intel Silver 421616C*28核12-CoreNVIDIAARM A78AE 64-BitCPU8 核 Cortex?-A78AEv8.264位CPU8-CoreCarmelARMV8.264-BitCPU內存32GB*432GB*432G32GB LPDDR516GB LPDDR532GB LPDDR4x存儲2BSS展1.2TBSAS擴展11TB1TB1TB算力1000TOPS500TOPS250TOPS力)力)32TOPS最大功耗1200W900W245W50W25W30W工作溫度室溫室溫-20~55℃-25°C ~ -20°C ~ -25°C~ ((65℃~80℃降頻(60℃~70℃降頻(60℃~80℃行)運行)運行)頻運行)智能交通邊緣計算硬件設施基本能力:功能模塊詳細功能設備運維管理支持邊緣計算設備注冊遠程開關機參數配置與查詢支持設備遠程重啟及軟件升級運維管
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2024年蘇州工業園區服務外包職業學院輔導員考試真題
- 2025年冰水轉化密度試題
- 地理(湖北專用)2025年中考考前押題最后一卷
- 中國式現代化背景下城鄉融合發展的內在需求
- 通過信息化手段提升民主管理的透明度
- 鋒與天氣教學設計
- 2025至2030年中國電動自行車彈簧行業投資前景及策略咨詢報告
- 2025至2030年中國珍珠巖保溫板行業投資前景及策略咨詢報告
- 2025至2030年中國燃燒熱測定實驗裝置行業投資前景及策略咨詢報告
- 小學教師師德建設論文(5篇)
- 2025年生物統計學考試題及答案詳解
- 2025年蘇教版數學五年級下冊期末考試真題及答案(五)
- 護士鼻飼考試題及答案
- 2024年四川省考公務員考試結構化面試綜合崗真題試題試卷答案解析
- 【課件】 班組長安全責任意識專題培訓
- 2025年上半年江蘇常州大學一般管理崗和專技崗招聘37人重點基礎提升(共500題)附帶答案詳解
- 2025春國開《金融基礎》形考任務1-5答案
- 病媒生物知識課件
- 知識創業思維與方法知到課后答案智慧樹章節測試答案2025年春湖南師范大學
- 焊工(初級)實操理論考試1000題及答案
- 事業單位內部審計制度
評論
0/150
提交評論