摘 一、AI大模型發展概 二、網絡使能大模型的需求和驅動 三、網絡使能大模型服 四、案例分 生成式AI在語義通信系統中的應 五、未來展 六、參考文 七、主要貢獻單位和編寫人 隨著大模型和智能體（Artificialintelligenceagent,AIagent）技術的發面，未來第六代移動通信（Sixgeneration,6G）網絡存在大量低時延需求的價一、AI（一）ChatGPTAI大模型大量AI技術從“量變”到“質變”的跨越。AI大模型是指擁有超大規模參數、超強計算資源的機器學習模型，能夠處（RNN模型的性能不斷提升。總的來說，AI大模型的發展歷程主要可以分為四個階段，如圖1所示。1.AI傳統模型（90180：在I發展的早期，傳統模型主要依賴于神經網絡模型（1980-2017）1980年，卷積神經網絡的雛形CNN誕生。2000年代初期，有學者開始研究神經網絡模型，開始模仿人腦進行Transformer模型（2017-2018：2017年，Google2018年，OpenAI和Google分別發布了GPT-1與BERT大模型，使得NLP領現代AI大模型（2018至今：2022年，聊天機器人ChatGPT橫空出世，迅速引爆互聯網。此后發布的多模態預訓練大模型GPT-4，再次引發了生成式AI的熱潮。目前各類大模型正持續涌現，性能也在不斷提升。（二）AI模型能夠同時處理多種類型的數在AI技術快速發展的當下，智能手機等移動設備在人機交互、語音交流等部工具調用、記憶和規劃功能的AI大模型，可以被視為智能代理（Agent，它（一）未來6G成6GAI即服務(AIasaservice，AIaaS)。移動式AI、保障AI服務質量、提供安全隱私保護。（二）AI11秒之內，讓用戶感受到即時的互動體驗。而圖像類功能包括文1.--文本總結首詞響應ms--智能問答首字響應-512*512榮耀小米-圖像消除/擴蘋果------2.6G2所示，6G3種場景。考慮到目前手機大模型中文生圖的時延較長的痛點，價值場景1是6G網絡通過算力卸載的方式，將終端算力全部或部分卸載到6G網絡3.6G3所示，6G網絡使能云端推理也可以包括算力使能、數據使能以及算工業入。通過大模型和AIGC技術，虛擬場景的生成可以更加自動AI大模型AI小模型可以與大模型協同工作，補充其在特定任務AI使能的工業元宇宙系統，適應更加2給出了網絡使能大模型服務和一般AI模型服務的對比，6G網絡表2.AIAI利用6G網絡的高帶寬和低延遲，（一）未來6G網絡中的傳感設備將成為大型模型訓練和推（二）至PB級別，這種規模的數據量遠超傳統數據處理工具和單機系統的處理能力，同神經網絡為代表的神經網絡使用大量訓練數據訓練一個參數為千萬量級甚至上的算法擴展到多個計算單元（如UGPU服務器），護的DML適用于具有縱向劃分數據集的場景。DML適用于縱向劃分的數據集DML實際上提供了隱私保護的多條思（B2C，DML在隱私保護領域對于某一方面需求的繼承1）了Hadoop分布式系統的基礎架構。在經過接近20年的發展后，出現了大量成(1)Spark是一個具有代表性的基于數據流模型的分布式處理系統，雖然它主要2010年，Google2012年發布了一個為大規模分布式訓練深度神經網絡設計的框架，即DistBeliefTensorflowGoogleBrain的團隊在DisBelief的基礎上研發了TensorFlow據流和參數服務器搭配使用，從而取得了更快的速度、更高的移植性和靈活性。wwEagerExecuio，從而使得默認情況下計Windows和CPU、GPU。Pytorch則更加適合于小規模的項目，它使用了動態計算圖。它的主要特點Numpy的N維tensor，從而在GPU加速上取得了杰出的成GPU和其他機器上。2)模的微調模型（如LoRA）捕捉效的收斂。（）6G網絡的低延遲特點，實現分布式節點與G網絡的高帶寬進行快速數據傳輸和梯度同步。數據并行通過以下過程實現：1）數據分割：將訓練數據集分成若干子集，分配到不同的計算節點；）梯度匯聚：所有節點的梯度通過網絡進行匯聚（例如使用參數服務器或全局同步AI算法動態調整計算資源和任務分配，從而提高資4所示，分布式訓練服務的部署和內涵應從如下步4.部署6GscalingG給K個參與訓練的客戶端。模型參數。對每個客戶端K，訓練的目標是最小化其本地損失函數:???1\????;?,

。其中，?, 是客戶端k上的數據樣本，?(?)是損 函數，w是模型參數，??是客戶端k權聚合來更新全局模型。最常用的聚合方法是FedAvg?= ???。其中，n是所有客戶端的數據總量，K?=1孤島（cross-silo）和跨設備（cross-device）聯網）silo中的服務器強大，這些設備之間通過無線網[6]道（5G中用戶體驗的數據速率）傳輸一次GPT2-XL（約5.8GB的中型LLM）470秒[7]GPU進行長達幾個月的連續訓練。雖然5G及以上網絡有嚴格的延遲要求。目前尚不清楚將大模IIDPEFT方法[8]FedPETuning[9]；DiLoCo[10]；壓縮；量化等；算法層面可以采用更高效的聯邦OpenFedLLM[11]，或者傳輸內容更少的其他優化算法，如PEFT此外，針對內存的優化還可以采用混合精度訓練、ZeRO零冗余優化器[18]等技模型。FedIT[20]提出每個設備可以采用不同的Lora配置，即層級最優秩(Layer-wiseOptimalRankAdaptation)思想。大模型的參數規模極為龐大，且各大廠商也在持續刷新大模型參數量的上GPT11.11.8萬[8]已成為利用大模型的主要方法[21]，但直接微調對算力、內存都提出了更高的要求，AI硬件（U）I（UGPU、芯片NVLink和InfiniBand等。搜索、推薦等場景的模型往往5.然而，傳統公開的可用數據集無法滿足大模型微調的需求[22]AI處理，本地數據不足或微調和預訓練數據集之為了解決隱私數據給用戶安全和模型泛化性能帶來的挑戰，聯邦學習（Federatedlearning，FL）[22]作為一種分布式框架被引入。其中，聯邦分割學習（Federatedsplitlearning，FSL）框架[23]將模型分割成多個部分，在型參數至服務器進行聚合，而無需共享原始數據。隨后，服務器訓練的全局模型參數被發送回所有客戶。在聯邦分割學習框架下微調大模型，可以有效降低6.此外，JianyiZhang等人[24]將FL在一定程度上提升了模型性能。JingJiang等人[25]TaoFan等人[26]FATE-LLMoChen等人[27]考慮到計算和通信兩個方面，提出將參數高效微調方法整合到聯邦學習框架中，例如適配器微調、前綴微調、提示微調和低秩適應。通過最小化這種方法在保留近似性能和顯著減少計算和通信負擔之間取得了平衡。（三）思維樹提示等練和推理的合理性與準確性。另一方面，可以考慮人類反饋的強化學習（RLHF（四）AI服務s可以根據用戶所在位置生成更加精準的提示（opt，這些提示隨后被傳輸到云端，結合云AI模型的高效部署提供了技術支AI服務。隨著技術的不斷進步，端邊云協同推理服務將在更多場景中展現GPT4的萬億參數，Kimi和豆包等，通常都部署在云端。這些大模型體積龐大，適用于復雜任務的10B以下，并且有些模型3BPC和手機中，這就是目前熱議的“AIPC”和“AI手機”6G時代，機器人、無際運行中依然存在很多挑戰。6G網絡正可以通過以邊助端，云邊端協同來提升6G需要逐個token進行計算輸出，效率比較低。為此，網絡可以提供推理效率提例如P定義的dCapabiit）大面向AIAgent7.（五）AI模型的生命周期管理方案采用的是外掛疊加式的AI任務，對于不同的任務需要額外添加監控處理單6GAI任務場景需求；模型的重訓練AI大模型的優化服務，通過在基站端部署性能監控和AI編排模塊來針對不同任務統一6G網絡AI任務場景多樣化的需求。8AI任務編排、性能監控、算力檢查、信圖8內生AIAI生成式AI生成式AI是一種利用深度學習模型來生成新內容的人工智能技術。這種技AI模型能夠自主地生成全新的內容，這些內容可AI不是簡單地根據給定的規而形成了人工智能生成內容（AI-GeneratedContent，AIGC）的概念。AIGC的AIGC在數字藝術、音樂創作、廣告設計和產品創新等多個領域具有廣泛的應用AI的深度學習模型和算法，AIGC能夠快速生成高質量的內容，ereeralewkG（ialone，E、循環神經網絡（etulewk，N）等。這些技術通過不同的機制學習數據的分布，并生成新的數據實例。生成式AIAIGCAIBingAIGPT-3,AIGCAIBingAIGPT-3,LSTM,CNN,RNN,GAN,VAE,,VQ-GAN,GAN,CNN,DALL-EDALL-E,RNN,Transformer,GAN,VAE,擴散模型Transformer,VAE,CNN,RNN,GAN,VAE,FCNMurfAI,CNN,LSTM,RNN,FCNX轉NIC,RNN,CloudVideoRNN,LSTM,Speak[31]。這種技術以任務為主體，遵循“先理解，后傳輸”生成式AI生成式AI大模型驅動的語義通信系統是一種將生成式AI模型與語義通信AI模型AIGC服務。無線終端設備可以上傳數據，并通過接入點AI模型進行預訓練和微調，并將訓練好的模型部署到相應的無線終端設備上[34]。中央云服務AI模型的預訓練和提供全局的AIGC服務。數據平面：AIGCGC進行恢復，以減少傳輸過程中的失真[31]。此外，數據平面還負責從任務完AIGC信息的有效性。式AIAI模型和語義通信模型的過程中，知識管理扮演新和可靠性[35]。網絡控制平面還承擔著網絡管理的職責，以適應語義通信AIGC10.AI高效響應。AI模型通過分析歷史網絡行為，利用機器學習算法預測未來的資作量，但對存儲的要求較高。AI模型能夠實時監控網絡狀態和應用程序的資通信資源分配：在語義通信系統中，通信資源分配的策略也呈現出智能化、上下文感知和用戶中心化的特點[37]。傳統的通信資源分配主要關注數據吞AI大模型驅動的語義通信系統則更加關注數據的語義或含義，旨在實現更高效、更精準的信息傳遞。為了I高置信度的數據得到優先傳輸[38]。而在多模態提示方面，系統則會利用視性和準確性[39]。此外，由于語義通信中不同的知識匹配程度會導致移動用[40]AI大模型驅動的語AI大模型在文獻[34]AI大模型驅動的語義通信系統進行了GAIAI圖像。語義通信部分則采用了深度卷積網絡和Transformer驅動的語義解碼器進行語義分割和恢復。0dB的AWGN300張不同內容的圖像。使用Adam5×10-4。比AI語義通信生成式AI表4