大模型概述大模型提升機(jī)器理解能力優(yōu)人機(jī)交互AI大模型是實(shí)現(xiàn)通用人工智能（AGI）的重要方向II打I現(xiàn)智I統(tǒng)。T月U破1解ee練T在2年13年1達(dá)1長T應(yīng)。圖消費(fèi)級應(yīng)用達(dá)到一億用戶花費(fèi)時(shí)長(月) 圖CaGT對話演示 資料來源：YahooFinance，整理 資料來源：ChatGPT，整理T由IT至T是ed是I換8，I出2年1I的T在5反,讓TT型。圖CaGT能力實(shí)現(xiàn)解析資料來源：《NaturalLanguageProcessingwithDeepLearning，JesseMu》，艾瑞咨詢，整理大模型應(yīng)用“預(yù)訓(xùn)練+精調(diào)即可對下游應(yīng)用賦能優(yōu)化人類與機(jī)器交互方式賦預(yù)水。圖訓(xùn)練大模型“預(yù)訓(xùn)練+精調(diào)”模式資料來源：IDC，百度，整理。T然果I能T成。文sfll:ysh，4地3年3月3I件助T據(jù)I第持T共1索。圖OeAI宣布推出插件功能資料來源：OpenAI官網(wǎng)，整理3年4月6I型tg其于mM為等。圖SgetAyhngMd（SM）演示資料來源：Meta，整理大。gt）據(jù)3兼O、于C術(shù)。圖大語言模型產(chǎn)品應(yīng)用價(jià)值鏈與已滲透部分應(yīng)用資料來源：艾瑞咨詢，整理大模型三要素：算力、算法、數(shù)據(jù)。是I的在3年2中科I了0”是I解T是在r模型基礎(chǔ)上發(fā)展的，r由E在7年提出。r長。圖生成式AI發(fā)展歷程與CaGT的突出能力資料來源：艾瑞咨詢，整理后未,覆。模據(jù)n.ntnl。確據(jù)如T習(xí)、的。圖主要數(shù)據(jù)集大小匯總（部分，G）資料來源：AlanD.Thompson《What’sinmyAIpaper》，整理；注：確定的數(shù)據(jù)以斜體表示。僅原始訓(xùn)練數(shù)據(jù)集大小。：公。I3型于T項(xiàng)r架，自30I技前I進(jìn)。。據(jù)球數(shù)比。業(yè)型業(yè)型數(shù)力據(jù)F度AI30億萬塊U（0）B訓(xùn)練√130發(fā)布PTleA0億B×.2發(fā)布daA大0億C算臺(tái)Tn×.4發(fā)布軟t-ig文心大模0億e平臺(tái)0文本×未布品.6日發(fā)布文心一度 W） 0億

槳度習(xí)臺(tái)百(本知圖)×云

言，.7日發(fā)布文心帆模平臺(tái)里 6 過0億 里云 B像B本

× .1發(fā)通千問訊 元 0億 極器習(xí)臺(tái)騰五大跨模態(tài)檢索數(shù)據(jù)× 未布品云 集為 古 B 程腦lsB × 4布古模型資料來源:OpenAI,Google，Meta，微軟，文心大模型官網(wǎng)，通義千問官網(wǎng)，阿里巴巴官網(wǎng)，騰訊太極機(jī)器學(xué)習(xí)平臺(tái)，華為云，整理對I系的PV。據(jù)6中：在I言I破5、。生。智對Q。與B以B儲(chǔ)腦球0的I算云s7成了B在1年4古達(dá)03為5。公司 大公司 大型 底支持 模系列 應(yīng)用槳度習(xí)臺(tái)，心P模（E0、心V模文心一言、開放P大模型E/跨模態(tài)大模百度 心模型

度云

心模大型心物算模型型EL/話模型O的BI口，能游業(yè)案I畫開域話方面阿巴巴義模型 里云 義義cn義覺模型貓靈通千問騰訊 元模型 騰訊太極機(jī)器學(xué)習(xí)平混元P大模型、混元V大模型、混元多模訊告dt、D擬景動(dòng)生臺(tái)騰云

大型混文圖模

、話智助手華為 古模型 程腦As盤古P大模型、盤古V大模型、盤古科學(xué)的行”新研、象測算模型字跳動(dòng)節(jié)動(dòng)模型山擎 言圖大型 音效剪映I成飛書I手“yI”資料來源:文心大模型官網(wǎng)，通義千問官網(wǎng)，阿里巴巴官網(wǎng)，騰訊太極機(jī)器學(xué)習(xí)平臺(tái)，鵝廠技術(shù)派，華為云，36氪，整理百度文心大模型模型簡述：已擁有NLP、CV、跨模態(tài)、行業(yè)等多個(gè)AI大模型場景文心大模型擁有多個(gè)AI應(yīng)用場景，文心一言是基于文心NLP大模型的對話式產(chǎn)品據(jù)網(wǎng)紹心模包含NLP模型CV模模大型生物算大模、行業(yè)模型等分別可于語言圖像、模態(tài)、物、細(xì)行業(yè)等。2023年3月16日，百度正式官宣全新的生成式AI對話應(yīng)用——文心一言文心NLP型用的品能與對互答題助作。圖百度文心全景圖資料來源：文心大模型官網(wǎng)，整理百度NLP核心是ERNIE模型。文心NLP大模型面向語言理解、語言生成等NLP景度文心NLP模打了ERNE型列ERNE世于2019年前展至3.0本其語理和成含ERIE3.0TnyERNE3.0城-度.心ERNE3.0Zeu另文心NLP模包醫(yī)、融細(xì)領(lǐng)域ERNE型。ERNE3.0Tin輕級：用通語理。ERNE3.（億用智創(chuàng)作要成答義索感析信抽、本配文糾等類然言解生任。城-度億級型數(shù)模到2600GPT3 170億用于情析智創(chuàng)、本析。圖百度NP大模型資料來源：文心大模型官網(wǎng)，整理文心大型在國內(nèi)市格局中較為先據(jù)IDC2022國模發(fā)白皮》，百文心大型在市格局中產(chǎn)品能、生態(tài)力、應(yīng)能力等面國較領(lǐng)。文心一言核心優(yōu)勢是對中文的理解百作為中語的索頭擁有多的文語料據(jù)參與練。比，文一言可針“洛紙貴”這容易產(chǎn)生義成語出為切解釋以成寫藏詩四話出章。圖中國大模型市場222年評估結(jié)果——百度資料來源：IDC，整理模型toC應(yīng)用：文心一言有望優(yōu)化C端用戶搜索、創(chuàng)作體驗(yàn)百度已經(jīng)推出話式產(chǎn)品文心一言。文一可通對模，幫用文學(xué)創(chuàng)作商業(yè)文創(chuàng)作、理推算中文理、多模生成等例如文一言發(fā)會(huì)案例心言以成2023界能通會(huì)報(bào)“能通適合個(gè)市展問用川和頻式現(xiàn)案們?yōu)榕cNewBing類，百度以將對式人工能功能加至搜引擎中優(yōu)化用搜索、作等體。當(dāng)前在百度APP內(nèi)，于文心ERIE大模已實(shí)現(xiàn)聞資訊息的自分，聞?lì)}摘的動(dòng)成功。圖文心一言對話演示資料來源：文心一言發(fā)布會(huì)，整理模型toB應(yīng)用：開放API接口賦能企業(yè)，精調(diào)行業(yè)模型目前百度開大模型API接口在文案AI作畫開放域話方面賦能發(fā)者和企業(yè)度心模開了NLP模型ERNE3.ERNE-VLG生圖話模型PLT。ERNE3.0提供案改寫、放問答摘要、文創(chuàng)作、小創(chuàng)作、本補(bǔ)等本解創(chuàng)能。ERNE-VLG供于本述的AI畫力。PLAO提供生成式開放域?qū)υ挿?wù)，邏輯清晰、知識(shí)多元、情感豐富，閑聊力近人平。當(dāng)前已經(jīng)有650家企宣布接文心一生態(tài)，還有多的企在排。據(jù)百度紹申文一言API用務(wù)試企已破6.5。圖百度文心大模型AI資料來源：文心大模型官網(wǎng)，整理對于具體行業(yè)來說，百度也推出文心.行業(yè)大模型，進(jìn)行行業(yè)精調(diào)。行業(yè)大模型在度用模的礎(chǔ)學(xué)行特?cái)?shù)與識(shí)建行業(yè)AI礎(chǔ)施。圖百度文心行業(yè)大模型原理資料來源：文心大模型官網(wǎng)，整理百度文行業(yè)大模型以“行業(yè)知增”為核心色。前度心業(yè)模型能源融天造媒市科及視領(lǐng)域國發(fā)、利TC民網(wǎng)海書版等有例用們五行場舉例：燃行業(yè)“燃-度心環(huán)巡全控領(lǐng)落地效決場繁、別難難；汽行業(yè)利-度心用售服和?域識(shí)構(gòu)等景；保行業(yè)“康-度心用醫(yī)單識(shí)等務(wù)均段識(shí)錯(cuò)率對降；在電制造行，TCL百度·文”改變傳統(tǒng)檢算法程，大提升模研與營率實(shí)降增；社行業(yè)“海-度心于權(quán)護(hù)條理知挖等方。圖文心行業(yè)大模型案例資料來源：文心大模型官網(wǎng)，整理阿里巴巴通義大模型模型簡述：由通義-M6模型融合語言模型和視覺模型組成義模最發(fā)于2022年9月2日阿達(dá)院辦世人智大會(huì)“大模訓(xùn)模”主論上通義大模型際上是由一系列模型成，包括統(tǒng)一底座M6-FA”，三大通模型通義-M6”通義-AlceMn”“通義-覺模型以行層的同直域業(yè)型。圖阿里巴巴通義大模型系列架構(gòu)資料來源：機(jī)器之心，整理通義系前身為M是阿里摩院研發(fā)的用性多模態(tài)模型特點(diǎn)是練能耗顯著降低。M6自200年初正式啟動(dòng)研發(fā)，于2021年1月/3月/5月分別發(fā)布百億/千億/萬億參數(shù)多模態(tài)預(yù)訓(xùn)練模型。2021年10月發(fā)布十萬億參數(shù)模型，并且支持用512GPU在10天內(nèi)訓(xùn)練出有可用平的10萬億型，同參數(shù)下較于GP-3耗低99。圖阿里巴巴通義-6發(fā)展歷史資料來源：機(jī)器之心，整理M6融合語言模型和視覺模型，形成當(dāng)前的通義系列大模型。2022年1月，阿里M6布統(tǒng)大型M6OF以現(xiàn)同型間模表務(wù)示模型結(jié)的統(tǒng)一。以M6OFA為統(tǒng)底座，阿巴巴將另兩大模型“AlceMn”“視覺大模型”與M6進(jìn)行融合，形成了當(dāng)前的通義系列架構(gòu)。其中，通-AliceMind為深度語言模型體系，包含了通用語言模型StrctBRT、生成式PAL構(gòu)化StrctualL大文PLUG模態(tài)StrctVERT語言VEC等個(gè)不同型，具閱讀、作、翻、問答搜索、要生成對話等種力通-視覺大型括本視生言視的態(tài)射大礎(chǔ)模，以供生等力。圖阿里巴巴深度語言模型Aieid 圖阿里巴巴通義-視覺大模型資料來源：AliceMind，整理 資料來源：機(jī)器之心，整理模型應(yīng)用：率先應(yīng)用在硬件終端天貓精靈和軟件通義千問硬件終方面天貓精基于通義大型推出擬聲鳥鳥分4月4日，脫秀演員鳥在微發(fā)布了條關(guān)于貓精靈演示視。根據(jù)司和鳥的介，“鳥分鳥”是貓精靈合阿里摩院，于通義模型，鳥鳥錄制的個(gè)多小音頻進(jìn)學(xué)習(xí)訓(xùn)而成。形態(tài)上，“鳥分鳥”本是一個(gè)對話器人，備多輪話能力并且還利用搜引擎等具。個(gè)化是“鳥鳥分鳥最特點(diǎn)，備擬人的音色語氣、達(dá)方式我們推，這意著通大型有能表方層實(shí)較成的制。圖鳥鳥分鳥基于通義大模型系列 圖鳥鳥分鳥15天訓(xùn)練流程資料來源：機(jī)器之心，整理 資料來源：機(jī)器之心，整理對話式通義千問已經(jīng)開始內(nèi)測，包含9款“百寶袋”小應(yīng)用。4月7日，阿里云宣大模型“通千問上，并定邀請企用戶進(jìn)測試。試版的義千問與ChtGPT和文一言在面上相，都是采問答對的形式此外，通義問對模之，作了9稱為寶袋小用可分三：1）效率類：寫提綱、SWT分析、商品描述生成；2）生活類：會(huì)放飛的菜譜、小學(xué)作文后3樂類虹專情書你詩們?yōu)閬砝锬Ｓ刑碇晾镫姾歪攬鲋袆?dòng)戶驗(yàn)效的升。圖阿里巴巴通義千問 圖阿里巴巴通義千問百寶袋資料來源：虎嗅，整理 資料來源：虎嗅，整理騰訊混元大模型模型簡述：熱啟動(dòng)降低訓(xùn)練成本，文字視頻等多領(lǐng)域表現(xiàn)優(yōu)異“混元”AI大模由TEG數(shù)據(jù)平部和機(jī)器學(xué)平臺(tái)部聯(lián)合導(dǎo)涵蓋計(jì)算機(jī)視覺自然語處理多模態(tài)容理解、文案生、文生視等方向元”AI大型由訊17級究員/杰科學(xué)家騰訊史最高專職級）正友博帶，2022年4公首披露發(fā)展前更至2.0本。性能上看混元大模型文字視頻等個(gè)領(lǐng)域表現(xiàn)異中Hunuantvr模型在文字和視頻在全球最具權(quán)威的MSRVTT，MSVD，LSMC，DiDMo和ActvitNet五大跨模態(tài)視頻檢索數(shù)據(jù)集榜單排名第一，實(shí)現(xiàn)該領(lǐng)域的大滿貫；HunuanNLP1T型在CLU文言解測合榜類和讀解榜名一。圖Hnuntr在5個(gè)公開數(shù)據(jù)集上排名第一資料來源：鵝廠技術(shù)派，整理圖HnunNP1T模型在CUE總榜、分類榜和閱讀理解榜登頂資料來源：騰訊太極機(jī)器學(xué)習(xí)平臺(tái)，整理技術(shù)上看混元大模型于騰訊太極器學(xué)習(xí)平臺(tái)發(fā)通過改模型與算法，大幅降低訓(xùn)練成本。Hunuan利用千億小模型幫助萬億大模型完成啟動(dòng)，相較從0啟動(dòng)耗時(shí)短耗能低，僅用256卡，最快一天內(nèi)即可完成萬億參數(shù)大模型HunuanNLP1T訓(xùn)，體練本為接啟訓(xùn)萬模的1/。圖Hnun大模型及解決方案資料來源：量子位，整理模型應(yīng)用：已在廣告游戲多場景落地，大幅提升效率并降低成本騰訊廣業(yè)務(wù)騰訊在告業(yè)務(wù)中應(yīng)用AI模助力廣主提升廣告作效率、提升廣推薦系統(tǒng)的容理解能力大幅提了廣告效實(shí)現(xiàn)降增效混元AI模基上闕告容解“坤告能作“針”廣智能審、天印廣指紋系等四大術(shù)平臺(tái)提升了告系統(tǒng)理解力讓統(tǒng)加能從提用體以廣轉(zhuǎn)效與告作率。圖騰訊廣告多媒體AI技術(shù)研究與應(yīng)用情況資料來源：騰訊云開發(fā)者，整理內(nèi)容創(chuàng)：訊能作手涌Effdi主用是助作開思路、提升作后的本水平質(zhì)量等目前已發(fā)布2.0版本據(jù)官方紹，文融合知識(shí)抽、文本解、文生成、規(guī)模預(yù)練模型經(jīng)典語模型、索技，分能實(shí)使用元”列AI模作底預(yù)練型。圖騰訊智能創(chuàng)作助手功能一覽資料來源：Effidit，整理游戲業(yè)務(wù)訊日出于AIBot與AIGC大向自研3D擬景動(dòng)成決案助戲發(fā)以低本造格樣近實(shí)虛城市，幅升3D擬景生效率以3D擬市路局計(jì)例有術(shù)生的路網(wǎng)常橫平直、風(fēng)單一，實(shí)現(xiàn)不城市風(fēng)必須手設(shè)計(jì)和復(fù)修改，耗時(shí)至少一周。騰訊解決方案只需用戶輸入城市主干道和海岸線，模型1分內(nèi)即填充理多樣路網(wǎng)節(jié)并持微操作，相比現(xiàn)有技術(shù)下效率提升近100倍。圖騰訊游戲AI路網(wǎng)生成模型資料來源：騰訊AI實(shí)驗(yàn)室，整理對話式能助手騰訊集集團(tuán)內(nèi)資源頂尖人正在全打造類ChatGPT對話式產(chǎn)品。36氪旗下媒體消息，騰訊類ChtGPT對話式產(chǎn)品項(xiàng)目組——騰訊混元助項(xiàng)目組（Hunuanid）于2023年2月已成立。該目組聯(lián)合訊內(nèi)部多門構(gòu)建參數(shù)語模型，標(biāo)是通性能穩(wěn)的強(qiáng)化習(xí)算法練，完騰智助工，造訊能手并成國的界桿我預(yù)未來AI能手廣應(yīng)于訊社產(chǎn)和公品。圖騰訊混元助手項(xiàng)目組織架構(gòu)資料來源：職場Bonus，整理華為盤古大模型模型簡述：基于ModelArts研發(fā)設(shè)計(jì)的系列模型，NLP、CV等方向性能優(yōu)越“盤古大模型計(jì)算機(jī)視C大模科學(xué)計(jì)大模型自然語處NL）大模型多模態(tài)模型組成該模型華為云人工能領(lǐng)域首席學(xué)家田奇帶領(lǐng)的華為云EI盤古團(tuán)主導(dǎo)設(shè)計(jì)古目自2020年11起項(xiàng)2021年4在為發(fā)大上次式布2023年4月8隊(duì)紹盤模的用展包模在流藥研、象測領(lǐng)的地。盤古模型基華為一站式AI開發(fā)平臺(tái)ModelArts進(jìn)行研發(fā)ModlArs華開的AI產(chǎn)，備續(xù)建模訓(xùn)及理速力分式練力等，提數(shù)處理法發(fā)型練型理型署等AI用發(fā)流技能。圖盤古模型基于Mdlrs平臺(tái)進(jìn)行開發(fā)設(shè)計(jì)資料來源：計(jì)算機(jī)文藝復(fù)興，華為云，整理模型性能優(yōu)異，NLP大模型是首個(gè)千億參數(shù)級中文大模型，2021年位列CLUE榜單三項(xiàng)第一。2021年4月華為云盤古NLP大模型發(fā)布，這是當(dāng)時(shí)業(yè)界首個(gè)200億參數(shù)的中文預(yù)訓(xùn)練模型。在2021年，盤古NLP模型在中文語言理解評測基準(zhǔn)CLUE單總行及類讀解項(xiàng)排第新三榜世歷紀(jì)。盤古CV大模型是界最大的CV預(yù)訓(xùn)練模。盤古CV大型含了30多億數(shù)和10級的像已在100個(gè)景得了證在ImaeNet110據(jù)上小本類度均到界高平。模型應(yīng)用：在物流、藥物研發(fā)、氣象等多個(gè)場景實(shí)現(xiàn)落地，極提高行業(yè)效率NLP大模、CV大模等都是為L0級別基礎(chǔ)大型，往則是L1級別行大型和L2別細(xì)場模。體言古CV模目覆了業(yè)檢流庫控尚助計(jì)等行業(yè)領(lǐng)域；古NLP大模覆蓋了能文檔索、智能ERP和小種大模；古學(xué)算模則用氣預(yù)、浪測方。盤系列 盤系列 行業(yè)領(lǐng)域 場景業(yè)檢 光質(zhì)、路S電巡、礦檢盤古CV大型

流庫控 的行尚助計(jì) 店定設(shè)計(jì)能檔索 案索盤古NP大型

能P 業(yè)務(wù)常測語大型 拉語模型盤科學(xué)計(jì)大模型 象報(bào)海預(yù)測 古象模、古物子模型資料來源:華為，整理物流倉庫監(jiān)控：在流場，華盤古隊(duì)為發(fā)銀構(gòu)建了“物銀”—普云倉。比于傳的數(shù)字行，它夠更徹的做到務(wù)流程線上化進(jìn)一提升效。華為據(jù)顯示在人員為、貨檢測方，“物銀行”可以現(xiàn)5到10性提。新藥研發(fā)：傳模式，新藥發(fā)有期長投入大成功高的題，古藥物分子大模型是專門面向藥物研發(fā)領(lǐng)域推出的模型，可以幫助醫(yī)藥公司進(jìn)行輔研發(fā)，得先導(dǎo)研發(fā)周從數(shù)年短到1個(gè)，極大善了新研發(fā)過程效。圖盤古藥物分子大模型示意圖資料來源：計(jì)算機(jī)文藝復(fù)興，整理氣象預(yù)測：盤古象大模型研究團(tuán)隊(duì)過3DEarh-SeciicTrasfomer的方式理復(fù)雜不均勻3D氣象據(jù)，提高AI大模的預(yù)測度。盤氣象大模型夠提供級的全氣象預(yù)，其氣預(yù)測結(jié)包括位、濕度風(fēng)速等其精首次超了歐洲象中心數(shù)字分的方法并且預(yù)速度提了1萬以。圖3DErhSeiicTasomr示意圖資料來源：華為云，整理圖盤古氣象大模型指標(biāo)表現(xiàn)優(yōu)異，預(yù)測精度超過傳統(tǒng)方式資料來源：華為云，整理字節(jié)跳動(dòng)大模型模型簡述AI探索基礎(chǔ)扎實(shí)語言大模型和圖像大模型初步布局字節(jié)跳動(dòng)AIGC大模型從語言和圖兩種模態(tài)發(fā)。據(jù)36消息節(jié)動(dòng)在模型上有所布，分別語言和像兩種態(tài)上發(fā)，預(yù)期在今年中出模。字節(jié)跳動(dòng)AIGC大模型在初期探索段有一定AI基礎(chǔ)據(jù)36氪在ChaGPT公前，字節(jié)跳對模型的入存疑。但字跳動(dòng)在程團(tuán)隊(duì)云服務(wù)隊(duì)方面無板。算力：字節(jié)并不缺GPU。字節(jié)旗下的企業(yè)技術(shù)服務(wù)平臺(tái)火山引擎，在2021年式軍礎(chǔ)市（IaaS）為模所的力定基。4月18，火山擎發(fā)布研DPU等系云產(chǎn)品并推出版機(jī)器習(xí)平臺(tái)支持萬級大模型訓(xùn)練、微秒級延遲網(wǎng)絡(luò)，彈性計(jì)算可節(jié)省70算力成本。同時(shí)，火山引擎宣布字節(jié)跳國內(nèi)業(yè)并池，音等業(yè)的空閑算資源極速調(diào)給火山擎戶用。算法：阿里巴巴M6大模型的原帶頭人楊