AIGC行業市場分析_第1頁
AIGC行業市場分析_第2頁
AIGC行業市場分析_第3頁
AIGC行業市場分析_第4頁
AIGC行業市場分析_第5頁
已閱讀5頁,還剩3頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

AIGC行業市場分析ChatGPT開啟大模型“軍備賽”,存儲作為計算機重要組成部分明顯受益:ChatGPT開啟算力軍備賽,大模型參數呈現指數規模,引爆海量算力需求,模型計算量增長速度遠超人工智能硬件算力增長速度,同時也對數據傳輸速度提出了更高的要求。XPU、內存、硬盤組成完整的馮諾依曼體系,以一臺通用服務器為例,芯片組+存儲的成本約占70%以上,芯片組、內部存儲和外部存儲是組成核心部件;存儲是計算機的重要組成結構,“內存”實為硬盤與CPU之間的中間人,存儲可按照介質分類為ROM和RAM兩部分。存算一體,后摩爾時代的必然發展:過去二十年中,算力發展速度遠超存儲,“存儲墻”成為加速學習時代下的一代挑戰,原因是在后摩爾時代,存儲帶寬制約了計算系統的有效帶寬,芯片算力增長步履維艱。因此存算一體有望打破馮諾依曼架構,是后摩時代下的必然選擇,存算一體即數據存儲與計算融合在同一個芯片的同一片區之中,極其適用于大數據量大規模并行的應用場景。存算一體優勢顯著,被譽為AI芯片的“全能戰士”,具有高能耗、低成本、高算力等優勢;存算一體按照計算方式分為數字計算和模擬計算,應用場景較為廣泛,SRAM、RRAM有望成為云端存算一體主流介質。存算一體前景廣闊、漸入佳境:存算一體需求旺盛,有望推動下一階段的人工智能發展,原因是我們認為現在存算一體主要AI的算力需求、并行計算、神經網絡計算等;大模型興起,存算一體適用于從云至端各類計算,端測方面,人工智能更在意及時響應,即“輸入”即“輸出”,目前存算一體已經可以完成高精度計算;云端方面,隨著大模型的橫空出世,參數方面已經達到上億級別,存算一體有望成為新一代算力因素;存算一體適用于人工智能各個場景,如穿戴設備、移動終端、智能駕駛、數據中心等。我們認為存算一體為下一代技術趨勢并有望廣泛應用于人工智能神經網絡相關應用、感存算一體,多模態的人工智能計算、類腦計算等場景。01、存算一體,開啟算力新篇章1.1、ChatGPT開啟大模型“軍備賽”,算力呈現明顯缺口ChatGPT開啟算力軍備賽:我們已經在《ChatGPT:百度文心一言暢想》中證明數據、平臺、算力是打造大模型生態的必備基礎,且算力是訓練大模型的底層動力源泉,一個優秀的算力底座在大模型(AI算法)的訓練和推理具備效率優勢;同時,我們在《ChatGPT打響AI算力“軍備戰”》中證明算力是AI技術角逐“入場券”,其中AI服務器、AI芯片等為核心產品;此外,我們還在《ChatGPT,英偉達DGX引爆AI“核聚變”》中證明以英偉達為代表的科技公司正在快速補足全球AI算力需求,為大模型增添必備“燃料”。大模型參數呈現指數規模,引爆海量算力需求:根據財聯社和OpenAI數據,ChatGPT浪潮下算力缺口巨大,根據OpenAI數據,模型計算量增長速度遠超人工智能硬件算力增長速度,存在萬倍差距。運算規模的增長,帶動了對AI訓練芯片單點算力提升的需求,并對數據傳輸速度提出了更高的要求。根據統計,過去五年,大模型發展呈現指數級別,部分大模型已達萬億級別,因此對算力需求也隨之攀升。1.2、深度拆解服務器核心硬件組成部分服務器的組成:我們以一臺通用服務器為例,服務器主要由主板、內存、芯片組、磁盤、網卡、顯卡、電源、主機箱等硬件設備組成;其中芯片組、內部存儲和外部存儲是組成核心部件。GPU服務器優勢顯著:GPU服務器超強的計算功能可應用于海量數據處理方面的運算,如搜索、大數據推薦、智能輸入法等,相較于通用服務器,在數據量和計算量方面具有成倍的效率優勢。此外,GPU可作為深度學習的訓練平臺,優勢在于1、GPU服務器可直接加速計算服務,亦可直接與外界連接通信;2、GPU服務器和云服務器搭配使用,云服務器為主,GPU服務器負責提供計算平臺;3、對象存儲COS可以為GPU服務器提供大數據量的云存儲服務。AI服務器芯片組價值成本凸顯:以一臺通用服務器為例,主板或芯片組占比最高,大約占成本50%以上,內存(內部存儲+外部存儲)占比約為20%。此外,根據Wind及芯語的數據,AI服務器相較于高性能服務器、基礎服務器在芯片組(CPU+GPU)的價格往往更高,AI服務器(訓練)芯片組的成本占比高達83%、AI服務器(推理)芯片組占比為50%,遠遠高于通用服務器芯片組的占比。1.3、存儲,計算機的重要組成結構存儲是計算機的重要組成結構:存儲器是用來存儲程序和數據的部件,對于計算機來說,有了存儲器才有記憶功能,才能保證正常工作。存儲器按其用途可分為主存儲器和輔助存儲器,主存儲器又稱內存儲器(簡稱內存),輔助存儲器又稱外存儲器(簡稱外存)。內存:主板上的存儲結構,與CPU直接溝通,并用其存儲數據的部件,存放當前正在使用的(即執行中)的數據和程序,一旦斷電,其中的程序和數據就會丟失;外存:磁性介質或光盤,像硬盤,軟盤,CD等,能長期保存信息,并且不依賴于電力來保存信息。XPU、內存、硬盤組成完整的馮諾依曼體系:“內存”實為硬盤與CPU之間的中間人,CPU如果直接從硬盤中抓數據,時間會太久。所以“內存”作為中間人,從硬盤里面提取數據,再讓CPU直接到內存中拿數據做運算。這樣會比直接去硬盤抓數據,快百萬倍;CPU里面有一個存儲空間Register(寄存器),運算時,CPU會從內存中把數據載入Register,再讓Register中存的數字做運算,運算完再將結果存回內存中,因此運算速度Register>內存>硬盤,速度越快,價格越高,容量越低。1.4、存算一體,后摩爾時代的必然發展算力發展速度遠超存儲,存儲帶寬限制計算系統的速度:在過去二十年,處理器性能以每年大約55%的速度提升,內存性能的提升速度每年只有10%左右。因此,目前的存儲速度嚴重滯后于處理器的計算速度。能耗方面,從處理單元外的存儲器提取所需的時間往往是運算時間的成百上千倍,因此能效非常低;“存儲墻”成為加速學習時代下的一代挑戰,原因是數據在計算單元和存儲單元的頻繁移動。存儲墻、帶寬墻和功耗墻成為首要限制關鍵:在傳統計算機架構中,存儲與計算分離,存儲單元服務于計算單元,因此會考慮兩者優先級;如今由于海量數據和AI加速時代來臨,不得不考慮以最佳的配合方式為數據采集、傳輸、處理服務,然而存儲墻、帶寬墻和功耗墻成為首要挑戰,雖然多核并行加速技術也能提升算力,但在后摩爾時代,存儲帶寬制約了計算系統的有效帶寬,芯片算力增長步履維艱。1.5、存算一體:AI芯片的“全能戰士”存算一體優勢顯著,被譽為AI芯片的“全能戰士”其優勢如下:1、成百上千倍的提高計算效率,降低成本:存算一體的優勢是打破存儲墻,消除不必要的數據搬移延遲和功耗,使用存儲單元提升算力;2、特定領域提供更高算力與能效:存算一體架構消除了計算與存儲的界限,直接在存儲器內完成計算,因此屬于非馮諾伊曼架構,在特定領域可以提供更大算力(1000TOPS以上)和更高能效(超過10-100TOPS/W),明顯超越現有ASIC算力芯片;3、存算一體代表了未來AI計算芯片的主流架構:除AI計算外,存算技術也可用于感存算一體芯片和類腦芯片,可減少不必要的數據搬運與使用存儲單元參與邏輯計算提升算力,原因在于等效于在面積不變的情況下規模化增加計算核心數。1.6、存算一體存儲介質百花齊放存算一體應用場景極其廣闊:端側小算力場景,算力范圍約從16TOPS至100TOPS,例如智能可穿戴設備、智能安防、移動終端、AR\VR等。大算力場景,算力序曲在1000TOPS以上,例如云計算數據中心、自動駕駛、GPT-4等大模型等。我們認為云和邊緣大算力場景,是存算一體芯片的優勢領域,存算一體更具備核心影響力和競爭力;SRAM、RRAM有望成為云端存算一體主流介質:目前可用于存算一體的成熟存儲器有NORFLASH、SRAM、DRAM、RRAM、MRAM等;NorFlash屬于非易失性存儲介質,在工藝制成上有明顯瓶頸;DRAM成本較低,容量大,但是速度慢;SRAM在速度方面和能效比方面具有優勢,特別是在存內邏輯技術發展起來之后具有明顯的高能效和高精度特點;此外,PRAM有望成為下一代主流研究方向,雖然目前來看材料依舊不穩定,但是具有高速、結構簡單的優點,有希望成為未來發展最快的新型存儲器。02、存算一體,打開海量應用空間2.1、存算一體前景廣闊、漸入佳境存算一體需求旺盛,有望推動下一階段的人工智能發展:我們認為現在存算一體主要AI的算力需求、并行計算、神經網絡計算等,因此存算一體需求旺盛;以數據中心為例,百億億次(E級)的超級計算機成為各國比拼算力的關鍵點,為此美國能源部啟動了“百億億次計算項目”,我國則聯合國防科大、中科曙光等機構推出首臺E級超算,而E級超算面臨的主要問題為功耗過高、現有技術超算功率高達千兆瓦,需要一個專門的核電站來給它供電,而其中50%以上的功耗都來源于數據的“搬運”,本質原因是計算與存儲分離所致。大模型興起,存算一體適用于從云至端各類計算:ChatGPT等“大模型”興起,本質即為神經網絡、深度學習等計算,因此,我們認為對算力需求旺盛;端測方面,人工智能更在意及時響應,即“輸入”即“輸出”,同時,隨著存算一體發展,存內計算和存內邏輯,已經可以完成高精度計算;云端方面,隨著大模型的橫空出世,參數方面已經達到上億級別,因此對算力的能耗方面考核更加嚴格,隨著SRAM和PRAM等技術進一步成熟,存算一體有望成為新一代算力因素,從而推動人工智能產業的發展。2.2、存算一體為人工智能發展的必然選擇我們認為存算一體為下一代技術趨勢,原因及創新應用科技場景如下:人工智能神經網絡相關應用:存算一體具有能耗優勢,其使用成本能大幅降低,可將帶AI計算的中大量乘加計算的權重部分存在存儲單元中從而在讀取的同時進行數據輸入和計算處理,從而完成卷積運算。因此存內計算和存內邏輯非常適合人工智能的深度神經網絡應用和基于AI的大數據技術;感存算一體,多模態的人工智能計算:集傳感、儲存和運算為一體構建感存算一體架構,我們認為其為多模態時代下的應用場景,通過傳感器AI存算一體芯片,來實現零延時和超低功耗的智

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論