中國(guó)內(nèi)存內(nèi)處理(PIM)芯片行業(yè)發(fā)展現(xiàn)狀、市場(chǎng)前景、投資方向分析報(bào)告（智研咨詢發(fā)布）內(nèi)容概要：內(nèi)存內(nèi)處理（PIM，也稱為存內(nèi)計(jì)算）是指將處理器與RAM（隨機(jī)存取存儲(chǔ)器）集成在單個(gè)芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計(jì)算機(jī)、服務(wù)器或類似設(shè)備的內(nèi)存中執(zhí)行計(jì)算和處理，該架構(gòu)通過在內(nèi)存模塊內(nèi)執(zhí)行任務(wù)來加速任務(wù)的整體處理。為了解決馮·諾依曼瓶頸帶來的功耗和算力問題，存內(nèi)計(jì)算的概念被提了出來。與馮·諾依曼架構(gòu)中分離的處理器和存儲(chǔ)器不同的是，存內(nèi)計(jì)算將數(shù)據(jù)的存儲(chǔ)和計(jì)算融為一體，使得存儲(chǔ)陣列不僅具有常規(guī)的數(shù)據(jù)存儲(chǔ)能力，同時(shí)又具有陣列運(yùn)算的功能。21世紀(jì)以來，隨著人工智能技術(shù)的快速發(fā)展，具有高能效比的存內(nèi)計(jì)算架構(gòu)迎來了發(fā)展浪潮，此后，存內(nèi)計(jì)算在神經(jīng)網(wǎng)絡(luò)計(jì)算等領(lǐng)域逐漸受到關(guān)注。三星、臺(tái)積電、海力士、英特爾、IBM等半導(dǎo)體巨頭也都投入到了存內(nèi)計(jì)算架構(gòu)的研發(fā)之中。存內(nèi)計(jì)算的出現(xiàn)使計(jì)算平臺(tái)的算力功耗比、面積功耗比等進(jìn)入了一個(gè)新的階段。據(jù)PrecedenceResearch數(shù)據(jù)，2023年全球存內(nèi)計(jì)算市場(chǎng)規(guī)模約為180.4億美元，預(yù)計(jì)到2028年規(guī)模將增長(zhǎng)至387.6億美元，期間年復(fù)合增長(zhǎng)率為17%。關(guān)鍵詞：內(nèi)存內(nèi)處理(PIM)芯片發(fā)展歷程、內(nèi)存內(nèi)處理(PIM)芯片發(fā)展優(yōu)勢(shì)、內(nèi)存內(nèi)處理(PIM)芯片市場(chǎng)現(xiàn)狀一、內(nèi)存內(nèi)處理(PIM)芯片行業(yè)相關(guān)概述內(nèi)存內(nèi)處理（PIM，也稱為存內(nèi)計(jì)算）是指將處理器與RAM（隨機(jī)存取存儲(chǔ)器）集成在單個(gè)芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計(jì)算機(jī)、服務(wù)器或類似設(shè)備的內(nèi)存中執(zhí)行計(jì)算和處理，該架構(gòu)通過在內(nèi)存模塊內(nèi)執(zhí)行任務(wù)來加速任務(wù)的整體處理。存內(nèi)計(jì)算的提出可以追溯到上世紀(jì)70年代，1969年，William等首次提出存儲(chǔ)和邏輯整合的想法，將存儲(chǔ)和邏輯運(yùn)算電路集成為小的元胞，然后迭代成一個(gè)二維陣列，再通過編程的方法可以實(shí)現(xiàn)所需的復(fù)雜邏輯行為，這種存內(nèi)邏輯結(jié)構(gòu)設(shè)計(jì)在設(shè)計(jì)、制造、測(cè)試等方面具有許多優(yōu)勢(shì)。次年，Harlod等提出存內(nèi)邏輯處理器的概念，存內(nèi)邏輯陣列不但可以作為CPU與存儲(chǔ)之間的高速緩沖，還具有處理數(shù)據(jù)的能力。1975年，Elmasry等提出了一種利用雙極型晶體管構(gòu)成的兩級(jí)存內(nèi)邏輯，該結(jié)構(gòu)可以實(shí)現(xiàn)存儲(chǔ)和組合邏輯功能。1982年，Odaka等提出了一種存內(nèi)邏輯計(jì)算超大規(guī)模專用集成電路（VLSI），集成了6144位存儲(chǔ)和770個(gè)邏輯門電路，提高了處理器效率。21世紀(jì)之前對(duì)于存內(nèi)計(jì)算的研究還處于起步階段，21世紀(jì)以來，隨著人工智能技術(shù)的快速發(fā)展，具有高能效比的存內(nèi)計(jì)算架構(gòu)迎來了發(fā)展浪潮，此后，存內(nèi)計(jì)算在神經(jīng)網(wǎng)絡(luò)計(jì)算等領(lǐng)域逐漸受到關(guān)注。2018年，IEEE國(guó)際固態(tài)電路會(huì)議（ISSCC）開始設(shè)立一個(gè)獨(dú)立的議程來討論存內(nèi)計(jì)算相關(guān)的設(shè)計(jì)。三星、臺(tái)積電、海力士、英特爾、IBM等半導(dǎo)體巨頭也都投入到了存內(nèi)計(jì)算架構(gòu)的研發(fā)之中。存內(nèi)計(jì)算的出現(xiàn)使計(jì)算平臺(tái)的算力功耗比、面積功耗比等進(jìn)入了一個(gè)新的階段。PIM芯片發(fā)展歷程相關(guān)報(bào)告：智研咨詢發(fā)布的《中國(guó)內(nèi)存內(nèi)處理(PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告》二、內(nèi)存內(nèi)處理(PIM)芯片行業(yè)發(fā)展背景1965年，英特爾聯(lián)合創(chuàng)始人戈登·摩爾預(yù)測(cè)，單個(gè)芯片上的晶體管數(shù)量大約每?jī)赡攴环杀局粫?huì)有極小的增加。該預(yù)測(cè)被稱為摩爾定律。由于技術(shù)的進(jìn)步與芯片制造工藝的改進(jìn)，在過去幾十年里，芯片的算力有著顯著的提高。例如，1978年，英特爾推出的8086微處理器，工作在4.77MHz的時(shí)鐘頻率，具有0.33百萬條指令每秒的處理速度；20世紀(jì)90年代早期，英特爾Pentium系列處理器的算力達(dá)到了100MIPS；到了90年代末期，英特爾PentiumIII系列處理器的算力達(dá)到了600-700MIPS；2000年以后，英特爾推出Core系列處理器，算力則達(dá)到了20-30十億條指令每秒；2020年蘋果公司推出的M1處理器，算力已經(jīng)達(dá)到了1000BIPS。盡管摩爾定律預(yù)見了芯片行業(yè)的發(fā)展趨勢(shì)，但如今，隨著晶體管尺寸接近原子級(jí)，半導(dǎo)體材料和制造工藝已經(jīng)到達(dá)物理極限，同時(shí)，隨著芯片尺寸和晶體管數(shù)量的增加，芯片的發(fā)熱和功耗也急劇增加，摩爾定律正面臨越來越多的局限與挑戰(zhàn)。物理尺寸和制造工藝的提升已經(jīng)無法滿足摩爾定律發(fā)展的速度，因此，需要尋找新的技術(shù)來維持計(jì)算機(jī)性能的增長(zhǎng)。截至2023年底，全球算力基礎(chǔ)設(shè)施總規(guī)模達(dá)到910EFLOPS（FP32），同比增長(zhǎng)40%。美國(guó)、中國(guó)算力基礎(chǔ)設(shè)施規(guī)模位列前兩名，中國(guó)算力總規(guī)模達(dá)230EFLOPS。近年來，隨著可穿戴設(shè)備、物聯(lián)網(wǎng)、邊緣計(jì)算、人工智能等應(yīng)用的興起，人們對(duì)于計(jì)算平臺(tái)提出了更高的要求，即用有限的能源與資源實(shí)現(xiàn)更大的算力，或者實(shí)現(xiàn)相同的算力消耗更低的能源與資源。以中央處理器（CPU）與存儲(chǔ)器構(gòu)成的現(xiàn)有計(jì)算平臺(tái)，當(dāng)需要處理的數(shù)據(jù)越來越多時(shí)，便會(huì)由于中央處理與存儲(chǔ)器之間的吞吐率急劇上升而出現(xiàn)瓶頸，該瓶頸被稱為馮·諾依曼瓶頸，在進(jìn)行計(jì)算時(shí)，首先需要將存儲(chǔ)器里的值通過總線讀取出來，再將輸入和讀取出的值通過總線送到中央處理器進(jìn)行計(jì)算得到輸出結(jié)果。在消耗大量時(shí)間讀取和寫入數(shù)據(jù)的同時(shí)，由于需要頻繁訪問存儲(chǔ)器，大量無關(guān)的能量會(huì)被消耗。馮·諾依曼瓶頸的出現(xiàn)導(dǎo)致現(xiàn)有平臺(tái)的算力受限，這嚴(yán)重阻礙了物聯(lián)網(wǎng)、邊緣計(jì)算、人工智能等應(yīng)用的發(fā)展。為了解決這些問題，業(yè)內(nèi)提出了幾種解決方案，包括引入緩存結(jié)構(gòu)（Cache）和無序執(zhí)行（Out-of-orderProcessing）技術(shù)減少存儲(chǔ)訪問帶來的損失等。然而，這些技術(shù)仍然跟不上新興應(yīng)用所需存儲(chǔ)的指數(shù)增長(zhǎng)，這對(duì)傳統(tǒng)的計(jì)算系統(tǒng)提出了挑戰(zhàn)。2021-2023年全球及中國(guó)算力規(guī)模三、內(nèi)存內(nèi)處理(PIM)芯片行業(yè)發(fā)展現(xiàn)狀為了解決馮·諾依曼瓶頸帶來的功耗和算力問題，存內(nèi)計(jì)算的概念被提了出來。與馮·諾依曼架構(gòu)中分離的處理器和存儲(chǔ)器不同的是，存內(nèi)計(jì)算將數(shù)據(jù)的存儲(chǔ)和計(jì)算融為一體，使得存儲(chǔ)陣列不僅具有常規(guī)的數(shù)據(jù)存儲(chǔ)能力，同時(shí)又具有陣列運(yùn)算的功能。由于存內(nèi)計(jì)算無需將數(shù)據(jù)從存儲(chǔ)器中讀出，因此不存在中央處理器與存儲(chǔ)器之間的吞吐率瓶頸，同時(shí)，因?yàn)槭∪チ舜鎯?chǔ)的讀寫過程，存內(nèi)計(jì)算平臺(tái)的功耗和時(shí)效都遠(yuǎn)優(yōu)于馮·諾依曼架構(gòu)的計(jì)算平臺(tái)。在機(jī)器學(xué)習(xí)、人工智能、實(shí)時(shí)數(shù)據(jù)分析等應(yīng)用中，存內(nèi)計(jì)算可以實(shí)現(xiàn)對(duì)大容量數(shù)據(jù)的更高效處理，這在數(shù)據(jù)集變得越來越大且越來越復(fù)雜的情況下變得越來越重要。其次，存內(nèi)計(jì)算可以幫助克服傳統(tǒng)基于磁盤的存儲(chǔ)系統(tǒng)的性能限制，降低處理大型數(shù)據(jù)集的數(shù)據(jù)搬運(yùn)量。通過消除這種瓶頸，存內(nèi)計(jì)算可以釋放處理器的計(jì)算潛力，加速計(jì)算平臺(tái)技術(shù)的進(jìn)步。除了消除計(jì)算瓶頸外，存內(nèi)計(jì)算還在降低計(jì)算系統(tǒng)的能耗方面發(fā)揮著重要的作用，通過減少訪問存儲(chǔ)器需求，存內(nèi)計(jì)算可以幫助降低計(jì)算系統(tǒng)的能耗，從而達(dá)到更加節(jié)能的目的。馮諾依曼、存內(nèi)計(jì)算架構(gòu)對(duì)比以三星HBM-PIM為例，與配備傳統(tǒng)的HBM的GPU相比，生成式AI運(yùn)行在基于三星的HBM-PIM的系統(tǒng)上，能效平均高出了約2倍，性能加速了2倍以上。三星HBM-PIM性能提升明顯目前的PIM方案主要通過在內(nèi)存（DRAM）芯片中實(shí)現(xiàn)部分?jǐn)?shù)據(jù)處理，其中典型的產(chǎn)品形態(tài)包括HBM-PIM和PIM-DIMM。這些方案在DRAMDie中內(nèi)置了處理單元，為系統(tǒng)提供了具備大吞吐和低延遲的片上處理能力。這種存內(nèi)處理技術(shù)可應(yīng)用于多種場(chǎng)景，包括語音識(shí)別、數(shù)據(jù)庫索引搜索、基因匹配等。DRAM存儲(chǔ)芯片在信息時(shí)代扮演著至關(guān)重要的角色，為半導(dǎo)體存儲(chǔ)器第一大產(chǎn)品。在各國(guó)政策大力支持、市場(chǎng)需求持續(xù)增長(zhǎng)、廠商技術(shù)水平不斷提升等因素驅(qū)動(dòng)下，DRAM存儲(chǔ)芯片行業(yè)取得了顯著的發(fā)展成果。但2022年以來，伴隨著消費(fèi)電子市場(chǎng)低迷，DRAM需求也明顯下滑，市場(chǎng)規(guī)模萎縮。2023年全球DRAM市場(chǎng)規(guī)模為518.6億美元，同比下降35%，占存儲(chǔ)市場(chǎng)的56%左右。2019-2023年全球DRAM市場(chǎng)規(guī)模內(nèi)存內(nèi)處理這一創(chuàng)新技術(shù)自問世以來，便受到了業(yè)界的廣泛關(guān)注。目前，三星、SK海力士、阿里巴巴達(dá)摩院等科技巨頭紛紛投入研發(fā)，將內(nèi)存內(nèi)處理技術(shù)作為未來的增長(zhǎng)引擎。據(jù)PrecedenceResearch數(shù)據(jù)，2023年全球存內(nèi)計(jì)算市場(chǎng)規(guī)模約為180.4億美元，預(yù)計(jì)到2028年規(guī)模將增長(zhǎng)至387.6億美元，期間年復(fù)合增長(zhǎng)率為17%。2023-2028年全球存內(nèi)計(jì)算市場(chǎng)規(guī)模（億美元）以上數(shù)據(jù)及信息可參考智研咨詢（）發(fā)布的《中國(guó)內(nèi)存內(nèi)處理(PIM)芯片行業(yè)市場(chǎng)全景分析及產(chǎn)業(yè)需求研判報(bào)告》。