前 GB/T9813.3–20173GB/T17235.1–19981ISO/IEC15948：2004信息技術計算機圖形和圖像處理便攜式網絡圖形：功能規范[Informa–tiontechnology—Computergraphicsandimageprocessing—PortableNetworkGraphics（PNG）：FunctionalIT?–TH.264–2021通用視聽服務高級視頻編碼（Advancedvideocodingforgeneric[來源：GB/T41867—人工智能加速卡artifi×ialintelligen×ea××elerating[來源：GB/Tartifi×ialintelligen×ea××eleratingsystemon[來源：ISO/IECTR18015—2006，3.45[來源：ISO/IEC 本文件描述的人工智能平臺計算資源包括物理計算資源和虛擬計算資源，物理計算資源是指計算相應的技術要求和測試方法見5.1.1.1和6.2.1，及5.1.1.2和6.2.2，對同時具備訓練和推理功5.1.2.16.2.35.1.2.26.2.4，常見的人工智能加速模組用于推理場景，本文件僅對人工智能加速模組提出面向推理的技術要求和測試方法，見5.1.3和6.2.5。 SOC3264x86ARMCP?1024bit一級指令緩存宜不小于64KB，一級數據緩存宜不小于64KB，二級緩存宜不小于5128MBDDR4及以上版本的內存，DDR4SSD、SATANVMeRAIDOPCle4.02PCIe100GE、25GE、10GE、GEECC1bit糾錯，ECC2bitr）1）、r）2）r）3）116TFLOPS（16TOPS）5.1.1.1a）、b）、c）3264x86ARMCP?16MBDDR4PCIe4.0PCIe25GE、10GE、GEi）1）、i）2）i）3）FP32100GB/s配備片上內存（HBM）16GB32GB512GB/s1024GB/sPCIe3.0協議（PCIex16、PCIex8PCIex4）PCIe4.0DDR4LPDDR416GB164K（64FHD）60FPS的視頻（IT?–TH.264—2021、GB/T17235.1–1998規定格式的圖像（FHD2048FPS或等效）ISO/IEC15948：2004GB/T17235.1–1998規定格式的圖像（FHD256FPS或等效）m）1）、m）2）m）3）32GB/s5.1.2.1b）d）宜支持DDR4或LPDDR4及以上版本內存，容量宜不小于16GB128bit，總帶寬宜不小于204GB/s。宜支持（ECC的）2013的規定）。宜支持至少一種圖像的解碼，如GB/T17235.1–1998或ISO/IEC15948:2004規定的圖像宜支持至少64路1080P（即分辨率為1920×1080，逐行掃描）視頻解碼（30FPS）或84K視頻解碼（60FPS）IT?–TH.264–2021、IT?–TH.265–2021或GB/T20090.2–2013的規定。4ISO/IEC15948:2004規定格式的圖像[1080P（256FPS）4ISO/IEC15948:2004規定格式的圖像[1080P（64FPS）]4ISO/IEC15948:2004規定格式的圖像[1080P（24FPS）]k）1）、k）2）k）3）FP16INT8LPDDR4X64bit4GB宜兼容至少一種高速接口（PCIe3.0或以上規格接口，RGMII?SB2.0等）H.265–2021GB/T20090.2–2013的規定：201080P，25FPS161080P，30FPS24K（3840×2160），30FPS11080P，30FPSGB/T17235.1–1998規定格式的圖像：1080P，256FPS解碼，1080P，64ISO/IEC15948:2004規定格式的圖像：1080P，24FPS5W GB/T9813.3–20174.4～4.11的測試，按GB/T9813.3–20175.4～5.11的規定實施。對本文件第5章中的要求，測試環境應符合GB/T9813.3–2017中5.1的要求。 利用框架提供的執行操作系統命令，查詢輸出內存協議（DDR3，DDR4）、容量及帶寬（在執行測試前，應SSD，SATANVMe協議的支持情況（在執行測試前，應安置相應存儲媒體）RAID設RAIDO（至少包含兩塊存儲媒體），命令訓練服務器RAIDO用時為TL2。比較TL1與TL2的大小，TL1應不大于TL2。?SB3.0閃存盤，復制閃存盤內預先制備的文件（1GB）到被測系統的存儲媒體上，獲得平均速率（測試時，應使用?SB3.0配套的連接線纜）。TCP協議發送文件（10GB）到被測系統，獲得鏈路層平均傳輸速率在k）完成后，由實驗過程控制組件，對每個模型，發送訓練開始指令，并計時，直到被測人T1CP?加速訓練過程的人工智能服務器，關閉人工智能訓練加速部件（或使用計算能力等同的通用服務器），完成一次訓練，并計時，訓練時間為T2。ECCECC是否工作正常，或檢查服務器生產者提供的1）執行中，調用系統監控功能（通過操作界面或命令行），顯示、記錄或打印系統運行狀6.2.1c）6.2.1d）6.2.1e）6.2.1g）5.1.1.2f）6.2.1i）在INT4、INT8、INT16、FP16或FP32）。能推理服務器輸出全部推理結果時，結束計時，完成一輪推，推理總時間記為T3。對于不使服務器）T4。限于：CP?利用率，瞬時或平均功率。利用框架提供的6.2.1e）6.2.1g）在算能力等同的通用服務器），T5。使用路由器、交換機連接若干臺通用服務器，用于向被測系統發送視頻碼流（IT?–TH.264–2021、IT?–TH.265–2021GB/T20090.2–2013的規定）164K4464FHD8816FHD圖像數據（GB/T17235.1–1998的規定），120FPS。被測服務器完成解碼，并將解碼后使用路由器、交換機連接8臺服務器，向被測系統發送FHD圖像數據（圖像格式符合ISO/IEC15948：2004的規定）25FPS。被測服務器完成解碼，并將8臺服務器，向被測系統發送FHD圖像數據（GB/TECCECC6.2.1e）6.2.1g）在器），完成一輪推理，并記錄用時為T8。使用路由器、交換機連接若干臺通用服務器，用于向被測系統發送視頻數據（IT?–TH.264–2021、IT?–TH.265–2021或GB/T20090.2–2013的規定）641080P16484K8181080P圖像數據（GB/T21080P圖像數據（GB/T使用路由器、交換機連接4臺服務器，向被測系統發送1080P圖像數據（圖像格式符合ISO/IEC15948：2004的規定），32FPS，被測服務器完成解碼，并將解碼后ECCECC2004規定的圖像。 操作），精度為FP16或INT8。6.2.1e）6.2.1g）?ART–?SB，I2C–?SBSPI–?SB轉接器，傳輸預先制備的文件（1GB）到加速模?SB2.0閃存盤，復制閃存盤內預先制備的文件（1GB）到加速模組，計算201080P，25FPS45161080P，30FPS4424K，30FPS2111080P，30FPS1181080P圖像數據（GB/T21080P（GB/T使用路由器、交換機連接3臺服務器，向被測系統發送1080P圖像數據（圖