Q/LB.□XXXXX-XXXXDB37/T4844—2025目次TOC\o"1-1"\h\t"標(biāo)準(zhǔn)文件_一級(jí)條標(biāo)題,2,標(biāo)準(zhǔn)文件_附錄一級(jí)條標(biāo)題,2,"前言 II1范圍 12規(guī)范性引用文件 13術(shù)語(yǔ)和定義 14縮略語(yǔ) 15訓(xùn)練數(shù)據(jù) 26算法模型 27算力中心 28推理平臺(tái) 39系統(tǒng)運(yùn)維 310保障機(jī)制 5參考文獻(xiàn) 6前言本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。請(qǐng)注意本文件的某些內(nèi)容可能涉及專(zhuān)利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專(zhuān)利的責(zé)任。本文件由山東省工業(yè)和信息化廳提出并組織實(shí)施。本文件由山東省人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口。人工智能系統(tǒng)的服務(wù)連續(xù)性治理要求范圍本文件規(guī)定了人工智能系統(tǒng)在訓(xùn)練數(shù)據(jù)、算法模型、算力中心、推理平臺(tái)、系統(tǒng)運(yùn)維，以及保障機(jī)制等方面為實(shí)現(xiàn)服務(wù)連續(xù)性遵循的基本要求，描述了對(duì)應(yīng)的治理方法。本文件適用于規(guī)范人工智能系統(tǒng)的規(guī)劃、設(shè)計(jì)、開(kāi)發(fā)、運(yùn)行和維護(hù)。規(guī)范性引用文件下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對(duì)應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/T20984信息安全技術(shù)信息安全風(fēng)險(xiǎn)評(píng)估方法GB/T20988信息安全技術(shù)信息系統(tǒng)災(zāi)難恢復(fù)規(guī)范GB/T31722信息技術(shù)安全技術(shù)信息安全風(fēng)險(xiǎn)管理GB/T36957信息安全技術(shù)災(zāi)難恢復(fù)服務(wù)要求術(shù)語(yǔ)和定義下列術(shù)語(yǔ)和定義適用于本文件。

人工智能artificialintelligence；AI<學(xué)科>人工智能系統(tǒng)相關(guān)機(jī)制和應(yīng)用的研究和開(kāi)發(fā)。[來(lái)源：GB/T41867—2022，3.1.2]

人工智能系統(tǒng)artificialintelligencesystem針對(duì)人類(lèi)定義的給定目標(biāo)，產(chǎn)生諸如內(nèi)容、預(yù)測(cè)、推薦或決策等輸出的一類(lèi)工程系統(tǒng)。該工程系統(tǒng)使用人工智能相關(guān)的多種技術(shù)和方法，開(kāi)發(fā)表征數(shù)據(jù)、知識(shí)、過(guò)程等的模型，用于執(zhí)行任務(wù)。人工智能系統(tǒng)具備不同的自動(dòng)化級(jí)別。[來(lái)源：GB/T41867—2022，3.1.8]

服務(wù)連續(xù)性servicecontinuity能夠不間斷地提供服務(wù)，或按計(jì)劃和約定提供一致的可用性。[來(lái)源：ISO/IEC/IEEE24765:2017,3.3711]縮略語(yǔ)下列縮略語(yǔ)適用于本文件。RPO：恢復(fù)點(diǎn)目標(biāo)（RecoveryPointObject）RTO：恢復(fù)時(shí)間目標(biāo)（RecoveryTimeObjective）訓(xùn)練數(shù)據(jù)人工智能系統(tǒng)訓(xùn)練數(shù)據(jù)的治理要求應(yīng)包括但不限于以下內(nèi)容。數(shù)據(jù)安全：數(shù)據(jù)來(lái)源可靠性，包括但不限于傳感器、數(shù)據(jù)采集卡等設(shè)備不受信息攻擊等安全威脅，避免數(shù)據(jù)采集中斷；采取加密措施保證數(shù)據(jù)的可靠傳輸，降低敏感數(shù)據(jù)泄漏風(fēng)險(xiǎn)；數(shù)據(jù)存儲(chǔ)在具有強(qiáng)大數(shù)據(jù)保護(hù)功能的冗余環(huán)境中，以實(shí)現(xiàn)可用性、服務(wù)連續(xù)性和快速恢復(fù)；設(shè)置數(shù)據(jù)備份系統(tǒng)，數(shù)據(jù)備份系統(tǒng)符合GB/T36957和GB/T20988的規(guī)定；設(shè)置備用數(shù)據(jù)處理系統(tǒng)，包括備用的計(jì)算機(jī)、外圍設(shè)備和軟件等；在中斷事件發(fā)生后及時(shí)核對(duì)重要數(shù)據(jù)，追補(bǔ)丟失數(shù)據(jù)。數(shù)據(jù)質(zhì)量：數(shù)據(jù)在時(shí)間序列上的連貫性，避免數(shù)據(jù)中斷或缺失，確保數(shù)據(jù)的連續(xù)性；收集到的數(shù)據(jù)包含所有必要的特征和信息，避免遺漏重要數(shù)據(jù)，確保數(shù)據(jù)的完整性；數(shù)據(jù)能夠真實(shí)反映實(shí)際情況，對(duì)模型訓(xùn)練產(chǎn)生積極影響，對(duì)數(shù)據(jù)進(jìn)行適當(dāng)?shù)念A(yù)處理，以提高數(shù)據(jù)質(zhì)量，確保數(shù)據(jù)的有效性；采用高精度的數(shù)據(jù)收集方法和技術(shù)，使用抽樣檢測(cè)與全部檢測(cè)相結(jié)合的方式，檢驗(yàn)數(shù)據(jù)是否能準(zhǔn)確表示其所描述的實(shí)際對(duì)象，無(wú)誤差或偏差，確保數(shù)據(jù)的準(zhǔn)確性。算法模型人工智能系統(tǒng)算法模型的治理要求應(yīng)包括但不限于以下內(nèi)容。算法模型設(shè)計(jì)：通過(guò)人工智能算法和模型調(diào)優(yōu)，智能識(shí)別代碼沖突與惡意代碼；使用模型加密、代碼混淆等防止模型被逆向的技術(shù)手段，提高模型的防逆向性，避免被逆向出模型參數(shù)文件以及代碼文件；基于特定開(kāi)源框架或第三方庫(kù)開(kāi)發(fā)的模型在框架或第三方庫(kù)更新時(shí)，及時(shí)做出相應(yīng)調(diào)整；保證人工智能系統(tǒng)的迭代速率滿(mǎn)足用戶(hù)需求。算法模型應(yīng)用：在應(yīng)用前編制并備份算法邏輯、體系及結(jié)構(gòu)等技術(shù)文檔；在應(yīng)用前進(jìn)行風(fēng)險(xiǎn)評(píng)估和測(cè)試，針對(duì)可能出現(xiàn)的風(fēng)險(xiǎn)制定應(yīng)對(duì)措施；對(duì)算法使用情況及算法結(jié)果進(jìn)行監(jiān)管，動(dòng)態(tài)監(jiān)測(cè)算法的實(shí)際運(yùn)行情況，發(fā)現(xiàn)算法漏洞并及時(shí)處理，降低由于算法不可驗(yàn)證、算法問(wèn)題解決方案復(fù)雜等特性可能導(dǎo)致的中斷風(fēng)險(xiǎn)。算力中心人工智能系統(tǒng)算力中心的治理要求應(yīng)包括但不限于以下內(nèi)容。物理基礎(chǔ)設(shè)施要求：具備穩(wěn)定的電力供應(yīng)和網(wǎng)絡(luò)連接，包括配置應(yīng)急電力設(shè)施，以及可靠的網(wǎng)絡(luò)設(shè)備等；關(guān)鍵設(shè)備采用冗余配置，如雙路供電、冗余冷卻系統(tǒng)等，以確保在設(shè)備故障時(shí)能夠迅速切換至備用設(shè)備，保障服務(wù)的連續(xù)性；機(jī)柜、線(xiàn)纜、光纖、消防安防等物理基礎(chǔ)設(shè)施安全可靠，提供安全穩(wěn)定的物理環(huán)境，防止因物理?yè)p壞導(dǎo)致服務(wù)中斷。技術(shù)與系統(tǒng)要求：配置高可用性和容災(zāi)設(shè)備，如負(fù)載均衡器、緩存設(shè)備、容災(zāi)備份系統(tǒng)等，在發(fā)生故障時(shí)迅速恢復(fù)服務(wù)，減少業(yè)務(wù)中斷時(shí)間；部署監(jiān)控與管理系統(tǒng)對(duì)算力中心的運(yùn)行狀態(tài)進(jìn)行實(shí)時(shí)監(jiān)控和管理，及時(shí)發(fā)現(xiàn)并處理潛在故障。推理平臺(tái)人工智能系統(tǒng)推理平臺(tái)的治理要求應(yīng)包括但不限于以下內(nèi)容。平臺(tái)性能要求：推理性能：采用經(jīng)過(guò)深度優(yōu)化的推理算法和引擎，利用先進(jìn)的計(jì)算技術(shù)和加速庫(kù)，提升推理速度和效率，確保在低延遲和高吞吐量下穩(wěn)定運(yùn)行；動(dòng)態(tài)資源分配：具備基于需求動(dòng)態(tài)調(diào)整資源的能力，根據(jù)推理任務(wù)的負(fù)載、優(yōu)先級(jí)和實(shí)時(shí)性要求調(diào)度計(jì)算資源，確保資源高效利用和服務(wù)連續(xù)性；預(yù)推理：基于歷史數(shù)據(jù)和用戶(hù)行為模式，預(yù)測(cè)潛在的問(wèn)題或需求，并進(jìn)行相應(yīng)的預(yù)處理和決策準(zhǔn)備，增強(qiáng)系統(tǒng)的適應(yīng)性和魯棒性，確保平臺(tái)持續(xù)穩(wěn)定地提供服務(wù)；緩存機(jī)制：通過(guò)存儲(chǔ)經(jīng)常訪(fǎng)問(wèn)的數(shù)據(jù)或計(jì)算結(jié)果（如模型參數(shù)、中間計(jì)算結(jié)果等），以便在后續(xù)請(qǐng)求時(shí)快速響應(yīng)，減少重復(fù)計(jì)算和訪(fǎng)問(wèn)原始數(shù)據(jù)源的時(shí)間，提升系統(tǒng)的推理速度，從而在面臨高并發(fā)請(qǐng)求或復(fù)雜計(jì)算任務(wù)時(shí)，能夠保持服務(wù)的連續(xù)性和高效性。故障快速恢復(fù)：建立自動(dòng)故障檢測(cè)和恢復(fù)機(jī)制，一旦發(fā)現(xiàn)故障，立即啟動(dòng)恢復(fù)程序，包括數(shù)據(jù)恢復(fù)、服務(wù)重啟等步驟，確保服務(wù)的快速恢復(fù)和穩(wěn)定性；對(duì)于無(wú)法自動(dòng)恢復(fù)的故障，提供清晰的手動(dòng)恢復(fù)指南和工具，指導(dǎo)運(yùn)維人員快速完成恢復(fù)操作；采用冗余設(shè)計(jì)，如部署多個(gè)副本、使用負(fù)載均衡等，確保在部分節(jié)點(diǎn)故障時(shí)，其他節(jié)點(diǎn)能夠接管任務(wù)，繼續(xù)提供服務(wù)。用戶(hù)機(jī)制：關(guān)注用戶(hù)體驗(yàn)，提供友好、直觀的用戶(hù)界面和操作流程；實(shí)施用戶(hù)身份驗(yàn)證、權(quán)限管理、數(shù)據(jù)加密等措施，防止未經(jīng)授權(quán)的訪(fǎng)問(wèn)和數(shù)據(jù)泄露；定期對(duì)用戶(hù)數(shù)據(jù)進(jìn)行備份和恢復(fù)工作，確保數(shù)據(jù)的完整性和安全性；建立完善的用戶(hù)服務(wù)機(jī)制，提供及時(shí)、專(zhuān)業(yè)的技術(shù)支持服務(wù)，持續(xù)改進(jìn)推理服務(wù)的質(zhì)量和用戶(hù)體驗(yàn)。系統(tǒng)運(yùn)維人工智能系統(tǒng)運(yùn)維的治理要求應(yīng)包括但不限于以下內(nèi)容。風(fēng)險(xiǎn)評(píng)估：按照GB/T20984和GB/T31722規(guī)定的風(fēng)險(xiǎn)評(píng)估要求，定期開(kāi)展面向人工智能系統(tǒng)服務(wù)連續(xù)性的風(fēng)險(xiǎn)評(píng)估，對(duì)人工智能系統(tǒng)服務(wù)及其依賴(lài)資源的中斷風(fēng)險(xiǎn)進(jìn)行識(shí)別、分析和評(píng)估；根據(jù)風(fēng)險(xiǎn)評(píng)估結(jié)果制定人工智能系統(tǒng)服務(wù)連續(xù)性計(jì)劃，包括預(yù)防、處置、恢復(fù)等內(nèi)容，并對(duì)計(jì)劃定期進(jìn)行更新維護(hù)和評(píng)估改進(jìn)；收集來(lái)自監(jiān)管機(jī)構(gòu)、公共服務(wù)機(jī)構(gòu)、供應(yīng)商、業(yè)務(wù)關(guān)聯(lián)機(jī)構(gòu)等發(fā)布的預(yù)警信息，并及時(shí)采取措施預(yù)防可能發(fā)生的服務(wù)中斷事件。系統(tǒng)使用：提供人工智能系統(tǒng)的服務(wù)應(yīng)用說(shuō)明并確保使用通俗易懂的語(yǔ)言，包括系統(tǒng)的功能、使用方法、配置信息、管理員信息、常見(jiàn)故障的解決方法等內(nèi)容；考慮用戶(hù)操作的可能性，避免用戶(hù)操作多樣化導(dǎo)致服務(wù)中斷；在人工智能系統(tǒng)使用過(guò)程中實(shí)時(shí)監(jiān)測(cè)異常流量，發(fā)現(xiàn)并阻止設(shè)備或網(wǎng)絡(luò)攻擊，提高人工智能系統(tǒng)網(wǎng)絡(luò)安全水平；提供應(yīng)急聯(lián)系途徑，接收來(lái)自用戶(hù)或其他相關(guān)方的服務(wù)中斷事件投訴或通知信息，對(duì)這些信息進(jìn)行記錄，通知相關(guān)部門(mén)進(jìn)行核實(shí)和處置。資源保障：人工智能系統(tǒng)相關(guān)供應(yīng)商的服務(wù)連續(xù)性；設(shè)置備用網(wǎng)絡(luò)系統(tǒng)，包含備用網(wǎng)絡(luò)通信設(shè)備和備用數(shù)據(jù)通信線(xiàn)路。備用網(wǎng)絡(luò)系統(tǒng)的要求符合GB/T36957的要求；識(shí)別并備份恢復(fù)系統(tǒng)服務(wù)所需的最低資源保障，包括系統(tǒng)、數(shù)據(jù)、基礎(chǔ)設(shè)施、辦公場(chǎng)所、通訊設(shè)施、保障設(shè)施、人員、供應(yīng)商、文檔等；根據(jù)需要，與相關(guān)機(jī)構(gòu)簽訂協(xié)議，以便在服務(wù)中斷事件發(fā)生后可獲取所需的資源或服務(wù)。更新維護(hù)：對(duì)人工智能系統(tǒng)發(fā)起的計(jì)劃內(nèi)服務(wù)更新維護(hù)，提前告知用戶(hù)可能影響的系統(tǒng)功能及維護(hù)時(shí)間；人工智能系統(tǒng)的計(jì)劃內(nèi)服務(wù)更新維護(hù)，選擇服務(wù)使用率較低時(shí)計(jì)劃維護(hù)；人工智能系統(tǒng)因計(jì)劃外事件而影響服務(wù)交付時(shí)，告知用戶(hù)可能影響的系統(tǒng)功能及預(yù)計(jì)恢復(fù)時(shí)間。事前規(guī)劃：設(shè)計(jì)和部署備用系統(tǒng)，確保在主系統(tǒng)不可用時(shí)能夠迅速切換，保持業(yè)務(wù)持續(xù)運(yùn)行，定期進(jìn)行備用系統(tǒng)的測(cè)試和演練，確保其可用性和可靠性；確定人工智能系統(tǒng)恢復(fù)的RTO和RPO，服務(wù)恢復(fù)優(yōu)先級(jí)別和資源需求等；制定并實(shí)施定期數(shù)據(jù)備份計(jì)劃，將重要數(shù)據(jù)存儲(chǔ)在安全的地方，在發(fā)生災(zāi)難時(shí)，利用備份數(shù)據(jù)快速恢復(fù)系統(tǒng)和業(yè)務(wù)操作；明確故障排查的步驟和方法，制定故障修復(fù)流程，包括臨時(shí)解決方案的采用，以保證業(yè)務(wù)在修復(fù)期間的可用性；部署實(shí)時(shí)監(jiān)控工具，對(duì)人工智能系統(tǒng)的運(yùn)行狀態(tài)進(jìn)行持續(xù)監(jiān)控，設(shè)置預(yù)警機(jī)制，當(dāng)系統(tǒng)性能出現(xiàn)異常或即將達(dá)到閾值時(shí)，及時(shí)發(fā)出預(yù)警通知。事后審查：在影響人工智能系統(tǒng)服務(wù)連續(xù)性的計(jì)劃外事件解決后進(jìn)行審查并編制審查報(bào)告，包括用戶(hù)體驗(yàn)和影響、事件開(kāi)始和結(jié)束日期/時(shí)間、影響和解決措施的詳細(xì)時(shí)間表，根本原因分析和為持續(xù)改進(jìn)而采取的行動(dòng)等；審查應(yīng)急響應(yīng)團(tuán)隊(duì)在中斷事件中的表現(xiàn)，包括響應(yīng)速度、協(xié)調(diào)能力、資源調(diào)配等，分析應(yīng)急響應(yīng)流程的有效性，識(shí)別流程中的瓶頸和不足之處；評(píng)估恢復(fù)策略的實(shí)施效果，包括備用系統(tǒng)的切換速度、數(shù)據(jù)恢復(fù)的準(zhǔn)確性等，分析恢復(fù)過(guò)程中遇到的挑戰(zhàn)和解決方案，為后續(xù)改進(jìn)提供參考；將中斷事件的事后審查結(jié)果納入組織的知識(shí)管理體系，供組織內(nèi)部分享；識(shí)別服務(wù)中斷可能造成的經(jīng)濟(jì)損失、非經(jīng)濟(jì)影響等。保障機(jī)制人工智能系統(tǒng)服務(wù)連續(xù)性的保障機(jī)制要求應(yīng)包括但不限于以下內(nèi)容。組織管理：明確人工智能系統(tǒng)服務(wù)連續(xù)性管理的組織架構(gòu)，確定各層級(jí)人員在服務(wù)連續(xù)性管理過(guò)程中的職責(zé)和分工；制定服務(wù)連續(xù)性管理制度和計(jì)劃，或在相關(guān)制度中說(shuō)明與人工智能服務(wù)連續(xù)性管理有關(guān)的要求；服務(wù)連續(xù)性計(jì)劃中一般規(guī)定保障服務(wù)連續(xù)性的措施，以及如何有效應(yīng)對(duì)服務(wù)中斷事件，通常包括對(duì)更詳細(xì)的恢復(fù)計(jì)劃的引用，以及將系統(tǒng)恢復(fù)到工作狀態(tài)的具體說(shuō)明。定期管理和維護(hù)服務(wù)連續(xù)性制度和計(jì)劃，開(kāi)展人工智能系統(tǒng)服務(wù)連續(xù)性計(jì)劃演練。人員管理：為人員提供人工智能系統(tǒng)服務(wù)連續(xù)性管理培訓(xùn)和專(zhuān)業(yè)技能培訓(xùn)；為關(guān)鍵崗位安排備份人員；為關(guān)鍵操作程序安排交叉復(fù)核人員；制定人員繼任計(jì)劃；分散核心能力以減少中斷事件的影響，如設(shè)立多個(gè)技術(shù)系統(tǒng)運(yùn)營(yíng)團(tuán)隊(duì)、多地辦公等；建立保留知識(shí)和經(jīng)驗(yàn)的文檔；提升開(kāi)發(fā)人員、運(yùn)維人員等利益相關(guān)者的服務(wù)連續(xù)性意識(shí)，協(xié)同配合開(kāi)展多元主體共治，將人工智能系統(tǒng)服務(wù)連續(xù)性治理融入到日常工作中。參考文獻(xiàn)[1]GB/T30146—2023安全與韌