-1-《人工智能系統的服務連續性治理要求（報批稿）》地方標準編制說明一、工作簡況任務來源2020年12月21日，山東省市場監督管理局印發《2020年第二批地方標準制修訂計劃項目》的通知（魯市監標字〔2020〕329號），本標準列為推薦性地方標準，計劃編號為“2020年第二批地方標準制修訂計劃項目—14”，立項標準名稱為《人工智能產品的服務連續性治理要求》。本標準由山東省工業和信息化廳提出并組織實施，由山東省人工智能標準化技術委員會歸口。起草單位、起草人及任務分工本標準起草單位包括山東省計算中心（國家超級計算濟南中心）、山東有數信息科技有限公司、山東光安智能科技有限公司、煙臺黃渤海新區工委辦公室、山東新一代標準化研究院有限公司、濟南大學、浪潮云洲工業互聯網有限公司、山東財經大學、山東博遠視訊信息技術有限公司、新華三大數據技術有限公司、紫光業達科技（山東）有限公司、山東聯合電力產業發展有限公司、山東和同信息科技股份有限公司、山東省人工智能協會、山東新礦綠色智能科技發展有限公司。本標準的主要起草人為高永超、畢秋玲、翟虎、張榮文、吳晟、王妍、紀科、陳貞翔、劉培德、李文博、劉洋、盧曉建、劉位龍、劉瀟、吳林、宋成祥、張淑貞、魏民、酆烽、劉洋、劉克、湯偉、鐘雨林、曲瀚凱、施浩然、劉帥、鐘磊、張楠、戴子健、徐國奮、蘇冠群。所做工作如下：高永超、畢秋玲、翟虎、張榮文負責框架設計和技術把關，吳晟、王妍、紀科、陳貞翔、劉培德、李文博、劉洋、盧曉建負責標準調研、文本起草，劉位龍、劉瀟、吳林、宋成祥、張淑貞、魏民、酆烽、劉洋負責技術資料收集分析，劉克、湯偉、鐘雨林、曲瀚凱、施浩然、劉帥、鐘磊、張楠、戴子健、徐國奮、蘇冠群參與標準起草。起草過程1.成立起草組山東省市場監督管理局標準制修訂計劃下達后，山東省計算中心（國家超級計算濟南中心）高度重視標準的制定工作，為確保標準制定的科學性、普適性和嚴謹性，于2021年1月成立標準起草工作組，負責本標準的制定工作。2.形成標準工作組討論稿標準起草工作組充分收集研究國際國內有關人工智能系統服務連續性的文獻資料，重點了解服務連續性的影響因素及應對措施。在此基礎上，經過多次討論和修改形成標準組討論稿。3.形成標準征求意見稿2022年9月，在山東省人工智能標委會內部征求本標準草案的修改意見，標準起草工作組從內容科學性、表述規范性等方面，對標準文本進行了相應的修改完善，形成本標準的征求意見稿。4.標準公開征求意見2022年10月，山東省人工智能標委會就本標準向社會公開征求意見。同時通過山東省物聯網協會、山東省人工智能協會，面向人工智能領域研究機構、企業和相關行業協會等32個單位和專家發送“地方標準草案征求意見稿”及相關材料，廣泛征求意見。收到“地方標準草案征求意見稿”后，回函的單位或專家數為22個，回函并有建議或意見的單位或專家數為9個，沒有回函的單位或專家數為10個，共收到22條意見，反饋意見包括格式的規范性、技術內容的準確性以及建議名稱修改為《人工智能系統的服務連續性治理要求》等。5.形成標準送審稿根據標準的反饋意見，查閱最新的相關標準和文獻，對標準的范圍、技術內容等進行充分研討，修改完善了標準文本，于2023年3月形成本標準的送審稿，并于2023年4月通過省級地方標準管理系統上報《人工智能系統的服務連續性治理要求》地方標準送審稿及配套材料。收到系統反饋意見后，標準起草組于2024年2月-3月多次召開研討會，進一步完善草案送審稿內容，于2024年4月形成更新的標準送審稿及配套材料并提交系統。2024年8月，第二次收到系統反饋意見，編制組逐條討論反饋意見，2024年9月形成更新的標準送審稿及配套材料。2024年11月，系統送審審核通過，同意召開標準審查會。6.技術審查2025年1月21日，山東省工業和信息化廳在濟南組織召開了專家審查會議，共邀請9名專家組成地方標準專家審查委員會，全面審查了本標準的先進性、合理性、適用性、規范性等，會議一致同意該標準通過審查。標準起草組根據地方標準技術審查意見修改并經審查專家復審后，形成本標準草案報批稿。二、地方標準制定目的和意義人工智能是指機器在同樣的任務中表現出和人類似的或一樣的甚至是超過人類的智能。現如今，人工智能已經極大的改變了我們的生活，在未來的20年內人工智能將進一步改變包括制造業、健康，教育、娛樂、安全等各個領域。人們在享受人工智能各類產品和系統帶來的便利的同時，也產生了一些疑問：如何保證人工智能系統的服務連續性？人工智能系統提供的服務中斷后，如何保證快速地恢復？我們迫切地需要對人工智能系統的服務連續性提出治理要求。與傳統信息技術產品相比，大多數人工智能系統不僅需要更高效地利用網絡進行數據交換，還需要依賴海量數據進行模型訓練、調優、評估等，從而提供更貼合產品目標的服務質量。巨大的計算負荷和網絡負荷，勢必會在資源保證、政策制定、基礎設施、運行維護等各方面使人工智能系統的服務連續性面臨著更加嚴苛的治理要求。為解決人工智能系統的服務連續性問題制定本標準，本標準可指導相關組織、企業開展人工智能系統服務連續性的治理工作，推動人工智能系統在各領域的廣泛應用。三、地方標準編制原則、主要技術內容和確定依據（一）標準編制原則1.科學性原則本標準在遵循國家關于人工智能相關政策技術文件的基礎上開展，在制定過程中參考了國內外有關服務連續性、業務連續性等技術文獻，并及時根據相關專家反饋的問題進行調整完善，合理確定了人工智能系統服務連續性的治理要求，具有較高的科學性。2.可操作性原則本標準制定過程中，起草工作組對服務連續性進行了深入的研究，力求標準內容全面具體，給出了對數據、算法模型、服務應用以及運維的要求，便于各企業、組織開展人工智能系統的服務連續性的治理工作，具有較高的可操作性。3.規范性原則本標準依據GB/T1.1—2020《標準化工作導則第1部分：標準化文件的結構和起草規則》的規定起草，符合標準編寫要求。（二）標準主要內容（1）范圍本章給出了本標準的章節內容及適用范圍。本標準規定了人工智能系統在訓練數據、算法模型、算力中心、推理平臺、系統運維，以及保障機制等方面為實現服務連續性遵循的基本要求，描述了對應的治理方法。本標準適用于規范人工智能系統的規劃、設計、開發、運行和維護。（2）規范性引用文件本章給出了本標準規范性引用的文件，包括在訓練數據的治理要求部分，應設置數據備份系統方面應遵循的GB/T36957、GB/T20988等標準。（3）術語和定義本章給出了適用于本標準的術語和定義。（4）縮略語本章給出了本標準中應用到的縮略語。（5）訓練數據本章給出了人工智能系統訓練數據的治理要求，包括數據安全、數據質量等方面。（6）算法模型本章給出了人工智能系統算法模型的治理要求，包括算法模型設計、算法模型應用等方面。（7）算力中心本章給出了人工智能系統算力中心的治理要求，包括硬件基礎設施要求、服務連續性要求等方面。（8）推理平臺本章給出了人工智能系統推理平臺的治理要求，包括平臺性能要求、故障快速恢復、用戶機制等方面。（9）系統運維本章給出了人工智能系統運維的治理要求，包括風險評估、系統使用、資源保障、更新維護、事前規劃、事后審查等方面。（10）保障機制本章給出了人工智能系統服務連續性的保障機制要求，包括組織管理、人員管理等方面。（三）確定依據1.術語和定義的確定現行國家標準GB/T41867—2022《信息技術人工智能術語》中有對“人工智能”的定義，該定義易于理解，同時基于優先采用現行國家標準的原則，本標準中使用的“人工智能”的定義，直接引用了GB/T41867—2022的3.1.2。現行國家標準GB/T41867—2022《信息技術人工智能術語》中有對“人工智能系統”的定義，該定義易于理解，同時基于優先采用現行國家標準的原則，本標準中使用的“人工智能系統”的定義，直接引用了GB/T41867—2022的3.1.8。ISO/IEC/IEEE24765:2017《系統和軟件工程—詞匯》中有對“服務連續性”的定義（ISO/IEC/IEEE24765:2017,3.3711），本標準中使用的“服務連續性”的定義，直接引用了ISO/IEC/IEEE24765:2017的3.3711。國際標準化組織（ISO）、國際電工委員會（IEC）等國際機構，以及人工智能領域的專業組織，都發布了一系列關于人工智能系統方面的標準和規范，這些文檔提供了大量的術語和定義，這些文件，同樣也是我們界定本標準中術語和定義的重要參考。2.治理要求的確定通過查閱國內外有關人工智能系統服務連續性的相關文檔發現，人工智能的三大核心要素為數據、算力和算法。數據是人工智能的基礎，算力是人工智能的驅動力，算法模型是人工智能技術在生產實踐中真正落地、促進產業發展的重要保障。運維能夠保證產品服務的持續運行，組織管理影響整個產品的發展。因此本標準從訓練數據、算法模型、算力中心、推理平臺、系統運維、保障機制六個方面對人工智能系統進行治理，以保證服務的連續性。（1）訓練數據在人工智能系統訓練過程中，數據的安全保護和質量至關重要，是確保人工智能系統的服務連續性的前提，參考GB/T36957《信息安全技術災難恢復服務要求》和GB/T20988《信息安全技術信息系統災難恢復規范》等標準中對于數據的加密、冗余存儲、備份以及傳輸安全等方面的規定，本標準針對敏感數據泄露風險，以及在確保數據可用性、服務連續性和快速恢復的需求等方面，提出數據安全性的要求，其中對于設置數據備份系統的要求方面，直接引用相關國家標準中的要求。（2）算法模型本部分內容參考了目前人工智能技術實踐應用中關于模型加密、代碼混淆等防止模型被逆向的技術手段，以及基于開源框架或第三方庫開發的模型更新調整需求，旨在提高模型的防逆向性，確保模型的安全性和迭代速率。算法模型應用部分，則是基于軟件工程和軟件測試的理論，強調了在應用前的風險評估和測試，以及實際應用中的監管和動態監測，確保算法在應用前經過充分的測試和風險評估，降低由于算法缺陷導致的服務中斷風險，主要是考慮到當前對算法潛在漏洞和不可驗證性的認識，以對算法運行結果準確性的重視。（3）算力中心本部分內容參考了信息技術服務管理的先進理念與實踐，結合人工智能領域的特殊性，從硬件基礎設施要求和服務連續性要求兩大維度出發，詳細規定了算力中心應具備的穩定電力供應、網絡連接、關鍵設備冗余配置、物理基礎設施安全可靠等硬件條件，以及災難恢復計劃、高可用性和容災設備配置、監控與管理系統部署等服務連續性管理措施。通過實施該標準，能夠提升算力中心在應對自然災害、硬件故障、軟件漏洞等風險時的應對能力，減少業務中斷時間和數據丟失風險，保障業務穩定運行。（4）推理平臺本部分內容融合了人工智能領域的推理算法優化、動態資源分配策略、故障快速恢復機制、用戶體驗設計等專業知識，旨在確保推理平臺在提供高效、低延遲的推理服務的同時，能夠動態調整資源以滿足不同推理任務的需求，并通過預推理和緩存機制提升系統適應性和響應速度。此外，本部分還強調了故障的快速恢復能力，通過建立自動與手動相結合的故障檢測與恢復機制，以及冗余設計策略，保障服務的連續性和穩定性。同時，注重用戶體驗和數據安全，通過友好的用戶界面、身份驗證、權限管理、數據加密等措施，以及定期的數據備份與恢復工作，確保用戶能夠享受到安全、便捷、高質量的推理服務。（5）系統運維GB/T20984《信息安全技術信息安全風險評估方法》、GB/T31722《信息技術安全技術信息安全風險管理》等標準是目前國內關于信息安全風險評估的重要依據，規定了風險評估的流程、方法和要求。人工智能系統作為信息系統的一種，在風險評估中也應當遵循以上標準中的相關要求。獲取評估結果后，應基于風險評估結果制定服務連續性計劃，以預防、處置和恢復服務中斷事件，并通過定期更新和維護來確保計劃的有效性。同時標準中強調了收集預警信息的重要性，以便及時采取措施預防可能發生的服務中斷事件。系統使用部分主要是基于用戶體驗原則以及遵循網絡安全標準，系統使用說明的編寫應充分考慮用戶的實際需求和使用習慣，確保內容通俗易懂、易于理解。實時監測異常流量、發現并阻止設備或網絡攻擊是網絡安全的基本要求，這些要求通常來源于相關的網絡安全標準和規范，ISO/IEC27001《信息安全管理體系要求》、NIST網絡安全框架等，這些標準提供了網絡安全管理的框架和指導原則，包括對網絡流量監控、異常檢測、入侵防御等方面的要求，為本部分內容的確定提供了參考。資源保障部分，確保人工智能系統相關供應商的服務連續性以及識別并備份恢復系統服務所需的最低資源保障是保障系統穩定運行的基礎，而設置備用網絡系統可以在主網絡出現故障時提供備用通信渠道，提高系統的可用性。GB/T30146《安全與韌性業務連續性管理體系要求》為業務連續性管理提供了框架和指導，其中包含了資源保障的相關要求；GB/T36957《信息安全技術災難恢復服務要求》等相關標準，對備用網絡系統的要求提供了參考，以上標準是確定資源保障部分內容的主要依據。從系統運維策略的角度，選擇服務使用率較低的時間段進行更新和維護，可以最大限度地減少對用戶的影響，平衡系統穩定性和用戶體驗。在目前很多系統實踐中，服務級別協議（SLA）中一般會規定服務可用性、故障響應時間以及故障恢復時間等關鍵指標。當系統因計劃外事件而影響服務交付時，系統開發方或企業有義務按照SLA的約定及時通知用戶，并說明可能影響的系統功能及預計恢復時間，因此，本標準中對更新維護的相關方面做了約定。事后審查部分，目前在人工智能系統開發實踐中，災難恢復計劃（DRP）或業務連續性計劃（BCP）中一般會詳細規定在中斷事件發生后如何進行評估，包括確定中斷造成的影響、恢復時間目標（RTO）和恢復點目標（RPO）等，其中，RTO（恢復時間目標）指的是從災難發生到系統或業務功能完全恢復所需的時間，其設定依據一般包括行業標準（如ITIL、ISO22301等）、開發者自身的業務需求和SLA（服務級別協議）等；RPO（恢復點目標）指的是災難發生前，系統和數據必須恢復到的時間點，其設定同樣基于行業標準、業務需求以及數據重要性和可接受的數據丟失量等因素。本標準中未對具體的RTO和RPO值做規定，而是提出需要確定中斷造成的影響、人工智能系統恢復的RTO、RPO等的要求。基于用戶反饋、系統監控數據以及事件處理過程中的記錄等考慮，本標準提出應在影響人工智能系統服務連續性的計劃外事件解決后進行審查并編制審查報告，并考慮對事件進行深入剖析，找出導致中斷的根本原因，基于根本原因分析的結果，制定并實施改進措施，以防止類似事件再次發生。（6）保障機制ISO/IEC42001《Informationtechnology—Artificialintelligence—Managementsystem》人工智能管理體系標準中詳細規定了組織在人工智能領域的角色定位、管理方針、風險評估、管理體系運行及績效評估等要求，同時也對人員管理提出了相關要求，如培訓、備份人員、交叉復核等，是本標準中提出組織管理規范的參考依據。國家網信辦聯合國家\t"/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/_blank"發展改革委、\t"/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/_blank"教育部、\t"/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/_blank"科技部、\t"/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/_blank"工業和信息化部、\t"/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/_blank"公安部、\t"/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/_blank"廣電總局七部門于2023年7月發布了《生成式人工智能服務管理暫行辦法》，其中對于人工智能系統，特別是生成式人工智能服務的服務方面提出了相關管理要求，明確了服務提供者責任，提出依法開展服務以及服務協議方面的要求，該份文件也是本標準中提出組織管理要求的基本遵循。總體而言，標準起草工作組通過查閱相關標準、政策、文獻，并通過內部討論、征詢外部意見等方式提出了人工智能系統服務連續性在訓練數據、算法模型、系統運維、組織管理方面的治理要求。四、與現行相關法律、行政法規和其他標準的關系該標準在編制過程中嚴格遵循了國家關于人工智能相關政策技術文件的要求，確保與現行法律、法規保持一致。標準在制定過程中參考了國家網信辦聯合多部門發布的《生成式人工智能服務管理暫行辦法》等文件，明確了服務提供者責任，提出了依法開展服務以及服務協議方面的要求，這些法律、法規為標準的制定提供了基本遵循。本標準在編制過程中引用、參考了多個國家標準，如GB/T20984《信息安全技術信息安全風險評估方法》、GB/T20988《信息安全技術信息系統災難恢復規范》、GB/T31722《信息技術安全技術信息安全風險管理》等，這些標準在信息安全、風險評估、災難恢復等方面為本標準提供了重要的技術依據。本標準通過引用相關國家標準中的相關條款以及參考標準內容，確保了與國家標準的一致性，避免了與現有標準的沖突。除了引用并參考國家標準之外，針對人工智能系統服務連續性的特定需求，本標準在引用相關國家標準的基礎上，進行了必要的補充和細化，例如，在訓練數據的治理要求中，除了遵循信息安全和災難恢復的相關國家標準外，還針對人工智能系統的特點，提出了數據安全保護、數據質量核查等具體要求，以確保標準的全面性和實用性。該標準與現行國家標準、地方標準等相互支持，協調配套使用，共同補充完善了人工智能系統服務連續性治理的標準體系。除國家標準之外，本標準在編制過程中還參考了如ISO/IEC/IEEE24765:2017《系統和軟件工程—詞匯》中對“服務連續性”的定義