1工業和信息化領域人工智能安全治理標準體系（征求意見稿）為深入貫徹落實黨中央、國務院關于加快發展人工智能的部署要求，貫徹落實《國家標準化發展綱要》《全球人工智能治理倡議》《國家人工智能產業綜合標準化體系建設指南(2024）》，根據工業和信息化部人工智能標準化技術委員會審議通過的《人工智能標準化技術委員會標準體系(統謀劃，加快構建保障人工智能產業高質量發展和實現高水平安全的標準體系，夯實標準對推動技術進步、促進企業發展、引領產業升級、保障產業安全的支撐作用，更好推進人工智能賦能新型工業化，加速邁向制造強國和網絡強國，特一、背景情況習近平總書記高度重視統籌人工智能發展和安全，強調“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控”。黨的二十屆三中全會明確提出要“建立人工智能安全監管制度”。習近平總書記的系列重要指示批示精神為開展人工智能發展和安全工作指明了方向，提供了根本遵循。近年來，我國人工智能產業在技術創新、產品創造和行業應用等方面實現快速發展，在人工智能安全治理標準制定2方面也取得了一定進展，但仍面臨數據安全、網絡安全等方面挑戰。立足長遠，構建人工智能安全治理標準體系迫在眉睫。一是提升人工智能企業安全能力建設，培育壯大人工智能產業,服務本土企業長遠發展。二是培育人工智能安全技術及產品應用，提升人工智能賦能安全能力，為人工智能技術高質量應用、數字經濟和實體經濟融合提供堅實支撐。三是明確人工智能技術研發、產品迭代安全基線，促進企業在安全框架內創新發展，增強產業主體的使用信心，營造安全的發展環境，同時促進技術共享、合作共贏，加速技術成果在安全可靠的前提下落地轉化。四是提升我國人工智能技術產品的國際競爭力，通過將我國先進的人工智能安全防護理念、實踐成果推向國際社會，吸引國際合作資源，為本土企業拓展海外業務筑牢根基。二、總體要求（一）指導思想本指南以習近平新時代中國特色社會主義思想為指導，全面貫徹黨的二十大和二十屆二中、三中全會精神，以人工智能賦能新型工業化為主線，遵循統籌發展和安全的基本原則，構建工業和信息化領域人工智能安全治理體系，為產業提供人工智能安全的技術和行動指引。以高水平安全促進高質量發展，充分發揮產業主體在人工智能安全治理的重要作用，加速培育壯大人工智能產業，構建安全、可靠、繁榮的人工智能產業發展環境。（二）建設目標短期目標（1-2年急用先行，快速突破。初步構建工3業和信息化領域人工智能安全標準體系框架，明確標準體系的總體架構、分類和關鍵標準領域。制定一批急需急用的標準，為行業提供基本的安全規范和技術指導。推動相關標準的試點應用，在部分重點企業和項目中開展標準實施的驗證和反饋工作，及時發現和解決標準在應用過程中存在的問題，為標準的完善和推廣奠定基礎。長期目標（3-5年全面保障，產業落地。完善工業和信息化領域人工智能安全標準體系，補充和細化各領域的安全標準，涵蓋人工智能系統的設計、開發、部署、運行、維護等全生命周期，覆蓋工業和信息化領域人工智能應用的各個方面，并促進與國際標準的對接協調。同時，加強標準的推廣應用，規范工業和信息化產業主體人工智能應用，提高行業整體的安全水平，為傳統產業的高端化升級和前沿技術的產業化落地提供有力保障。三、建設思路（一）人工智能安全治理標準體系結構人工智能安全治理標準體系結構包括“A治理能力”、“B基礎設施安全”、“C網絡安全”、“D數據安全”、“E算法模型安全”“F應用安全”“G賦能安全”等7個4其中，治理能力標準主要規范人工智能支撐能力和管理能力，為實現人工智能安全治理夯實基礎底座。基礎設施安全標準主要規范硬件平臺、軟件平臺和智算中心等方面安全，確保人工智能基礎設施安全穩定。網絡安全標準主要規范網險評估，確保網絡安全可靠運營。數據安全標準主要規范基礎數據服務、訓練數據、業務數據等方面安全，明確人工智能數據安全要求。算法模型安全標準主要規范算法、模型等方面安全，保障人工智能技術創新安全可控。應用安全標準主要規范智能產品應用、智能服務應用、智能體、信息等方面安全，為推動產業智能化發展提供安全保障。賦能安全標準主要規范人工智能賦能新型工業化應用、行業應用，以及賦能網絡、數據、信息、業務等方面安全，為人工智能賦能5安全提供技術保障。（二）人工智能安全治理標準體系框架人工智能安全領域標準體系框架主要由治理能力、基礎賦能安全等7個部分組成，如圖2所示。6四、建設內容（一）人工智能治理能力人工智能治理能力標準主要包括支撐能力、管理能力等標準，為安全治理標準體系奠定基礎底座。1.支撐能力。規范人工智能系統全生命周期的安全治理技術能力要求，包括驗證、監測、防護、追溯、證真、鑒偽等安全支撐技術；透明性、可解釋性、魯棒性、公平性、可靠性、可追溯性、隱私保護以及用戶權益保障等治理支撐技2.管理能力。規范人工智能的技術研發和運營服務安全治理要求，包括可信賴研發管理、風險分類分級、風險管理能力、風險影響評估、風險應急響應等標準。（二）人工智能基礎設施安全人工智能基礎設施安全標準主要包括硬件平臺安全、軟件平臺安全、智算中心安全等標準，為人工智能提供基礎運營環境安全保障。1.硬件平臺安全。規范硬件平臺的安全設計、生產和測試要求，包括芯片、傳感器、計算設備等標準，芯片抗攻擊能力、傳感器數據完整性、計算設備的物理安全性等能力評估，硬件設備的安全設計原則、安全功能模塊及接口規范等安全要求，硬件安全性能的物理攻擊模擬、故障注入測試等測評方法。2.軟件平臺安全。規范軟件平臺的安全性技術要求，包括系統軟件的漏洞風險、開發框架的安全性、軟件供應鏈的完整性能力評估，軟件開發生命周期中的安全規范、安全編7碼標準及漏洞管理流程的安全框架要求，軟件平臺的訪問控制、權限管理、數據保護及安全審計要求，代碼審計、滲透測試、風險測試方法和評估標準。3.智算中心安全。規范面向人工智能的算力中心安全要求，包括面向人工智能的大規模計算集群、新型數據中心、智算中心、算力網絡等基礎設施的安全要求，訪問控制、加密傳輸等網絡安全、數據安全、信息安全技術要求標準，以及安全防護、應急響應等管理標準。（三）人工智能網絡安全規范人工智能網絡安全要求，包括網絡安全防護、網絡安全監測、網絡安全管理、供應鏈安全等。1.網絡安全防護。規范人工智能相關產品、服務的網絡安全防護要求，結合全生命周期不同階段存在的網絡安全風險，明確需要的安全措施，例如攻擊防范、漏洞管理、模型更新安全、安全應急響應等。2.網絡安全監測。規范開展人工智能網絡安全監測/監管的安全要求，包括通用要求、技術要求、測試方法、接口3.網絡安全管理。規范人工智能產品或服務運營單位開展網絡安全定級備案、資產安全管理、漏洞安全管理等安全管理工作時需遵循的要求，規范網絡安全風險評估相關要求。4.供應鏈安全。規范人工智能軟硬件供應鏈在安全方面的要求，包括供應商評估、軟硬件供應管理、風險識別和防5.網絡安全風險評估。規范人工智能場景開展網絡安全8風險評估應遵循的安全要求，包括網絡安全評估指南、實施方法、評估要求等。（四）人工智能數據安全規范人工智能數據安全要求，包括訓練數據安全、業務數據保護、基礎數據服務安全等。1.基礎數據服務安全。規范人工智能技術相關基礎數據服務安全要求，包括數據庫存儲、數據清洗、數據標注、數據分析、數據共享等服務安全。2.訓練數據安全。規范人工智能預訓練和優化訓練數據及其處理活動的安全要求，包括數據通用安全以及數據收集、傳輸、存儲、使用等環節安全，訓練數據安全防護、安全標注、質量治理、重要數據識別、安全互操作等標準。3.業務數據保護。規范運用人工智能技術相關業務的數據安全保護要求，包括數據完整性、保密性、可用性等。規范人工智能技術、產品或服務應用過程中涉及業務數據的安全要求，包括重要數據識別、數據分類分級、全生命周期安全等標準。（五）人工智能算法模型安全人工智能算法模型安全標準主要包括算法安全、模型安全等標準。1.算法安全。規范深度學習算法、機器學習算法等人工智能算法安全具體要求，研制算法設計的安全可信、算子庫安全等標準，算法可靠性、可控性、準確性、可解釋性等具2.模型安全。規范模型訓練、推理、部署等環節的安全9要求，包括大模型安全要求、混合模型安全要求、模型部署安全、模型安全評測指標與方法、多模型協同調度安全等標準，人機混合增強智能、群體智能、跨媒體智能、具身智能等技術應用中的模型安全要求。（六）人工智能應用安全人工智能應用安全結合新型工業化、智能網聯汽車、生成式人工智能、生物特征識別、智能體等典型應用，提出新型工業化應用安全、行業應用安全、智能產品應用安全、智能服務應用安全，以及智能體安全等新產品形態安全的要求1.新型工業化應用安全。規范人工智能技術在制造業全流程智能化的應用安全要求，包括工業研發設計、中試驗證、生產制造、營銷服務、運營管理等制造業全流程網絡安全防護、評測指標與方法、安全運營、風險評估等標準。2.行業應用安全。規范人工智能在不同行業中的應用安全要求，涵蓋人工智能行業應用安全開發、監控審計等能力評估，人工智能應用的安全架構框架要求，應用數據隱私保護、合規性要求規范，人工智能應用的安全測試評估方法。3.智能產品安全。規范人工智能技術和產品在具體應用場景下的安全要求，包括智能機器人、智能運載工具、智能移動終端、數字人、智能系統、生物特征識別終端等智能產品安全防護與檢測標準。4.智能服務安全。規范面向特定業務場景提供的人工智能服務安全保障要求，包括智能軟件開發安全、智能設計安全、模型即服務安全、生成式人工智能服務安全、生物特征識別服務安全、智能產品輔助操作安全、智能服務安全運營、智能服務安全風險評估、智能服務安全保障能力評價等標準。5.智能體安全。規范以通用大模型為核心的智能體實例安全要求，包括智能體內生安全、智能體數據接口安全、人機協作安全、智能體自主操作安全、多智能體協作安全等標6.信息安全。規范深度合成、生成式人工智能等在應用過程中的內容安全等方面的要求，制定安全規范和評估方法。規范利用深度合成和生成式人工智能技術生成內容、算法審核及評估、合成鑒偽檢測技術等內容管理的安全要求，包括生成內容的模型引導、模板制作、內容審核等方面的技術規范要求，算法審核及評估的算法機制機理審核、信息發布審核、涉生成違法違規內容審查等能力評估，合成鑒偽檢測技術的測評要求、評測方法和工具箱、指標體系等評價標準。（七）人工智能賦能安全人工智能賦能安全標準主要包括人工智能賦能網絡、數據、信息、業務和其他安全等方面的要求。1.賦能網絡安全。指導應用人工智能提升網絡安全的效能。包括安全大模型底座，網絡安全大模型能力要求，人工智能賦能網絡安全產品、網絡安全運營、智能問答、加密流量監測、釣魚郵件分析、暴露面監測、威脅情報智能挖掘、攻防演練靶場、惡意程序分析識別、WEB攻擊檢測、滲透測試、惡意代碼檢測、異常行為分析、智能安全運營等網絡安全領域的技術指南、能力要求、評估方法等。2.賦能數據安全。指導應用人工智能提升數據安全的效能。包括人工智能技術應用于數據收集、數據分類分級、數據標注、數據存儲等關鍵環節中，數據資產識別、數據資產數據訪問異常識別、數據泄露溯源、數據安全防護、API安全防護、數據安全審計和其他數據安全領域的技術指南、能力要求、評估方法等。3.賦能信息安全。指導應用人工智能技術，提升信息安全的效能。包括人工智能技術應用于深度偽造內容檢測、互聯網輿情監測、不良信息識別、反詐和其他信息安全場景的技術指南、能力要求、評估方法等。4.賦能業務安全。指導應用人工智能技術，提升業務安全的效能。包括人工智能技術應用于業務安全智能風控、支付安全、業務安全合規、業務事后審理能力、黑灰產監控能力和其他業務安全場景的技術指南、能力要求或評估方法等。現有人工智能安全治理領域標準清單截至2025年2月，在人工智能安全治理領域，全國信息技術標準化技術委員會(TC28）、全國網絡安全標準化技術委員會(TC260）、中國通信標準化協會(CCSA）等技術委員會或工作組，共計發布55項國家標準與行業標準。當前，我國在人工智能安全治理標準制定方面具備一定基礎，但標準主要呈現點狀化、分散性、交叉性等特點，部分人工智能關鍵技術環節和新興應用場景標準缺失，尚無法滿足快速發展的技術需求。序號1全國網絡安全標準化技術委網絡安全技術人工智能生成合成內容標識即將實施2全國網絡安全標準化技術委網絡安全技術數字水印技術正在審查3中國通信標準人工智能安全工智能圖像檢測服務系統能4全國信息技術標準化技術委人工智能管理5全國信息技術標準化技術委正在起草6全國信息技術標準化技術委人工智能風險正在審查7中國通信標準人工智能安全8中國通信標準智能風控平臺指標要求和評9中國通信標準人工智能開發平臺通用能力全國網絡安全標準化技術委網絡安全技術人工智能計算中國通信標準中國通信標準編排管理技術中國通信標準面向云計算的構中國通信標準面向云計算的中國通信標準面向云計算的問服務邊緣能中國通信標準面向云計算的中國通信標準面向云計算的份安全能力要求中國通信標準基于零信任的算力網絡安全全國信息技術標準化技術委機器學習的數全國信息技術標準化技術委網絡安全技術生成式人工智能預訓練和優化訓練數據安正在審查全國網絡安全標準化技術委網絡安全技術生成式人工智能數據標注安正在審查中國通信標準電信網和互聯網人工智能數據安全通用要求中國通信標準電信和互聯網大規模預訓練全國網絡安全標準化技術委信息安全技術機器學習算法全國信息技術標準化技術委中國通信標準電信和互聯網人工智能算法中國通信標準信息通信行業人工智能算法全國道路交通管理標準化技智能網聯汽車運行安全測試全國道路交通管理標準化技智能網聯汽車運行安全測試即將實施全國網絡安全標準化技術委信息安全技術人臉識別數據全國網絡安全標準化技術委信息安全技術生物特征識別信息保護基本全國網絡安全標準化技術委信息安全技術基于生物特征識別的移動智能終端身份鑒全國網絡安全標準化技術委網絡安全技術生成式人工智能服務安全基正在審查全國智能技術社會應用與評估基礎標準化生成式人工智能技術應用社供者合規管理正在起草全國智能技術社會應用與評估基礎標準化生成式人工智能技術應用社南正在起草全國汽車標準化技術委員會智能網聯汽車智能網聯汽車數據安全管理正在起草中國通信標準移動智能終端可信人工智能中國通信標準基于人工智能的詐騙電話號碼識別技術要求中國通信標準移動智能終端人工智能應用的個人信息保護技術要求及中國通信標準面向人臉識別系統的人臉信息保護基礎能中國通信標準生成式人工智能服務的個人中國通信標準生成式人工智中國通信標準生成式人工智能語音助手服務的用戶權益全國網絡安全標準化技術委網絡安全技術互聯網信息服務深度合成安正在起草中國通信標準互聯網信息服務提供商音視頻深度合成鑒偽檢測技術能中國通信標準基礎電信企業深度合成鑒偽檢測系統技術要求及接口規范中國通信標準圖像視頻深度合成鑒偽檢測算法引擎安全中國通信標準音頻深度合成鑒偽檢測算法引擎安全性評中國通信標準互聯網數據中心免深度合成鑒偽檢測可信機房或可信IP中國通信標準互聯網深度合成信息服務標識通用安全要求中國通信標準互聯網音視頻深度合成工具中國通信標準互聯網音視頻深度合成工具安全風險評估中國通信標準電信網和互聯網安全大模型中國通信標準電信網和互聯網安全大模型中國通信標準安全大模型能下一步計劃標準清單1人工智能代碼安全檢測2人工智能生成內容確權3人工智能安全治理大模型安全基準測試總體4人工智能安全治理人工智能生成內容證真技工業和信息化部人工智能標準化技術委員會5人工智能安全治理大工業和信息化部人工智能標準化技術委員會6人工智能安全治理大工業和信息化部人工智能標準化技術委員會7人工智能安全治理可工業和信息化部人工智能標準化技術委員會8人工智能安全治理風工業和信息化部人工智能標準化技術委員會9人工智能安全治理風工業和信息化部人工智能標準化技術委員會人工智能安全治理人工智能服務透明性及用工業和信息化部人工智能標準化技術委員會面向人工智能的算力中心安全技術要求與測試算力網絡安全技術要求人工智能平臺供應鏈安人工智能平臺供應鏈安電信和互聯網人工智能電信和互聯網人工智能成式人工智能服務用戶工業和信息化部人工智能標準化技術委員會人工智能訓練數據集安工業和信息化部人工智能標準化技術委員會生成式人工智能公共訓人工智能應用數據分類工業和信息化部人工智能標準化技術委員會人工智能應用數據跨境工業和信息化部人工智能標準化技術委員會生成式人工智能算法模電信和互聯網人工智能電信和互聯網人工智能人工智能模型開發框架工業和信息化部人工智能標準化技術委員會多模態大模型安全基準工業和信息化部人工智能標準化技術委員會人工智能安全治理安工業和信息化部人工智能標準化技術委員會工業大模型安全評測方法工業和信息化部人工智能標準化技術委員會工業和信息化部人工智能標準化技術委員會多模型協同調度安全要工業和信息化部人工求智能標準化技術委員會工業領域人工智能產品工業和信息化部人工智能標準化技術委員會智能網聯汽車環境智能人工智能安全治理行業大模型安全