ICS35040

CCSL.80

團體標準

T/ISEAA005—2024

大模型系統安全保護要求

Securityprotectionrequirementsforlargemodelsystem

2024-04-30發布2024-06-01實施

中關村信息安全測評聯盟發布

中國標準出版社出版

T/ISEAA005—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規范性引用文件

2…………………………1

術語和定義

3………………1

概述

4………………………1

大模型系統架構

4.1……………………1

大模型系統安全

4.2……………………2

通用安全要求

5……………3

物理環境

5.1……………3

網絡架構

5.2……………3

邊界防護

5.3……………3

身份鑒別

5.4……………4

訪問控制

5.5……………4

安全審計

5.6……………4

入侵防范

5.7……………5

惡意代碼防范

5.8………………………5

集中管控

5.9……………5

供應鏈管理

5.10…………………………5

個人信息保護

5.11………………………6

數據安全保護

5.12………………………6

備份恢復

5.13……………6

數據溯源

5.14……………6

設計開發安全要求

6………………………6

數據處理

6.1……………6

模型保護

6.2……………7

內容安全

6.3……………8

測試安全要求

7……………8

模型評估

7.1……………8

模型更新

7.2……………9

部署與運行安全要求

8……………………9

模型部署

8.1……………9

攻擊檢測

8.2……………9

Ⅰ

T/ISEAA005—2024

運行監測

8.3……………10

系統管理

8.4……………10

變更管理

8.5……………10

安全事件處置

8.6………………………10

應急預案管理

8.7………………………10

退役安全要求

9……………11

模型退役

9.1……………11

數據刪除

9.2……………11

參考文獻

……………………12

Ⅱ

T/ISEAA005—2024

前言

本文件按照標準化工作導則第部分標準化文件的結構和起草規則的規定

GB/T1.1—2020《1:》

起草

。

本文件由中關村信息安全測評聯盟提出并歸口

。

本文件起草單位公安部第三研究所北京百度網訊科技有限公司螞蟻科技集團股份有限公司

:、、、

浙江大學北京天融信網絡安全技術有限公司啟明星辰信息技術集團股份有限公司快手科技有限公

、、、

司上海商湯智能科技有限公司北京遠鑒信息技術有限公司華為技術有限公司阿里云計算有限公

、、、、

司深信服科技股份有限公司科大訊飛股份有限公司北京百川智能科技有限公司北京小桔科技有限

、、、、

公司優刻得科技股份有限公司浙江君同智能科技有限責任公司

、、。

本文件主要起草人袁靜文煜乾張國鵬劉楠劉金鑫陸臻陳廣勇蘇艷芳劉繼順郭建領

:、、、、、、、、、、

唐佳偉李榮昌楊劍邵英杰谷晨徐浩鄭榕王龑蔣發群孫鈺嬈嚴敏瑞孫勇葉潤國常炳濤

、、、、、、、、、、、、、、

張宏達樊玉杰馮明韓蒙林昶廷

、、、、。

Ⅲ

T/ISEAA005—2024

引言

為規范大模型系統安全保護工作的開展對大模型系統設計開發測試部署運行退役等環節涉

,、、、、、

及的安全保護提出詳細的指導幫助主管部門網絡運營者及大模型開發者對大模型及大模型系統開展

,、

安全保護工作特制定本文件

,。

本文件是大模型系統安全保護相關系列標準之一

。

與本文件相關的標準包括

:

大模型系統安全測評要求

———T/ISEAA006—2024。

Ⅳ

T/ISEAA005—2024

大模型系統安全保護要求

1范圍

本文件規定了大模型系統的通用安全以及設計開發測試部署與運行以及退役等階段的全生命周

、、

期安全的保護要求

。

本文件適用于指導開發者及運營者對大模型及大模型系統進行全生命周期安全保護大模型系統

,

安全保護的其他方參考使用

。

2規范性引用文件

下列文件中的內容通過文中的規范性引用而構成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對應的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

信息安全技術網絡安全等級保護基本要求

GB/T22239—2019

信息安全技術術語

GB/T25069

3術語和定義

界定的以及下列術語和定義適用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemode