IVisualprivacyprotectionofartificialintelligence——中關村視聽產業技術創新聯盟發布 1 1 1 2 2 3 3 3 4 4 4 6 6 6 8A.1一級視覺數據隱私保護系統 8A.2二級視覺數據隱私保護系統 8A.3三級視覺數據隱私保護系統 8請注意本文件的某些內容可能涉及專利。本文件的發布機構不承擔識別專利的責任。學、山東大學、云從科技集團股份有限公司、科大訊溫浩、李軍、馬萬鐘、吳子揚、余明明、李帶來諸多便利的同時，也引發了一些問題，比如個人隱私保個人隱私在實踐中也被稱為個人隱私數據或個人信息。長久以來,個人隱私保護都是各國立法關注對用戶的全面跟蹤。在數據使用環節，人工智能的發展也不能以犧牲隱私權為代價。因此1人工智能視覺隱私保護第1部分：通用技術要求用于指導本領域技術人員在人工智能視覺相關的開發中開展隱私保護方案設計GB/T25070信息安全技術網絡安全等級保護安全設計GB/T35273信息安全技術個人信息人工智能視覺隱私數據AIvisualpr但不限于將視覺隱私數據上傳至服務器進行處理的行為和在端側、邊緣側等非云端設備中對視覺隱私處理視覺隱私數據的自然人、法人、公共機構、行政者以及在控制者授權處理視覺隱私數據者以外的自然人、法人、行政2視覺隱私數據泄露visualprivacydatadisc一種將各類視覺傳感器等終端采集設進行安全采集、存儲和一種具備不可拆卸、不可篡改等安全性高的獨立存儲密鑰使用傳感器采集音視頻和其他類型數據的服務和相4人工智能視覺隱私數據控制者3視覺隱私數據控制者應為視覺隱私數據主體提供方法來訪問和控制用戶的視覺隱私數據。視覺隱私數據控制者應確保視覺隱私數據處理安全，包括但不限人工智能視覺隱私數據控制者應采取技術措施保障視覺隱私數據的安全，包括但不b)對視覺隱私數據的存儲和處理確保提供針對性的保護方式；c)建立定期測試、評估、評價技術和管理措施是否有效的體系。如果視覺隱私數據主體的視覺隱私數據被泄露，控制者應在72小時以內向視覺隱私數據主體通知并提供相關信息，除非該泄漏不會對視覺隱私數據主體5人工智能視覺數據隱私保護框架人工智能視覺數據隱私保護框架分為風險評估、安全技術、安全管理三個維度，如圖1所示。在安全技術層面，具有處理人工智能視覺數據行應用安全5個方面部署相應安全技術手段；在安全管理層面，供應商應在用戶管理、權限管理、安全審4安全技術Web安全數據脫敏Web安全安全評估訪問控制算法安全訪問控制分類分級等級測評通道加密物理安全接入認證通道加密物理安全接口鑒權安全管理風險評估用戶管理權限管理安全審計安全合規安全管理風險評估用戶管理權限管理安全審計容災/備份擇同意、最小必要、公開透明、確保安全、主體參與，參照GB/T35通用設計要求”中第三級要求的基礎上，滿足本文件的相采集安全應確保數據采集的服務安全和終端設備的物理安全，包括但不限a)具備安全芯片、可信賴的計算環境等保障生物認證類視覺數據安全性的方案；d)對于業務必須開放的接口，采取接口鑒權機制，防止接口被非法調用；e)定期審查配置設備，設備具備固件自動升級能力，且采取安全的更新方式；g)具備物理遮蔽手段，能夠通過鏡頭蓋、旋轉、伸縮等物理方式在關閉攝像服務時提供遮蔽。5b)通道加密，視覺數據的傳輸安全原則應當滿足；3)采用視覺加密算法傳輸加密后的視頻數據，a)視覺數據的存儲原則應當滿足6.4中視覺數據隱私保護系統等級的相關要求；c)系統中的應用卸載或賬戶注銷后，系統應當具備刪除內部存儲的所有文件的能力；e)使用加密機或者密鑰托管服務管理用戶主密鑰f)存儲用戶視覺隱私數據的設備應具備對隱私數據快速加密的能力。處理組件應提供相應的身份鑒別和訪問控制機制，確保只有合法的用戶或應用程序才能發起數據a)算法安全，主要面臨算法黑箱、算法模型缺陷等風險，應滿足如下要求：3)應保證算法的準確性，魯棒性和可解釋性，保證算法的核心指2)應具備對第三方軟件訪問數據權限的控制能力，能夠發現或記錄非授權應用訪問數據；3)對隱私級別高的視覺數據設置雙因子或多因子的6b)數據發布前，應當對隱私數據采取去標識化、匿名化等技術實現數據脫敏；d)應具備代碼安全審計功能，尤其防止反編譯導致密e)人工智能產品或應用在保證信息安全的同時f)數據共享時，應采用安全共享手段，包括但不限于同態加密、聯邦a)遵守隱私政策和相關規程，對安全措施的有效性進行審計；b)完善的用戶管理機制，對用戶（包括管理員）進行合理授權；從隱私數據、算法/模型、應用等多維評估指標、提供一套的完善的隱私評估指南。保證用戶隱私包括隱私系統的產品安全、安全能力評估和安全管理等多維度進行安全產品安全評估：從隱私系統的設計、開發、測試、應安全管理評估：從管理層面進行安全評估，應針對涉及未滿14周歲的兒童的視覺隱私數據采取專門措施，7b)在父母或監護人未同意的情況下收集的兒童人工智能視覺隱私數據應立即予以刪除。8A.1一級視覺數據隱私保護系統b)傳輸層：對于內部傳輸進行加密操作，保護緩沖區的原始數據；A.2二級視覺數據隱私保護系統a)應用層：用戶可通過密鑰獲取加密后