1工業設計智能功能安全設計指南本文件適用于指導各類組織開展產品智能功能的安GB/T2099（所有部分）家用GB/T4706（所有部分）家用和GB/T32921信息安全技術信息技術產品供GB/T35273信息安全技術GB/T41295.1功能安全應用指南第1部分：危害辨識和需求分析GB/T41295.2功能安全應用指南2使產品或事物具備人類或類似人類智慧特征的技術或技術解3AI：人工智能（ArtificialIntelligenca)感知，接收并轉換信息的能力和過程；b)決策，對輸入的信息進行處理并作出判斷與決定的能力和過程；c)執行，將決策結果付諸實施的能力和過程；在合理可預見使用情況下，智能功能應滿足b)功能安全，不存在由電氣/電子系統的軟件錯誤、硬件失效等功能異常影響智能功能而導致不d)AI安全，AI系統在訓練、部署和運行過程中，符合預期目標與倫理準則，具有較好的可解釋4在進行智能功能的安全設計過程中，除一般的安全設計要點外，還需注意以下內容：a)智能功能的安全設計與通常工業設計并行；b)考慮由智能功能帶來的、一般產品不具備的特殊風險；c)考慮非智能產品為智能化而改變結構、材料等帶來的風險。5a)對智能技術具有較低熟練度的用戶，如b)對數據隱私風險具有較高敏感度的c)有特殊需求的用戶，如視覺或聽力障礙者、肢體殘疾者等；a)正常操作行為，如遵循使用說b)誤操作行為，如錯誤配置、忽視警告、錯誤輸入和不當環境使用等；c)故障下行為，如嘗試故障排除、忽視故障問題和聯系技術a)應對智能產品的智能功能在特定環境下能安全問題以及其他在實現智能功能時存在的c)應對智能產品的智能功能承受黑客攻擊、硬件破壞等外部惡意攻擊行為的能力進行分析。基于智能功能的預期用途和使用場景，進行理分析，并分析在特定的危害場景下，由于使用智能功能可能導致b)宜重點考慮在各使用場景下應用智能功能可能使智能產品產生的新的風6f)檢查表，檢查表提供了一系列典型的需要考慮的不確定性因素，使用者可參照以前的風險清g)預先危險分析（PHA一種歸納分析h)失效模式與影響分析（FMEA一種識別失效模式、機制及其影響的技術，應在故障模式被些應處于規定限值內的具體特征來確保產品質量、可靠性以及過a)電氣危害，由于智能產品的電氣系統和機械結構影響智能功能實現而導致的危害；b)功能危害，因電氣/電子系統的軟件錯誤、硬件失效等功能異常引致智能功能不能正常實現導c)信息安全危害，智能產品或功能因網絡攻擊或數據泄露而可能面臨的暴露或損失；d)AI危害，因智能產品的AI系統未達到預期目標或倫理準則，或可解釋性較差導致的危害。7a)冰箱、空調、洗衣機、微波爐、烤箱、窗簾驅動器等功能型家電，參考GB/T標準之間存在的差異部分，應根據實際的工作環境選擇最不利的標準要求進行考應參照GB/T41295.2規定的內容制定a)對智能產品啟動前系統運行狀態進行c)防護裝置因檢測到危險發出停止指令后，智能產品需維持停止狀態，直至有安全重啟條件為d)安全重啟時，需先復位防護裝置、解除停止指令，再恢復安全功能；e)對智能產品啟動前和運行過程中可預見的安全風險進行預判和保護；性設計，以確保智能產品不會在運行或受到攻擊時產生數據泄露等信息危害，具a)應參照GB/T35273和GB/T32921的相關規定對用戶的個人信息進行收集、存儲和使用；b)應從硬件、固件、操作系統、應用、接口等多個方面確軟件的安裝與更新應經過授權用戶的同意和確認，軟件更新應確保更新時智能產品處于安全狀態，且在發生預期外故障時能夠回滾至更e)對于帶操作系統的智能產品，具備登錄驗證與身份鑒8設計、系統的詳細設計以確保智能產品智能功能不存在因預期功能不足引起的危害而導致的不合理風b)宜采用對抗訓練與模型冗余設計，通過對抗樣本檢測、魯棒性測試等技術提升模型抗干擾能力，通過迭代優化算法，直到智能功能滿足相應的風險可接受準則以最大限度地減少安全風險，確保輸入擾動下的輸出穩定性與可靠性，避免因算法模型設計不足導致不d)應考慮智能功能的倫理安全及合規性設計，避免算法設計中的偏見、歧視或違反社會公序良告知機制，確保用戶操作合規性，避免合理可f)宜建立數據質量評估機制，避免因數據偏差或污染導致模型輸出錯誤或歧視性結果。測試，測試可以在研發團隊內部進行，也可以考風險；宜針對測試工作制定計劃，并將測試過程和結論文檔化。測試過程的文檔宜包a)測試前編制的測試規范，宜詳細規定測試內容、方法、所用對每種危害的后果和可能性進行分析評估，度量每種危害的等級，以判斷其是否在可容許范圍內。11.2.2對于不可容許風險，應重新進行b)結合危害場景的分析，需同時考慮初始場景發生的概率和危害場景中后果事件發生的概率；9檔，形成最終的智能功能安全設計方案，并由相關方對安全設計方案口ABCDEFGHIIKLMNOPQRSTUVXY能。通過文獻檢索、輿情搜索、實驗檢測、事故報告、召回信息、檢驗檢測數據、消費者投訴、專家意見、媒體報道等渠道的信息。（2）在密碼、指紋開鎖功能使用中存在障礙（4）AI安全問題，如活體檢測能力不足引有較好的耐久性；部署監測系統監測鎖具啟、閉操作執針對場景4，擬采用如下安全設計：合理設置訓作部件，測試鎖具自動終止功能能否正常運行且達到預改權限，確保認證信息的使用遵循最小必要原則，且在獲取和修改時頻等偽造對受試產品進行測試，確保受試產品能檢測或防止偽造數據[1]GB/T20002.4-2015標準中特定內容的起[3]GB/T20438.5-2017[5]GB/T28219-2018[7]GB/T34400-201[8]GB/T35248-201[9]GB/T40979-2021智能家用[10]GB/T41295.3-2022[11]GB/T41302-2022[1