對(duì)網(wǎng)絡(luò)安全領(lǐng)域可解釋人工智能的全面調(diào)查引言人工智能已成為實(shí)現(xiàn)全球各行業(yè)可持續(xù)性目標(biāo)的關(guān)鍵技術(shù)。其應(yīng)用在日常場(chǎng)景中顯而易見(jiàn)，如醫(yī)療保健、農(nóng)業(yè)、教育、金融服務(wù)、面部識(shí)別、欺詐檢測(cè)、零售購(gòu)買(mǎi)預(yù)測(cè)、導(dǎo)航、在線客戶(hù)支持以及許多其他領(lǐng)域。由于人工智能的廣泛影響，眾多國(guó)際和國(guó)家級(jí)別的倡議已被啟動(dòng)，旨在應(yīng)對(duì)其發(fā)展和監(jiān)管。然而，人工智能是一把雙刃劍，在網(wǎng)絡(luò)安全領(lǐng)域既是變革者，也是潛在風(fēng)險(xiǎn)。在各領(lǐng)域關(guān)鍵應(yīng)用中的廣泛應(yīng)用使得AI模型容易受到攻擊。因此，保護(hù)AI系統(tǒng)和確保數(shù)據(jù)安全和用戶(hù)隱私是至關(guān)重要的。□iMotiva□ie認(rèn)識(shí)到人工智能在網(wǎng)絡(luò)安全中的重要性以及確保人工智能系統(tǒng)的必要性，印度政府首席科學(xué)顧問(wèn)辦公室（PSA）通過(guò)SETS發(fā)布了題為“CybSec4AI”強(qiáng)調(diào)了人工智能和網(wǎng)絡(luò)安全交叉學(xué)科中必要的研發(fā)倡議，以及專(zhuān)業(yè)技能的培養(yǎng)。目標(biāo)是實(shí)現(xiàn)開(kāi)發(fā)基于人工智能/機(jī)器學(xué)習(xí)（AI/ML）的工具和系統(tǒng)在網(wǎng)絡(luò)安全方面的自給自足，同時(shí)創(chuàng)建安全的人工智能/機(jī)器學(xué)習(xí)系統(tǒng)和解決方案。該工作組審議了在人工智能和網(wǎng)絡(luò)安全等跨學(xué)科領(lǐng)域啟動(dòng)研發(fā)方案的需要，這些方案將導(dǎo)致系統(tǒng)發(fā)展、解決方案和產(chǎn)品的產(chǎn)生。同時(shí)，還提出了為數(shù)據(jù)創(chuàng)建、模擬和測(cè)試設(shè)施所需的研發(fā)基礎(chǔ)設(shè)施。人力資源需求已確定，以應(yīng)對(duì)該新興領(lǐng)域中工程師和科學(xué)家不斷增長(zhǎng)的需求，并提出了加速技能建設(shè)的方案。根據(jù)麥肯錫全球人工智能（AI）2021益顯著影響，越來(lái)越多的組織正在采用人工智能能力[1]。可解釋人工智能（XAI）1幫助人類(lèi)用戶(hù)理解、解釋和信任由AI模型做出的預(yù)測(cè)。通過(guò)提供AI模型決策的依據(jù)，XAI確保決策過(guò)程的透明性。這種提高的透明度使用戶(hù)對(duì)結(jié)果更加有信心，并促進(jìn)信任的形成。1“解釋”一詞在牛津高階英漢雙解詞典中的定義為：“一種使某事物變得清晰的說(shuō)法或陳述；為行動(dòng)或信仰提供的理由或辯解”[2]。理解模型的決定也解決了公平性問(wèn)題，并在調(diào)試模型方面提供幫助。該研究于2004年開(kāi)始，重大突破始于2014年左右，當(dāng)時(shí)DARPA宣布了其XAI項(xiàng)目。根據(jù)DARPA[3]，XAI的目標(biāo)是“在保持高水平的學(xué)習(xí)性能（預(yù)測(cè)準(zhǔn)確性）的同時(shí)，生成更多可解釋的模型；并使人類(lèi)用戶(hù)能夠理解、適當(dāng)信任并有效管理新興的人工智能伙伴”。目的和范圍這是一篇方法論文。專(zhuān)注于在國(guó)內(nèi)外層面進(jìn)行的“可解釋人工智能（XAI）”在網(wǎng)絡(luò)安全領(lǐng)域的相關(guān)研究成果。論文結(jié)構(gòu)該研究方法論文的結(jié)構(gòu)如下：XAI基礎(chǔ)部分提供了可解釋人工智能的概念、技術(shù)和在人工智能模型中可解釋性的重要性概述。XAI在網(wǎng)絡(luò)安全部分探討了XAI在網(wǎng)絡(luò)安全任務(wù)中的應(yīng)用和好處。相關(guān)研究回顧部分總結(jié)了該領(lǐng)域現(xiàn)有的研究，突出與網(wǎng)絡(luò)安全中的XAI相關(guān)的方法和發(fā)現(xiàn)，同時(shí)納入了國(guó)家與國(guó)際的努力。隨后，XAI在網(wǎng)絡(luò)安全中的挑戰(zhàn)部分討論了在網(wǎng)絡(luò)安全系統(tǒng)中實(shí)施XAI的局限性以及潛在的對(duì)立威脅。最后，該研究方法論文以關(guān)于未來(lái)方向的見(jiàn)解作結(jié)，提出了XAI在網(wǎng)絡(luò)安全方面的研究方向和問(wèn)題。智能（XAI）人工智能在網(wǎng)絡(luò)安全中的智能通過(guò)提升威脅檢測(cè)、預(yù)防和響應(yīng)能力，顯著增強(qiáng)了網(wǎng)絡(luò)安全。根據(jù)2024年月發(fā)布的NASSCOM報(bào)告，印度的人工智能市場(chǎng)正以25-35%的復(fù)合年增長(zhǎng)率增長(zhǎng)，預(yù)計(jì)到2027年將達(dá)到約170億美元。[4]人工智能系統(tǒng)通過(guò)分析大量數(shù)據(jù)以識(shí)別異常、檢測(cè)惡意軟件和預(yù)測(cè)潛在的網(wǎng)絡(luò)安全威脅。它們自動(dòng)化威脅情報(bào)收集和事件響應(yīng)，使快速有效的應(yīng)對(duì)措施成為可能。人工智能還優(yōu)化了掃描和修補(bǔ)流程，增強(qiáng)了漏洞管理，并強(qiáng)化了用戶(hù)行為分析，以檢測(cè)內(nèi)部威脅和欺詐。此外，將人工智能集成到網(wǎng)絡(luò)安全框架中不僅加強(qiáng)了防御機(jī)制，還增強(qiáng)了預(yù)見(jiàn)和應(yīng)對(duì)復(fù)雜網(wǎng)絡(luò)攻擊的能力，確保了更加堅(jiān)固和有彈性的數(shù)字環(huán)境。XAI在網(wǎng)絡(luò)安全中的必要性可解釋人工智能已成為安全領(lǐng)域的關(guān)鍵，因?yàn)樗鰪?qiáng)了透明度、信任和問(wèn)責(zé)制。XAI在網(wǎng)絡(luò)安全中的關(guān)鍵性之一在于其促進(jìn)AI安全專(zhuān)業(yè)人員理解為什么一個(gè)AI模型將某個(gè)活動(dòng)標(biāo)記為惡意或良性。通過(guò)使AI系統(tǒng)的運(yùn)作透明化，XAI允許持續(xù)優(yōu)化和改進(jìn)。XAI提供對(duì)模型決策過(guò)程的洞察，使得能夠識(shí)別和糾正偏差。這確保了網(wǎng)絡(luò)安全措施是公平和無(wú)偏見(jiàn)的，維護(hù)了安全協(xié)議的完整性。統(tǒng)計(jì)數(shù)據(jù)表明，與2021年同期相比，2022年第三季度全球攻擊增加了28%[5]。從三個(gè)網(wǎng)絡(luò)安全利益相關(guān)者的角度出發(fā)，可解釋方法的使用包括：1）設(shè)計(jì)者，2）戶(hù)，3）對(duì)手。他們的工作徹底審視了各種傳統(tǒng)和安全特定的解釋方法，并探索了有趣的研究方向[6]。GautamSrivastava[7]XAI智能農(nóng)業(yè)、智能城市、智能治理、智能交通、工業(yè)4.0以及5G及以后的技術(shù)。一項(xiàng)關(guān)于XAI在網(wǎng)絡(luò)安全領(lǐng)域的簡(jiǎn)短調(diào)查列出了幾個(gè)支持可解釋性實(shí)施的XAI庫(kù)[8,9]。通過(guò)對(duì)244篇文獻(xiàn)的詳盡綜述，突出了使用深度學(xué)習(xí)技術(shù)（如入侵檢測(cè)系統(tǒng)、惡意軟件檢測(cè)、釣魚(yú)和垃圾郵件檢測(cè)、僵尸網(wǎng)絡(luò)檢測(cè)、欺詐檢測(cè)、零日漏洞、數(shù)字取證和加密挖礦）在網(wǎng)絡(luò)安全領(lǐng)域的各種應(yīng)用。他們的調(diào)查還考察了這些方法中可解釋性的當(dāng)前使用情況，確定了有前途的工作和挑戰(zhàn)，并提供了未來(lái)的研究方向。它強(qiáng)調(diào)了需要更多的形式化，強(qiáng)調(diào)了人機(jī)交互評(píng)估的重要性，以及對(duì)抗性攻擊對(duì)XAI的影響[10]。X_SPAM方法結(jié)合了機(jī)器學(xué)習(xí)技術(shù)隨機(jī)森林和深度學(xué)習(xí)技術(shù)LSTM來(lái)檢測(cè)垃圾郵件，利用可解釋人工智能技術(shù)LIME通過(guò)解釋分類(lèi)決策來(lái)增強(qiáng)可信度[11]。關(guān)于將XAI應(yīng)用在網(wǎng)絡(luò)安全領(lǐng)域劃分為三組的研究，例如：針對(duì)網(wǎng)絡(luò)攻擊的防御性應(yīng)用、各行業(yè)在網(wǎng)絡(luò)安全方面的潛力、針對(duì)XAI應(yīng)用的網(wǎng)絡(luò)安全對(duì)抗威脅以及防御方法。他們還強(qiáng)調(diào)了在網(wǎng)絡(luò)安全領(lǐng)域?qū)嵤AI面臨的挑戰(zhàn)，并強(qiáng)調(diào)了標(biāo)準(zhǔn)化可解釋性評(píng)估指標(biāo)的重要性[12]。在聚焦于網(wǎng)絡(luò)安全中的可解釋人工智能（XAI）應(yīng)用，特別是在公平性、完整性、隱私和健壯性方面時(shí)，很明顯，現(xiàn)實(shí)場(chǎng)景通常是被忽視。此外，當(dāng)前用于防御XAI方法的對(duì)策是有限的[13]。XAI在網(wǎng)絡(luò)安全威脅情報(bào)（CTI）中的應(yīng)用跨越了三個(gè)主要主題：釣魚(yú)分析、攻擊向量分析和網(wǎng)絡(luò)安全防御開(kāi)發(fā)[14]。另一項(xiàng)研究[15]中的優(yōu)勢(shì)和擔(dān)憂，并提出了一個(gè)設(shè)計(jì)可解釋和隱私保護(hù)的系統(tǒng)監(jiān)控工具的流程。XAI在網(wǎng)絡(luò)安全應(yīng)用中變得越來(lái)越重要，因?yàn)槿狈山忉屝詴?huì)損害對(duì)AI除了可解釋性之外，用于網(wǎng)絡(luò)安全的AI模型還必須保證準(zhǔn)確性和性能。訓(xùn)練數(shù)據(jù)集在任何機(jī)器學(xué)習(xí)應(yīng)用中都起著至關(guān)重要的作用。可解釋AI（XAI）檢測(cè)高度不平衡的數(shù)據(jù)集和糾正偏差，從而提高系統(tǒng)的魯棒性。可解釋安全（XSec）[16]的概念解決了XAI面回顧。側(cè)信道分析（SCA）通過(guò)分析物理發(fā)射如功耗、電磁泄露或定時(shí)信息，從加密設(shè)備中提取機(jī)密信息。AI算法在增強(qiáng)SCA輪廓方面發(fā)揮著重要作用。AI算法用于識(shí)別大型數(shù)據(jù)集中的模式，并用于識(shí)別側(cè)信道發(fā)射與機(jī)密信息之間的微妙相關(guān)性[17,18]。在人工智能輔助的側(cè)信道攻擊（SCA）中，特征/興趣點(diǎn)（PoI）對(duì)秘密信息的檢索起到了貢獻(xiàn)作用。對(duì)那些對(duì)決策貢獻(xiàn)最大的特征/興趣點(diǎn)（PoI）的可解釋性進(jìn)行了解釋[19]的抵抗性。一種稱(chēng)為真理表深度卷積神經(jīng)網(wǎng)絡(luò)（TT-DCNN）有可解釋性，被用于執(zhí)行SCA。通過(guò)將神經(jīng)網(wǎng)絡(luò)（NN）轉(zhuǎn)換為SAT操作性，以了解NN模型學(xué)到了什么[20]。掩碼和隱藏是用于在實(shí)現(xiàn)層面保護(hù)秘密信息的對(duì)策。但是，AI算法在擊敗這些對(duì)策方面是有效的。在SCA（側(cè)信道攻擊）中，ExDL-SCA（基于深度學(xué)習(xí)的SCA的可解釋性）方法被用來(lái)理解這些對(duì)策對(duì)AI輔助SCA的影響[21]。這有助于開(kāi)發(fā)者評(píng)估實(shí)施對(duì)策的安全性。此外，XAI（可解釋人工智能）在硬件木馬檢測(cè)[81]中也發(fā)揮著重要作用。圖1描述了XAI在網(wǎng)絡(luò)安全各個(gè)領(lǐng)域的應(yīng)用。釣魚(yú)攻擊檢測(cè)網(wǎng)絡(luò)僵尸檢測(cè)勒索軟件&釣魚(yú)攻擊檢測(cè)網(wǎng)絡(luò)僵尸檢測(cè)勒索軟件&檢測(cè)惡意軟件硬件安全硬件安全入侵檢測(cè)系統(tǒng)可解釋人工智能在安全領(lǐng)域的應(yīng)用對(duì)于所有利益相關(guān)者誰(shuí)給予和接受安全？什么是解釋的？何時(shí)進(jìn)行解釋關(guān)于安全的問(wèn)題有明確答案嗎？需要安全嗎？如何解釋安全性？垃圾郵件檢測(cè)異常檢測(cè)域名生成算法檢測(cè)圖1：可解釋人工智能在網(wǎng)絡(luò)安全中的應(yīng)用域名生成算法檢測(cè)相關(guān)工作綜述國(guó)際努力2017年，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）信息創(chuàng)新辦公室（I2O）主任約翰·在特定數(shù)據(jù)上訓(xùn)練的統(tǒng)計(jì)模型。第三波是“情境適應(yīng)”，特點(diǎn)是能夠理解和解釋其決策背后的推理的系統(tǒng)[22]。DARPA的XAI項(xiàng)目專(zhuān)注于兩大挑戰(zhàn)：（1）據(jù)中的感興趣事件進(jìn)行分類(lèi)；（2）開(kāi)發(fā)機(jī)器學(xué)習(xí)方法，為自主系統(tǒng)構(gòu)建決策政策，以執(zhí)行各種模擬任務(wù)[23]。2020年，IBM推出了“政策實(shí)驗(yàn)室”，這是一個(gè)旨在開(kāi)發(fā)AI政策和建議的平臺(tái)，為政策制定者提供了一個(gè)愿景和實(shí)用指導(dǎo)，以利用創(chuàng)新的優(yōu)勢(shì)，同時(shí)確保在快速變化的技術(shù)環(huán)境中保持信任[24]。2022年，IBM，以建立道德人工智能實(shí)施的治理方法[25]。2020年，谷歌發(fā)布了一份名為《AIExplainability》的白皮書(shū)，這是一份與谷歌云人工智能解釋產(chǎn)品相伴的技術(shù)參考。該白皮書(shū)旨在利用人工智能解釋來(lái)簡(jiǎn)化模型開(kāi)發(fā)，并向關(guān)鍵利益相關(guān)者解釋模型的行為。“全球人工智能行動(dòng)計(jì)劃”項(xiàng)目，作為世界經(jīng)濟(jì)論壇“塑造技術(shù)治理未來(lái)：人工智能與機(jī)采用，激發(fā)人工智能的變革潛力。到2026年，Gartner預(yù)計(jì)組織將通過(guò)實(shí)施AI的透明度、信任和安全，在采用、業(yè)務(wù)目標(biāo)和用戶(hù)接受度方面實(shí)現(xiàn)其AI模型50%的改進(jìn)[26]。Gartner來(lái)越在其模型中使用可解釋的AI，尤其是在醫(yī)療保健和金融服務(wù)等安全和監(jiān)管行業(yè)[26,27]。人工智能的隱私、安全和/或風(fēng)險(xiǎn)管理始于人工智能可解釋性，這是必需的基線。——AvivahLitan，Gartner副總裁兼杰出分析師2019解釋人工智能系統(tǒng)時(shí)，開(kāi)發(fā)者和政策制定者面臨的挑戰(zhàn)和考慮因素。它強(qiáng)調(diào)，人工智能模型的解釋取決于其應(yīng)用，并提供了關(guān)于如何在不影響系統(tǒng)性能（包括準(zhǔn)確性、可解釋性和隱私性）的情況下實(shí)施XAI的觀點(diǎn)。[28]在2022年9月，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）理框架（AIRMF）的草案，旨在發(fā)展和實(shí)施可信的人工智能，其中可解釋性是識(shí)別和管理人工智能系統(tǒng)風(fēng)險(xiǎn)的綜合方法中需要考慮的特性之一[29]。2022年5月，IBM通過(guò)“IBM全球AI采納指數(shù)2022”[30]提供了關(guān)于全球整體AI采納情況的見(jiàn)解，包括阻礙AI發(fā)揮其潛力的障礙和挑戰(zhàn)，以及AI業(yè)和國(guó)家。圖2中的統(tǒng)計(jì)數(shù)據(jù)顯示，大多數(shù)組織尚未采取必要步驟以實(shí)現(xiàn)可信的人工智能。具體來(lái)說(shuō)，61%接受調(diào)查的組織尚未作出顯著的努力。努力解釋基于AI的決策。安全專(zhuān)業(yè)人士是組織中第四大AI用戶(hù)群體，占比26%。此外，29%的組織使用AI進(jìn)行安全和威脅檢測(cè)。圖2：根據(jù)IBM采用指數(shù)[30]此外，84%的IT專(zhuān)業(yè)人員承認(rèn)信任在人工智能中的重要性，并認(rèn)為解釋人工智能決策對(duì)其業(yè)務(wù)至關(guān)重要。目前，17%的IT專(zhuān)業(yè)人員更傾向于報(bào)告他們的業(yè)務(wù)重視人工智能能方面面臨著多個(gè)障礙。值得注意的是，63%工智能所需的技術(shù)和培訓(xùn)而面臨困難。IT部門(mén)在政府與醫(yī)療行業(yè)的專(zhuān)業(yè)人員，目前正探索或部署人工智能，相較于其他行業(yè)的人員，他們更有可能識(shí)別出可解釋性與信任方面的障礙。國(guó)家努力作為全球增長(zhǎng)最快的經(jīng)濟(jì)體之一，印度對(duì)重塑世界的AI革命充滿(mǎn)濃厚興趣。認(rèn)識(shí)到AI始制定國(guó)家AI戰(zhàn)略。在國(guó)家層面，印度國(guó)家發(fā)展研究所（NITIAayog）、信息技術(shù)與通信部（MeitY）、商務(wù)部與工業(yè)部以及印度政府首席科學(xué)顧問(wèn)辦公室已經(jīng)成立了由領(lǐng)域?qū)＜医M成的各個(gè)工作組，以制定本戰(zhàn)略。這些工作組已經(jīng)起草了聚焦于人工智能的國(guó)家級(jí)文件。2018年6月，印度國(guó)家發(fā)展委員會(huì)（NITIAayog）#AIForAll”的討論稿[31]。該文件旨在指導(dǎo)研究和在新興和前沿技術(shù)的進(jìn)步中，特別關(guān)注利用人工智能促進(jìn)印度社會(huì)的包容性增長(zhǎng)。本文還強(qiáng)調(diào)了在人工智能中“可解釋性”的重要性，解決了一個(gè)普遍問(wèn)題，即人工智能解決方案通常作為黑箱運(yùn)行，對(duì)于超出輸入和輸出數(shù)據(jù)的處理過(guò)程缺乏理解。2018年2月，印度電子和信息技術(shù)部（MeitY）成立了四個(gè)委員會(huì)，以促進(jìn)人工智能（AI）的發(fā)展并制定政策框架。這些委員會(huì)負(fù)責(zé)了解與人工智能相關(guān)的監(jiān)管和技術(shù)挑戰(zhàn)，并確定人工智能實(shí)施可能有益的領(lǐng)域[32]。在2018年3月，由商務(wù)部和工業(yè)部成立的特別小組發(fā)布了一份關(guān)于《人工智能（AI）》的報(bào)告，該報(bào)告專(zhuān)注于第四次工業(yè)革命及其經(jīng)濟(jì)影響，特別是關(guān)于人工智能的方面。[33]。2020年7月，首席科學(xué)顧問(wèn)辦公室通過(guò)電子交易和安全協(xié)會(huì)（SETS）發(fā)布了一份名為“CybSec4AI”的任務(wù)小組報(bào)告，強(qiáng)調(diào)了人工智能和網(wǎng)絡(luò)安全相互作用的尖端研究。這份報(bào)告強(qiáng)調(diào)了AI模型安全性的重要性[34]。2020年10月，印度電子和信息技術(shù)部（MeitY）與NITIAayog共同舉辦了RAISE2020——“2020年負(fù)責(zé)任的人工智能促進(jìn)社會(huì)賦權(quán)”大型虛擬峰會(huì)，主題為人工智能（AI）[35]。峰會(huì)強(qiáng)調(diào)了可解釋人工智能對(duì)于培養(yǎng)對(duì)技術(shù)的信任至關(guān)重要，并強(qiáng)調(diào)了更好責(zé)任人工智能更廣泛范圍內(nèi)的一個(gè)關(guān)鍵組成部分，定期發(fā)布的負(fù)責(zé)任人工智能（RAI）專(zhuān)家報(bào)告[36]。在2020年，印度電子與信息技術(shù)部下的國(guó)家電子治理司推出了名為“YUVAi-用人工智能為烏納蒂和維卡斯（Unnati和Vikas）貢獻(xiàn)力量”的創(chuàng)新挑戰(zhàn)計(jì)劃，這是面向?qū)W校學(xué)生的國(guó)家倡議，旨在“負(fù)責(zé)任的人工智能”領(lǐng)域。該計(jì)劃旨在提升新一代的數(shù)字準(zhǔn)備能力，并繼續(xù)實(shí)施包容性和協(xié)作性的人工智能技能培訓(xùn)努力[37]。在此基礎(chǔ)上，英特爾印度分公司于2022年加入并啟動(dòng)了“2022年負(fù)責(zé)任的人工智能”計(jì)劃[38]。2021年2月，印度國(guó)家發(fā)展機(jī)構(gòu)（NITIAayog）發(fā)布了《負(fù)責(zé)任的AI#AIFORALL這是為印度制定的方法論文檔的第一部分，提出了負(fù)責(zé)任AI管理的原則。該文檔探討了系統(tǒng)性和社會(huì)性的倫理考量，并深入探討了治理AI系統(tǒng)的法律和監(jiān)管方法。透明度被強(qiáng)調(diào)為確保公平、誠(chéng)實(shí)、無(wú)偏見(jiàn)的部署和問(wèn)責(zé)制的一個(gè)關(guān)鍵原則。此外，該文檔還討論了XAI[39]2021年8月，尼蒂·阿亞og在《負(fù)責(zé)任的人工智能》方法文檔的第二部分中繼續(xù)其努力，重點(diǎn)關(guān)注實(shí)施這些原則[40]。隨后，2022年11月，尼蒂·阿亞og發(fā)布了第三份討論。該論文探討了在印度背景下，負(fù)責(zé)任人工智能原則在面部識(shí)別技術(shù)（FRT）中的應(yīng)用，旨在為其安全、負(fù)責(zé)任的發(fā)展和部署建立框架。該論文還建議了開(kāi)發(fā)人員構(gòu)建可解釋的FRT系統(tǒng)應(yīng)遵循的原則，確保對(duì)系統(tǒng)決策過(guò)程的明確解釋[41]。2022年10月11日，印度軟件和服務(wù)公司協(xié)會(huì)（NASSCOM）與微軟、塔塔咨詢(xún)服務(wù)公司（TCS）、IBM研究、德勤和FractalAnalytics合作發(fā)布了“負(fù)責(zé)任人工智能中心及用于各行業(yè)的工具和指導(dǎo)，幫助企業(yè)自信地?cái)U(kuò)大人工智能技術(shù)規(guī)模，同時(shí)確保用戶(hù)安全和信任。在發(fā)布活動(dòng)中，一個(gè)關(guān)鍵焦點(diǎn)是解決XAI（可解釋人工智能）的挑戰(zhàn)。[42,43]2022年，NASSCOM與微軟、Capgemini、Ernst&Young和EXL合作推出了針對(duì)印度的NASSCOM采納成熟度，提供了一個(gè)綜合得分。盡管印度在全球人工智能投資中只占很小的比例（約1.5%），但該國(guó)在這一變革性技術(shù)方面取得了重大進(jìn)展。為了充分挖掘這一潛力，采用最佳實(shí)踐對(duì)于將技術(shù)進(jìn)步轉(zhuǎn)化為實(shí)際的國(guó)民價(jià)值至關(guān)重要[44]。2020年6月，印度成為經(jīng)濟(jì)合作與發(fā)展組織（OECD）\"全球人工智能伙伴關(guān)系（GPAI）\"的創(chuàng)始成員。該倡議旨在指導(dǎo)全球人工智能的負(fù)責(zé)任發(fā)展和應(yīng)用，強(qiáng)調(diào)人權(quán)、包容性、多樣性、創(chuàng)新和經(jīng)濟(jì)增長(zhǎng)[45,46]。在2022年12月，谷歌宣布了一筆100萬(wàn)美元的贈(zèng)款投資，以在NITIAayog在印度建立首個(gè)多學(xué)科責(zé)任AI中心——IIT-Madras[47]。全球人工智能伙伴關(guān)系（GPAI）峰會(huì)于2023年12月在新德里舉行，匯聚了來(lái)自科學(xué)、工業(yè)、民間社會(huì)、政府、國(guó)際組織和學(xué)術(shù)界的專(zhuān)家。峰會(huì)旨在促進(jìn)國(guó)際社會(huì)在人工智能相關(guān)優(yōu)先事項(xiàng)上的合作。在2023-2024年度的聯(lián)邦預(yù)算中，宣布建立三個(gè)卓越中心（COEs）專(zhuān)注于人工智能，其愿景為“打造印度人工智能，讓人工智能為印度服務(wù)”。SETS|XAI在網(wǎng)絡(luò)安全領(lǐng)域本報(bào)告來(lái)源于三個(gè)皮匠報(bào)告站（），由用戶(hù)Id:879887下載，文檔Id:618526，下載日期:2025-0國(guó)家級(jí)努力產(chǎn)生了關(guān)于人工智能的幾份報(bào)告，突出了其在數(shù)字印度框架下的潛力。NITIAayog發(fā)起的ec4AI目前，在網(wǎng)絡(luò)安全領(lǐng)域，盡管該領(lǐng)域正在進(jìn)行研究，但仍缺乏關(guān)于可解釋人工智能（XAI）的精確國(guó)家標(biāo)準(zhǔn)、政策或框架。實(shí)施此類(lèi)標(biāo)準(zhǔn)將揭示復(fù)雜數(shù)據(jù)模型的工作原理，增強(qiáng)對(duì)AI決策的信任，并推動(dòng)負(fù)責(zé)任的人工智能模型的發(fā)展。可解釋人工智能是負(fù)責(zé)任人工智能（RAI）的一個(gè)關(guān)鍵方面，它涵蓋了更廣泛的原則，如公平性、無(wú)偏見(jiàn)、透明度、隱私、安全、可靠性、安全性、合規(guī)性、保護(hù)以及積極價(jià)值的強(qiáng)化。雖然使用道德黑客測(cè)試系統(tǒng)是有益的，但旨在破壞系統(tǒng)的惡意攻擊是不受歡迎的。3.3XAI在網(wǎng)絡(luò)安全中應(yīng)用的方法論本節(jié)提供了可解釋人工智能（XAI）在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用調(diào)查，涵蓋了網(wǎng)絡(luò)安全、異常檢測(cè)和微架構(gòu)攻擊。入侵檢測(cè)系統(tǒng)（IDSs）已成為計(jì)算機(jī)網(wǎng)絡(luò)中確保網(wǎng)絡(luò)安全環(huán)境的關(guān)鍵工具。近年來(lái)，IDSs利用了各種分類(lèi)算法，如決策樹(shù)、支持向量機(jī)（SVM）、K-最近鄰（KNN）、樸素貝葉斯分類(lèi)器、深度神經(jīng)網(wǎng)絡(luò)（DNN）、卷積神經(jīng)網(wǎng)絡(luò)（CNN）（RNN）、自編碼器等，以檢測(cè)入侵。對(duì)檢測(cè)到的入侵的預(yù)測(cè)提供解釋至關(guān)重要，這有助于理解不同類(lèi)型攻擊的具體特征。實(shí)現(xiàn)了用于執(zhí)行入侵檢測(cè)的兩階段模型[48]。在第一階段，XGBoost（eXtremeentBoost）模型結(jié)合SHAP解釋框架，為第一階段監(jiān)督學(xué)習(xí)模型的結(jié)果提供解釋。在第二階段，從第一階段獲得的解釋被用于訓(xùn)練自動(dòng)編碼器，以使模型能夠?qū)α闳展艋蛭匆?jiàn)過(guò)攻擊取得良好的效果。模型被入侵檢測(cè)系統(tǒng)（IDS）錯(cuò)誤分類(lèi)的原因在[49]原因的解釋有助于決定未來(lái)對(duì)抗攻擊的步驟。對(duì)抗機(jī)器學(xué)習(xí)技術(shù)被用于生成由訓(xùn)練分類(lèi)器做出的錯(cuò)誤估計(jì)的解釋。對(duì)抗方法涉及修改錯(cuò)誤分類(lèi)的樣本，直到模型將正確的類(lèi)別分配。修改后的樣本與真實(shí)樣本之間的差異被用來(lái)說(shuō)明導(dǎo)致錯(cuò)誤分類(lèi)的主要特征。在網(wǎng)絡(luò)安全方面，數(shù)據(jù)驅(qū)動(dòng)模型的誤報(bào)輸出可能導(dǎo)致整個(gè)系統(tǒng)的泄露和損害。鑒于這系統(tǒng)的模型。所提出的模型使用兩個(gè)獨(dú)立的模塊來(lái)提供關(guān)于系統(tǒng)決策的易于理解答案，同時(shí)達(dá)到盡可能高的準(zhǔn)確性[50]。本研究的SHAP框架本地解釋被用于提供對(duì)每個(gè)特征影響的詳細(xì)信息，以幫助對(duì)入侵檢測(cè)系統(tǒng)（IDS）進(jìn)行決策。全局解釋提取了重要的特征，并探索了特征值與特定類(lèi)型攻擊之間的關(guān)系[51]。XAI技術(shù)被用于提升網(wǎng)絡(luò)安全背景下腳手架攻擊的檢測(cè)與防御[52]。在文獻(xiàn)[53]產(chǎn)生影響的最為相關(guān)的輸入特征。深度學(xué)習(xí)技術(shù)在安全應(yīng)用中得到了應(yīng)用，例如惡意軟件分類(lèi)、二進(jìn)制逆向工程，這些應(yīng)用在決策過(guò)程中缺乏透明度。大多數(shù)模型，如LIME，然而，在大多數(shù)復(fù)雜的安全問(wèn)題中，這導(dǎo)致了不準(zhǔn)確的解釋[54]。介紹了一種名為“使用非線性逼近的局部解釋方法”（LEMNA）的模型，該模型包括混合回歸模型，用于考慮線性和非線性決策邊界，以提高復(fù)雜安全應(yīng)用的局部解釋保真度。融合Lasso技術(shù)被集成以捕捉特征依賴(lài)性。所提出的LEMNA模型被證明有助于通過(guò)解釋分類(lèi)器如何做出正確決策來(lái)建立TRUST。LEMNA用于解釋基于異常的入侵檢測(cè)系統(tǒng)（IDS）[55]的輸出。通過(guò)考慮有助于預(yù)測(cè)每個(gè)特征對(duì)預(yù)測(cè)貢獻(xiàn)的得分。基于決策樹(shù)的自動(dòng)編碼器模型在[56]過(guò)計(jì)算不同屬性值之間的相關(guān)性來(lái)實(shí)現(xiàn)，對(duì)模型做出的預(yù)測(cè)進(jìn)行解釋。提出了一種使用深度神經(jīng)網(wǎng)絡(luò)（DNN）進(jìn)行異常檢測(cè)的框架[57]。層級(jí)相關(guān)性傳播（LRP）用于分解DNN測(cè)異常的貢獻(xiàn)。該系統(tǒng)設(shè)計(jì)得能夠提供預(yù)測(cè)的置信度分?jǐn)?shù)，并對(duì)檢測(cè)到的異常提供文本描述。隨著每年釣魚(yú)攻擊的增多，LIME和EBM等可解釋框架被用于將網(wǎng)址分類(lèi)為釣魚(yú)或合法，并提供相應(yīng)的解釋[58]。LIME和顯著性圖被用來(lái)解釋AI模型在基于微架構(gòu)的網(wǎng)站指紋攻擊決策中的決策過(guò)程[59]。可解釋機(jī)器學(xué)習(xí)框架可解釋性指的是理解輸入與輸出之間關(guān)系的能力。另一方面，可解釋性涉及以人類(lèi)可以理解的方式闡明模型的輸出。模型的可解釋性一般分為兩類(lèi)：全局可解釋性和局部可解釋性。全局可解釋性使用戶(hù)能夠理解目標(biāo)結(jié)果的分布與特征之間的關(guān)系。同時(shí)，局部可解釋性為特定輸入數(shù)據(jù)點(diǎn)上的預(yù)測(cè)提供解釋。本節(jié)重點(diǎn)介紹了幾個(gè)關(guān)鍵框架，這些框架提供了對(duì)模型預(yù)測(cè)的洞察。LIME：局部可解釋模型無(wú)關(guān)解釋本地代理模型是可解釋模型，用于解釋機(jī)器學(xué)習(xí)黑盒模型的個(gè)別預(yù)測(cè)[60]。當(dāng)輸入數(shù)據(jù)被修改并作為機(jī)器學(xué)習(xí)模型的輸入時(shí)，會(huì)測(cè)試預(yù)測(cè)的變化。這種變化很小，因此仍然接近原始數(shù)據(jù)點(diǎn)。LIME創(chuàng)建了一個(gè)新的數(shù)據(jù)集，包括擾動(dòng)樣本及其對(duì)應(yīng)黑盒模型的預(yù)測(cè)。然后，它在這個(gè)數(shù)據(jù)集上訓(xùn)練一個(gè)可解釋模型，權(quán)重根據(jù)樣本實(shí)例與感興趣實(shí)例的鄰近性分配。SHAP（SHapleyAdditiveexPlanation）值：Shapley加性解釋?zhuān)⊿HAP）是一個(gè)統(tǒng)一的框架，通過(guò)Shapley的預(yù)測(cè)結(jié)果[61]。Shapley值基于博弈論和局部解釋思想的統(tǒng)一。Shapley值表示相關(guān)特征對(duì)預(yù)測(cè)的影響。KernelShap，一種從線性LIME擴(kuò)展和適應(yīng)的方法，被引入來(lái)計(jì)算Shapley值，以避免Shapley值對(duì)于許多特征變得難以處理[60]。其他變體被提出以獲得基于不同類(lèi)型模型的Shapley值，例如樹(shù)SHAP、深度SHAP、低階SHAP、線性SHAP和最大SHAP[61]。在兩個(gè)數(shù)據(jù)集上使用深度學(xué)習(xí)模型，對(duì)兩種主要解釋器/可解釋方法LIME和SHAP和可分離性方面，SHAP的表現(xiàn)略?xún)?yōu)于LIME[62]。SHAP產(chǎn)生與人類(lèi)解釋相一致的解釋?zhuān)S著特征的增加，其計(jì)算成本較高。隨著聯(lián)盟數(shù)量的增長(zhǎng)，SHAP的計(jì)算工作量呈指數(shù)級(jí)增加。而LIME的計(jì)算成本相對(duì)較低，盡管具有更高的特征數(shù)量。LIME和SHAP模型是替代模型。它們通過(guò)改變輸入來(lái)建模預(yù)測(cè)的變化。它們可以……理解到，如果通過(guò)改變變量的值，模型預(yù)測(cè)變化不大，那么感興趣的變量在預(yù)測(cè)中不起主要作用。錨定錨算法，由提出LIME算法的同一研究者團(tuán)隊(duì)在[63]中引入。它是LIME的擴(kuò)展，通過(guò)件。錨解決了局部解釋方法LIME的不足，LIME錨定器結(jié)合了強(qiáng)化學(xué)習(xí)技術(shù)和圖搜索算法，以最小化模型調(diào)用次數(shù)和所需的運(yùn)行時(shí)間，同時(shí)從局部最優(yōu)解中恢復(fù)。與LIME的代理模型不同，得出的解釋以易于理解的IF-THEN規(guī)則表達(dá)，被稱(chēng)為錨定器。簡(jiǎn)化解釋?zhuān)‥xplainLikeI’m5）ELI5[64]Python包，旨在解釋黑盒機(jī)器學(xué)習(xí)（各種回歸和分類(lèi)模型）模型。ELI5類(lèi)似于LIME（但ELI5不是模型無(wú)關(guān)的），它提供了與每個(gè)特征相關(guān)的權(quán)重，以描述該特征在機(jī)器學(xué)習(xí)模型中的重要性。ELI5已經(jīng)實(shí)現(xiàn)了大多數(shù)常用的基于Python器學(xué)習(xí)包，如Scikit-learn、Keras和XGBoost。滑板運(yùn)動(dòng)員滑板者[65]是另一個(gè)能夠揭示模型內(nèi)部決策策略的Python于探索和理解機(jī)器學(xué)習(xí)模型的行為，以及描述神秘且不明確的機(jī)器學(xué)習(xí)模型[66]。基于本地規(guī)則的解釋?zhuān)↙ORE）這是一個(gè)用于解釋黑盒實(shí)例的框架。該模型采用決策樹(shù)進(jìn)行局部解釋的提取。LORE是一種基于局部、事后和模型無(wú)關(guān)的方法[67]。XAI在網(wǎng)絡(luò)安全領(lǐng)域的挑戰(zhàn)皇家學(xué)會(huì)[68]的報(bào)告正確地指出了人工智能中可解釋性的局限性。可解釋性有助于提對(duì)手提供了機(jī)會(huì)，在輸入的小擾動(dòng)上操縱分類(lèi)器的輸出，以隱藏系統(tǒng)的偏差。提供100％準(zhǔn)確的解釋以增強(qiáng)AI作為輸入來(lái)克隆AI黑盒。這影響了原始AI模型的所有權(quán)。因此，應(yīng)謹(jǐn)慎行事。因此，僅解釋性本身并不能成為萬(wàn)能的解決方案。[70]對(duì)XAI模型構(gòu)成的威脅由于XAI大致分為兩大領(lǐng)域：1)，2)對(duì)XAI模型的對(duì)抗攻擊盡管在網(wǎng)絡(luò)安全領(lǐng)域中，XAI（可解釋人工智能）承諾透明性和可解釋性，但這些XAI模型容易受到網(wǎng)絡(luò)攻擊。在[71]中引入了一類(lèi)新的攻擊，稱(chēng)為ADV2，誤導(dǎo)性的對(duì)抗輸入來(lái)欺騙目標(biāo)DNN及其耦合的解釋器。在[72]中，描述了設(shè)計(jì)一種新型黑盒攻擊，用于分析基于梯度的XAI方法的一致性、正確性和置信度安全性屬性。提出的方法可以用于設(shè)計(jì)安全的魯棒XAI方法，它專(zhuān)注于針對(duì)兩類(lèi)敵人的黑盒定向攻擊：一是破壞基礎(chǔ)分類(lèi)器和解釋器的完整性，另一類(lèi)是僅攻擊解釋器而不改變分類(lèi)器的預(yù)測(cè)。他們提出了一個(gè)與網(wǎng)絡(luò)安全相關(guān)的分類(lèi)法。提出了三種不同的方法，其中，X-PLAIN/數(shù)據(jù)的解釋?zhuān)琤)XSP-PLAIN，c)LAIN給定輸入，可以生成與之相似的輸入，兩者在視覺(jué)上幾乎無(wú)法區(qū)分，都被分配了相同的預(yù)測(cè)標(biāo)簽，但它們具有非常不同的解釋[73]。因此，其顯著性歸因和可解釋信息變得不那么可靠。此外，解釋甚至可以被任意操控[74]。在模型的可解釋模塊以及人工智能模型免受網(wǎng)絡(luò)攻擊，通過(guò)適當(dāng)?shù)姆烙椒ㄗ兊猛瑯又匾?duì)解釋的對(duì)抗性使用隱私和透明度是可信機(jī)器學(xué)習(xí)的兩個(gè)基石。提供解釋與預(yù)測(cè)相結(jié)合可減輕可能損害敏感輸入訓(xùn)練數(shù)據(jù)和模型本身[75,76]因此，可解釋機(jī)器學(xué)習(xí)本身可能面臨隱私風(fēng)險(xiǎn)。使用解釋從模型預(yù)測(cè)中重建訓(xùn)練數(shù)據(jù)的方法，通常被稱(chēng)為模型逆攻擊，已被探討[77]。展示了一項(xiàng)實(shí)驗(yàn)，演示了敵方如何使用基于梯度的解釋來(lái)執(zhí)行成員推斷攻擊，以預(yù)測(cè)敵方可訪問(wèn)的輸入數(shù)據(jù)是否為訓(xùn)練數(shù)據(jù)的一部分[78,79]。同時(shí)也證明，敵方可以通過(guò)生成的解釋從模型預(yù)測(cè)中提取結(jié)構(gòu)和模型參數(shù)[79]。至關(guān)重要的是，通過(guò)僅授權(quán)實(shí)體訪問(wèn)來(lái)保護(hù)XAI模型免受攻擊者的侵害。未來(lái)方向不透明的系統(tǒng)運(yùn)行令用戶(hù)不滿(mǎn)意，因此可解釋性對(duì)于確保人工智能模型的可信度至關(guān)重要。XAI對(duì)于促進(jìn)人工智能的道德和公平使用也至關(guān)重要。可解釋性有助于監(jiān)督遵守道德原則。認(rèn)識(shí)到XAI對(duì)可信性的重要性，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）于2021年發(fā)布了一份題為“可解釋人工智能的四個(gè)原則”的報(bào)告，概述了XAI系統(tǒng)的基本屬性和原則：解釋、意義、解釋準(zhǔn)確性和知識(shí)限制[80]。對(duì)XAI模型及其適用性的研究現(xiàn)有可解釋人工智能模型需要對(duì)其在各類(lèi)網(wǎng)絡(luò)安全應(yīng)用中的適用性進(jìn)行評(píng)估。評(píng)估時(shí)，應(yīng)考慮在有無(wú)XAI模型的情況下可能發(fā)生的網(wǎng)絡(luò)攻擊類(lèi)型。此外，還必須考察XAI模型對(duì)實(shí)時(shí)需求和關(guān)鍵基礎(chǔ)設(shè)施安全應(yīng)用中結(jié)果準(zhǔn)確性的影響。需要一種方法來(lái)評(píng)估模型在目標(biāo)領(lǐng)域的適用性以及驗(yàn)證這些模型。研究應(yīng)專(zhuān)注于保護(hù)隱私的XAI方法，以防止對(duì)手利用解釋。新開(kāi)發(fā)工具應(yīng)接受研究者的同行評(píng)審，以評(píng)估其可用性。同時(shí)，也有必要比較現(xiàn)有XAI模型在描述準(zhǔn)確性、稀疏性和效率等方面適用于安全應(yīng)用的適用性。創(chuàng)建高質(zhì)量數(shù)據(jù)集將對(duì)網(wǎng)絡(luò)安全應(yīng)用中XAI方法的有效性產(chǎn)生重大影響。研究應(yīng)關(guān)注平衡XAI在網(wǎng)絡(luò)安全中的性能和可解釋性。此外，保護(hù)數(shù)據(jù)和XAI生成的解釋免受攻擊者的侵害以及防范對(duì)抗性攻擊至關(guān)重要。一個(gè)用于安全應(yīng)用的可解釋人工智能軟件工具包可以通過(guò)與研發(fā)、學(xué)術(shù)界和工業(yè)界的合作開(kāi)發(fā)。此工具包將指導(dǎo)用戶(hù)在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用XAI，并確保用于各種應(yīng)用中的XAI模型的安全性。測(cè)試與驗(yàn)證類(lèi)似于OpenSSL，是否可能存在開(kāi)放的XAI，其中所有內(nèi)部狀態(tài)都是可見(jiàn)的。對(duì)正在開(kāi)發(fā)的系統(tǒng)/人工智能模型進(jìn)行測(cè)試可以通過(guò)測(cè)試向量（可以稱(chēng)之為注入偏差的數(shù)據(jù)集、真實(shí)的好數(shù)據(jù)集等）進(jìn)行，正如對(duì)任何系統(tǒng)一樣。可以引入擾動(dòng)來(lái)觀察系統(tǒng)如何反應(yīng)。XAI策略標(biāo)準(zhǔn)化政策框架可以提出一個(gè)適合于印度基于XAI的網(wǎng)絡(luò)安全框架和治理模式。i)（少數(shù)系統(tǒng)可能需要較低水平的透明度，而其他系統(tǒng)可能需要較高的透明度，這完全基于應(yīng)用），ii)（評(píng)估可解釋安全性方法）多方面方法（必須在系統(tǒng)的整個(gè)生命周期設(shè)計(jì)階段提供解釋?zhuān)ㄔO(shè)計(jì)、實(shí)施、利用、分析和更新階段），可以考慮。摘要本文討論了……的重要性可解釋人工智能（XAI）在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用，強(qiáng)調(diào)國(guó)內(nèi)外視角。XAI可以檢測(cè)并減輕AI模型中的偏差，從而實(shí)現(xiàn)更公平、更可靠的安全措施。它通過(guò)提供對(duì)AI動(dòng)安全系統(tǒng)的信心至關(guān)重要。此外，XAI通過(guò)幫助識(shí)別誤報(bào)和漏報(bào)來(lái)提高安全措施的正確性和可靠性。參考文獻(xiàn)/business-functions/quantumblack/our-見(jiàn)解/全球調(diào)查/2021年人工智能的狀態(tài) Doran,D.,Schulz,S.Besold,T.R.,新的視角概念化，“arXivarXiv:1710.00794，2017”。Gunning,D.和Aha,D.，“DARPA的可解釋人工智能節(jié)目，“人工智能雜志第40卷第2期（2019年）：44-58。”https://www.nasscom.in/knowledge-center/publications/ai-powered-tech-服務(wù)路線圖——面向未來(lái)準(zhǔn)備的企業(yè)/2022/10/26/third-quarter-of-2022-reveals- 網(wǎng)絡(luò)攻擊增加/ ]

Nadeem,A.,Vos,D.,Cao,C.,Pajola,L.,Dieck,S.,Baumgartner,R.,&V:r,可解釋機(jī)器學(xué)習(xí)在計(jì)算機(jī)安全應(yīng)用中的解釋 arXiv預(yù)印本arXiv:2208.1060,.

Sok:斯里瓦斯塔瓦，G.，賈韋里，R.H.，巴塔查里亞，S.，潘達(dá)亞，S.，馬達(dá)昆塔尹德里，G.，霍爾，J.G.，阿拉扎布，M.和加德卡AIT..絡(luò)安全領(lǐng)域的應(yīng)用：現(xiàn)狀《藝術(shù)、挑戰(zhàn)、開(kāi)放問(wèn)題和未來(lái)方向》 arXiv預(yù)印arXiv:2206.0358,.Rjoub,G.,Bentahar,J.,Wahab,O.A.,Mizouni,R.,Song,A.,Cohen,R.,Otrok,H.,andMourad,A.,“關(guān)于網(wǎng)絡(luò)安全的可解釋人工智能調(diào)查”，IEEE網(wǎng)絡(luò)與服務(wù)管理匯刊，2023.Hariharan,S.,Velicheti,A.,Anagha,A.S.,Thomas,C.Balakrishnan,N.，“網(wǎng)絡(luò)安全中的可解釋人工智能：簡(jiǎn)短回顧”，載于2021年第4（ISEA-ISAP）（第1-12頁(yè)），2021年。Capuano,N.,Fenza,G.,Loia,V.Stanzione,C.，“可解釋的人工智能”在網(wǎng)絡(luò)安全：調(diào)查，“IEEEAccess”，第10卷，第93575-93600頁(yè)，2022年。Ibrahim,A.,Mejri,M.Jaafar,F.，““關(guān)于可信垃圾郵件檢測(cè)”，IEEE國(guó)際網(wǎng)絡(luò)安全會(huì)議安全與韌性（CSR）（第160-167頁(yè)），2023年。Vigano,L.,andMagazzeni,D.,“可解釋的安全”，收錄于 2020IEEE歐洲區(qū)研討會(huì)：安全和隱私工作坊（歐洲S&PW） (第293-300頁(yè))，2020年。Charmet,F.,Tanuwidjaja,H.C.,Ayoubi,S.,Gimenez,P.F.,Han,Y.,Jmila,H.,Blanc,G.Takahashi,T.Zhang,Z.，“網(wǎng)絡(luò)安全中的可解釋人工智能：一種綜述與展望”文獻(xiàn)綜述，“電信年鑒”，第1-24頁(yè)，2022年。Samtani,S.,Chen,H.,Kantarcioglu,M.和Thuraisingham,B.，“可解釋的人工智能用于網(wǎng)絡(luò)威脅情報(bào)（XAI-CTI），” IEEE交易在可靠與安全計(jì)算領(lǐng)域 ,19（04），第2149-2150頁(yè)，2022年。Bhusal,D.Rastogi,N.，“SoK：在安全監(jiān)控中建模可解釋性”信任、隱私和可解釋性，”arXiv預(yù)印本arXiv:2210.17376，2022Vigano,L.,andMagazzeni,D.,“可解釋的安全”，收錄于 2020IEEE歐洲區(qū)研討會(huì)：安全和隱私工作坊（歐洲S&PW） (第293-300頁(yè))，2020年。EmmanuelProuff,RémiStrullu,RyadBenadjila,EleonoraCagli,andCécileDumas.2018年，關(guān)于側(cè)信道分析中深度學(xué)習(xí)技術(shù)的探究簡(jiǎn)介：ASCAD數(shù)據(jù)庫(kù)。IACR密碼學(xué)電子預(yù)印本檔案，2018年（2018），第53號(hào)Picek,S.,Perin,G.,Mariot,L.,Wu,L.,&Batina,L.(2023).Sok:，55(11)，1-35。Golder,A.,Bhat,A.,&Raychowdhury,A.(2022,June).Yap,T.,Benamira,A.,Bhasin,S.,&Peyrin,T.用SAT方程的可解釋神經(jīng)網(wǎng)絡(luò)”，《加密硬件與嵌入式系統(tǒng)密碼學(xué)交易》，第24-53頁(yè)，2023年。Perin,G.,Wu,L.,&Picek,S.,層狀可解釋性”，密碼學(xué)電子檔案，2022年。https:///about-us/darpa-perspective-on-ai]]]]]

/program/explainable-artificial-intelligence /policy/ai-precision-regulation/ /downloads/cas/4DPJK92W/en/articles/what-it-takes-to-make-ai-safe-and- /en/documents/4020030“可解釋人工智能：基礎(chǔ)知識(shí)政策簡(jiǎn)報(bào)”，英國(guó)皇家學(xué)會(huì)，2019年（https://royal/-/media/policy/projects/explainable-ai/AI-and-interpretability-policy-briefing.pdf)/system/files/documents/2022/03/17/AI-RMF- 1stdraft.pdfhttps:///downloads/cas/GVAGA3JP人工智能?chē)?guó)家戰(zhàn)略#AIFORALL，討論稿，印度政府國(guó)家發(fā)展研究所，2018年月。網(wǎng)絡(luò)安全、安全、法律和倫理問(wèn)題，印度電子和信息技術(shù)部（MeitY），府。來(lái)源：.in/artificial-intelligence-committees-reports人工智能任務(wù)小組，印度商務(wù)部和工業(yè)部。來(lái)源：.in/whats-new/report-task-force-artificial-intelligence .in/psa-prod/publication/Taskforce-Report-CybSec4AI-SETS.pdf.in/raise https://www.gpai.ai/projects/responsible-ai/ https://innovateindia.mygov.in/yuvai/https://responsibleaiforyouth.negd.in/home.in/sites/default/files/2021-02/Responsible-AI- 22022021.pdf.in/sites/default/files/2021-08/Part2-Responsible-AI- 12082021.pdf.in/sites/default/files/2022- 11/Ai_for_All_2022_02112022_0.pdfhttps://nasscom.in/responsible-ai/.in/news/nasscom-launched-the-responsible-ai-hub-and-資源包 https://nasscom.in/knowledge-center/publications/nasscom-ai-adoption-index.in/PressReleasePage.aspx?PRID=1631676https://oecd.ai/en/wonk/an-introduction-to-the-global-partnership-on-ais- 工作于負(fù)責(zé)任的AI https://www.iitm.ac.in/happenings/press-releases-and-coverages/google-印度理工學(xué)院馬德拉斯人工智能研究中心獲得100萬(wàn)英鎊資助Barnard,P.,Marchetti,N.,DaSilva,L.A.，“通過(guò)可解釋人工智能（XAI）現(xiàn)穩(wěn)健的網(wǎng)絡(luò)入侵檢測(cè)”，IEEE2022.Marino,D.L.,Wickramasinghe,C.S.,andManic,M.,解釋人工智能的對(duì)抗性方法，”載于2018年IEEE工業(yè)電子學(xué)會(huì)第44屆年會(huì)2018），第3237-3243頁(yè)，2018年。Szczepański,M.,Chora?,M.,Pawlicki,M.Kozik,R.,\"通過(guò)混合Oracle-explainer方法實(shí)現(xiàn)入侵檢測(cè)系統(tǒng)的可解釋性\",2020年國(guó)際神經(jīng)網(wǎng)絡(luò)聯(lián)合會(huì)議，2020年。王明，鄭克，楊陽(yáng)，王霞，“入侵檢測(cè)系統(tǒng)的可解釋機(jī)器學(xué)習(xí)框架”，IEEEss，第8卷，第73127頁(yè)至第73141頁(yè)，2020年。Senevirathna,Thulitha,BartlomiejSiniarski,MadhusankaLiyanage,and\"網(wǎng)絡(luò)入侵檢測(cè)中欺騙性的后驗(yàn)可解釋人工智能（XAI）方法\檢測(cè).\"IEEE第二十一屆消費(fèi)者通信與網(wǎng)絡(luò)會(huì)議（CCNC），第107-112頁(yè)，2024年。Amarasinghe,K.Manic,M.，“提升用戶(hù)對(duì)深度神經(jīng)網(wǎng)絡(luò)的信任度”基于入侵檢測(cè)系統(tǒng)（“basedintrusiondetectionsystems,”InIECON2018-44thAnnualConfeIEEE（第3262-3268頁(yè)），2018年。郭偉，穆迪，徐杰，蘇鵬，王剛，邢欣，“Lemna：解釋基于深度學(xué)習(xí)的安全應(yīng)用”，2018年ACMSIGSAC計(jì)算機(jī)與通信安全會(huì)議論文集，第364-379頁(yè)，2018李，H.，魏，F(xiàn).和胡H.，“基于IDS和SDN，“ACM國(guó)際安全工作坊論文集”在軟件定義網(wǎng)絡(luò)和網(wǎng)絡(luò)功能虛擬化，第1316頁(yè)，2019年。Aguilar,D.L.,Perez,M.A.M.,Loyola-Gonzalez,O.,Choo,K.K.R.,andBucheli-Susarrey,E.,“Towardsaninterpretableautoencoder:adecisiontree-based自編碼器及其在異常檢測(cè)中的應(yīng)用，《IEEE《可靠的和安全的計(jì)算》，2022年。Amarasinghe,K.,Kenney,K.Manic,M.，“網(wǎng)絡(luò)基礎(chǔ)異常檢測(cè)，”第11屆國(guó)際人類(lèi)系統(tǒng)交互（HSI），第311-317頁(yè)，2018年。Hernandes,PauloR.Galego,CamilaP.Floret,KatiaF.CardozoDeAlmeida,ViníciusCamargoDaSilva,Jo?oPauloPapa,andKeltonA.PontaraDaCosta.\"Phishing基于URL的XAI技術(shù)檢測(cè)\"，IEEE系列會(huì)議計(jì)算智能（SSCI），第01-06頁(yè)，2021年。Gulmezoglu,B.,“基于XAIIEEETransactionsonDependableandSecureComputing，2021.Ribeiro,M.T.,Singh,S.,andGuestrin,C.,\"WhyshouldItrustyou?Explainingthepredictionsofanyclassifier,”P(pán)roceedingsofthe22ndACMSIGKDDinternationalconferenceonknow