(一)人工智能安全人工智能迎來新的發展浪潮。不過，技術進步往往是一把“雙刃劍”(二)人工智能數據安全內涵手段對專業人員分析判斷的高度依賴，實現對動態變化數據安全風險的自動和智能監測防(三)人工智能數據安全體系人工智能數據安全治理是應對人工智能數據安全風險和促進人工智能數據安全應用的體系(一)人工智能自身面臨的數據安全風險2019年4月，比利時魯汶大學研究人員發現，借助一張設計的打印圖案就能夠避開人工智原因常常導致人工智能算法泛化能力差，智能系統在動態環境實際使用中決策可能出現錯信息映射關系，在沒有算法模型任何先驗知識(訓練數據、模型參數等)情況下，構造出與相關組件缺乏嚴格的測試管理和安全認證，存在未知安全漏洞。近年來，(二)人工智能應用導致的數據安全風險環、智能音箱)和智能系統(如生物特征識別系統、智能醫療系統)的應用普及，人工智能2018年8月，騰訊安全團隊發現亞馬遜智能音箱后門，可實現遠程竊聽并錄音。2019年2月，我國人臉識別公司深網視界曝出數據泄露事件，超過250萬人數據、680萬條記錄被泄露，其中包括身份證信息、人臉識別圖像及GPS位置記錄等。鑒于對個人隱私獲取的擔憂，智能安防的應用在歐美國家存在較大爭議，2019年7月，繼舊金山之后，薩默維爾市成為在社會招聘領域，美國Kronos公司的人工智能雇傭輔助系統讓少數族裔、女性或者有心理疾病史的人更難找到工作；在金融征信領域，科技金融公司Zest的人工智能信用評估平臺ZAML,采集分析用戶網絡行為來判定用戶的信用值，以前錯誤判定不能熟練使用英語的移2018年，我國滴滴、攜程等均爆出類似事件，根據用戶特征實現對不同客戶的區別定價，2018年曝光的“Facebook數據泄露”事件中，美國劍橋分析公司利用廣告定向、行為分析但是，人工智能技術已實現對驗證碼的有效破解。美國Vicarious公司開發模型的驗證碼識別算法，在標準的reCAPTCHA測試中，可成功解開三分之二的驗證問題4。2017年，我國浙江省破獲了全國第一例人工智能犯罪，案件中黑客利用人工智能識別圖片驗證碼的正確率高達95%以上，在此平臺被打掉前的3個月已經提供驗證碼識別服務259 (GAN)的“DeepFakes”(深度偽造)技術應用，使得“換臉”虛假視頻的制作門檻不斷降低，大量深度偽造數據內容開始涌現。我國也出現了徐錦江版“海王”,逼真虛假視頻。當前，深度偽造2.0概念已被提出，相比于之前的換臉，深度偽造2.0可模2019年6月，Facebook一段扎克伯格的假視頻傳播迅速，視頻里的人從長相、聲音、穿衣、2019年6月，因為擔心深度偽造對2020年美國大選的災難性影響，美國眾議院已經開始考(三)人工智能應用加劇的數據治理挑戰的NB-loT智慧煙感解決方案白皮書的部分內容介紹，若想獲取全部內容，可注重千家智客微信公眾號，回復：“白皮書”即可下載本方案文件。還在等什么呢智慧照明標準體系框架研究報告(二)2019年第二十屆中國國際建筑智能化峰會將于2019年10月30日至12月11日期間，分別與此同時，2018年3月，美國發布《澄清境外數據的合法使用法案》(CLOUD法案),為美國會議室也有類似的場景，比如設置開會討論模式，PPT演示模式，中場休(一)人工智能與數據安全治理人工智能和數據安全治理互利互補，人工以神經網絡為代表的的深度學習技術的發展能夠大力提升數據分類分級精準度和數據內容識別準確率。例如，2012年神經網絡算法只有5層，而2018年能夠做到1200多層，在人2018年李開復在《人工智能》一書中指出，人工智能將在15年內具備取代40-50%崗位的例如，IBM的大數據安全智能系統實時使用人工智能技術實現了數據的效率提升超過40%,數據準備周期從月降為小時級，大數據分析應用上線周期從月降到周，同時高效數據治理也提升了數據質量，高質量數據占比提升40%以上。近年來，隨著政府、企業對數據質量管理的重視，數據質量工具市場穩步增長。據Gartner發布的2018年數據庫魔力象限報告顯示，2017年數據質量軟件工具市場達到16.1億美元，比2016年增長11.6%。數據安全治理是提升數據質量的必要途徑，是促進人工智能全面發(二)人工智能在數據安全治理中的應用2018年5月，Gartner發布數據安全治理(DataSecurityGovernance,簡稱DSG)框架，提出Gartner指出，直接從數據生命周期環節入手并不合理，需要先確定組織架構2018年5月，中國網信聯盟指導下的數據安全治理委員會發布《數據安全治理白皮書》,提例如，2017年12月，百分點集團發布智能政府決策系統DeepGovernor,該系統匯聚行業專家知識，結合6大類50余種社會經濟發展綜合決策模型，推動政府科學決策水平和決策能億信華辰的數據質量管理平臺EsDataClean,Informatica的數據治理工具DataDirector以及IBM的通用數據治理產品StewardshipCenter等均在業界處于領先地位，通過人工智能技術3、數據活動安全保護一是數據本體安全保護方面，包括數據脫敏、數據防泄漏、數據數據防泄漏方面，加州伯克利大學團隊使用人工智能技術開發了一款手機APP,能夠自動掃描手機相冊內的裸露照片，改為加設密碼存在該APP中，并進一步從相冊與云空間刪除，邊界安全防護方面，2018年11月，華為發布業界首款智能防火墻，內置基于人工智能的高界防護，威脅檢出率達到99%以上。2019年4月，新華三集團發布人工智能防火墻業界新品，采用高性能的雙GPU加雙CPU的用神經網絡算法和算法模型云端訓練自主研發了騰訊TRP-Al反病毒引擎。該引擎具有抗免殺、高性能、實時防護、可檢測ODay病毒等優勢，可自動化訓練，大大縮小了查殺周期和運營成本，可使病毒檢測覆蓋率達到90%,檢測準確率高達99%。2017年，IBM發布用于網絡安全領域的“沃森”人工智能系統，能夠提供云和端威脅的感四是數據安全風險評估，經過訓練后的神經網絡算法能夠解決具有相似特點的風險評估問結合用戶行為畫像和數據安全態勢圖譜，人工智能技術能夠對數據安全事件的源頭進行追良信息治理方面，百度推出的“人工智能+廣告打假”僅2018年上半年處理了145.4億條有害信息，其中占比居前兩位的是淫穢色情類和賭博類，分別為51.04%和16.63%。2019年阿里巴巴推出“人工智能謠言粉碎機”,通過度析用戶畫像、與知識配驗證等步驟實現對新聞內容的智能可信度識別，在特定場景中的準確率模訓練，初步實現基于人工智能技術的不良信息檢測能力，識別準確率在9方式提升了17%,識別速度是傳統方式的110倍。2018年2月，英國內政部宣布了一項新精確度達到99.995%。某銀行線上B2C交易欺詐防控準確率達83%,較傳統專家規則方式提升316%,比專家規則多識別欺詐交易58.8%,降低30%的交易案宗審核成本。阿里自研的“錢盾”反詐預警系統，利用人工智能技術助力警方預警攔截詐騙事件，9個月內勸阻8.7萬人，止損6.9億元。中為的識別和預警，其中涉詐網站識別準確率達到95%,涉詐賬號識別準確率達到90%,仿冒APP識別準確率達到92%。歐洲市場研究和咨詢服務公司kbvresearch2017年發布場將每年以18%的復合增長率發展，估計2023年將達到209億美元；若以在2023年達到全球20%的GDP來看，中國市場規模將達到大約400億元人民幣，未來人工智能在數據安全例如在數據運營活動的網絡安全防護技術手段方面，人工智能技術并不適用于某些APT攻擊的場景，有些APT攻擊針對性強，攻擊行為的成功往往是孤例，不足以支持海量攻擊樣(一)國內外人工智能數據安全戰略規劃情況一是推進高質量訓練數據集的建設與開放。2016年10月，美國連續發布《為人工智能的未算資源的可訪問性，并開發用于人工智能訓練、測試的公共數據集。2019年2月，美國總2019年6月，美國發布新版《國家人工智能研發與發展戰略計劃》,要求所有機構負責人審2、歐盟：細化人工智能數據規則，注重個人數據與權益保護2018年3月，歐洲政治戰略中心發布《人工智能時代：確立以人為本的歐洲戰略》,戰略中源，設計利于歐洲數據收集、使用和共享的監管方案，確?！锻ㄓ脭祿Ｗo條例》(GDPR)2018年4月，歐盟委員會發布《歐盟人工智能》發展戰略，建議公共政策應鼓勵更廣泛地和保存建議，以及出臺醫療健康數字化轉型政策。2018年12月，為落實《歐盟人工智能戰3、英國：強化數據安全監管，規范數據資源開發利用2016年11月，英國政府科學辦公室發布《人工智能：未來決策制定的機遇與影響》。報告2018年4月，英國政府發布《產業戰略：人工智能領域行動》,提出改進現有的數據基礎設4、日本：構建數據驅動與知識驅動融合型人工智能，鼓勵協同開展數據安全與隱私保護技2018年4月，日本發布第五版《下一代人工智能和機器人核心技術開發計劃》,進行下一代5、印度：充分挖掘本國人工智能發展優勢，注重數據安全和隱私保護2018年6月，印度發布《人工智能國家戰略》報告，指出印度人工智能發展的優勢與問題，6、我國：高度重視數據集建設，推進人工智能安全應用，防范人工一是高度重視基礎數據集建設，推進數據開放。2016年，發改委2017年7月，國務院印發《新一代人工智能發展規劃》,指出“重點建設面向人工智能的公2017年12月，工信部發布《促進新一代人工智能產業發展三年行動計劃(20出“到2020年人工智能產業支撐體系基本建立，具備一定規模的高質量標注數據資源庫、(二)國內外人工智能數據安全倫理規范情況在行業層面。2017年1月，阿西洛馬人工智能23原則形成并發布，霍金、馬斯克等近四千在國家和地區聯盟層面。2018年4月，英國議會發布《英國人工智能發展計劃、能力與志向》,提出了“人工智能不應用于削弱個人、家庭乃至社區的數據權利或隱私”等5項人工2019年4月，歐盟委員會發布了《可信賴人工智能倫理指南》,指出人工智能系統必須確保我國近年來加強人工智能數據安全倫理研究與制定。在企業層面，2019年7月，騰訊、曠保護用戶的個人隱私、保障數據安全。在行業層面，2018年9月，《在國家層面，2019年6月，國家新一代人工智能治理專業委員會發布《新一代人工智能治(三)國內外人工智能數據安全法律制定情況世界主要國家的數2018年5月，歐盟《通用數據保護條例》(GDPR)頒布，建立了用戶個人信息訪問、修正國《2018年加州消費者隱私法案》等紛紛效仿《通用數據保護條例》(GDPR),對數據處理2018年11月，歐盟通過《非個人數據在歐盟境內自由流動框架條例》,致力于為企業和公2018年12月，美國國會通過《開放政府數據法案》,要求聯邦機構必須以“機器可讀”和2019年1月，法國數據保護機構(CNIL)依據《通用數據保護條例》(GDPR)對谷歌開出5000萬歐元罰單。2019年7月，美國聯邦貿易委員會(FTC)對“劍橋分析事件”的Facebook處以50億美元罰款。為了避免個人數據被挖掘和濫用，歐盟《通用數據保護條例》(GDPR)、日本《個人信息保2009年，《刑法修正案(七)》首次將特定主體的個人信息保護義務與責任寫入刑法，規定2019年1月，《電子商務法》正式實施，提出個人信息收集和使用情強化為用戶明示同意等細化要求?，F有法律為人工智能領域數據安全保護提供了基本依(四)國內外人工智能數據安全技術發展情況主要國家積極推進人工智能數據安全技術研一是加大人工智能數據安全相關研究資金投入。2018年9月，美國國防高級研究計劃局 (DARPA)投資20億美元啟動AINext項目，致力于開發第三代人工智能技術。其中，包括露用戶個人數據的情況下更新人工智能算法模型，有效保證數據安全性。谷歌Gboard利用2018年7月，清華大學創業公司瑞萊智慧成立，研究實現減少標注數據數量、決策可解釋、模型安全可靠相關技術，團隊近年來開發的“珠算(ZhuSuan)”概率編程2019年6月，微眾銀行人工智能團隊開源全球首個工業級的聯邦學習框架FATE,并將相關成果貢獻給Linux基金會，加強了我國在人工智能數據安全領域的行(五)國內外人工智能數據安全標準規范情況國際標準化組織積極研究人工智能數關標準，ISO/IECJTC1SC42WG3人工智能可信標準組正在開展人工智能風險管理、人工智能括P7002數據隱私處理、P7004兒童和學生數據治理標準、P7005透明雇主數據治理標準與P7006個人數據人工智能代理標準等。區域和國家標準化組織開始重視人工智能數據安全標準，2019年5月1日，美國國家標準與技術研究院(NIST)發布人工智能標準化計劃綱要，將人工智能數據安全與隱私保護相關我國全國信息安全標準化技術委員會(SAC/TC260)、中國通信標準化協會(CCSA)等標準TC260在生物識別、智能終端、大數據、個人信息保護等領域開展了數據安全CCSA在生物識別、人工智能終端、人工智能服務平臺、數據安全保護