人工智能技術風險研究的國內外文獻綜述目錄TOC\o"1-2"\h\u10594人工智能技術風險研究的國內外文獻綜述 131498一國外研究現狀 122778（一）關于負責任創新的研究 128198（二）關于技術風險的研究 227288（三）關于人工智能技術風險的研究 49868二國內研究現狀 528483（一）關于負責任創新的研究 511795（二）關于技術風險的研究 715031（三）關于人工智能技術風險的研究 8一國外研究現狀（一）關于負責任創新的研究負責任創新是歐美學術界提出的應對“巨挑戰”的新理念。歐洲首次大力推廣“負責任創新”是在2009年啟動的“負責任創新”項目中。近幾年來，負責任創新已經成為荷蘭學術界的主要研究內容，4TU技術與倫理中心及其成員代爾夫特理工大學、特文特大學、埃恩霍溫大學和瓦格寧根大學不僅開展了一系列相關的科研項目，舉辦了多場高層次學術會議，出版了大量學術成果，還開設了相關的研修課程，包括一些在線網絡課程。2003年，哥本哈根商學院的托馬斯·赫爾斯頓（TomasHellstr?m）教授在《系統性的創新與風險：技術評估與負責任創新的挑戰》一文中通過對新興復雜技術的系統性創新形式以及在社會多個層面產生的風險進行分析，從技術評估和風險管理的角度提出了“負責任創新”的一般框架，從而對技術創新與風險進行系統性評估與進一步管理。Hellstr?mT.“SystemicInnovationandRisk:TechnologyAssessmentandtheChallengeofResponsibleInnovation”,TechnologyinSociety,2003,25(3):369-384.2011年，蘇克利夫（HilarySutcliffe）在《負責任的研究與創新報告》中表示，當前負責任創新的研究重點主要集中在以科學技術為基礎的研究與創新，特別是新興技術——納米技術，基因組學，合成生物學和地球工程學等。而醫療、能源開發、人工智能等技術的創新在影響范圍與影響強度方面變得越來越復雜，更具破壞性與全球性Hellstr?mT.“SystemicInnovationandRisk:TechnologyAssessmentandtheChallengeofResponsibleInnovation”,TechnologyinSociety,2003,25(3):369-384.SutcliffeH.“AReportonResponsibleResearch&Innovation”(EB/OL).https://ec.europa.eu/digital-single-market/sites/digital-agenda/files/dae-library/a_report_on_responsible_research_innovation.pdf,2011-05-16.2013年，在“負責任創新的倫理探索：3TU—5TU科技倫理”國際會議中，荷蘭代爾夫特理工大學哲學系教授霍溫（JeroenvandenHoven）探討了負責任創新的倫理問題，明確指出“負責任創新是一種將研究創新與社會需求更好地保持一致的綜合性方法，是研究和創新的重要組成部分”。EuropeanCommission.“Optionsforstrengtheningresponsibleresearchandinnovation”.Luxembourg:EuropeanUnion,2013,5.歐盟委員會在召開“地平線2020”遠景規劃會議時指出，科學技術的負責任創新已成為全球的政治性問題，負責任創新理論可以指導創新并應對不可預測的全球性風險。英國工程與自然科學研究委員會制定了負責任創新的理論框架，用以審查他們資助的一些EuropeanCommission.“Optionsforstrengtheningresponsibleresearchandinnovation”.Luxembourg:EuropeanUnion,2013,5.2013年，在美國正式出版發行了學術期刊《負責任創新》（JournalofResponsibleInnovation），收錄了大量關于“負責任創新”的文章、研究報告以及對當前政治、技術、文化等方面的評論或觀點，主要分析了負責任創新在納米技術、合成生物學、地球工程和人工智能等新興技術的道德倫理和社會復雜性方面的思考與實踐意義，提供更廣泛的負責任創新方法。在著作方面，2013年，理查德·歐文（RichardOwen）、約翰·貝贊特（JohnBessant）和馬吉·海因茨（MaggyHeintz）聯合主編了《負責任創新》OwenR,BessantJ,HeintzM.ResponsibleInnovation:ManagingtheResponsibleEmergenceofScienceandInnovationinSociety.London:JohnWiley&SonsLtd,2013.一書，該書旨在研究負責任創新理論的內涵。這部著作具體分析了“負責任創新”的概念，從“責任”和“創新”兩方面來界定“負責任創新”，并闡述了二十一世紀的創新管理與負責任創新的愿景規劃。同時介紹了一些負責任創新的應用實踐案例，并表示新興科技的風險治理是一項重大挑戰，為了解決技術創新的社會與倫理道德問題提出負責任創新的框架，主要包括四個維度：預測、反思、審議、OwenR,BessantJ,HeintzM.ResponsibleInnovation:ManagingtheResponsibleEmergenceofScienceandInnovationinSociety.London:JohnWiley&SonsLtd,2013.綜上，國外學者對負責任創新的研究主要側重于以負責任創新為理論支撐，在科技創新、技術發展、風險管理等方面的應用，形成了豐富的、見解深刻的研究成果，為本文的研究提供了一定的實踐價值。（二）關于技術風險的研究技術風險是風險社會中的主要風險，也是現代社會中最主要的一種風險。在現代社會，人們通過技術來改變世界，同時也增加了技術對世界的風險。國外學術界關于技術風險問題的研究始于20世紀70年代，技術風險伴隨著科學技術的發展而來，其對社會生活產生的影響也在不斷加深，引起了西方科研工作者的高度重視。一些學者從社會學角度探討了技術風險帶來的負面影響。1981年，在加拿大滑鐵盧大學召開了一次以“新技術風險”為主題的全球性會議，林德（N.C.Lind）教授和其他學者聯合編寫了此次的會議報告，重點討論了技術風險所引發的各種社會問題。1984年，查爾斯·佩羅（CharlesPerrow）在他極具影響力的著作《高風險技術與“正常”事故》〔美〕查爾斯·佩羅：《高風險技術與“正常”事故》，寒窗譯，北京：科學技術文獻出版社，1988年。中，從技術復雜性和緊密配合性的視角分析了現代技術風險的本質。從1993年到2001年間，一些權威的專家先后編寫了有關技術風險特點研究與管理的著作，比如：布蘭斯科姆（LewisM.Branscomb）等人編著的《技術風險的承擔》。此外，社會學家科勞恩(WolfgangKrohn)等學者在〔美〕查爾斯·佩羅：《高風險技術與“正常”事故》，寒窗譯，北京：科學技術文獻出版社，1988年。KrohnW,WeyerJ.“SocietyasALaboratory:Thesocialrisksofexperimentalresearch”.Science&PublicPolicy,1994,21(3):173-183.貝克（UlrichBeck）在《風險社會》、《世界風險社會》、《從工業社會到風險社會》《風險社會再思考》等著作和文章中，結合風險實在論與風險建構論的觀點，全面、系統地分析了當代的技術風險。他認為，當代技術風險的實質是“文明風險”，這類風險具有高度隱蔽性、不可預測性、高度復雜性、極端危害性以及全球性等特征。他從“無知”和“有組織的不負責任”兩個維度進一步探討了當代技術風險產生的根本原因，并指出可以通過“政治再造”和“跨界治理”來規避技術風險。〔德〕烏爾里?！へ惪耍骸讹L險社會》，何博聞譯，南京：譯林出版社，2004年。而吉登斯（AnthonyGiddens）與貝克持有不同的觀點，他在《失控的世界》、《現代性的后果》、《現代性與自我認同》等著作中表示，當代技術風險本質上是“被制造出來的風險”，它沒有任何歷史經驗可循，其產生的主要原因有設計錯誤、操作失誤、后果與目的不一致以及知識的循環性構成?！驳隆碁鯛柪锵！へ惪耍骸讹L險社會》，何博聞譯，南京：譯林出版社，2004年。美國學者劉易斯（H.W.Lewis）主要從認識論的角度探討了風險的測量、認識、評估和管理等問題。他在《技術與風險》中指出，我們正被風險所包圍，特別是諸多新興科技帶來的風險，而風險的出現也加劇了人們對科技發展的惶恐不安。劉易斯指出了技術發展的兩面性，人類需要權衡利弊而不是一味的否認。他認為提高公眾對技術評估與風險認知的能力是很有必要的。〔〔美〕H.W.劉易斯：《技術與風險》，楊健、繆建興譯，北京：中國對外翻譯出版公司，1994年，第IX頁。對于新興技術產生的技術風險，經濟合作與發展組織在《21世紀新興的系統性風險》中表示，新興技術具有連通性與普遍性，加快技術變革的速度甚至可能導致環境的根本變化，而在技術變革的過程中可以減少一些風險，同時可能加劇其它風險甚至產生新的風險。對于新興技術風險的應對措施主要提出了五個方面的建議：1、采用新的風險管理政策方法；2、發展公共部門與私營部門的協同作用；3、向利益相關者與公眾提供信息并使其參與；4、加強風險管理的國際合作；5、更好地利用技術潛力并加強研究力度。OrganizationforEconomicCooperationandDevelopment.“EmergingSystemicRisksinthe21stCentury:AnAgendaforAction”.Paris:OECDPublicationsService,2003,15.總體而言，國外學者分別從社會學、認識論等視角對技術風險進行了闡述，分析了技術風險的本質、產生的的根本原因，并以此為理論依據提出了相應的解決方案和規避策略，對本文的寫作有一定的借鑒價值。（三）關于人工智能技術風險的研究國外關于人工智能的研究相對較早，其研究方向主要傾向于人工智能的內涵、人機關系以及人工智能與人類智能的比較等方面。進入21世紀以后，研究人員更加關注人工智能的技術風險問題。在早期階段，科研人員主要關注人工智能在自身發展方面對人類的影響。美國著名科幻小說家、科普作家阿西莫夫（IsaacAsimov）在成功取得碩士學位后便在著作《驚奇》中發表了短篇小說《轉圈圈》，其中首次明確提出了“機器人三定律”：1、機器人不能傷害人類個體，或通過不作為而使人類受到傷害；2、機器人必須服從人類的命令，除非這個命令違背第一條定律；3、只要這種保護不與前兩條定律相矛盾，機器人必須保護自己。IsaacAsimov.I,Robot.NewYork:RandomHouse,2011,20-33.他的“機器人三定律”突顯了人類的主體性地位。而作為輔助工具的機器人不得傷害人類，必須維護人類的尊嚴，保護自己的生存而又不與人類發生沖突。三定律相互協調，相互作用，互不矛盾。該定律后來成為學術界默認的人工智能研發原則。美國數學家、控制論創始人之一維納（NorbertWiener）率先明確指出智能機器是一把雙刃劍。他在《人有人的用處：控制論和社會》一書中提到，在工廠中機器的使用已經普及，機器有可能替代勞動中的人類，使得人類從勞動中解放出來。但他表示擔憂的是，自動化技術將在未來為人類做出貢獻的同時也可能危害人類。他的控制論思想還指出，自動化技術以及現在的機器人技術都可能造成“人腦的貶值”?！裁馈砃.維納：《人有人的用處：控制論和社會》，陳步譯IsaacAsimov.I,Robot.NewYork:RandomHouse,2011,20-33.〔美〕N.維納：《人有人的用處：控制論和社會》，陳步譯，北京：商務印書館，1989年，第133-153頁?！裁馈硠⒁姿埂っ⒏５拢骸稒C器的神話（下）：權利五邊形》，宋俊嶺譯，北京：中國建筑工業出版社，2015年，第366頁?，敻覃愄亍·博登（MargaretA.Boden）從哲學的角度來分析人工智能的發展，她認為人工智能的發展主要基于三個方面：1、形式計算理論；2、為實現形式上規定的計算而設計的功能計算機；3、神經元的發現。〔英〕瑪格麗特·A·博登：《人工智能哲學》，劉希瑞，王漢琦譯，上海：上海世紀出版社，2005年，第2頁。在她的著作《人工智能哲學》中共收錄了十五篇〔英〕瑪格麗特·A·博登：《人工智能哲學》，劉希瑞，王漢琦譯，上海：上海世紀出版社，2005年，第2頁?！灿ⅰ超敻覃愄亍·博登：《人工智能哲學》，劉希瑞，王漢琦譯，上海：上海世紀出版社，2005年，第44-72頁。通過上面的梳理，可以看出國外學者分別從技術自身發展以及技術在社會中的實踐應用等方面分析了人工智能可能帶來的風險，對人工智能技術風險問題的研究興趣較為濃厚，其產生的學術成果也頗為豐富，對本文的寫作有一定的幫助。二國內研究現狀（一）關于負責任創新的研究目前，有越來越多的國內學者開始進行負責任創新方面的研究，2015年在東北大學召開的第19屆國際技術哲學會議將“負責任創新”列為主題之一。此外，清華大學、浙江大學、哈爾濱工業大學、大連理工大學、東南大學、華南理工大學、東北大學、北京理工大學與荷蘭的代爾夫特理工大學、特文特大學、埃恩霍溫大學、瓦格寧根大學聯合成立了以“負責任創新”為主題的中荷科技倫理研究聯盟（8TU-4TU）。當前，國內有關負責任創新的研究主要以探索學習和引介為主?；诩夹g的發展創新角度，趙迎歡在《荷蘭技術倫理學理論及負責任的科技創新研究》一文中指出，“負責任創新”是強調在行為后果發生之前進行的責任控制，其本質是“信念倫理”，是技術美德的集中體現。負責任創新的實施要考慮技術創新過程的各個環節和一些利益相關人員，不僅要求技術的設計者與研發者對人類的健康和生命安全負責，而且要求對社會和人類的長期發展負責。趙迎歡：《荷蘭技術倫理學理論及負責任的科技創新研究》，《武漢科技大學學報（社會科學版）》2011年第5期，第514-528頁。劉寶杰認為負責任創新是技術設計與研發的有機組成部分，也是技術設計哲學的重要組成部分。在一定程度上，它是在訴求一種職業責任。劉寶杰：《技術哲學的荷蘭學派研究》（碩士學位論文），東南大學，2013年，第86-87頁。負責任創新不僅是荷蘭學派“技術—倫理實踐”所遵循的創新理念，劉寶杰：《試論技術哲學的荷蘭學派》，《科學技術哲學研究》2012年第4期，第64-68頁。同樣也是設計者與研究者的趙迎歡：《荷蘭技術倫理學理論及負責任的科技創新研究》，《武漢科技大學學報（社會科學版）》2011年第5期，第514-528頁。劉寶杰：《技術哲學的荷蘭學派研究》（碩士學位論文），東南大學，2013年，第86-87頁。劉寶杰：《試論技術哲學的荷蘭學派》，《科學技術哲學研究》2012年第4期，第64-68頁。陳首珠，劉寶杰，夏保華：《論“技術—倫理實踐”在場的合法性——對荷蘭學派技術哲學研究的一種思考》，《東北大學學報（社會科學版）》2013年第1期，第14-18頁。關于技術應用方面，晏萍等人在《“負責任創新”的理論與實踐述評》一文中，以大連港的負責任創新發展作為案例論述了其觀點，負責任創新注重技術創新所引發的重大社會和環境問題，并從倫理、責任和政策的角度尋求解決這些問題的方法和途徑。負責任創新有助于解決“技術創新”與“負責任”容易脫節的問題，從而提升技術創新的整體實力。晏萍，張衛，王前：《“負責任創新”的理論與實踐述評》，《科學技術哲學研究》2014年第2期，第84-90頁。王小偉在《作為一種價值的互聯網——一個比較哲學的思路》中認為，負責任創新的理念是將有益于公共善的價值滲透到技術的設計中。把技術產品作為價值載體，并試圖通過技術的應用來保障，實現和提升他們所期望的價值。王小偉：《作為一種價值的互聯網——一個比較哲學的思路》，《自然辯證法研究》2016年第11期，第37-41頁。其重點是要在技術研發的過程中盡可能多的融入各方面利益群體的討論，并將責任納入程序中。因此，負責任創新絕不僅僅晏萍，張衛，王前：《“負責任創新”的理論與實踐述評》，《科學技術哲學研究》2014年第2期，第84-90頁。王小偉：《作為一種價值的互聯網——一個比較哲學的思路》，《自然辯證法研究》2016年第11期，第37-41頁。王小偉：《回歸積極的技術倫理學》，《科學與社會》2017年第1期，第55-65頁。胡明艷在《科學技術創新需要“負責任”》一文中闡釋了“負責任創新”理念，她指出，“負責任創新”是一個透明、互動的過程，通過此過程，參與科技創新的科研人員與參與決策的社會公眾帶著對技術創新過程以及技術創新成果關于道德倫理標準、可持續性、公眾接納程度、是否滿足社會需求等方面的看法，彼此積極互動響應，以便讓科學技術的創新以適當的方式融入人類社會。胡明艷：《科學技術創新需要“負責任”》，《學習時報》2015胡明艷：《科學技術創新需要“負責任”》，《學習時報》2015年3月16日第7版。負責任創新理念也逐漸進入到政策范圍內。2015年，國務院發布的《關于優化學術環境的指導意見》中提出，“建立合理的程序來應對潛在的技術風險，制定管理計劃與道德倫理規范，明確科研人員對于涉及社會利益與風險的科學爭論應負的社會責任。并引導科研人員進一步規范科研行為，遵守科學道德標準，認真評估科學技術風險，避免對科學技術的不當應用”?！秶鴦赵恨k公廳關于優化學術環境的指導意見》（EB/OL），/xwfbh/xwbfbh/wqfbh/33978/34196/xgzc34202/Document/1469524/1469524.htm，2014-12-29。在2016年發布的《“十三五”國家科技創新規劃》更是明確指出，“倡導負責任的研究與創新，加強道德倫理建設，強化科研倫理教育，提高科研人員的倫理規范意識，引導企業在技術創新活動中重視并承擔相應的社會責任，包括保護生態環境、保障活動安全等”《國務院辦公廳關于優化學術環境的指導意見》（EB/OL），/xwfbh/xwbfbh/wqfbh/33978/34196/xgzc34202/Document/1469524/1469524.htm，2014-12-29。《“十三五”國家科技創新規劃》（EB/OL），/zhengce/content/2016-08/08/content_5098072.htm，2016-08-08。此外，國家還實施了“生態文明建設”、“惠民科技計劃”、“創新型國家建設”和“創新驅動發展戰略”等一系列戰略部署，這些舉措及其所蘊含的理念也都與負責任創新不謀而合。綜上可以看出，負責任創新解決了理論和實際相脫節的現狀，對技術創新發展有重要意義，同時對人工智能技術風險的應對有實際的幫助。（二）關于技術風險的研究自20世紀90年代開始，受西方風險社會理論的影響，再加上社會轉型期出現了一系列的矛盾與問題，我國學術界開始了對技術風險問題的研究。在技術風險的成因及應對方面，鄭功成在20世紀90年代初先后發表了《論科技風險及其控制》、《論科技風險與減災》、《論計算機事故風險》等一系列文章，闡述了技術風險的內涵、特征以及技術風險所帶來的負面影響、產生的原因等，著重強調了技術風險的強危害性并提出相應的應對策略。趙州認為技術風險具有社會建構性的特點，由此推導出現代技術風險的主要成因是制度性缺陷。他在《論技術風險的國際治理》一文中以納米技術為例，指出由于國與國之間尚未形成合作的利益協調機制，各個國家主要在本國建立和實施技術風險的管理措施，缺乏技術風險的全球治理機制，使得不可避免地產生技術風險。趙州：《論技術風險的國際治理》，《燕山大學學報（哲學社會科學版）》2011年第12期，第81-86頁。歐庭高從現代技術的安全性角度出發，提出站在全面綜合治理的角度，在實現適度冒險的同時，既能促進物質財富的創造，又要實現社會和諧目標，就需要采用多管齊下、對癥治理的方法來處理現代技術風險沖突，即改變技術方向、擴大風險溝通以及改善風險分配。歐庭高，鞏紅新：《論現代技術風險沖突及其綜合治理》，《科技管理研究》2015年第15期，第254-258頁。張洋在《技術風險的成因及其規避對策研究》一文中闡述了技術風險可能造成的危害，并分析了技術風險分別在技術層面、社會層面、文化層面以及自然環境層面的成因，最后趙州：《論技術風險的國際治理》，《燕山大學學報（哲學社會科學版）》2011年第12期，第81-86頁。歐庭高，鞏紅新：《論現代技術風險沖突及其綜合治理》，《科技管理研究》2015年第15期，第254-258頁。張洋：《技術風險的成因及其規避對策研究》（碩士學位論文），武漢科技大學，2011年，第3頁。關于新興技術風險的治理，張樂在《新興技術風險的挑戰及其適應性治理》中表示，相對于傳統技術風險，新興技術風險具有更高的漸進性、隱蔽性、不確定性等。因此，傳統的風險治理體系并不適用于新興技術風險帶來的挑戰。應根據新興技術風險的特性從思維模式、治理機制與體制等方面制定出新的風險應對策略。張樂：《新興技術風險的挑戰及其適應性治理》，《上海行政學院學報》2021年第1期，第13-27頁。張海波在《大數據的新興風險與適應性治理》一文中指出大數據新興風險可以從三個方面進行治理：1、把風險降到最低但不要試圖消滅張樂：《新興技術風險的挑戰及其適應性治理》，《上海行政學院學報》2021年第1期，第13-27頁。張海波：《大數據的新興風險與適應性治理》，《探索與爭鳴》2018年第5期，第40-42頁。總的來說，技術風險是近年來一個新興的研究熱點，我國學術界的研究仍處于初期階段，目前，學者們從風險社會、技術風險的成因與應對策略以及新興技術的治理等方面對技術風險進行分析，為本文人工智能的技術風險研究提供了研究思路和理論依據。（三）關于人工智能技術風險的研究國內學者關于人工智能的研究起步相對較晚。1981年9月，中國人工智能學會（CAAI）成立，該學會的宗旨是團結全國各地的智能科學技術工作者和積極分子，通過國內外學術交流、學術研究、學術教育以及科學技術展覽會等活動促進中國智能科技的發展，為國家的經濟發展、社會進步、文明提升和安全保障提供良好的智能科技服務。1982—2006年，先后創立了《人工智能學報》、《模式識別與人工智能》和《智能系統學報》三份人工智能類的雜志期刊，為國內人工智能學者和高校師生提供了一個相互交流、借鑒的平臺，促進了我國人工智能的研究、應用與發展?；趪覍θ斯ぶ悄馨l展的大力支持，學術界關于人工智能技術風險問題的相關研究也越來越多。閆坤如在《人工智能技術風險規避探析》一文中指出，人工智能的飛速發展，給人們帶來了技術無所不能的幻象，“這個社會在技術上正變得越來越完善，它甚至可以提供越來越完美的解決方案，但是，與此相關的后果和危害對受害人而言是無法直觀感覺到的”。閆坤如，馬少卿：《人工智能技術風險規避探析》，《長沙理工大學學報(社會科學版)》2019年第4期，第7-12頁。因此，在不斷推進人工智能發展進步的同時，必須同時關注并及時規避人工智能的技術風險，才能避免人工智能帶來的的負面影響。為了規范與約束人工智能的發展，需建立有關監管機構，制定相關法律法規，重新建構人工智能的責任體系，完善人工智能倫理規范等才能規避人工智能的技術風險。張文杰在《基于風險社會視角下的人工智能技術風險》一文中認為，人工智能的技術風險是現代風險社會的一個重要體現，主要特征有廣泛性、多樣性、不確定性，可能會帶來一些類似于失業、公共安全等社會性問題。因此，他指出，人工智能在現實實踐層面的應用需要相關立法的保護，需要加強人工智能技術與文