人工智能治理2023一、背景在過去五年，人工智能治理取得了迅猛發展，構建人工智能監管生態系統的速度大大提高，但如何以負責任的方式推動人工智能的應用和實踐依舊是當前面臨的迫切挑戰。人工智能有獨特的風險，簡單照抄現有政策工具并不能處理好這些問題，社會必須考慮在應用人工智能時完善相關手段和措施，以此來化解先進決策系統帶來的潛在風險。這些手段和措施應當包括國際合作及跨部門合作，現在比過（MultistakeholderApproaches）的方式，同時在人工智能治理設計方面也要采取更靈活的方法。要以負責任的方式對人工智能應用進行治理，確保人工智能技術能保護并惠及每位社會成員。二、人工智能發展歷程回顧歷次工業革命既創造機遇，也帶來挑戰，迫使社會重新審視當時的治理結構能否有效維持監管與創新之間的平衡。人工智能是推動第四次工業革命的引擎，圍繞人工智能及其安全防護措施將會出現諸多挑戰。對其歷史發展進程進行總結回顧十分重要，只有通過回顧過去，才能把握未來的發展方向。（一）2010年以前：人工智能的冬天與解凍早在人工智能發展初期，大家都認為人工智能發展到可以承擔權責的程度時，就有必要認真考慮治理方面的問題。即使是處（即人工智能及公眾興趣走低的時期，人們對人工智能帶來的后果和治理效果也抱有擔憂和恐慌。另外，人工智能的潛在應用范圍極廣、社會影響深遠，（二）2010年到2016年：人工智能加速發展帶來的挑戰2010人工智能的快速發展及應用的確鼓舞人心，但同樣也引發了公眾對數據使用和侵犯隱私等多方面的擔憂。在獲取或開發深度學習技術的熱潮中，亟需防范的主要是涉及決策類的應用，如執法、人力資源和金融等敏感領域的應用。此外，人工智能系統對特定社會群體的不公正對待現象及宏觀層面的關切也時有報道。對那些希望快速從人工智能發展中受益的人來說，重點是如何在安全和創新之間保持平衡。人工智能開始加速發展，治理不（法律法規無法跟上技術進步。（三）2016年到2019年：發布原則與指南到2016年，公眾越發意識到如果不對人工智能進行適當的監管和引導，將會干擾公眾生活，擴大社會不平等，加劇現有偏見，并破壞隱私，而所有這些都會削弱公眾對人工智能的信任，從而使人工智能造福社會的潛力消失殆盡。2017（Asiloar）會上提出了一套原則來幫助公眾了解政府和業界一直大力推動201520162017（四）2019年至今：持續加速與治理創新普及人工智能原則與道德指南有助于揭示人工智能跨國治2019倡議進行問責，但在規范的實際制定過程中仍以“柔性”治理機制為主。各主體對這一課題的日益關注，說明公眾普遍認為現有制度和規則已無法確保人工智能以負責任的方式向前發展。三、從原則到實踐：在不扼殺創新的前提下管控風險，推動人工智能道德實用化。截至2020年，各國政府、倡議機構、國際組織、私營企業100多數受訪企業目前正在試圖通過內部治理和正規的框架來解決問題，爭取在不扼殺創新的前提下管控風險。（一）人工智能治理是實現負責任的人工智能的必經之路雖然面臨巨大風險，人工智能帶來的機遇仍是許多機構考慮（RespnsibleAI）許多企業都承認在防范措施缺失的情況下，人工智能可能造成傷害，因此都強調在制定人工智能戰略時，防護范圍不應僅限于法律和風險管理領域，負責任的人工智能治理的目標是要通過行業規范來防止出現危害性的人工智能生態系統。人們的意識雖然越來越強，但要把意圖轉化成政策和實踐對許多企業仍是挑戰。對于該做什么、何時做和怎么做等問題，業界還需要通過實踐進行探索。（二）采用風險法來識別和消除治理差距私企和公共部門面臨的最大問題之一都是缺乏優先級。人工智能會給不同行業帶來巨大沖擊，但由于其技術仍在持續發展中，且人們對其能力和影響力還處于不斷認識中，其影響的程度和時間范圍都無法確定。近期至未來很長一段時間，人工智能的直接和間接影響將被大家逐漸認識，這也會進一步增加系統治理的復雜性。通過有效的治理框架找出人工智能的風險并加以管控，有助于各國制定未來的行動計劃。最終呈現的治理形式可能是多種多樣的，例如，德國數據倫理委員會提出一個五級風險監管系統，這個系統對無害的人工智能應用不設監管，而對最危險的應用則完全禁止。這些框架有助于領導人們更好地了解風險，指引他們邁出關鍵的第一步。第一步可以是了解人工智能系統的應用領域，也可以是加大對人工智能風控團隊的投資。在近期德勤事務所的一份報告中對人工智能風險的分類以及當前和未來的治理差距進行間跨度”兩個維度分別評估（見圖1。圖1:新出現的治理差距的時間跨度和風險級別（三）推動公眾了解和信任人工智能在過去十年中，一些潛在的人工智能治理手段逐漸出現，主要是強化消費者對人工智能產品的消費意識，具體包括認證、標簽、獎勵等手段。通過這些手段，提高產品透明度來影響購買行為，再通過市場、聲譽和品牌的力量以及人工智能產品公司之間的競爭，促進消費者有效參與人工智能道德與責任決策。發放標簽與認證標簽可向消費者傳達信息，幫助消費者了解哪些企業處理數據和人工智能的方式是值得信任、符合道德規范且安全可靠的。歐洲委員會在其《人工智能應用白皮書》中建議對高風險之外的（DatathicsSeal，主要發放給那些符合虛擬空間要求且以負責任的方式處理人工智能數據的企業。獎勵通過獎勵機制可對合乎道德、以負責任方式設計的人工智能進行表彰，鼓勵業界朝積極方向進化。具體的例子包括：20214算法審查可通過第三方對算法進行審查的方式來化解風險。對復雜系統進行外部測試可有效保證市場安全，同時也會鼓勵算法審查這一新興行業的發展。對人工智能實施客觀的審查可有效約束人工智能，有助于降低錯誤算法外流的風險。但上述方案面臨一個共同挑戰，即可信度的確立，缺乏可信度會增強追責的難度和效力。對此，有人呼吁用專業化的方式來解決問題，但這需要有適當的認證、實踐標準和紀律處分程序。只有在這些嚴苛標準的支撐下，審查、認證和標簽發放等人工智能原則實用化工具才能充分發揮作用。（四）政府主導的人工智能治理宏觀層面上，很多政府部門已經開始圍繞人工智能采取有效經合組織的跟蹤調查表明：一些政策源于國家級人工智能戰略（如立法提案、跨國合伙關系、貿易協定條款等，另一些則是在較為柔性的規范定義法基礎上制定的，旨在化解風險，以此推動人工智能解決方案的出臺。監管行動美國已開始在多個層面推動立法，要求對高風險自動化決策系統的沖擊進行法定評估；與此同時，美國多個城市禁止在執法過程中使用人臉識別技術。歐洲委員會則完全采納了以風險為依據的方法論，但同時也承認人工智能系統風險具有語境性特征。要求對高風險人工智能應用采取更嚴厲的措施，對無風險的領域降低監管，以此鼓勵創新活動。歐洲委員會的草案把人工智能應用劃分為四大風險級別：不可接受的風險：此類人工智能應用被嚴厲禁止（如社交評分）高風險：需要對其進行特定審查的人工智能應用，包括需要接受品質管理和合規評估（如人工智能招聘工具、人臉識別等）有限風險：要承擔最起碼的透明性義務的應用（如聊天機器人）最低風險：對該類別的應用無需制定額外的限制性規定（如垃圾郵件過濾應用）國際合作提速與此同時，各國政府意識到如果各國各自為戰，全球治理體系將受到影響，進而會削弱人工智能的潛力，因此有必要優先開展國際合作，推動道德準則的跨國統一。區域強國在嘗試創建統一戰線方面尤其活躍，如七國集團(G720172020（GA1837個成員國的經合組織（OECD）擔任秘書處。在全球層面，聯合國在平衡技術進步和社會進步方面發揮著領導作用，處于最前沿的當屬國際電信聯盟（ITU）舉辦的“為善的人工智能”全球峰會。聯合國其它機構也通過推動研發和鼓勵對話來推動人工智能治理，如國際勞動組織的工作主要針對人工智能對工作和職業的影響，聯合國教科文組織也舉辦了針對人工智能道德倫理的對話。近幾年隨著國際合作范圍的擴大，公眾對人工智能原則的看法也開始逐漸統一。但是，要想從原則轉向政策再轉向實踐，最大的挑戰是如何進一步澄清治理方法和操作指引并達成更廣泛（GDPR）22全自動化且會對消費者產生法律影響的系統（如批貸、招聘等）與此同時，需要重視如何避免不同管轄區因責任沖突而影響跨境研發和阻礙創新。雖然各國頒布的具體規則有差異，但要盡可能保持各國規則具有交互操作性，大方向上保持一致。新冠危機的爆發迫使企業必須擁抱人工智能，進一步加劇了圖框1：新冠肺炎疫情新冠危機的爆發迫使企業必須擁抱人工智能，進一步加劇了人工智能治理的不確定性。人工智能治理的不確定性。一方面，為滿足遠程和非接觸的應用場景需求，人工智能技術可以為大家提供急需的高效解決方案。新冠期間，各國都開始使用人工智能追蹤算法向市民發布個性化的文字短信，指導他們在接觸病人后自行隔離。另一方面，疫情揭示了人工智能發展的制約因素。盡管危機中公眾對新技術的信任感有所提高，但公眾對隱私暴露就非常憂慮。基于人工智能的追蹤干預也可能面臨抵制。可見，數據的匱乏和人們對隱私的擔心會限制人工智能的發展，同時也為人工智能治理提供了正當理由。四、多利益攸關方參與的方法論鑒于人工智能系統彼此交融的性質，各方如果單打獨斗，注定將失敗。反之，多利益攸關方共同參與治理，有助于提升全球范圍內開發“負責任的人工智能”的能力。只有多利益攸關方共同參與才能獲取公眾和社會的認可，最終贏得大眾的信任。許多案例都充分證明：只要通過與跨區、跨界、跨業的利益攸關方建立建設性關系，并以此為基礎創建和維護負責任的人工智能治理機制，就有可能贏得公眾的信任。而要建立這些關系，就必須與人工智能的受眾進行開誠布公的對話，無論這些受眾是客戶還是公民。（一）利益攸關方的參與“多方參與”涉及的一個關鍵問題是各行為體的貢獻內容和貢獻方式。每個利益攸關方都有自己獨特的視角，每個群體也都會堅持各自的利益。業界分享全球可信人工智能的最佳實踐，在此基礎上構建和擴大人工智能治理的創新模式是當前業界面臨的巨大機遇。根據波士90%的機構目前正在制定或完成了相關戰略以促進算法公正、降低決策偏差。其7262%的機構報告運營風險有所下降。企業可采取下列措施來支持多利益攸關方參與的機制：（RegulatoySandbx）隨著對治理框架需求日增，對受控環境下的測試和實驗也提出了更高要求。通過這類嘗試，可將真實世界部分地納入測試框架，從而為企業提供治理人工智能的未來機會。提供其它相關技術或專業管理知識臨時調派技術人員填補技術短板，開展治理框架設計。提供免費的技術工具很多企業可充當人工智能專業技能的載體，為其它機構提供專業工具，并協助評估人工智能模型。政府在政府利用人工智能提供更好的服務之前，必須首先征求全社會的許可。政府可采取下列措施來支持多利益攸關方的行動：發展“監管沙盒”（RegulatorySandbox）政府需要集中在新治理理念部署、測試和迭代加速發展的領域制定政策，發揮關鍵作用，確保人工智能在對外公布前盡可能地在真實環境中得到測試和驗證。提供公共政策或行政管理專業知識調派既能填補公共政策知識短板又懂得政府工作實際難點的人員支援多利益攸關方。設立人工智能卓越中心圍繞人工智能治理設立國家級或次國家級的機構，從業界、政界、學界和社會招收人員，采用跨學科協作的方式，利用人工智能和算法針對政府的運行方式提出建議。學術界學術界可利用其處于各行業交叉點的獨特地位，借助其中立而客觀的視角吸引各方加入對話。采取下列措施來支持多利益攸關方的行動：提供研究的機會在政策制定和測試過程中，通過效果評估來對新方法進行測試。推動人工智能跨學科研究把涉及人工智能的道德影響研究的多個人文學科納入相關的討論。協助推廣、擴大有前景的人工智能治理機制把多利益攸關方形成的實踐和行為納入全球教學課程。公民社會公民社會作為第三方代表，可為多方對話帶來平衡感和新視縮小參與度差距通過把全球的弱勢群體納入到同一個國際討論框架，有助于縮小參與度的差距，獲得更多元、更具代表性的數據集合的支持。召集各類行為體共同組建共同體公民社會和學術界一樣，可擔任各類行為共同體的召集者與人工智能卓越中心開展合作在設有人工智能專門咨詢機構的國家和地區，公民社會可組織和鼓勵民眾與咨詢機構開展更廣泛的溝通和交流，以確保政策的多元化和包容性。（二）靈活治理多利益攸關方的思路若與靈活治理的方法相結合，就會容納更多人參與決策流程，并可通過快速迭代來滿足每個人的需求。最終，決策將變得更具包容性，也更加以人為本。靈活治理作為一種有效手段可確保治理與技術進步保持靈活治理作為一種有效手段可確保治理與技術進步保持對靈活治理的方法論進行了完整描述。世界經濟論壇與加拿戰。下面的例子展示了多利益攸關方群體基于現有通用原則對特定背景和特定用途的框架進行設計和測試的方法。圖2：聊天機器人報告衛生醫療行業的聊天機器人：鑒于新冠疫情期間聊天機器人的使用率大增，日本三菱化學和印度信實工業等企業聯合印度政府、世界經濟論壇和眾多聊天機器人開發商、平臺、衛生部門、公民社會、學界和衛生監管機構等共同設計了一個醫用聊天機器人監管框架，目前已有部分試點項目正在實施。（三）全球人工智能行動聯盟20205也于201（GAA。該聯盟以世界經濟論壇的全球多利益攸關方共同體為基礎，成員包括很多活躍在人工智能領域的頂級企業、政府和公民社會組織，這些機構在過去三年針對人工智能技術的開發和應用成功推出了多動（DCPI）密切合作，旨在推進全球各行業實現交互式操作。五、未來之路（一）更多工具與最佳實踐鑒于目前人工智能監管的形式多表現為加強干預，因此嘗試更多工具和實踐是必要的。很多機構意識到人工智能風險的分布是廣譜的，但他們仍希望于弄清楚風險的界線和發生領域。即搞明白哪些情況下可自我調節？哪些情況必須參考標準合同條款？哪些情況下非果斷干預不可？全球人工智能理事會建議未來應對下列事項予以額外關注：用于評估偏差、公正度和相關技術細節的測量標準針對某些必須通過公共干預和協調才能解決的道德問題（如虛假信息、深層欺詐、大規模人臉識別、人工智能監控等）的相關解決方案人工智能治理領域的行業可操作化案例研究積極借鑒其它高風險技術的治理經驗（二）人工智能、就業與不平等人工智能在就業和不平等方面也存在很多問題。其中一項挑戰是機器搶占人類工作的問題，據麥肯錫2017203048作和職業，導致很多人下崗，但另一些人卻可能因為工作性質不同而免于被淘汰。在這種情況下，如不制定更好的政策來縮小差距并普及技能培訓，那失衡勢必會加劇。就連最樂觀的經濟學家也預測：未來世界里越來越少的工作會和現在一樣得到別人的賞識，很多人會感到迷茫，從而質疑人生的價