12023年12月AI10的風險682機構職能3:制定和協調標準、安全和風險管理框架21機構職能6：監測風險、報告事件、協調應急響應結論252225282.然而，也存在風險。人工智能可以加強偏見或擴大監控；自動化決策可以模糊公職人員的問責制，即使人工智能增強的虛假信息威脅到他們的選舉過程。人工智能系統的速度、自主性和不透明性挑戰了傳統的監管模式，即使越來越強大的系統被開發、部署和使用。如今，人工智能的好處主要集中在少數州、公司和個人身上。4.這項技術需要治理，不僅是為了應對挑戰和風險，而且是為了確保我們以不讓任何人掉隊的方式利用其潛力。衡量我們成功的關鍵標準是人工智能技術在多大程度上幫助實現可持續發展目標(SDG)。例如，方框1說明了人工智能在應對氣候變化及其影響方面的潛力(SDG13)。4為考慮如何治理今天的人工智能，還考慮如何為變革步伐只會加快的環境做7.盡管如此，我們對人工智能方面的補充治理舉措抱有緊迫感，包括各國以及歐盟、七國集團、二十國集團、教科文組織和經合組織等區域和政府間進程的舉措。然而，需要更多的包容性參與，因為許多社區——特別是全球南方或全球多數社區——在這些討論中基本上沒有出現，盡管他們的生活可能受到影響。需要一種更具凝聚力，包容性，參與性和協調性的方法，涉及世界各地的不同社區，特別是來自全球南方或全球多數派的社區。格的機構，其獨特的合法性得到普遍認可，以及其對擁抱世界各國人民多樣性的承規范和原則達成共識以及確保良好治理和問責制提供了關鍵節點。在聯合國系統危害也分布不均。需要所有成員國平等參與的全球治理，以使資源可獲得，使前沿。人工智能正在提高發達經濟體和發展中經濟體從醫療保健到農業等領域的生種增長之外，還有一些問題，即需要哪些推動者來確保利益在人類中公平和安全地人類輔助AI人工智能可以幫助人們完成日常任務，以及他們最雄心勃勃、最具創造性和富有成效的努力。人類輔助AI包括無障礙工具和教育改進。已經開發的應用程序可以作為視覺或語音受限的人的虛擬助手，支持以前被忽視或忽視的可訪問性需求。人工智能支持的翻譯現在涵蓋了一百多種語言，促進了訪問以及跨文化理解和溝通。新一代輔導應用程序有望在全球范圍內擴大獲得優質教育的機會。部門機會AI將在某些領域而不是其他領域產生更大的影響。最有希望的是農業和糧食安全、衛生、教育、環境保護、自然災害和應對氣候變化。例如，人工智能不安全。人工智能被用來監測瀕危物種(例如P科學機遇聯合國利用AI的機會。這需要國家對人才、數據和計算資源的投資，以及國家監營部門參與者之間，國際援助與合作都應補充國內努力。召集科學家解決社會挑戰可對人類潛力的關鍵推動因素。數據和模型的開源和共享可以在傳播人工智能的好處以20.人工智能開發、部署和使用的啟用者(“共軌”)需要與“護欄”保持平衡，以管理對社會和社區的影響。試金石將是人工智能治理努力在多大程度上產生人類的增強，而不是人類的替代或疏遠。一些人工智能的發展依賴于全球南方廉價和可開采的勞動力。即使在全球北方，也存在與重視藝術表達，知識產權和人類勞動尊嚴有關的問題。如果我們要避免國家內部和國家之間的“人工智能鴻溝”,就需要公平獲得這些技術和相關技能以充分利用它們。但是很多人不會。確保人工智能是為了共同利益而部署的，其利益得到公平分配，將需允許聯合訪問數據、計算和人才的基礎知識，以及I和,我們認為從脆弱社區和公地的角度看待風險更有用。我們已嘗試按照此方法進行初步分類（方框3）,該方法將在現有工作的基礎上進一步發展為風險評估框架。隨著技術，其采用和使用的發展，風.個人相互作用）.團體.Societyo民主（選舉、信任）o安全（軍事和警務用途）.經濟.(Eco)系統.值和規范31.關于如何評估或解決這些風險尚未達成共識。然而，正如預防原則對環境困境的規定，對風險的科學不確定性不應導致治理癱瘓。達成共識并采取行動需要全球合作與協調，包括通過共享風險監測機制。國際組織在從化學和生物武器到核能的雙重用途技術方面擁有數十年的相關經驗，這些經驗基于條約法和其他規范框架，可用于解決人工智能的風險。33.我們必須識別、分類和解決人工智能風險，包括就哪些風險是不可接受的，以及如何預防或預先防范這些風險達成共識。還需要對人工智能的意外后果進行警惕和視野掃描，因為這樣的系統是在越來越多樣化和未經測試的環境中引入的。為了實現這一目標，我們必須克服技術、政治和社會挑戰。。利用人工智能改善受教育的機會可能會引起人們對年輕人數據隱私和教師代理數億學生無法獲得優質教育資源的世界里，不使用技術來彌合差距可能會有弊端39.今天，人工智能治理的指南、框架和原則并不缺乏。私營部門和民間社會以及國家、區域和多邊機構起草了文件，產生了不同程度的影響。就技術而言，治理工作一直側重于數據、模型、基準或評估。應用也一直受到關注，特別是在有現有部門治理安排的地方，例如衛生或兩用技術。這些努力可以植根于具體的治理安排，如歐盟人工智能法案或美國S.行政命令，它們可以與參與和合規的激勵措施相關聯。圖1提供了一個簡化的方案，用于考慮新興的AI治理格局，咨詢機構將在其工作的下一階段），;（c）提供能力建設，相互保證和監測（IAEA，ICAOd）網絡和研究資源庫（CERN45.本中期報告中提供的初步建議不是在現階段提出任何單一的AI治理模型，而是側重于原則這應該人工智能服務管理，歐洲委員會人工智能公約草案，歐盟人工智能48.人工智能系統的發展主要集中在科技公司手中。人工,但還不夠。對于構建、部署和控制AI的公司和其他組織，以及在整個AI生命周期中跨經濟和社會多50.人工智能將被多個部門的人和組織使用，每個部門都有不同的用例、復雜性和風險。治理工作必須牢記與多樣性、公平、包容、可持續性、社會和個人福祉、競爭性市場以及健康創新生態系統相關的公共政策目標。它們還必須整合錯過使用對經濟和社會發展的影響。責任方面提供更大的明確性。為了公共利益進行治理還意味著對公共技術、基礎設施和公職人員51.數據對于許多主要的AI系統至關重特別注意公共數據，這些數據對于幫助解決氣候變化、公共衛生、經濟發展、能力建部署和使用的不同文化意識形態。需要在這一治理框架內建立創新結構，讓私圖2：按機構“硬件”分配的AI治理功能能承擔主要責任。包括學術界和獨立科學家在內的民間社會將在為政策建立證據、施期間讓關鍵行為者承擔責任方面發揮關鍵作用。每一套職能在和國際組織——都有不同的責任位置。在下一階段的工作中59.目前，對于人工智能的未來軌跡和影響，沒有權威的、包容性的多學科評估的制度化功能。關于人工智能技術的方向和速度以及相關的風險和機遇的共識可能是政策制定者在制定國內人工智能計劃以鼓勵創新和管理風險時利用的資源。每六個月釋放一次科學的、基于證據的見解，向政策制定者通報人工智能開發、部,這可能需要一項國際協議。63.正在制定人工智能的技術和規范標準、安全和風險管理框架的幾項重要舉措，但缺乏全球協調和統一(表1中的子功能11)。由于其全球成員資格，聯合國可以在將各國團結在一起，制定共同的社會技術標準以及確保法律和技術互操作性方面發揮關鍵作用。據標簽和測試標準、數據保護和交換協議，這些標準可以為初創公司提供跨境測試和任、爭議解決、業務開發和其他支持機制。現有的法律、財務和技術安排需要發展，20可持續發展目標開發，部署和使用AI系統，使獨立的學術研究人員，社會企業己的模型并進行研究和評估所需的基礎設施和數據集。這可能需要網絡資源和努68.匯集類似于CERN、EMBB或ITER的專家知識和資源，以及原子能機構的技術傳播功能，可以為可持續發展目標提供急需的推動(表1中的子功能6)。鼓勵私營部門行為者分享和提供研究和開發工具也可以補充這些功能。來自全球南方的專家通常在全球人工智能會議上看不見。這需要改變。69.開放數據和計算的訪問也應伴隨著能力于利用人工智能實現可持續發展目標至關重要。類似于企業在全球契約下做出的和其他公司為更大的利益開發、部署和使用人工智能的公開承諾。在全球數字契70.人工智能工具的無國界性質可以在全球范圍內擴散，這對國際安全和全球穩定構成了新的挑戰。人工智能模型可以降低獲得大規模殺傷性武器的障礙。人工智能網絡工具增加了對關鍵基礎設施的攻擊風險，兩用人工智能可用于驅動致命的自主武器，這可能對國際人道主義法和其他規范構成風險。機器人可以迅速傳播具有人類特征的有害信息，其方式可能對市場和公共機構造成重大損害。不能排除流氓AI逃避控制并構成更大風險的可能性。鑒于這些挑戰，能力必須。21。22描23在繼續解決人工智能問題的現有國際機構之間解體現規范和規則的最佳實踐，包括風險緩解和經濟增長。協調、利用并包括在區域、國家和行業層面制定的軟性和硬性法律、標準、方法和框架，以支持互操作性。24人工智能治理必須為人們和社會提供切實的利益和保障。有效的全球治理框架必之間的差距。在下一階段的工作中，我們將基于全球不同利益相關者的觀點，探索80.在現階段，上述初步建議并沒有提出任何單一的人工智能治理模式，而是側重于任何此類制度都必須追求的原則和功能。81.在接下來的幾個月中，我們將與世界各告中問題的活動，以及與政府、私營部門、民間社會以及研究和技術界的接觸。我,包括風險評估方法和治理互操作性。將進行案例研究，以幫助在特定情況下思考報告中確定的著陸問題。我們還打算深入研究一些領域，包括開源、人工智能和金融部門、標準制定、25我們能否通過促進模型構建生態系統，例如通過數據保護和交換框架，共享計算訪問，使AI開發更具包容性？數據標簽和測試的通用標準是否會鼓勵AI初創公司在更多國家哪些機制將促進利益相關者和成員國之間公平在識別、分類和解決人工智能風險方面達成共識的最佳途徑是什么？識別紅線的門檻或觸發因素應該是什么(也許類似于生物醫學研究中禁止人類克隆)？如何監管和執行任何這樣的紅線？2627MariaVaninaMartinezPosseSeydinaMoussaNdiayeMarietjeSchaakeSha爸JimenaSofiaViverosAlva28該機構將由來自政府，私營部門，民間社會和學術界的38名成