1、制勝人工智能時代企業人工智能應用現狀分析（第三版）制勝人工智能時代企業人工智能應用現狀分析（第三版）內容摘要引言人工智能應用前沿結語：領先之道尾注目錄2351720內容摘要引言人工智能應用前沿結語：領先之道尾注目錄23517通過把握人工智能的全球脈搏，我們發現了以下關鍵洞察：人工智能應用者對人工智能技術推動 價值創造和競爭優勢的能力保有信心。 我們看到人工智能技術的實施水平不 斷提高，投資持續增長。應用者表示 其正逐步取得競爭優勢，并預期其企 業和所在行業將會全面開展以人工智 能為驅動的轉型變革。企業的先行優勢很快便會消失。隨著 應用逐步普及，人工智能賦能型企業 可能不得不需要付出更大努力，以

2、保 持相對于行業對手的競爭優勢。競爭 格局扁平化的一個跡象是，多數應用 者預期在不久的將來，人工智能將會 融入越來越廣泛的應用程序之中。幾乎所有應用者都在使用人工智能提 升效率；成熟型應用者亦在利用人工 智能技術進一步推動差異化競爭。人 工智能的自動化和優化應用可產生顯 著的效益，但企業應該努力超越這些 目標，利用人工智能技術創造新的產 品和工作方式。2應用者更傾向于購買而非自行研發人 工智能技術，且認為擁有最好的人工 智能技術是獲取競爭優勢的關鍵。隨 著平臺、解決方案和供應商的選擇不 斷增加和改進，成為更明智的人工智 能技術消費者對企業而言可能變得愈 加重要。無論這些技術出自何處，能 夠對這

3、些技術進行整合與擴展亦至關 重要。應用者認識到人工智能的風險，但在 應對戰略、操作和倫理道德風險方面 仍普遍準備不足。隨著應用的增長， 人們對人工智能各種風險從無意 識偏見到明確責任的認識也在增 加，而在采取具體行動來緩釋這些風 險方面卻似乎停滯不前，即使是技術 水平最高的應用者亦不例外。通過擴展人工智能的應用場景、提升選擇 和評估新企業和新技術的能力，以及正面 應對人工智能風險，當前和未來的人工智 能應用者才能在這個人工智能廣泛普及的 新興時代度過難關，實現蓬勃發展。內容摘要這是德勤連續第三年針對企業高管開展人工智能相關調查，了解其企業對于人工智 能技術的看法和實踐。我們特別關注的重點在于，

4、在人工智能應用持續增長的背景 下，企業將如何采取行動才能保持領先。同時，隨著人工智能治理、信任和倫理道 德日益成為董事會的重要議題，我們希望了解人工智能應用者如何有效地管理相關 技術風險。通過把握人工智能的全球脈搏，我們2應用者更傾向于購買而非自行引言3當前，現今一代人工智能技術的應用正在展開新的篇章：能力不斷進步，人工 智能應用的開發和實施變得越來越容易， 企業也通過應用獲得了切實的好處。各國 政府均已制定了人工智能發展的國家戰略， 并大力投資開展研究和推進教育，同時也 在思考如何更好地管理人工智能技術應用， 以保護和造福社會。我們看到，人工智能已被廣泛部署于各類 用例，以解決不同業務問題從

5、管理和 自動化信息技術基礎設施，到收集關于客 戶的新洞察、識別和應對網絡威脅、幫助 指導醫療決策和改進招聘流程等。人工智 能正日益融入到商業結構之中。誠然，由于各種障礙依然存在，并非所有 企業都已采用人工智能技術，同時許多應 用者正在努力擴大所取得的成效。然而， 人工智能的“早期應用”優勢階段似乎正 在消弭；當前市場正邁入技術成熟的“早 期多數”階段。事實上，據IDC預測， 2023年人工智能技術的相關支出將增長 至979億美元，為2019年支出水平的2.5倍 以上。1關鍵問題：當人工智能變得無處不在，企 業如何在市場上脫穎而出？人工智能應用 者如何維持自身的競爭優勢？這是德勤發布的第三版企業

6、人工智能應 用現狀分析調查報告。本報告中，我們 調查了來自世界各地的2,737名信息技術 和業務線高管（參見邊欄“方法論”）。本調查始終以了解各行業及各國人工智能 的應用發展為宗旨。在此前的報告中，我 們詳細介紹了人工智能應用者的樂觀態度 及其持續增長的投資和部署。我們得出的 結論是，企業在對人工智能技術充滿熱情 之外，亦應重視建立強大的執行能力。我 們建議企業改進其風險和變革管理方法， 將人工智能應用于信息技術職能之外，并 尋求適當的技術和業務人才組合，加速推 進轉型。引言3當前，現今一代人工智能技術的應用我們看到，人工智能已被方法論為獲得關于企業如何應用和管理人工智能技術并從中受益的全球視

7、圖，德勤從 2019年10月到12月調查了2,737名信息技術和業務線高管，范圍涵蓋九個國家：澳 大利亞（108名受訪者）、加拿大（300名受訪者）、中國（300名受訪者）、法國（203名受訪者）、德國（201名受訪者）、日本（203名受訪者）、荷蘭（100名受訪者）、英國（218名受訪者）和美國（1104名受訪者）。所有參與調查的企業都應用了人工智能技術。受訪者需滿足以下標準之一：有確定 的人工智能技術支出和/或已獲批準的人工智能投資；制定了人工智能技術戰略； 正在管理或監督人工智能技術實施；擔任人工智能技術領域的主題專家；圍繞人工 智能技術進行決策或對決策施加影響。47%的受訪者為信息技術

8、高管，其余受訪者為業務線高管。70%的受訪者為首席高 管：首席執行官、總裁和企業所有者占35%；首席信息官和首席轉型官占32%；其 他首席高管占3%。作為此次不記名調查的補充，德勤還對來自各個行業的人工智 能專家進行了深入的電話訪談。4方法論4熟練者（47%）普遍已經啟動了多個人 工智能生產系統，但其人工智能應用 的成熟度還未達到“精通者”的水平。 他們在人工智能實施項目的數量或人 工智能的專業能力上有所落后，抑或 者兩者兼有。起步者（27%）剛剛開始嘗試人工智能 應用，尚未在在人工智能解決方案構 建、整合及管理方面形成穩固的專業 能力。維持競爭優勢的挑戰更趨嚴峻我們的調查顯示，人工智能應用者

9、對他們 的人工智能策略以及如何通過技術實施、 財務投資、競爭優勢和預期變革影響獲取 利益方面抱有信心。他們相信，和過去一樣，人工智能是確立 當今和未來市場領導地位的關鍵。90%的 精通者認為人工智能對他們當前的業務 “非常重要”或“至關重要”（相比之下， 這一比例在整體受訪者中為73%）。所有 應用者都在加速擁抱關鍵的人工智能技術， 如機器學習、深度學習、計算機視覺和自 然語言處理等。這些技術預計將在未來一 年得到全面普及（參見邊欄“人工智能技 術組合”）。精通人工智能應用的領先企業為了解人工智能的前沿格局，我們根據人 工智能部署項目的數量以及受訪者對其企 業各方面專業能力的評價，將人工智能應

10、 用者分為三個類別（圖1）：精通者（26%）正在樹立人工智能應用 成熟度的標桿。他們業已開展大量的 人工智能生產部署，并在人工智能技 術和供應商選擇、用例識別、人工智 能解決方案構建和管理、信息技術環 境和業務流程的人工智能整合、以及 人工智能技術人員雇傭與管理等方面 發展形成了全方位的人工智能專業能 力。德勤企業人工智能應用現狀分析（第三版）人工智能應用前沿來源：德勤企業人工智能應用現狀分析（第三版），2020年。圖1企業的人工智能應用成熟度各不相同 “精通者”已經構建了多個人工智能系統， 并且在技術選擇、用例識別、人工智能解決 方案構建和整合以及人員配置方面展現出較 高的成熟度。人工智能生

11、產部署數量156-1011+人工智能構建、整合、管理 專業能力高5低精通者26%熟練者47%起步者27%熟練者（47%）普遍已經啟動了多個人 工智能生產系統，但其人應用者正在進行大規模人工智能投資，有 53%的受訪者過去一年在人工智能相關技 術和人才方面的支出超過2,000萬美元。 71%的受訪者計劃擴大下一個財務年度的 投資，平均預期增長26%。2 精通者的投 資甚至更大，有68%的精通者在過去一年 的支出超過2,000萬美元。這些企業通常 也能在較短的時間內實現投資回報，81% 的受訪者表示其投資回報期少于兩年。6顯而易見，人工智能應用者正在將大量精 力和財力投入到人工智能實施上。那么結

12、果如何呢？以競爭力作為衡量指標，26% 的受訪者表示人工智能技術使他們在競爭 中占據了顯著的領先地位。在精通者中， 這一比例上升至45%。多數應用者相信，人工智能將在未來三年 內極大地轉變其所在企業和行業（圖2）。 先行者的優勢正在消失。上一版調查中， 有57%的受訪者認為人工智能將在未來三 年內轉變他們的企業，同時有38%認為其 所在行業也將在同一時間內發生轉變。3 這19個百分點的差距表明，人工智能應用 者看到了一個很小的競爭優勢窗口。我們 的最新調查顯示，這一窗口已經進一步縮 ?。侯A期企業在未來三年內出現轉型的比 例升至75%（上升18個百分點），認為行 業在同一時間將發生變革的比例升至

13、61%（上升23個百分點），而兩者之間的差距 縮小為14個百分點。人工智能技術組合機器學習。利用機器學習技術，計算機可 學會分析數據，識別隱藏的模式，進行分 類，并預測未來的結果。我們的調查顯示， 67%的受訪者目前正在使用機器學習，且 有97%正在使用或計劃在明年使用機器學 習。深度學習。深度學習是機器學習的一個子 集，它基于一個名為“神經網絡”的人腦 概念模型。之所以被稱為深度學習，是因 為這種神經網絡有多個相互連接的層。我 們的受訪者中，有54%表示他們使用了深 度學習技術，95%正在使用或計劃在明年 使用。自然語言處理。自然語言處理是一種從可 讀的、風格自然的、語法正確的文本中提 取或

14、生成意義和意圖的能力。58%的全球 受訪者已采用自然語言處理技術，有94% 正在或計劃在明年使用自然語言處理技術。計算機視覺。是一種從視覺元素中提取意 義和意圖的能力，包括字符識別（針對數 字化文檔）和圖像（如人臉、物體、場景 和活動）內容分類。在我們的受訪者中， 有56%聲稱他們使用了計算機視覺；94% 表示正在使用或計劃在明年使用。制勝人工智能時代雖然人工智能仍被廣泛看好，但隨著 應用障礙的減少以及應用數量的增加，人工智能應用者的優勢可能會逐步減弱。其中的一個潛在原因是，人工 智能技術在企業中的應用變得越來越 容易。數據科學和機器學習平臺數量 激增；經人工智能優化的硬件能夠提 供更加強大的

15、算力。借助自助型數據 預處理工具、合成數據、“小數據”應用者正在進行大規模人工智能投資，有 53%的受訪者過去一最讓我興奮的事情之一 就是人工智能平臺的激 增，如此一來所有人都 不必從零開始，而可以 在上一個研究者的基礎 上開展工作。 這將是我 們今后幾年實現快速進 步的根本原因之一。 Manohar Paluri，人工智能研究員和預訓練模型，算法訓練如今變得更加簡 單。這種趨勢的一個表現是：74%的應用 者認為人工智能將在三年內融入所有企業 應用程序之中。我們愈加清楚地看到，世 界正在邁進人工智能全面普及的時代，無 論是否已經應用人工智能，企業都應尋求 開發新的能力，以確保能夠在這個時代實

16、現繁榮發展。因此，已經利用人工智能實現優勢競爭的 企業應該繼續推動自身的差異化發展。對 于尚未采用人工智能技術的企業而言，應 著手加速自身產品、流程和人才方面的人 工智能轉型。隨著后來者開始趕超行業領先者，人工智 能應用者應考慮重點采取以下三方面措施 以維持自身的優勢（參見圖3）：制勝人工智能時代過去幾年，開展人工智能實驗的企業數量 不斷增長，他們的數據相關能力得到了提 升，同時獲取了新技術，建立了人才隊伍， 并將人工智能融入到業務流程之中。未來 數年，人工智能將會更加廣泛普及。正如 我們不再談論孤立的移動端戰略一樣（這 已經成為經營的一部分），人工智能將會 在不久之后成為標準和日常經營的一部

17、分， 甚至比我們預期的更快。德勤企業人工智能應用現狀分析（第三版）人工智能將轉變企業723%人工智能將轉變行業43%36%26%21%9%3%17%9%8%正在進行不到1年13 年內注： 因有小部分受訪者回答“不清楚”，因此百分比累加可能不足100%。 來源：德勤企業人工智能應用現狀分析（第三版），2020年35 年內超過5年圖2企業和行業均將在不久的未來開展轉型最讓我興奮的事情之一 就是人工智能平臺的激 增，如此一來所有追求創新方法：在效率之上挖掘更多 價值，在人工智能應用方面變得更具 創造性，尋求發展與轉型之間的平衡。成為更明智的消費者：面對市場上持 續增加的人工智能供應商、平臺和技 術，

18、提高認識以更好地評估購買選擇。積極應對風險：更謹慎地使用人工智 能技術，與客戶及合作伙伴建立互信， 以避免相關工作受到人工智能感知風 險的阻礙。追求創新方法在人工智能全面普及的時代，任何人均可獲 取相關功能，而企業應努力拓寬人工智能的 應用范圍。在當前的應用浪潮中，我們發現 許多企業似乎更加關注如何改善現有能力， 而忽視創造新能力。這并不令人感到意外， 因為人工智能應用帶來了許多與效率相關的 效益，包括自動化流程，使人能夠專注于更 高價值的工作；改善供應鏈，利用預測性維 護來減少停機時間；優化廣告購買和投放； 以及加快招聘速度等。來源：德勤企業人工智能應用現狀分析（第三版），2020年“許多制

19、藥企業的高管 都在考慮人工智能帶來 的成本節約和效率。當 你管理一個龐大的組織， 有數百個花費數百萬美 元的臨床試驗項目正在 進行，便會存在一些從 科學角度而言并不復雜、 容易實現的目標，而在 這些方面，人工智能可 以為組織節省數億美元?！?Ron Alfa，轉化醫學發現高級副總裁，Recursion Pharmaceuticals圖3在人工智能無處不在的未來，參與競爭和贏得勝利需要什么？128追求創新方法謀求變革 的應用者表示其在選擇人工智能技 術和技術供應商方面具備較高的技 能水平成為更明智的消費者積極應對風險提高流程效率增強現有產 品和服務激勵變革應用者利用人工智能所尋求的前兩大價值:5

20、6% 的應用者認同由于新出現的風險，其 企業的人工智能技術應用正在放緩制勝人工智能時代追求創新方法：在效率之上挖掘更多 價值，在人工智能應用方面變當被要求指出利用人工智能技術所尋求的 前兩大價值時，受訪者的選擇最多的是 “提高流程效率”和“增強現有的產品和 服務”（圖4） 。受訪高管表示，其企業 在這兩個方面所取得的成效大于其他人工 智能目標。此前的調查中，我們發現企業主要將人工 智能技術應用在信息技術和網絡安全兩個 方面。47%的受訪者表示，信息技術是人 工智能應用最主要的兩大職能部門之一。 這可能意味著企業正在將人工智能用于信 息技術的相關應用之中，如分析信息技術 基礎設施的異常情況、自動

21、化重復性維護 任務，或指導技術支持團隊的工作等。4 抑或者意味著信息技術部門正在企業中領 導人工智能的實施。排在信息技術之后的，是網絡安全、生產 制造、工程設計和產品開發等重要的人工 智能應用部門。而市場營銷、人力資源、 法務和采購等業務職能部門排在最后。所 有職能部門中，約有三分之二的實施項目 的目的在于實現自動化或優化，而非增強 個人能力（參見邊欄“人工智能應用的 目標”）。追求自動化和優化當然無可厚非， 但隨 著人工智能逐步普及，企業將需要更大的 投入以形成差異化競爭優勢。企業通過更 多變革性提升獲得經驗之后，領導者應積 極采取更加果斷的變革性舉措，探索創造 新的人工智能驅動型產品和服務

22、，并利用人工智能發掘新洞察、賦能全新業務模式。有跡象表明，人工智能的實施可能正在超 越效率范疇，向更廣闊的目標邁進。其中 的一個表現是：受訪者所選擇的第三大人 工智能目標是“創造新產品和服務”。圖 4提高流程效率位列人工智能所實現的價值之首注: 藍色虛線代表每個維度的平均值來源：德勤企業人工智能應用現狀分析（第三版），2020年德勤企業人工智能應用現狀分析（第三版）改善決策934%32%36%38%40%42%10%15%30%提高流程效率發掘新洞察提高員工 工作效率增強現有產品及服務創造新產品和服務增進客戶關系減少員工人數30%賦能全新業務模式降低成本20%25%將流程效率列為前兩大目標的企

23、業比例實 現 高 成 效 的 企 業 比 例當被要求指出利用人工智能技術所尋求的 前兩大價值時，受訪者的精通者的方法可能是基于更豐富經驗的自 然進化，也可能是因為他們對人工智能所 固有的戰略思維。無論何種原因，企業對 人工智能的了解愈深入，對創造可能性的 認知似乎便更為廣闊。創新型人工智能應用從為新興體育競 技制定規則，到音樂創作，再到尋找失蹤 兒童持續增長。5現實世界中，企業 不斷拓寬人工智能的應用范圍，推動其上 升至一個全新水平。以下是兩個例子：Recursion Pharmaceuticals公司正在使 用人工智能作為“顯微鏡”，以快速、 低成本的方式確定健康細胞和患病細 胞大型數據集之

24、間的差異，從而發掘 新的化合物用于藥物研發。6佛羅里達州的Power & Light公司正在其 整個業務運營架構中部署人工智能， 以確保電網更加可靠和高效。其目標 是更好地管理日趨復雜的設施網絡， 并納入更多的可再生能源。7人工智能應用的精通者甚至較其他成熟度 指標更重視這一點（圖5）。而起步者則 更重視降低成本。來源：德勤企業人工智能應用現狀分析（第三版），2020年人工智能應用的目標自動化一個通常由人工完成的流程或功能， 例如自動化后端作業、管理云和信息技術 網絡，或檢測視頻模式。優化一個流程或功能的效率，例如防范欺 詐、識別缺陷產品、查找軟件代碼錯誤， 或個性化廣告投放。增強個人完成任務

25、的能力，或賦能其完成 平常難以完成的工作，例如預測需求、提 高合規性、增強分析員對網絡威脅的檢測、 給患者做診斷、識別機械系統的問題，或 提出新的客戶見解。圖 5精通者側重于創造新產品和服務企業對人工智能應用的期望成效排名（從10個選項中篩選的結果）起步者10提高流程效率降低成本增強現有產品和服務創造新產品和服務熟練者精通者238111123434制勝人工智能時代精通者的方法可能是基于更豐富經驗的自 然進化，也可能是因為他方式獲得相關能力。約50%受訪者的購買 比重高于自研，另有30%的購買比重與從 零開始自研的比重相當（圖6）。精通者（53%）和熟練者（51%）相較于起步者（44%）更有可能

26、通過購買方式獲取所需的人工智能系統。這表明，許多企業可能 會經歷一段時間的內部學習和實驗才能清 楚了解自身所需，然后從市場中尋求解決 方案。人工智能應用者將“成為更明智的消費者” 視為提升競爭優勢的關鍵。在被要求選擇 利用人工智能提高競爭優勢的首要舉措時， 他們首選“現代化我們的人工智能數據基 礎設施”，緊隨其后的是“獲得最新且最 好的人工智能技術”（圖7）。成為更明智的消費者目前提供針對特定行業/職能的通用型人 工智能解決方案的企業有數千家，供應商 格局十分復雜。與此同時，一些主要的云 服務提供商亦在其平臺上提供廣泛的人工 智能相關技術。這種形勢可能將在短期內 持續存在。在美國，2019年人

27、工智能企 業獲得的風險投資高達近185億美元，創下新的記錄。8全球整體趨勢也基本一致： 從2014年到2019年末，風投資本在人工智能初創企業的投資達到了15,700宗。9 面對這一充滿活力的市場，企業需要選擇 正確的人工智能技術。在這種需求背景下，我們發現受訪的人工 智能應用者更傾向于通過購買而非自研的圖 6自研還是購買?“一旦適應了運用機器人流程自動化、人工智能和 機器學習等技術自動化各個業務流程，你就不會再 回頭了。這些技術改變了企業的經營方式，不僅工 作變得更快、更高效，還能讓你完成此前不可能完 成的任務。如果能把一個需要三周時間的抵押貸款 申請流程縮短為五分鐘，你怎么還能回頭呢？商業

28、 模式已然改變。這立刻就成為了實現差異化競爭的 關鍵。” Prince Kohli，首席技術官，Automation Anywhere德勤企業人工智能應用現狀分析（第三版）17%33%30%13%8%全部購買購買多于自研比重相當自研多于購買 全部自研自研比重高購買比重高11來源：德勤企業人工智能應用現狀分析（第三版），2020年方式獲得相關能力。約50%受訪者的購買 比重高于自研，另有3企業對擁有一個強大的數據基礎設施如此 重視并不令人意外，因為這是每一項人工 智能相關舉措的基礎。擁有最新且最好的 技術以利用這種強大的基礎設施亦同樣重 要。然而，僅有不足半數應用者（47%） 聲稱在選擇人工智能

29、技術和技術供應商方 面具備較高的技能水平。在另一領域，應用 者的成熟度也有待 提高：低于半數受 訪者（45%）表示 其在將人工智能技 術融入現有信息技 術環境方面具備較 高的技能水平。這 可能包括數據科學 和機器學習平臺、 人工智能驅動型企 業應用程序、開發 對話接口的工具， 以及低代碼/無代 碼工具等。在這些不同的領域中，有93%的受訪者正 使用基于云的人工智能能力，有78%則使 用開源的人工智能能力。例如，線上市場 平臺Etsy已經將其人工智能實驗轉移到云 端，大大增加了算力和實驗數量。10學習 如何管理及整合這些不同的工具和技術是 成功的根本所在?！皩蛻舳?，重要的不是人工智能， 而是

30、業務流程得到完美執行這一事實。 企業所購買的是解決其面臨的實際問 題的方法。如果這種方法恰巧使用了 人工智能，那么企業也便使用人工智 能。只要能按時準確地完成工作，是 否使用人工智能對企業而言并不重要?！?Prince Kohli，首席技術官，Automation Anywhere圖7提高競爭優勢的首要人工智能舉措20%19%1217%16%14%9%低于半數應用者（47%）表示其在選 擇人工智能技術和技 術供應商方面具備較 高的技能水平現代化我們的人工智能數據基礎設施獲得最新且最好的人工智能技術利用基于云的人工智能服務和能力部署數據科學和人工智能開發平臺發展合作伙伴關系，加速實施人工智能計劃

31、聘請一流的人工智能專家使用低代碼或自動機器學習6%來源：德勤企業人工智能應用現狀分析（第三版），2020年制勝人工智能時代企業對擁有一個強大的數據基礎設施如此 重視并不令人意外，因為欲成為更明智的消費者，企業應審時度勢， 尋求最先進的人工智能技術，并將這些技 術應用于基礎設施中。與此同時，企業應 有效利用云和開源技術。作為一種技術手 段，人工智能的部署策略不應有異于其他 IT技術，但會存在細微的差異。13為協助企業在人工智能上的消費更加明智，建議參考以下供應商甄選要點：確保必須借助人工智能才能解決問 題，切勿過于急迫地盲目使用技術。 如需使用人工智能技術，請確保您 選擇的供應商具備相應的能力。

32、立足長遠，選擇具有可持續發展能 力的供應商（市場上有很多初創公 司）。許多企業都希望借助人工智能推進 業務創新，因此選擇供應商時應注 重其靈活性。為供應商提供明確的需求和商業案 例。之前的報告顯示，最成熟的人 工智能應用者除了尋求技術人才以 外，還尋求非技術性人才。11這些人 才必不可少，他們將促進企業和供 應商之間的溝通。全方位提升透明度，涵蓋培訓及人 工智能解決方案測試等各個環節， 從而建立信任。最后，確保供應商能夠為您的用戶和開發人員提供足夠的支持。一個行之有效的做法是采取集中化的方式， 挑選人工智能技術供應商。經驗豐富的精 通者（40%）往往比資歷尚淺的起步者（28%）更傾向于采用這種

33、做法。積極應對風險雖然應用者對人工智能熱情高漲，但他們 仍持有保留態度。 事實上，他們將人工 智能風險管理列為人工智能舉措的最大挑 戰，與之并列的是長期存在的難題數 據管理、人工智能與公司流程的融合。此 外， 應用者尚未做好充分的準備，以應 對戰略、運營和倫理等方面的潛在風險。 超過一半的應用者表示對人工智能舉措中 的潛在風險“十分”或“極其”擔憂（圖 8），而只有四成的應用者認為他們的企 業已經“充分準備好”應對這些風險。12雖然網絡安全是應用者最為擔心的人工智 能風險，但人工智能故障、個人數據濫用 和監管不確定性也是令人擔憂的問題。由 于許多應用者表示未準備就緒，這些風險 可能會阻礙他們的

34、人工智能部署。事實上， 56%的受訪者認為他們的企業會因為新興 風險而延緩人工智能的應用，同樣比例的 受訪者認為公眾的負面看法將導致人工智 能應用進程延緩甚至中止。在監管不確定性方面，57%的應用者“十 分”或“極其”擔憂不斷變化的新法規將 影響他們的人工智能舉措。他們預計將受 到一系列因素的影響，例如歐盟的“歐洲 數據戰略”、加拿大的“自動決策指令” 以及關于人臉識別的立法提案。13他們并 非反對監管，62%的受訪者認為人工智能 技術應該受到政府的嚴格監管（部分國家 受訪者的監管意識更加強烈）。相反，許 多人擔心因法規偏頗或落后而阻礙研究、 創新，不利于提升競爭優勢（62%的受訪 者認為新的

35、政府法規會阻礙公司未來的創 新能力）。德勤企業人工智能應用現狀分析（第三版）欲成為更明智的消費者，企業應審時度勢， 尋求最先進的人工智能人工智能風險管理有很大的提升空間，即 便對最資深的應用者而言也是如此（圖 9）。所有應用者應采取一系列風險管理 措施，以消除擔憂、樹立信心，并管理各 種不確定性：了解人工智能的實際應用是管理風險 的先決條件。降低風險的關鍵在于建 立正式清單，記錄企業所有人工智能 模型、算法和系統。否則，企業很難 追蹤人工智能的應用情況一家銀 行盤點了“所有基于先進算法或人工 智能算法的模型，發現數量驚人，總 共達到2萬個?！?14協調組織工作。人工智能無法在真空 中發展。企業

36、可制定策略，確保全公 司都能理解并應對人工智能風險，從 而進一步做好準備。43%的精通者表示 正在調整人工智能風險管理，以契合 企業更廣泛的管理工作。盡管只有超 過四分之一的精通者指派了一位高管 負責管理人工智能風險，許多應用者（43%）正著力培訓人工智能一線開發 人員，以識別并解決倫理問題。建立人工智能系統審核和測試程序。 無論是由企業內部或獨立供應商執行， 這些程序都必不可少，以確保符合社 會、政府和企業的價值觀。15充分準備好圖 8應用者對人工智能風險的擔憂程度與準備程度存在差距十分/ 極其擔憂網絡安全漏洞62%影響業務運營的人工智能故障39%37%58%37%57%未經同意使用個人數據

37、的后果不斷變化的新法規人工智能系統所作決策和行動的責任缺乏透明度倫理問題人工智能自動化帶來的潛在失業問題根據人工智能推薦做出錯誤決策員工的負面反應顧客的抵制1437%57%39%55%38%54%40%53%38%53%37%53%36%53%38%52%來源：德勤企業人工智能應用現狀分析（第三版），2020年制勝人工智能時代人工智能風險管理有很大的提升空間，即 便對最資深的應用者而言“我們的客戶高度關注透 明度和可解釋性。他們通 常并不關心模型如何運作， 只是希望能夠修正它。我 們發現，行之有效的做法 是建立明確的反饋機制?！?Kevin Walsh, 人工智能產品組負責人, HubSpot

38、這些程序對自主開發及商用人工智能 系統均至關重要。人工智能解決方案 是否消除了偏見？基于人工智能的決 策能否讓人們充分理解，并以其為依 據采取行動？是否有足夠的措施保護 個人數據？關注人工智能的倫理風險。安全問題 是最大的擔憂，四分之一的受訪者將 其視為最大的倫理風險。其他令人擔 憂的問題包括人工智能決策缺乏可解 釋性和透明度，人工智能自動化導致 工作數量減少，以及利用人工智能操 縱人們的思維和行為。圖 9人工智能應用風險管理措施德勤企業人工智能應用現狀分析（第三版）32%1532%36%31%29%35%37%37%39%35%32%34%43%36%43%43%39%37%確保人工智能風險

39、管理契合更廣泛的風險協調一致管理工作指派一位高管負責管理人工智能風險22%27%28%進行內部審核與測試39%38%43%起步者熟練者精通者32%35%35%建立正式清單，記錄所有人工智能應用由外部供應商進行獨立的審核與測試為相關人員提供培訓，協助識別并解決人 工智能的倫理問題與外部相關方合作，尋求人工智能倫理方面 的領先實踐確保人工智能供應商提供的系統無偏見制定政策或建立委員會，以完善人工智能 倫理規范提高認知審核與 測試解決倫理 問題來源：德勤企業人工智能應用現狀分析（第三版），2020年“我們的客戶高度關注透 明度和可解釋性。他們通 常并不關心模盡管存在種種擔憂，僅有約三分之一的應 用者

40、正著力應對風險。36%的受訪者正制 定政策或建立委員會，以完善人工智能倫 理規范，同樣比例的受訪者表示正與外部 相關方合作，積極尋求領先實踐。16由于 倫理問題備受關注，更多的應用者應當考 慮自行制定倫理政策，或采納廣受認可的 倫理政策。1716雖然未來仍有很長的路要走，越來越多的 企業正積極應對人工智能相關風險：美國銀行（Bank of America）與哈佛大 學肯尼迪學院合作建立“負責任地使 用人工智能委員會”，并在人工智能 倫理方面展開合作。18該銀行還開設了 一個新職位企業數據治理執行官， 負責公司的人工智能治理，與首席風 險官合作推進人工智能治理。德國工程公司Robert Bosch GmbH 計劃 在2025年前將人工智能嵌入其產品中， 目前正向20,000名高管和軟件工程師提 供人工智能應用培訓，包括最近制定的 人工智能倫理規范。19Workday是一家基于云的企業軟件提供 商，專注于財務管理和人力資本管理。 該公司開展了廣泛的實踐，包括制定一 系列準則，以確?；谌斯ぶ悄艿慕ㄗh公正不倚，并具備強大的數據管理能力。20Workday 還在其產品開發過程中踐行“