ChatGPT10大缺陷值得擔憂經過科技人員幾十年的不懈努力，現實世界中的人工智能現在終于達到了一個臨界點。ChatGPT和DALL-E這樣的AI模型的驚人表現，讓很多人感受到越來越聰明的AI系統正在趕超人類。生成式AI的功能如此多樣和獨特，以至于人們很難相信它們來自機器。但是一旦奇跡感消退，生成式AI的明星效應也會消失。AI在一些應用中也顯示了其場景感知或常識的局限性，如今也有很多人正在關注或擔心生成式AI的缺點或缺陷。以下是人們所擔心的生成式AI的10個缺點或缺陷。1.抄襲內容當研究人員創建DALL-E和ChatGPT等生成式AI模型時，這些實際上只是從訓練集中的數百萬個示例中創建的新模式。其結果是從各種數據來源提取的剪切粘貼合成的，而人類這種行為被稱為“抄襲”。當然，人類也是通過模仿來學習的，但在某些情況下，這種抄襲并不可取，甚至違法。而生成式AI生成的內容由大量文本組成，或多或少抄襲了一些內容。然而，有時其中涉及到足夠多的混合或合成，即使是大學教授也可能難以檢測到真實來源。無論怎樣，其生成的內容缺少的是獨特性。盡管它們看上去功能強大，但并不能生產出真正的創新產品。2.版權問題雖然抄襲是學校盡力避免的問題，但版權法適用于市場。當某人竊取他人的知識產權或工作成果時，那么可能會被人起訴，或者會被處以數百萬美元的罰款。但是AI系統呢?同樣的規則適用于它們嗎?版權是一個復雜的主題，生成式AI的法律地位將需要數年時間才能確定。但需要記住的是，當AI開始取代人類的一些工作的時間，那么就會有人根據版權法規提起訴訟。3.無償獲取人類的勞動生成式AI引發的法律問題不僅僅是抄襲和侵犯版權，一些律師已經AI引發的道德發起訴訟。例如，一家制作繪圖程序的公司是否收集有關用戶繪圖行為的數據，然后將這些數據用于AI培訓目的?人類是否應該為這種創造性勞動的使用獲得補償?AI的成功很大程度上源于對數據的訪問。那么，生成數據的人類想要從中獲利會發生什么呢?那么什么是公平的?什么是合法的?4.利用信息而不創造知識AI擅長模仿人類需要數年才能發展出來的那種智能。當一位人類學者介紹一位不知名的17世紀藝術家，或者一名藝術家用一種幾乎被人遺忘的文藝復興時期的音調創作出新的音樂時，人們對他們具有高深的知識和技能感到欽佩，因為這需要多年的學習和練習。當AI只經過幾個月的訓練就能做同樣的事情時，其結果可能會非常精確和正確，但總是感覺缺少了什么。訓練有素的AI系統機器通過獲取大量信息了解某一事物，甚至可以破譯瑪雅象形文字。AI似乎在模仿人類創造力中有趣和不可預測的一面，但它們并不能真正做到這一點。與此同時，不可預測性是創造性創新的驅動力。像時尚行業不僅沉迷于變化，而且被變化所定義。事實上，AI和人類都有各自擅長的領域。5.智能增長受限說到智能，AI本質上是機械的和基于規則的。一旦AI系統通過一組數據進行訓練，就會創建了一個模型，而這個模型并沒有真正改變。一些工程師和數據科學家設想，隨著時間的推移，逐步重新訓練AI模型，這樣AI就能學會適應。但是，在大多數情況下，這個想法是創建一組復雜的神經元，以固定的形式編碼特定的知識。這可能適用于某些行業。AI的危險在于，其智能增長將永遠被其訓練數據的局限性所困。當人類變得依賴生成式AI，以至于無法再為訓練模型提供新的材料時，將會發生什么?6.隱私和安全性有待提高AI的訓練需要大量數據，人類并不總是那么確定神經網絡的結果是什么。如果AI從訓練數據中泄露個人信息怎么辦?更糟糕的是，控制AI要困難得多，因為它們的設計非常靈活。關系數據庫可以限制對具有個人信息的特定表的訪問。然而，AI可以通過數十種不同的方式進行查詢。網絡攻擊者將很快學會如何以正確的方式提出正確的問題，以獲取他們想要的敏感數據。假設網絡攻擊者鎖定了某一特定設施的緯度和經度，可能會詢問AI系統那個地點的確切時間，而盡職的AI系統可能會回答這個問題。因此，如何訓練AI保護隱私數據也是一件困難的事情。7.產生偏見即使是早期的大型機程序員也理解計算機問題的核心，他們創造了“垃圾輸入，垃圾輸出”（GIGO）這一概念。AI的許多問題來自于糟糕的訓練數據。如果數據集不準確或有偏見，就會反映在其輸出結果中。生成式AI的核心硬件由邏輯驅動，但建造和訓練機器的人類卻不是。偏見和錯誤已經被證明可以進入AI模型。也許有人使用了有偏見的數據來創建模型，也許他們只是覆蓋了防止AI回答特定的熱點問題，也許他們輸入了一些固定的答案，而這些將讓AI系統產生偏見。8.AI也會犯錯人們很容易原諒AI模型犯的錯誤，因為它們在很多其他事情上都做得很好，只是許多錯誤很難預測，因為AI的思維方式與人類不同。例如，許多使用文本轉圖像功能的用戶發現，AI在相當簡單的事情上都會犯錯，例如計數。人類從小學就開始學習基本的算術，然后用各種各樣的方式使用這項技能。例如讓一名10歲的孩子畫一只章魚，他通常會確定它有8條腿。當涉及到數學的抽象和場景應用時，當前版本的AI模型往往會陷入困境。如果模型構建者對這個錯誤給予一定的關注，這種情況很容易改變，但還會有其他錯誤。機器智能不同于人類智能，這意味著機器犯的錯誤也會有所不同。9.欺騙人類有時，人類往往會在沒有意識到錯誤的情況下被AI系統所欺騙。例如，如果AI告訴人類，英國國王亨利八世殺死了他妻子，他們通常會相信，因為他們也可能不了解這段歷史。人們往往假設AI提供的答案是真實和正確的。對于生成式AI的用戶來說，最棘手的問題是知道AI系統何時出錯。人們認為，機器不會像人類那樣撒謊，這讓它們變得更加危險。AI系統可以寫出一些完全準確的數據，然后轉向猜測，甚至變成謊言，而人類通常不知道發生了什么。二手車經銷商或撲克玩家往往知道他們什么時候在撒謊，而且大多數人都會說出在哪里撒謊，但AI不能做到這一點。10.無限的復制性數字內容具有無限的復制性，這讓許多圍繞稀缺性建立的AI模型不堪重負。生成式AI將進一步打破這些模式。生成式AI將會讓一些作家和藝術家失業，它還顛覆了人們遵循的許多經濟規則。當廣告和內容可以不斷地重新組合和更新時，廣告支持的內容還會有效嗎?互聯網的免費部分是否會陷入“機器人點擊網頁廣告”的世界，而所有這些都是由生成式AI生成的并且無限