JRCJRC137136夠生成逼真的類人類內容。對其潛在濫用和社會影響的關注突顯了識別機器生成內→識別AI生成內容的解決方案應具備以下四個 的一個前沿領域，近年來由于最先進的技術進步用于生成媒體內容（如文本、音頻、圖像或視頻 )的模型，這些內容模仿人類制作的內容。該技術的應用潛力覆蓋了各個行業。其創造力和推理諸多益處，其不斷增長的能力也引發了對其自身或操控的內容（如圖像、音頻或視頻）與現有的人、物、地點或其他實體或事件極為相似，并且 通用型AI系統、生成合成音頻、圖像、視humans"人工生成或操縱。提供商應確保其技術解決方案在相關范圍內有效、互操作性強、穩健可靠。對于歐盟以外的地區，機器生成內容的問題也已受 開發有效的技術手段以確保用戶知曉內容由AI生成[9]，以及中國對深度合成互聯網服務提出眾多要求，包括使用技術手段標注這些服務生成或編輯的內容[10]。在過去五十年中，數字技術的興起顯著重塑了所有權和版權的格局。數字化資產可以被復制和修改的可能性催生了將隱藏信息或標記嵌入到圖像技術），以及唯一標識這些資產的方法（指紋識），的修改，如添加標志或文字。隨著時間的推移，這些技術演進為對人類感官不可感知且在視覺和音頻領域具有強大抗篡改性的水印。水印技術與指紋識別方法相結合，進一步增強了安全性，采此簡報的目的，我們將重點放在最常見的研究工作中產生的文本、音頻、圖像和視頻數據上。支器（GPT基于卷積網絡的技術[13]，例如用于生成的內容對于確保數字技術和媒體的信心保這份簡報旨在回顧四種技術解決方案（見圖1） ,以實現這一目標。這些解決方案根據四項des供者名稱、創建日期或用于身份驗證的數字簽名等信息來實現。該過程應要求最小的努力和受到可預見的變化或修改影響，這些變化或修改不影響內容的合成性質，也不改變內容的整體外觀或可解釋性（例如，圖像的亮度或音頻的音量 )。的的信息的修改，無論是更改識別元素（篡改）元數據是嵌入計算機文件中并提供有關這些文件G、JPG、MP3或PDF。當生成音頻或圖像時，這通常是常見的做法，但對于返回原始文本的文據。然而，某些元數據中的信息可能需要更新以圖1對四種技術解決方案的示意圖進行了分析，以識別生成的內容。水印技術將元數據嵌入內容中作為不可見或幾乎不可感知的標記。水印可以在媒體內容生成期間[23]。-水印可以設計成對內容質量影響最小，尤其是對的水印是可行的，并且已在科學作品中進行了演下，指紋識別涉及生成并存儲在一個外部數據庫中唯一標識符，該標識符用于識別生成的內容，標識:識別過程包括計算待識別內容的指紋，并將修改敏感，這可能導致不同的指紋和錯誤的身份基于人工智能的檢測工具采用機器學習分類技術構建，并通過人工制作和機器生成的內容進行訓標識:水印需要特定的工具來驗證真偽、檢測篡標識:識別過程涉及將內容輸入到檢測器中。然而，當前用于檢測生成內容的技術存在較高的誤報率，并且可能會錯誤地識別出由人類生成的內。開放性促進了創新文化的形成，允許開發者迭代關鍵想法并逐步開發更為先進的系統。然而，當數據、指紋或水印只需刪除一行代碼即可，從而指紋識別、水印或檢測方法）也是開源的，惡意行為者可能分析代碼以找出繞過生成內容識對于這些問題，最穩健的方法是在生成過程中整或對訓練數據集中的所有圖像進行水印處理，使而另一端保持封閉。例如，公開水印代碼和封閉受限于當前的技術水平，且目前尚未找到單一解決方案能夠全面滿足識別可靠生成內容的全部理將元數據和水印整合到內容中，可以更容易地跟蹤和驗證由機器生成的數字內容。諸如內容來源表1與上述討論的四種desirable屬性相比的技術解決方案比較。（綠色：已覆蓋，橙色：部分覆蓋，紫色：未覆蓋）效率完整性對含量變更操縱TextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImage元數據水印指紋檢測另一方面，指紋識別和檢測方法可以區分真容與被篡改的內容，無論是否存在元數據或水印。然而，這些方法仍然存在一些不足：指紋識別需要專門的基礎設施來大規模生成和存儲指紋，依賴于數字簽名的解決方案需要設置合適的公鑰基礎設施(PKI)此外，技術實施可以留給提供商處理，或者在專更廣泛治理系統的一部分，以確保各方之間的正確互動。在實踐中，這帶來了諸多挑戰，尤其是需要進行進一步的基礎研究。這還包括探索新的工程方法以開發產品，使內容生成的識別更Intelligence'.2021.[online].Available:theproposalforaregulation[.]layingdownficialIntelligenceAct)[..],2023.[online]. TrustworthyArtificialIntelligence',Thewhite whatcost?'printing:ForwhichApplications?', nismsasaconditionnismsasaconditionofpublicRelease',Glo'AdversarialAudiowatermarkintoDeepFeature',Miers,andT.GoldstFingerprintsforDiffusionImages',ngh,'surveyofrobustandimperceptiblewatermarking',Z.Jiang,J.zhang,andN.z.Gong,'Evadingwa-content'.arxiv線進行多輪機器生成文本檢測的國際機器學習大,'Robustness