前言近兩年來，人工智能（AI）的快速發展正在眾多行業領域掀起一場顛覆性的行業革新。在今年舉行的十四屆全國人大二次會議上，李強總理在2024年政府工作報告中提出，深化大數據、人工智能等研發應用，開展“人工智能+”行動。這是我國政府工作報告第一次提出“人工智能+”。“人工智能+”的概念，意在鼓勵各行各業重視人工智能技術的應用和落地。企業需要整合多方資源，在自身產品研發過程中將人工智能技術更好應用，以增強其市場競爭力。在零售領域，AI技術已展現出巨大的商業應用價值。從行業實踐來看，現階段售前、售中到售后等環節均已出現了較為成熟的AI技術方案，在許多具體業務場景中已得到廣泛應用。零售行業參與者們已意識到AI技術在降低成本、提升效率、加快創新等方面的重大作用，并紛紛將其作為尋求突破、改變競爭格局的新賽道。本文擬從“AI生成營銷素材”、“AI智能導購”和“AI定價”等零售行業典型的AI應用場景出發，探討伴隨AI應用產生的相關法律風險。一、AI應用場景中的主要角色目前我國與AI直接相關的法規規范主要包括《互聯網信息服務算法推薦管理規定》（“《算法推薦規定》”）、《互聯網信息服務深度合成管理規定》（“《深度合成規定》”）和《生成式人工智能服務管理暫行辦法》（“《生成式AI辦法》”）。三部法規規范的適用范圍和主要義務主體略有差異，簡要總結如在常見的零售行業參與者中，大型零售平臺往往自行開發AI產品為消費者和平臺內商家提供服務，其角色更偏向于AI服務提供者和/或AI技術支持者。相較而言，一般品牌方通常選擇從其他AI技術開發者處直接采購AI工具搭載于自身產品和服務上再提供給消費者，或采購ToB型AI工具用于自用目的，因此品牌方作為AI服務提供者和/或AI服務使用者的情況較為多見。二、AI生成營銷素材一個天才創意能夠為營銷活動積累巨大的口碑，極大地提升產品銷量和品牌影響力，而生成式AI憑借其高效的內容產出能力和源源不斷的創意能力，能夠顯著降低創意成本、提高營銷效率。目前市場上已有較為成熟的生成式AI工具，可根據用戶輸入的提示文本撰寫廣告文案或生成廣告圖片，往往在幾秒鐘之內就可提供十幾種方案供選，還可根據使用者的進一步要求進行調整優化。某些專注于營銷領域的生成式AI工具還可根據不同行業領域和應用場景提供多種素材模板，甚至能夠整合其他廣告監測工具來追蹤這些素材的廣告投放效果。根據2024年4月2日國家互聯網信息辦公室《關于發布生成式人工智能服務已備案信息的公告》以及此前陸續發布的深度合成服務算法備案清單，國內部分大型電商平臺已進行了AI大模型的研發并完成了相關備案。這些AI大模型可提供商品營銷文案創作、商品圖片和賣點等營銷素材生成等功能，幫助商家提高運營效率和營銷內容質量。不少品牌方/零售商們已不同程度地使用過這些AI創作工具，有效降低了營銷物料制作周期。由于在AI應用中的角色不同，零售行業參與者所承擔的合規義務也有所區別：AI服務提供者AI服務提供者除了自身不得實施非法使用個人信息等侵犯個人信息主體權益的行為外，也應提示用戶注意輸入內容中若包含未公開的個人信息，應取得相關個人信息主體的同意。在技術層面，服務提供者也應當采用技術或者人工方式對用戶的輸入數據和合成結果進行審核[1]，確認是否可能存在個人信息，并過濾或對相關個人信息進行脫敏處理。如接到第三方關于個人信息侵權的舉報，應及時處理。AI服務提供者如果自行開發AI工具的，還應當履行以下AI技術支持者的相關合規義務。AI技術支持者AI工具的訓練和使用依賴于對大量數據的處理，因此對于AI技術支持者而言，確保數據來源合法是進行后續開發的首要合規前提。AI模型訓練的數據來源通常包括以下三種：（1）使用網絡爬蟲獲取公開數據：需注意網絡爬蟲不應故意突破或繞開網站設置的訪問限制措施和反爬蟲技（2）直接收集個人信息：如從用戶、消費者或測試志愿者等個人處收集個人信息用于模型訓練，需確保已向相應個人信息主體告知其個人信息將被用于AI模型開發等目的并獲取其授權同意，或在能夠滿足訓練目的的前提下，對訓練數據中的個人信息進行匿名化處理；（3）從第三方采購數據集：需要求該等第三方就其數據來源合法性做出陳述與保證。此外，與AI技術支持者的數據處理活動相關的主要義務包括：（1）依法開展訓練數據處理活動，加強訓練數據管理，采取必要措施保障訓練數據安全[2]；（2）提供人臉、人聲等生物識別信息編輯功能的，應當提示服務使用者依法告知被編輯的個人，并取得其單獨同意[3]；（3）提供具有生成或者編輯人臉、人聲等生物識別信息功能的模型、模板等工具的，應當依法自行或者委托專業機構開展安全評估[4]；（4）在生成式AI技術研發過程中進行數據標注的，應當制定清晰、具體、可操作的標注規則，開展數據標注質量評估，抽樣核驗標注內容的準確性，并對標注人員進行必要培訓，監督指導標注人員規范開展標注工作[5]。AI服務使用者品牌方等AI服務使用者在使用營銷素材生成、虛擬主播等生成式AI工具時可能也需要輸入人臉、聲音等個人信息，為此同樣需要向相關個人履行告知-同意義務，特別是包括對處理其人臉、聲音等敏感個人信息的單獨三、AI智能導購AI生成營銷素材主要是服務于商家的ToB模式，而AI智能導購則是直面消費者的ToC模式。目前國內部分大型電商平臺已推出了基于大語言模型的AI智能導購工具，以期解決傳統人工導購/客服培訓周期長、回復效率低、回復結果不理想等問題，幫助平臺用戶更快速準確地找到符合其偏好的商品。AI智能導購利用多輪對話不斷挖掘用戶需求，歸納總結用戶的購物意圖，圈定用戶需求特征后檢索相關商品，最后按照用戶偏好排序并向用戶進行推薦。以購買家用冰箱的場景為例，用戶提問時一般僅會給出少量表層需求，例如意向品牌、意向價格區間等，智能導購會進一步對其他需求特征進行詢問，例如開門方式、尺寸、容量、制冷模式、特殊功能要求等。當明確用戶需求后，智能導購會在平臺內檢索相關商品，計算用戶需求和商品特征的匹配度來篩選出符合條件的商品，并根據用戶對話反饋不斷調整推薦商品，最終實現交技術層面上，AI智能導購的本質是基于深度學習算法，根據用戶輸入的信息進行自動化決策并輸出決策結果的一類生成式AI工具。同時，因AI智能導購可能涉及生成合成類、個性化推送類、排序精選類等算法技術，屬于《算法推薦規定》定義的“算法推薦技術”，其服務提供者和技術支持者除了需要遵守生成式AI服務相關法規以外，還需要注意算法推薦管理方面的合規義務：算法備案義務《算法推薦規定》規定，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續[6]。《算法推薦規定》并未進一步明確“具有輿論屬性或者社會動員能力”的具體標準。2018年國家互聯網信息辦公室和公安部聯合發布的《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》（“《2018年安全評估規定》”）提供了相關解釋：“本規定所稱具有輿論屬性或社會動員能力的互聯網信息服務，包括下列情形：（1）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網絡直播、信息分享、小程序等信息服務或者附設相應功能；（2）開辦提供公眾輿論表達渠道或者具有發動社會公眾從事特定活動能力的其他互聯網信息服務。”此外，從網信部門公布的算法備案信息中也可看出，已備案算法的應用產品類別非常廣泛，除新聞資訊、搜索引擎、貼吧論壇、網絡視頻等應用以外，還包括求職招聘、外賣配送、網絡購物類應用，幾乎覆蓋了絕大多數的互聯網常見應用類型。因此實踐中，算法推薦服務提供者應充分理解上述標準，對于包含評論互動和信息分享功能且面向社會公眾提供的算法推薦服務，宜主動履行算法備案義務，避免受到監管處罰。安全評估義務具有輿論屬性或者社會動員能力的算法推薦服務提供者應當按照國家有關規定開展安全評估，還應當依法留存網絡日志，配合網信部門和電信、公安、市場監管等有關部門開展安全評估和監督檢查工作，并提供必要的技術、數據等支持和協助[7]。《2018年安全評估規定》規定了應當進行安全評估的五類情形，包括“具有輿論屬性或社會動員能力的信息服務上線，或者信息服務增設相關功能的；用戶規模顯著增加，導致信息服務的輿論屬性或者社會動員能力發生重大變化的”等。其他主要合規義務告知公示：AI導購服務提供者應當在相關功能界面或相關網站/應用程序的其他顯著位置向用戶告知算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等。不得操縱：AI導購服務在向用戶推薦商品或商品榜單時，應注意不得過度推薦或操縱榜單。因AI導購功能可直接促成交易，品牌方可能會向這一渠道進行更多廣告投放，獲取更多曝光量，但AI導購服務提供者不應向投放過廣告的商品進行過分的資源傾斜，不得利用算法屏蔽其他商品信息或干預其他商品信息的呈現。算法機制和內容審核：AI導購服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，避免出現算法操縱、誘導過度消費和其他違反法律法規或者違背倫理道德的情形。此外，AI導購服務提供者在不斷收集更多數據、優化相關算法模型時，還應注意識別和過濾語料庫中的違法內容和不良信息，避免生成違法和不良信息，例如在面向用戶生成商品推薦文案時，應避免生成違反廣告法的用語或內容。保障用戶權利：AI導購服務提供者應當始終保障用戶權利，在向用戶推薦商品時應當提供不針對其個人特征的選項，或者提供選擇或刪除用于AI導購服務的針對其個人特征的用戶標簽的功能。四、AI定價商品定價策略對商品銷量和企業營收至關重要。傳統的定價策略通常是在商品成本上增加一定的利潤率，同時結合競品價格、市場需求和趨勢等外部因素綜合確定價格，而這往往依賴人工判斷和經驗總結。在AI賦能零售的技術浪潮下，商品定價也可以由AI大模型完成。AI大模型定價簡單來說可分為三個環節：（1）收集和處理數據；（2）建立定價模型、確定定價策略的目標；（3）實施定價策略。基于底層數據的更新、不同期間定價目標的差異，AI生成的定價策略也將隨著市場變化和用戶行為而動態變化。比如，在商品銷量較低或用戶反饋價格過高時，AI可能會自動降價；在競品價格普遍上漲時，AI可能會自動跟隨漲價。又比如，AI也可能根據某一用戶的行為進行個性化定價：當AI通過消費者的歷史交易數據識別出消費者對某品牌有更高的忠誠度時，可能會向此類消費者提供更為優惠的價格。然而在我國目前的監管體系下，“千人千面”的個性化定價存在著較為明顯的合規風險。通過AI進行個性化定價的本質是通過自動化決策技術，就同一商品或服務對交易條件相同的個人提供不同價格，因而可能構成差別待遇。《個人信息保護法》明確規定，利用個人信息進行自動化決策，應當保證決策的透明度和結果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇[8]。另外，利用消費者的個人信息進行自動化決策也應當根據《個人信息保護法》的要求向消費者告知個人信息將被用于進行自動化決策目的，并獲取其同意，除非個人信息已經過匿名化處理不再構成個人信息。個性化定價還可能涉及反壟斷方面的合規風險。《反壟斷法》明確禁止具有市場支配地位的經營者沒有正當理由，對條件相同的交易相對人在交易價格等交易條件上實行差別待遇[9]。《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》對此做出了細化規定：（1）分析是否構成差別待遇，可以考慮以下因素：基于大數據和算法，根據交易相對人的支付能力、消費偏好、使用習慣等，實行差異性交易價格或者其他交易條件；（2）平臺在交易中獲取的交易相對人的隱私信息、交易歷史、個體偏好、消費習慣等方面存在的差異不影響認定交易相對人條件相同；（3）針對新用戶在合理期限內開展的優惠活動以及能夠證明行為具有正當性的其他理由，可以被視為實施差別待遇行為的正當理由[10]。以上禁止差別待遇的規定針對的是具有市場支配地位的經營者，相較于一般品牌方，大型零售平臺在此方面可能面臨著更高的合規風險。另外，消費者知情權也是一個重要的關注方面。2024年3月15日發布的