ChatGPT在智能客服產品中，該如何落地？class="size-fullwp-image-5806486aligncenter"src="/wp-files/2023/04/IS9F1mPVuEHlucUBG6h5.jpg"alt=""width="900"height="420"/>

就聊聊當下熱門話題：ChatGPT在智能客服產品中該如何落地？

關于ChatGPT為代表的大語言模型，每個人的伴侶圈都被刷爆了，不再水字數。咱們直接來做一道真題：假如在智能客服這樣一個ToBSaaS應用軟件領域，想要落地LLM大語言模型，如何實現？

01

首先，先來解決一個值不值得做的問題：智能客服領域，值得用LLM大語言模型進行智能化產品改造嘛？

產品的幾個典型特征匯總下：

人力密集：

智能客服，是一個高度依靠人工操作的系統，有解放生產力的內在需求。

數據密集：

智能客服產品可沉淀大量過程性數據，如會話信息，通話記錄，錄音，操作日志。有數據，就有了人工智能應用滋生的沃土。

流程可定義：

這類產品，往往都可以有典型的業務流程抽象：如IVR語音交互、外呼任務、工單流轉等。

有智能化應用基礎：

智能客服是很早邁入AI人工智能技術的賽道之一：文本機器人，語音機器人，智能質檢的應用已經特別成熟。客戶和用戶的心智已得到教育。

結論：一個行業，有相對落后的生產工具、有比較標準的生產流程，有大量未充分處理的數據，且對人工智能無抵觸，那么確定是一個值得LLM落地生根發芽的沃土。

只不過。這片田地在現階段LLM們眼中看來，還是小了一點而已。

02

假如值得做，那么如何做？

這就是一個見仁見智的問題了，大家的產品架構不同，目標客群不同、業務規模不同、主打產品各異。

我們可以假設，已經有了一套得到驗證，穩定運營的成熟產品，不盼望引入LLM帶來現有產品的巨大變化，進而影響客戶體驗。如何搞？

提倡擁抱變化，嘴上鼓吹AGI通用人工智能帶來行業巨變，這些都沒問題，真要不破不立，付出真金白銀的代價來決策，去執行，還是一個很難選擇的命題。

1.架構設計問題

端詳本身產品架構，是否具備LLM大語言模型落地基礎。

可以理解、由于歷史緣由，當前主打產品架構陳舊，模塊化解耦不完善，性能瓶頸無法解決，但由于跑著許多生產客戶，輕易無法改動。這種狀況下，再塞入ChatGPT到整個架構中，將帶來更多沉重壓力。

那么第一步先想清晰，是準備好好優化下，還是另辟蹊徑，單獨做一個外圍LLM應用。

好比老房子改造，是不是要準備做做基礎施工，還是簡潔刷刷墻、做下軟裝得了。

歷史包袱較重的話，也不妨另起爐灶，聚集有心氣的一支精銳之師沖一下。也算是給原有池塘中投入一只鯰魚。

2.工具設計問題

做頂層應用設計之前，我們需要先梳理工具。如AI引擎管理、數據建模工具、意圖管理管理、標簽標注和管理，流程生成工具，業務構建工具等等……

ChatGPT力量的引入，相較于以前智能客服產品所沉淀的基于自然語言處理、語義理解、意圖識別，關鍵字和正則處理等方式，帶來顛覆性的轉變。借助其力量涌現，上下文關聯，規律鏈提示處理等方式，原有的手把手定義流程，字詞句填槽的舊模式，勢必得到極大轉變。

假如以前構建簡單AI應用，需要是半編程化的方式，用ChatGPT們來實現，打個比方更像是RPG嬉戲編程工具，以場景搭建、角色扮演，提示格式化、規律化，輔以人工反饋監督的模式去進行。

為什么不能是呢。假如我們做的足夠好用，是不是也可以直接邀請用戶參加到“嬉戲”開發中來？

另外，許多工具本身，更可借助ChatGPT進行智能化的改造。以更高效和智能的方式來處理數據、生成數據。

如進行自動訓練和標注、學問庫的自動化擴充、來代替語料手工標注，代替傳統問答對的低效人力處理，給出標準問，自動擴展相像問等等。

3.應用設計問題

最終說說智能客服應用層面的設計，這里是用戶可感知的界面和內容。

我們來依據智能客服的一些典型場景，看看ChatGPT們的優勢力量，可帶來哪些富有想象力的轉變。

1）增加型對話力量

不行否認，ChatGPT帶來了極其強大的對話力量，我們萬分期盼，甚至開頭腦補其進入智能客服對話中的效果。

但是很圓滿，智能客服產品領域內的對話，是一個特別典型的限定業務領域、任務驅動的對話需求，我們客戶確定不盼望訪客進來，是查找一個超高智能、善解人意、能寫會畫的陪聊機器人。

會話內容必需收斂于企業業務范疇內，服務于客服和營銷場景下，解決和處理問題，不要鋪張珍貴的資源。

不加掌握的直接引入ChatGPT到客服領域，那感覺就好比你回家撞見掃地機器人不干活，和隔壁的智能吸塵器聊的你儂我儂，是不是恨不得一棒子打死了事！

所以，構建增加型對話力量，一方面我們借助ChatGPT簡化了對話流程設計：以前需要設定N多個意圖，關聯很多個上下文才能實現的方式，現在開箱即用，自然語言對話獵取、格式化提示完成限定任務、收集訪客數據和意向。另外，通過私有化訓練和公共文本數據的結合，對訪客供應不僵化、更優質的回答體驗。

ChatGPT和傳統文本，語音機器人力量的結合，會給智能客服的機器人服務力量帶來質的飛躍。

2）智能質檢

傳統智能質檢已經是特別成熟的解決方案，但假如通過ChatGPT，投入預訓練和肯定的業務規章定義，可以實現無需簡單設定，更智能的質檢結果輸出。

我們向模型內投入肯定數量的優質錄音、文本，然后告知ChatGPT都有哪些加分因子、讓他自動判別生產數據的質檢狀況，然后不斷通過手工質檢的對齊調優，讓ChatGPT持續不斷學習和改進。

3）智能化幫助

同理，對于座席側智能幫助功能，也是可以通過對優質樣本的投喂，正確流程和加分因子的定義，不斷的讓ChatGPT在數據滋養下，實時對座席給出更好的幫助力量。原有的幫助功能框架可以保留，但是內里是一個不斷進化，自動學習的“業務助理”

4）內訓機器人

基于智能質檢和智能幫助的基本力量，針對使用場景是企業內訓的機器人，也完全可以基于現有數據樣本，更自動化的生成內訓“教官”，我們業務管理人員，可以針對崗前培訓、業務流程、服務過程設定不同內訓主題，肯定量標準語料訓練后，讓內訓機器人指導座席進行自我訓練，這種對于強調學習力量和管理力量的運營型客戶，很有吸引力。

5）智能填單類

智能客服應用中，有大量需要手工輸入的表單：客戶資料、跟進記錄、服務工單，目前市面上CRM領域已經消失借助ChatGPT進行智能填單的試驗性應用。按以往的實現方式，必需有簡單的工程化設計，將會話文本實時匹配，借助詞性分析，語義分析和關鍵字查找等方式，使用表現往往不盡如人意。我們可以期盼LLM大語言模型的超強力量可以有效提升這類型產品的有用度。

6）從關心中心到座席助理

全功能的智能客服產品已經是一個特別浩大的產品體系，功能多如牛毛，上手難度很高。

許多產品的設計，需要操進行處處跳轉去查找、配置、調整。以往的關心形式，除了簡潔的頁面的功能提示，就是如wiki一般厚重的在線關心頁面，對使用者說不上友好，對開發者也有持續更新維護的沉重負擔。

而使用智能助理模式的在線關心，不同角色的人員可以通過對話式的簡潔體驗，來獵取使用上的實時幫助，甚至一些功能型的配置和要求，聰慧的助理也可以精確?????理解使用者的對話，直接進行配置和轉變。

比如：系統管理員喚起智能配置助理：

“小C小C，幫我查找一個近半個月名字叫做***的客戶全部訪問和對話記錄”

這個對小C的力量來說，就是小case了。

“小C小C，我需要設置一個清明節的IVR語音導航，全部清明節時間呼入的電話，都提示這樣一句話：***”

這個要求嘛，還是有肯定風險，出于謹慎目的，小C還需要和你反復確認一些關鍵配置要素，確認無誤才去執行。

7）AIGC學問庫

智能客服產品中，最需要內容生產力量的地方，莫過于學問庫。

產品必備的學問庫通常分幾類：內部學問庫、機器人學問庫和外部學問庫。

①內部學問庫

是供應給座席使用者，會話中實時定位查詢使用。企業的業務變化多端，學問庫的調整要準時到位。對于內部學問庫的整理。一般需要專人進行上傳、編輯、整理，用過的都知道這是一個特別耗費工作量的事情。

ChatGPT的引入，能幫助高效智能的歸類，自動生成學問庫類目、明細。假如增加對外部數據源的引用，學問庫還可以自動關聯，削減學問庫同步的操作。使用者在應用中，可給與學問點反饋，能關心學問庫進行權重自動調整。

②機器人學問庫

文本和語音機器人能夠回答訪客問題，依靠機器人學問庫的有效內容。一旦無法命中，機器人只能回避或者推舉其他學問點。對于未知問題的整理，是需要智能客服使用者大量投入工作量的一個地方。

同樣，對于調用量遠大于內部學問庫的機器人學問庫來說，借助用戶反饋來對未知問題進行自動整理和關聯，能節約許多學問庫維護者的工作。我們也可以通過多機器人組合的方式，在一通會話中接力棒一般服務于客戶的不同場景，那么被訓練好的ChatGPT專屬機器人，也可以在特定的場合發揮力量，并可以逐步替代一些以往模式僵化的問答型機器人。

③外部學問庫

假如企業有學問門戶的需求，需要整合在智能客服產品中，假如不把這類產品算作一個獨立品類的話，基于ChatGPT的多模態的AIGC力量，可以更便利的將已整理的學問內容轉化為輸出產物，更便利的生成學問文章、圖片、甚至音視頻，快速生成一個共性化的學問空間。

充分發揮ChatGPT制造性的工作，這里還有許多的想象空間。

④數據猜測類應用

最終我想到的一個品類，是基于對智能客服數據的猜測分析。作為以往智能客服類產品的一個“短板”，建設數據猜測類產品可能需要很重的CDP數據平臺建設，CEM客戶體驗管理等方式，假如ChatGPT可以更高效精準的進行銷售意向，行為，成交概率的猜測，對利潤中心導向的智能客服產品，將具有很大價值。

4.商業化前景

以上，完全只是構想，甚至算是空想，想