大模型技術白皮書同方計算機有限公司01大模型行業發展分析02同方計算機大模型能力03大模型高階實施策略與路徑04大模型行業案例分享大模型行業應用發展：跨越拐點，加速進入大模型時代AI大模型技術快速成熟，AI算法與應用的開發、上線部署與業務發放等過程均大幅簡化小模型時代大模型時代 翻譯翻譯外部開源可獲取的約5個客戶自定義算子數量可控334ChatGPT將加速行業向智能化發展，垂直領域大模型和場景深度融合客戶需求基于客戶需求基于AI引擎滿足客戶的需求1.某北京律師事務所2.某貴州電力集團3.某北京出版集團4.某國際銀行科技部(廣州)大模型重塑產業格局，行業核心場景，迎來生產力變革新機遇海量離散小模型向少數大模型匯聚少數大模型匯聚智能風控o金融o辦公o辦公智能對話o社交o編程智能對話o社交o編程短文創作短文創作AIGCAIGC大模型 模型基礎能力模型能力開放營銷行業知識結合o設計o消費55GG大模型產業鏈：大模型市場細分領域細分市場場景為王AI+SaaS服務應用模型微調訓練底層數據基礎服務巨頭陣地產品涌現openAI文心一言通義千問大廠通用大模型產品云基礎設施文本數據 算力算法音頻視頻圖片細分市場場景為王AI+SaaS服務應用模型微調訓練底層數據基礎服務巨頭陣地產品涌現openAI文心一言通義千問大廠通用大模型產品云基礎設施文本數據 算力算法音頻視頻圖片大模型產業鏈：下游發展方向專用大模型專用大模型通用預訓練+專業領域訓練=業務場景應用通用化向專用化演進反哺數據技術落地通用大模型統一架構、統一模態、統一任務通用化與專用化并進專業化令通用化增強通用化向專用化演進反哺數據技術落地通用大模型統一架構、統一模態、統一任務通用化與專用化并進專業化令通用化增強平臺化與簡易化并進平臺化與簡易化并進微微調工具大模型應用風險數據清洗能力不足數據整備性差魯棒性不足。。。數據清洗能力不足數據整備性差魯棒性不足。。。侵犯個人隱私誘發犯罪沖擊教育體系。。。侵犯個人隱私誘發犯罪沖擊教育體系。。。形成經濟寡頭壟斷市場顛覆性革命。。。形成經濟寡頭壟斷市場顛覆性革命。。。政治導向輿論引導監管失能。。。政治導向輿論引導監管失能。。。應對措施同方計算機大模型能力1.大模型研究能力2.大模型咨詢規劃能力3.應用方案落地能力4.算力基礎設施能力5.數據服務能力6.安全服務能力技術深度研究已經在ChatGPT相關的大模型展開研究英×英×英×英×-√英√英-√速訓練自有ChatGPT）英√StabilityAI英√英英行業應用研究銀行、保險、電力、工業、文創、專業服務等行業行業服務?班組管理??班組管理?圖譜檢索?維修診斷?保險理賠?智能營銷?接報案?車輛定損?智能問答?文本生成?代碼生成?測試與運維企業管理????????寫崗位需求提取崗位畫像提取人才畫像簡歷篩選自動化面試?各類公文撰寫?政策法規解讀?員工自動訪談?員工離職調研?人才畫像總結?企業知識庫?咨詢問答?文案生成?圖片生成?翻譯?政策法規咨詢?問題解決咨詢?智能個人助理?工單自動提報?自動外呼通知專業服務?領域知識獲取?分析框架提供?分析結果解讀?報告附注生成?報告自動生成?法律知識查詢?幫助合同起草?法律咨詢服務?各類文書撰寫?訴訟糾紛支持?市場調研報告?營銷方案撰寫?營銷推廣優化?客戶分析報告?決策建議提供?自動化編程?代碼翻譯/檢查?產品需求文檔?測試用例編寫?自動化測試I1.AI虛擬數字人場景應用展廳講解員直接利用GPT強大的理解能力+知識庫掛載+數字人形象，實現展廳數字人開發落地應用。GPT語音識別關鍵詞提取知識庫檢索上下文構建答案及過濾AzureGPTl語義理解和對話技術TTS語音轉唇形TTSAzure輸出輸出微表情控制I2.AI數字孿生建模和仿真引擎場景應用3D自動建模自動建模技術：基于語義分割照片陣列建模少量樣本即可快速建模I3.AI咨詢業務的應用資料采集、信息提煉、編寫文檔、資料整理、互動交流AIGC可以在收集資料、信息提煉、編制文檔、互動交流、資料整理等五個方面輔助咨詢業務。互動交流：在語音翻譯、圖像、視頻等內容提高客戶培訓體驗資料整理：對成果整理形成知識庫，提高AI能力資料采集：收集相關的專業知識和法規標準。提高學習效率，擴展顧問的知識面，使能跨專業服務能力。信息提煉：1、對采集到的資料進行整理和提煉,1、對采集到的資料進行整理和提煉,形成紀要；2、協助顧問分析問題，提供通用解決方案、案例互動交流資料整理AIGC編制文檔：1、協助顧問制定文檔提綱和初稿2、生成圖片、視頻，把顧問的想法用多種媒體模態呈現出來互動交流資料整理AIGC編制文檔：1、協助顧問制定文檔提綱和初稿2、生成圖片、視頻，把顧問的想法用多種媒體模態呈現出來信息提煉編制文檔協助顧問撰寫解決方案文檔。算力基礎設施能力圖應用場景人工智能實驗室、實訓平臺模擬實驗、藥物研發模型應用層人工智能算力平臺，引領城市智能變革圖應用場景人工智能實驗室、實訓平臺模擬實驗、藥物研發模型應用層平臺組件層數據處理算法開發訓練推理納管調度用戶管理基礎設施層基礎設施層標準規范體系安全保障體系標準規范體系安全保障體系（數字圖像預處理器）集合通信庫：（數字圖像預處理器）集合通信庫：ResNet50MobileNetV1視圖分析、內容審核搜索NLP廣告推薦昇騰910B支持4/8910訓練服務器A100昇騰910注：模型精度FP16，靜態Shape昇騰910B支持4/8910訓練服務器基礎設施層2：推理平臺Atlas300IAtlas300IProAtlas300VProAtlas300T訓練卡支持1~8張插卡卡式支持1或2張卡搜索推薦金融大腦語音識別內容審核超高能效領先業界主流產品超高能效領先業界主流產品20%安全啟動領先業界主流產品提升50%平臺組件：CANN，軟硬協同充分釋放澎湃算力加速模型訓練計算機視覺ResNet-50CANN3.0自然語言處理BERT-LargeCANN3.0提升推理效率高性能推理引擎推理效率提升完善生態滿足度全面覆蓋典型場景應用測試基準:ResNet-50V1.5model,ImageNet-1kdataset平臺組件：MindSpore及服務能力 支持全場景應用支持全場景部署模型跨平臺免轉換 學術生態開發者生態 學術生態開發者生態科研創新團隊高校合作分子模擬套件咨詢服務可行性分析可行性分析數據集管理數據集管理應用定制應用定制一站式AI開發平臺數據處理、模型開發、模型優化、模型部署、推理高效低成本數據標注&低代碼/無代碼模型開發與優化&一鍵部署&豐富的預置模型與工原始數據模型部署模型開發原始數據模型部署推理服務推理服務模型優化數據標注AI開發平臺，模型持續高效迭代，具有超高能效0離線數據采集數據集制作數據標注場景化模型大模型數據服務全景數據清洗向量數據庫模型訓練模型數據清洗向量數據庫模型訓練模型微調部署發布數據收集服務—基礎建設數據集成數據服務數據服務數據應用數據應用數據分析數據分析數據治理數據治理數據湖數據湖BI分析、報表流式計算數據科學人工智能數據應用層多種負載查詢優化層緩存加速索引加速數據管控層數據管理權限管理優化治理數據存儲層統一存儲多重副本多種類型對接國內各大公有云廠商，提供云采購的技術及商務支持，提高對公有云商務采購的便捷性，提升服務滿意度多云廠商管理CMVM云產品配置推薦云產品轉售技術咨詢云集成采購廠商推薦云產品選型對接國內各大公有云廠商，提供云采購的技術及商務支持，提高對公有云商務采購的便捷性，提升服務滿意度多云廠商管理CMVM云產品配置推薦云產品轉售技術咨詢云集成采購廠商推薦云產品選型服務—數據收集及清洗規范設計數據治理數據采集數據建模數據開發數據標注大模型與向量數據庫協同流程大模型與向量數據庫協同流程行業/企業數據收集數據清洗文件文件數據片段數據片段數據嵌入數據嵌入提問提問數據嵌入數據嵌入微調大模型微調大模型提示提示+上下文建立路線應用路線向量數據庫(向量數據庫(Vectordatabase)通用向量庫通用向量庫服務—模型訓練專屬向量數據庫建立方法：GPT治理后數據GPT治理后數據分布式數據庫（向量數據庫）分布式數據庫（向量數據庫）①企業資料②專業知識③個人習慣提示詞提示詞模型企業級向量數據庫企業級向量數據庫……服務—模型訓練及微調輸入輸入詞向量詞向量據庫神經網絡模塊多頭自注意力層歸一化層歸一化前向神經網絡預測結果概率分布!神經網絡模塊神經網絡模塊輸出結果生成神經網絡模塊多頭自注意力層歸一化層歸一化前向神經網絡預測結果概率分布!神經網絡模塊神經網絡模塊輸出結果生成神經網絡模塊神經網絡模塊層歸一化 適配層層歸一化低秩層預測結果概率分布預測結果概率分布服務—模型訓練及微調大模型企業應用建設示例：問題輸入結果輸出客戶專屬大模型應用前端平臺能力客戶專屬大模型應用前端①嵌入解析程序②通用大模型③自建向量數據庫①解析問題②解析向量云基礎設施服務—模型訓練及微調模型生態定制化模型訓練預訓練模型行業大模型場景大模型業務大模型細分小模型專業/私有語料向量數據庫模型微調圖庫集研識驗例術圖庫集研識驗例術知經案學域業業業領行行行息息陣信信矩息例例力信案案能商售銷發銷?…ChatGLM-6B訓練數據量：ChatGLM-6B訓練數據量：1Ttokens模型參數量：6B語言支持：中英LLaMA訓練數據量：1T/1模型參數量：7B、語言支持：英文.4Ttokens13B、.4Ttokens13B、33B、65B模型參數量：560M、1.1B、1.7B、3B、7.1B、176B語言支持：英文t! t! 通用語料 算力平臺預訓練模型（PLM）服務—數據質量管理 采集存儲報警質量問題管理檢查質量檢測管理報警質量問題管理檢查質量檢測管理質量管理工具數據質量問題分析數據質量問題分析數據質量問題分析數據質量問題分析調度中心調度中心服務—數據安全及隱私數據安全平臺類數據安全平臺類數據安全能力類數據安全能力類數據資產發現與可視化數據資產發現與可視化數據全生命周期安全防護技術數據全生命周期安全防護技術傳輸存儲傳輸存儲處理交換大數據安全管控大數據安全管控可制計計敏可制計計敏許控審審脫權問全源據授訪安溯數制計制密控審限加問全地據訪安屬數數據風險分析與可視化數據風險分析與可視化數據安全平臺類數據安全平臺類數據安全服務類數據安全服務類數據脫敏技術數據加密技術數據加密技術數據水印技術大模型安全服務能力大模型系統安全大模型傳輸安全大模型服務賦能l服務器安全加固l云計算安全防護l未知API識別l資產風險漏洞管理lAPI濫用識別l數據安全防護lAPI安全審計l全網威脅情報lAPI數據脫敏l安全運營中心守護lAPI零信任管理開源大模型安全賦能中心企業大模型實施方法論：以點帶面推動企業智能升級23系統化推廣?制定應用推廣計劃?23系統化推廣?制定應用推廣計劃?系統化推動大模型應用實施?持續改進大模型應用“小試牛刀”?選擇場景：勞動密集型、知識密集型、創意型?進行大模型訓練并開發試點應用?衡量效果及經濟價值企業大模型體系構建?識別和管理AI原始數據?開發和管理訓練數據集?建設大模型訓練、開發及部署環境?建設大模型專業團隊高低企業定制程度高能夠產生價值差異高低企業定制程度高能夠產生價值差異，增強企業競爭力企業快速實現大模型與業務和管理的結合產品研發售后服務戰略洞察產品銷售生產制造供應鏈倉儲物流市場營銷行業基礎模型產品研發售后服務戰略洞察產品銷售生產制造供應鏈倉儲物流市場營銷行業基礎模型市場洞察市場洞察運營知識庫稅務招聘財務培訓審計法務人力資源效率提升流程再造業務變革實現難度低高實現難度價值鏈大模型價值鏈大模型企業管理大模型數字化轉數字化轉型管理數字化AI+平臺戰略&供給側戰略優化自身，內部管理的自動化、平臺化、智能化、生態化，加強供給側能力和平臺能力業務數字化AI+數字業務戰略為客戶提供數字化解決方案和數字化服務，推動產業鏈體驗提升，從產業鏈中要效益價值鏈領域大模型價值鏈領域大模型企業管理領域大模型企業管理領域大模型數字新基建大模型底座云底座商業通用基礎大模型商業行業基礎大模型商業通用基礎大模型商業行業基礎大模型開源通用/行業基礎大模型算力基礎設施算力基礎設施數據中臺數據中臺云原生基礎設施/容器云原生基礎設施/容器低代碼平臺低代碼平臺知識知識服務詢價總體架構AI業務洽談場景--機器人出單·客戶服務客戶詢報價我的保單證照上傳我的賠案自助繳費證照上傳我的賠案業務員電子保單AI業務洽談場景--維修前有選擇，送車有引導。維修過程有提示。維修完成有提醒。維修服務可評價。維修引導任務結束過程協商維修引導任務結束過程協商完成通知維修完成提醒維修評價AI業務洽談場景--以業務員為支撐點，實現家庭為中心方案推薦，實現交叉銷售，客戶服務與關懷。以營銷推薦為驅動力，鼓勵業務員不斷完善客戶家庭成員與財產信息，內外熱數據循環。以業務秘書為紐帶，實現系統賦能業務員的目標。我的營銷消息中心客戶畫像&標識客戶畫像&標識AI測試數據管理平臺創新融合技術元數據元數據其他公司不可模仿的創新點數據治理理念其他公司不可模仿的創新點數據治理理念---""測試要測試要--測試理念和要求--測試理念和要求數據產生機制數據產生機制AI大模型訓練和AI大模型訓練和產出`、`、AI大模AI大模高性能計算客戶需求分析原需求1,2--法律法規、案例裁判文書檢索解讀：提升律師步驟3和步驟4工作效率原需求4--輔助起草法律文件：提升律師步驟5工作效率。原需求5--基于公眾號的法律咨詢助手：解決律所人效需求分析-案件訪談筆錄分析GPT應用系統GPT應用系統案件訪談筆錄分析結果l客戶基本信息姓名、性別、年齡、職業、聯系方式（電話、郵箱等）、l案件類型。l對方當事人信息l案件事實概述l案件爭議焦點l證據材料l期望解決方案l案件進展l涉及的法律法規需求分析-基于公眾號的法律自助咨詢助手問答輸出問答輸出l抗拒識別勞動合同、工資待遇、社會保險、福利、解除與。l知識產權問題GPT應用系統lGPT應用系統l家庭法問題上下文mul上下文mull刑事辯護問題l公司法問題公司設立、變更、合并、分立、解散、清算、股權轉讓等l交通事故問題l個人債務問題l消費者權益保護問題l稅務問題l知識產權侵權問題TONGFANG4TSINGHUATONGFANG4需求分析-法律法規、案例裁判文書問答檢索檢索輸出檢索輸出GPT應用系統GPT應用