目錄請務必閱讀正文之后的免責聲明及其項下所有內容一、Datadog：APM助力GPT應用降本增效Datadog是高效的APM解決方案AIGC給APM帶來新的投資領域二、Palantir：大模型應用于數據分析Palantir

AIP可用于軍用和民用領域AI市場增長加速Palantir收入增長三、投資建議：關注國內相關映射公司1、Datadog：APM助力GPT應用降本增效請務必閱讀正文之后的免責聲明及其項下所有內容美國AI主流分析可分為數據、數據傳輸和數據處理美國AI主流分析可分為數據、數據傳輸、數據處理。1）數據（Data）層面：對數據全方位的監測服務，幫助用戶深入了解其基礎設施的性能表現，特別是監控API的使用情況和tokens消耗對于控制支出和提高應用程序性能也至關重要，代表公司為Datadog；2）數據傳輸（Supplying/Moving

the

Data）層面：AI需要大量的數據訓練，對服務器之間數據傳輸速度提出更高要求，代表公司為博通；3）數據處理（Processing

Power

to

Run

AI

Algorithms

to

data）層面：這一環節需要強AI算力支撐，目前主流AI算力芯片仍是GPU，代表廠商為英偉達。圖1：美國AI主流分析可為數據、數據傳輸和數據處理美國AI主流分析數據數據傳輸數據處理代表公司Datadog 博通資料來源：Datadog，Broadcom，Nvidia，國信證券經濟研究所整理請務必閱讀正文之后的免責聲明及其項下所有內容英偉達圖2：微服務將取代傳統的整體架構資料來源：Devopsschool，國信經濟研究所整理微服務將取代傳統的整體架構微服務將取代傳統的整體架構。1）在傳統的單片框架中，軟件被構建為一個單一的、不可分割的單元，從而產生更簡單但不太靈活的系統；其優點為更容易開發和安裝，但實現更改或進行拓展相對困難；2）微服務方法可將整個架構拆分為不同的模塊，并將每個模塊為一項服務運行，這些服務使用輕量級

API

通過明確定義的接口進行通信，可以針對各項服務進行更新、部署和擴展，以滿足對應用程序特定功能的需求。圖3：微服務可針對各項服務進行更新、部署和擴展資料來源：亞馬遜，國信經濟研究所整理請務必閱讀正文之后的免責聲明及其項下所有內容Datadog：數據聚合、云監控和業務分析Datadog

是一款專為云時代的應用程序而設計的監控和分析平臺。它可以幫助開發人員、IT

運營團隊和業務用戶實現對整個技術堆棧的統一、實時的可觀察性。Datadog擁有實時統一數據平臺，使公司能夠輕松地跨各種“數據孤島”和格式聚合和監控其數據；隨著時間的推移，Datadog增加了功能豐富的創新，如基礎設施和性能監控以及云安全；對于想要“做多人工智能”的公司，Datadog提供整合平臺解決方案；Datadog數據產品、日志記錄、APM

和測試的部分，它們以索引的數據量或測試量命名。Datadog產品包括括主機，云和容器的基礎架構管理，日志管理，事件管理，早期問題和異常檢測，預生產測試，分析，應用程序安全管理和網絡監控等服務。圖4：Datadog產品應用豐富資料來源：Datadog，國信證券經濟研究所整理請務必閱讀正文之后的免責聲明及其項下所有內容Datadog：在APM和可觀測研究領域，具備領先優勢圖5：Datadog在APM和可觀測研究領域，具備領先優勢資料來源：Gartner，國信證券經濟研究所整理Datadog在APM和可觀測研究領域，具備領先優勢。根據Gartner披露數據，其將APM和可觀測研究領域市場參與者劃為四象限，其中Datadog和Dynatrace（DT）處于領導者（Leader）象限，具備非常明顯的領先優勢。請務必閱讀正文之后的免責聲明及其項下所有內容Datadog+OpenAI：微調與增強數據監控對大模型廠商非常重要。監控API的使用情況和Tokens消耗對大模型廠商控制支出和提高應用程序性能非常重要，大模型廠商可以通過優化API的使用、延遲和成本，進而更加有效地使用AI模型。了解用法：通過簡單的設置過程，用戶可以使用

Datadog快速全面了解

OpenAI對

API

的整體使用情況、tokens消耗和按服務、團隊和

API

密鑰劃分的成本；優化性能：通過跟蹤API錯誤率、速率限制和響應時間，Datadog允許用戶識別應用程序性能問題并將其與API性能問題隔離開來。此外，用戶可以查看包含提示和完成示例的跟蹤和日志，以了解關鍵應用程序瓶頸和用戶行為；跟蹤成本：用戶可以查看tokens分配并分析OpenAI

API調用的相關成本。Datadog

提供按模型、服務和組織分配的tokens洞察，幫助團隊更有效地管理費用并避免意外賬單；涵蓋多種

AI

模型：

除了涵蓋大型語言模型的GPT系列之外，Datadog的集成還使組織能夠跟蹤其他OpenAI模型的性能，成本和使用情況，包括Ada，Babbage，Curie和Davinci。圖6：Datadog控制和管理數據流資料來源：Datadog，國信證券經濟研究所整理請務必閱讀正文之后的免責聲明及其項下所有內容APM是IT服務管理（ITSM）的重要工具，主要對軟件應用程序的性能和服務質量進行監控和管理。APM工具對于保持應用程序性能，以及在性能出現問題時快速定位和解決問題非常重要。APM的目標是通過確保應用程序性能達到滿意水平，以提高最終用戶的體驗和滿意度。這通常通過追蹤和監控應用程序來實現，這些應用程序可能位于數據中心內，也可能在云端。APM工具可以幫助IT和運維團隊了解應用程序的性能情況，以便在性能下降時可以及時采取措施進行優化。APM是SaaS中的重要環節。由于SaaS應用程序通常服務于大量用戶并且需求可能隨時間變化，所以需要有強大的監控工具來確保服務的穩定性和性能。如果SaaS應用程序出現性能問題，可能會影響到所有用戶，這就使得APM在這種環境下更為關鍵。APM是IT和SaaS的重要工具圖7：應用性能管理流程圖資料來源：Seeking

Alpha，國信經濟研究所整理圖8：常用的APM工具資料來源：Seeking

Alpha，國信經濟研究所整理9請務必閱讀正文之后的免責聲明及其項下所有內容Datadog是一種專注于云端軟件基礎設施的全維度監測平臺。它提供實時的全棧性能可見性，涵蓋了從應用程序頂層到中間層的Kubernetes/Docker/Hypervisor，再到操作系統和中間件，甚至包括數據庫和第三方服務等完整基礎設施堆棧的性能監測。無論是云原生架構還是傳統部署，Datadog都能提供全方位的監測服務，幫助用戶深入了解其基礎設施的性能表現。Datadog的APM解決方案優勢有：細節豐富的性能數據：Datadog收集并展示應用程序的各種性能指標，包括響應時間、請求吞吐量、錯誤率、數據庫查詢性能等。跨平臺和跨語言支持：Datadog支持多種編程語言和應用程序框架，包括Java、Python、Ruby、Node.js等。無論應用程序運行在云環境、容器化環境還是傳統的物理服務器上，Datadog都能提供全面的性能監測和管理。實時性強：助力快速問題定位。Datadog提供有效的APM解決方案圖9：Datadog是專注于云端軟件基礎設施的平臺資料來源：SeekingAlpha，雪國信經濟研究所整理圖10：Datadog的APM應用案例資料來源：SeekingAlpha，國信經濟研究所整理10請務必閱讀正文之后的免責聲明及其項下所有內容AIGC給APM帶來新的投資領域在復雜的AIGC環境下，智算中心的架構變得更為復雜，這也使得監控系統的價值得到提升。智算復雜性增加：在智算中心，相較于傳統數據中心，CPU、計算卡以及存儲實現了高度解耦和按需調用，這使得系統的復雜性顯著提升。大模型訓練的復雜性增加：大模型的訓練通常需要使用數萬張以上的算力卡，并且由于參數數量龐大，通常需要采用更復雜的分布式計算方式。因此，各項資源都需要進行實時監控。圖11：智算中心架構圖資料來源：國家信息中心，國信證券經濟研究所整理圖12：大模型訓練流程資料來源：CSDN，國信證券經濟研究所整理11請務必閱讀正文之后的免責聲明及其項下所有內容AIGC給APM帶來新的投資領域由于硬件端和訓練端的復雜性，傳統的IT監控系統需要進行整合，以滿足運維需求。這帶來了監控系統價值的提升。傳統的IT監控系統主要關注硬件設備和基本的系統指標，如服務器的CPU利用率、內存使用情況、網絡流量和存儲容量等。隨著技術的進步和復雜的IT環境的出現，監控解決方案需要提供更廣泛、更智能的功能，并涵蓋了更多的應用層面、云服務和容器化環境。APM在整合IT監控系統中的價值在于提供全面的應用程序監測、業務影響分析、故障排除和快速恢復、自動化和智能化以及統一的監控視圖。Datadog將企業原本的十幾個到最多幾十個互相割裂的

IT監測系統整合成一個，既提高監控效率，又降低企業的

IT

支出。圖13：傳統的IT監控系統案例資料來源：Seeking

Alpha，國信證券經濟研究所整理圖14：Datadog將互相割裂的IT監測系統進行了整合資料來源：Datadog，國信證券經濟研究所整理12請務必閱讀正文之后的免責聲明及其項下所有內容AIGC給APM帶來新的投資領域13請務必閱讀正文之后的免責聲明及其項下所有內容APM在整合IT監控系統中的價值：全面的應用程序監測：傳統的IT監控系統主要關注底層基礎設施的性能指標，而APM專注于應用程序層面。通過集成APM工具，可以深入監測應用程序的各個組件、事務和用戶體驗，提供全面的應用程序性能數據。這樣可以更好地了解應用程序的行為和性能瓶頸，并快速識別和解決問題。業務影響分析：APM不僅提供了應用程序的性能數據，還能幫助分析這些數據與業務指標之間的關系。通過與IT監控系統的整合，可以將應用程序性能數據與底層基礎設施的監測數據進行關聯，從而更好地理解應用程序性能對業務的影響。這樣可以幫助管理員更加準確地評估應用程序的重要性和緊急性，優化資源分配和決策。故障排除和快速恢復：APM提供了詳細的性能指標和事務跟蹤數據，可以幫助快速定位應用程序中的性能問題和故障原因。通過整合APM和IT監控系統，管理員可以更快速地識別問題并采取相應的措施。這有助于縮短故障恢復時間，最小化業務中斷和用戶影響。自動化和智能化：現代的APM工具往往具備自動化和智能化的功能。它們可以自動識別異常模式、預測潛在的問題，并自動觸發警報和通知。通過與IT監控系統的整合，這些智能化的功能可以進一步增強，使監測和響應變得更加高效和準確。統一的監控視圖：整合APM和IT監控系統可以為管理員提供一個統一的監控視圖，將應用程序性能和底層基礎設施的狀態集中在一起。這樣可以幫助管理員更全面地了解系統的健康狀況，更好地進行容量規劃和資源管理AIGC給APM帶來新的投資領域14大模型的算力消耗較大，成本較高。目前根據根據GPT-4的公開數據，在8K的上下文長度下，每1000個token的提問成本為0.03美金，每1000個token的回答完成成本為0.06美金；在32K的上下文長度下，每1000個token的提問成本為0.06美金，每1000個token的回答完成成本為0.12美金。高效的運維系統對提升訓練效率、降低成本有貢獻。整合的IT監控系統可實現對智算中心和模型在設計、迭代、部署等全生命周期的監控，提高模型整體訓練效率：優化資源管理：包括計算、存儲和網絡資源。它能動態分配和調整資源，滿足訓練需求，避免資源浪費和瓶頸，提高訓練效率；通過自動化工具和流程，實現自動完成環境配置、數據準備、模型部署和監控等一系列運維任務。這減少了人工干預和錯誤，提高了訓練過程的速度和一致性；通過監控和故障檢測功能，及時發現訓練環境中的異常情況，如硬件故障、網絡問題或資源不足。快速識別并采取適當的糾正措施，減少訓練中斷時間，提高訓練效率。圖15：ChatGPT-4訪問價格資料來源：OpenAI官網，國信證券經濟研究所整理請務必閱讀正文之后的免責聲明及其項下所有內容2、Palantir：大模型應用于數據分析請務必閱讀正文之后的免責聲明及其項下所有內容Palantir：專注于大數據分析圖16：Palantir的產品結構資料來源：Seeking

Alpha，國信證券經濟研究所整理圖17：PalantirFoundary加速了端到端的數據轉化資料來源：數字海岸，國信證券經濟研究所整理PalantirTechnologies是一家位于美國的軟件公司，專注于大數據分析。Palantir提供兩款主要產品：Gotham主要用于政府機構，包括防御和情報部門，用于數據集成、可視化和分析。Foundry則更偏向于企業市場，可以幫助組織進行數據管理、數據治理和分析決策。請務必閱讀正文之后的免責聲明及其項下所有內容Palantir為特定AI業務需求提供解決方案圖18：Palantir的數據分析界面資料來源：Seeking

Alpha，國信證券經濟研究所整理圖19：Palantir為軍方提供的知識圖譜AI分析資料來源：Seeking

Alpha，國信證券經濟研究所整理PalantirPalantir的定制化是其在AI領域內的核心優勢。Palantir沒有通用工具軟件，它的產品中有30%需要定制化，這是其在AI領域的核心優勢。使得AI系統可以更加快速、準確地分析和識別數據模式和關聯關系；通過將AI模型與特定任務或行業進行適配，Palantir可以提供高度專業化的解決方案，從而幫助客戶更好地理解和應用數據；此外，Palantir的定制化還可以提高其安全性和隱私保護能力，使其在敏感領域中更具競爭優勢。請務必閱讀正文之后的免責聲明及其項下所有內容Palantir

AIP：應用于軍事和民間的人工智能平臺圖20：Palantir

AIP的戰場Demo資料來源：Palantir，國信證券經濟研究所整理圖21：Palantir

AIP的民用領域資料來源：Seeking

Alpha，國信證券經濟研究所整理Palantir

AIP可應用于軍事和民用領域。1）軍事領域：Palantir

AIP專注于為大型語言模型提高其安全性和隱私保護能力，使其在敏感領域中更具競爭優勢，這是美國軍方和商業部門的關鍵利益；2）民用領域：其可用于與金融、醫療保健、政府、零售業等民用領域。請務必閱讀正文之后的免責聲明及其項下所有內容圖22：全球AI市場規模快速增長資料來源：德勤，國信證券經濟研究所整理AI市場增長加速Palantir收入增長全球AI市場快速增長。根據德勤數據，預計23年全球人工智能市場規模達到4.48萬億美元，預計25年增長至6.40萬億美金，17-25年CAGR達32.10%，全球AI市場快速增長；AI市場增長加速Palantir收入增長。根據Palantir財報披露，受益于AI快速發展，公司業績快速增長，