近期客戶詢問的熱門話題 – Observability for AI
發布日期：2025/12/18
使用 Splunk Observability for AI 監控和排查用於建立 AI 應用程式的 AI 元件的效能問題。
Observability for AI 支援監控各種專用 AI 元件，例如大型語言模型 (LLM) 服務、模型服務平台、語言框架、向量資料庫、模型、基礎設施服務和微服務。有關支援的 AI 組件列表，請參閱「支援的 AI 組件、指標和元資料」。
支援從各類人工智慧組件收集指標和metadata：
- AWS Bedrock
- Azure OpenAI
- Cisco AI PODs
- GCP VertexAI
- LiteLLM proxy
- Milvus
- NVIDIA GPU
- NVIDIA NIM
- OpenAI
- Pinecone
- Ray
- Weaviate
參考資料：Introduction to Splunk Observability for AI
內建各式儀表板方便管理
案例 - 提供 Nvidia GPU 健康、效能及使用量的可視性
案例 – Cisco AI PODs 可視性
