跳至主要內容
Telemetry
整合集合

AI 代理和 LLM Telemetry 整合

比較模型提供程式、代理框架、工具編排、檢索系統和 AI 應用程式執行時的實施指南。

審閱者 Telemetry產品團隊 . 執行時邊界、共享事件欄位、驗證工作流程和上游實現源. 審查標準和所有權

20 實施指南

每個指南都包含伺服器端程式碼片段、交付和隱私邊界、驗證查詢、相關 SQL 以及上游文件的連結。

瀏覽指南

選擇框架

選擇知道結果的邊界

最終結果的所有者

使用模型 SDK 指南瞭解請求成本和延遲,然後新增代理或框架指南,以瞭解工具選擇、重試和最終任務狀態。

保持痕跡和結果清晰

需要時保留詳細跨度的追蹤後端。使用批准的相關識別符號將有界乘積結果傳送到 Telemetry。

除了成本之外還要衡量價值

將權杖和延遲與已審查的結果(例如接受、儲存、解決、升級或移交)聯絡起來,而不是單獨最佳化請求量。

共享事件合約

保持第一個模式可互操作

  • run_id,功能、提供商、型號和狀態
  • input_tokens、output_tokens、estimated_cost_usd 和 latency_ms
  • tool_name、retry_count、cache_hit、reviewer_outcome 和 human_handoff

使這些欄位適應工作流程,但在多個服務依賴同一個資料表之前保持單位、狀態類別、識別符號和所有權明確。

驗證

在發出警示之前練習故障路徑

  1. 1執行一個成功的模型請求並協調提供商報告的權杖。
  2. 2練習一種工具失敗、重試和最終代理結果。
  3. 3確認排除原始提示、完成、憑據和私有工具負載。
  4. 4按功能劃分的查詢成本、延遲、失敗率和可接受的結果。

實施指南

匹配框架、提供程式或執行時

來源實施指南

OpenAI 代理Telemetry

使用結構化事件記錄 OpenAI 代理執行、工具呼叫、模型使用、延遲、成本和最終結果。

開啟指南
來源實施指南

OpenAI 回應 API Telemetry

測量 OpenAI 回應 API 延遲、權杖使用、工具活動、故障和下游結果,而無需收集提示或生成的內容。

開啟指南
來源實施指南

LiteLLM 閘道器和 SDK Telemetry

跨受控模型閘道器追蹤 LiteLLM 提供商路由、重試、回退、權杖使用、延遲、成本估算和可接受的結果。

開啟指南
來源實施指南

人類克勞德 API Telemetry

追蹤 Claude API 權杖使用情況、模型、延遲、停止原因、錯誤、成本背景以及審查的產品結果,而無需儲存提示。

開啟指南
來源實施指南

谷歌雙子座 API Telemetry

追蹤 Gemini 請求延遲、模型使用情況、權杖、完成原因、錯誤和審查的產品結果,而無需儲存提示或生成的內容。

開啟指南
來源實施指南

亞馬遜基岩型號 Telemetry

透過模型或推理設定檔案、權杖使用情況、延遲、停止原因、重試和業務成果來衡量 Bedrock Converse 請求。

開啟指南
來源實施指南

Azure OpenAI 回應 Telemetry

透過可編輯的 SQL 就緒事件追蹤 Azure OpenAI 部署使用情況、權杖成本、延遲、故障和產品結果。

開啟指南
來源實施指南

Vercel AI SDK 遙測

追蹤 AI SDK 工作流程的流式傳輸完成情況、權杖使用情況、重試、延遲和接受的結果。

開啟指南
來源實施指南

LangChain代理結果Telemetry

將 LangChain 代理執行和工具結果與面向產品的成本、可靠性、移交和驗收指標連線起來,而無需重複原始追蹤。

開啟指南
來源實施指南

LangGraph 代理可觀測性

測量 LangGraph 執行結果、節點和工具故障、重試、檢查點、人工切換、延遲和審查的任務品質。

開啟指南
來源實施指南

克勞德代理SDK Telemetry

追蹤 Claude Agent SDK 執行結果、持續時間、工具活動、週轉、成本和批准的產品訊號,無需儲存提示或工具負載。

開啟指南
來源實施指南

Pydantic AI 代理 Telemetry

透過安全結構化事件測量 Pydantic AI 執行結果、經過驗證的輸出、重試、工具活動、延遲、使用情況和產品接受度。

開啟指南
來源實施指南

CrewAI 工作流程 Telemetry

追蹤 CrewAI 人員和流程結果、任務計數、移交、重試、延遲、成本和接受的結果,而無需保留代理對話。

開啟指南
來源實施指南

Google ADK 代理 Telemetry

透過 SQL 就緒事件衡量 Google 代理開發工具包會話、執行結果、工具活動、切換、延遲和批准的產品訊號。

開啟指南
來源實施指南

馬斯特拉代理Telemetry

追蹤 Mastra 代理和工作流程結果、工具活動、延遲、重試、成本和產品驗收以及內建追蹤和評估。

開啟指南
來源實施指南

LlamaIndex 代理 Telemetry

透過結構化事件追蹤 LlamaIndex 代理和工作流程結果、工具活動、延遲、檢索版本、成本和審查品質。

開啟指南
來源實施指南

DSPy程式評估Telemetry

使用 SQL 就緒事件測量 DSPy 程式延遲、故障、指標分數、最佳化器版本、模型成本以及跨版本的可接受結果。

開啟指南
來源實施指南

AutoGen 任務流、狀態和超時監控

透過緊湊的結構化事件追蹤 AutoGen 任務流狀態、超時、團隊和代理結果、工具活動、切換、延遲、故障、成本和發布。

開啟指南
來源實施指南

語義核心代理 Telemetry

測量語義核心功能和代理結果、工具活動、模型使用、延遲、成本和發布以及 OpenTelemetry 追蹤。

開啟指南
來源實施指南

MCP 伺服器和工具 Telemetry

追蹤模型上下文協議工具的結果、延遲、錯誤、批准、重試、客戶端和發布,而不儲存參數或返回的內容。

開啟指南

首先驗證一個端到端工作流程

建立一個免費的 API 金鑰,選擇最接近的執行時指南,並在擴大覆蓋範圍之前傳送已知的成功和失敗資訊。

免費開始