跳至主要內容
Telemetry
AI代理監控

透過結構化事件監控 AI 代理成本、工具使用和結果

在代理、工具、模型和結果邊界捕獲緊湊事件,然後使用可檢查的 SQL 將可靠性和成本與使用者或業務工作流程收到的結果聯絡起來。

結果

  • 按工作流程和發布衡量成功的執行、切換、重試和工具故障。
  • 將代幣成本和延遲與接受、拒絕或審查的結果聯絡起來。
  • 預設情況下,將原始提示、完成、文件和工具參數保留在分析路徑之外。

它是如何運作的

從訊號到決策的可審查工作流程

1

定義最終結果

每次完成的代理執行或業務操作選擇一行。記錄狀態、持續時間、工作流程、發布、移交、成本和安全關聯識別符號。

2

僅新增有用的元件事件

當工具和模型回答已知的可靠性、成本或品質問題時,記錄工具和模型請求事件。不要複製整個追蹤或敏感負載。

3

價值加盟運營

記錄驗收、人工審查、任務成功或其他明確的產品結果,然後將版本與審查的 SQL 和完整分母進行比較。

Telemetry 中的 AI 代理結果事件

Telemetry 中的 AI 代理結果事件

實際的 Telemetry 工作區顯示用於檢查代理執行、工具呼叫和終端結果的事件資料表和 SQL 介面。

邊界

這不能取代什麼

  • Telemetry 不攝取 OTLP 或提供分散式追蹤瀑布。將 OpenTelemetry 追蹤保留在相容 OTLP 的後端中,並將選定的結果事件與安全追蹤或執行識別符號相關聯。
  • Telemetry 不會將提示、完成、檢索到的文件或工具參數作為專用的 LLM 追蹤產品進行儲存和重播。僅傳送批准的、有界的欄位。
  • Telemetry 不提供內建提示管理、評估資料集、實驗或評分器執行。當需要這些工作流程時,保留專家評估平臺。

可檢查的證明路徑

從事件契約到可見的答案

此範例使用宣告的架構、只讀 SQL 和確定性合成結果。它示範了工作流程,但沒有提供範例資料作為客戶基準。

1. 活動合約

一排進入 agent_run_outcomes,並明確查詢所使用的型別。

timestamp_utc
Timestamp
workflow
Utf8
model
Utf8
status
Utf8
reviewer_outcome
Utf8
human_handoff
Boolean
瀏覽活動合約

2.只讀SQL

哪些代理工作流程成功完成併產生可接受的結果?

SELECT
  workflow,
  model,
  COUNT(*) AS runs,
  100.0 * SUM(CASE WHEN status = 'success' THEN 1 ELSE 0 END)
    / NULLIF(COUNT(*), 0) AS technical_success_rate_pct,
  100.0 * SUM(CASE WHEN reviewer_outcome = 'accepted' THEN 1 ELSE 0 END)
    / NULLIF(SUM(CASE
      WHEN reviewer_outcome <> 'not_reviewed' THEN 1 ELSE 0
    END), 0) AS reviewed_acceptance_rate_pct,
  100.0 * SUM(CASE WHEN human_handoff THEN 1 ELSE 0 END)
    / NULLIF(COUNT(*), 0) AS human_handoff_rate_pct,
  AVG(duration_ms) AS average_duration_ms,
  SUM(estimated_cost_usd) / NULLIF(COUNT(*), 0) AS cost_per_run_usd
FROM agent_run_outcomes
WHERE timestamp_utc >= now() - INTERVAL '30 days'
GROUP BY workflow, model
HAVING COUNT(*) >= 20
ORDER BY reviewed_acceptance_rate_pct, runs DESC;

3. 合成結果

退款審查在技術上完成,但比其他工作流程需要更多的修改或人工接管。

工作流程modelruns
support_triageconfigured-model-a1840
refund_reviewconfigured-model-b620
knowledge_draftconfigured-model-a940
檢查查詢、結果和警告

能力

包含什麼

用於代理執行、模型請求、工具呼叫、評估和產品結果的命名事件資料表
穩定執行、操作、追蹤、帳戶、提示版本、評估器版本和發布欄位
DataFusion SQL 表示成功率、p95 持續時間、每個接受結果的成本、工具迴圈和品質回歸
根據相同的已審查查詢建置的儀表板和閾值警示
代理框架、模型提供程式、OpenTelemetry 和 MCP 工具的整合指南

特定於代理的設定路徑

從工作流程中已有的程式設計代理開始

代理遙測skill.md 指南,然後將相同的已審查遙測邊界帶入重點 Claude Code、Cursor 或 Codex 實現路徑中。

看分析

使用此功能的 SQL 查詢範例

客戶案例

團隊如何使用此工作流程

相關能力

繼續從事件到決策的工作流程

從一個生產工作流程開始

使用集中提示、傳送綜合事件並在擴大覆蓋範圍之前驗證第一個有用的查詢。