使用 Anthropic Claude API telemetry 傳送並驗證事件
在受控應用程式邊界使用 Anthropic Claude API telemetry,保持事件契約較小,並在建置聚合檢視之前驗證已知結果。
- 1
選擇結果
克勞德 API 成本分析
- 2
定義合約
提供商、型號、功能和狀態
- 3
在結果處發出
從 API 回應和設定中讀取模型,而不是在分析中硬編碼即將到期的模型識別符號。
- 4
核實證據
Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.
開始之前
開始之前
- Anthropic官方TypeScript SDK設定伺服器端
- 伺服器端TELEMETRY_API_KEY
- 產品工作流程和審查的結果定義
交貨設定
安裝並初始化伺服器端
在僅伺服器程式碼中匯入 telemetry-sh 並使用 process.env.TELEMETRY_API_KEY 對其進行一次初始化。 將攝取憑據保留在瀏覽器包、客戶端可見的環境變數、原始碼控制、日誌和異常訊息之外。
npm安裝
npm install telemetry-sh- 1準備一個具有有限網路行為的可重用伺服器端交付客戶端。
- 2在成功、失敗、重試或超時邊界處新增結果事件。
- 3在啟用警示之前傳送受控裝置並檢查儲存的行。
片段
從一個結構化事件開始
在工作流程完成、失敗或重試的位置新增此形狀。然後從真實的欄位建置儀表板。
Anthropic Claude API telemetry事件
const startedAt = performance.now();
const message = await anthropic.messages.create({
model: process.env.ANTHROPIC_MODEL,
max_tokens: 1024,
messages,
});
await telemetry.log("llm_request_completed", {
provider: "anthropic",
model: message.model,
feature: "support_reply",
status: "success",
stop_reason: message.stop_reason,
input_tokens: message.usage.input_tokens,
output_tokens: message.usage.output_tokens,
latency_ms: Math.round(performance.now() - startedAt),
prompt_version: "support-v3",
release: process.env.APP_RELEASE,
});事件結構
提供商、型號、功能和狀態
input_tokens、output_tokens、latency_ms 和 stop_reason
run_id、prompt_version、reviewer_outcome 和釋放
檢查設定
檢查站 1
從 API 回應和設定中讀取模型,而不是在分析中硬編碼即將到期的模型識別符號。
檢查站 2
在已知使用情況和停止原因後記錄請求結果,並使用受控錯誤型別記錄故障。
檢查站 3
使原始提示、完成、API 金鑰和工具負載遠離遙測。
驗證
證明事件已到達
在演練已知的成功和失敗案例後執行此命令。如果您的最終事件契約與程式碼片段不同,請替換後備資料表名稱。
Anthropic Claude API telemetry 驗證查詢
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;實施參考
在啟用新的生產路徑之前,請檢查事件合約、資料安全指南和上游主要文件。
在哪裡記錄事件
保持結果事件小且可恢復
該模式提供了
- 除了上游工作流程之外,還有一個有界的、SQL 就緒的結果。
- 用於儀表板、警示和跨事件關聯的穩定欄位。
- 用於驗證成功、失敗、重試和超時行為的夾具驅動路徑。
該模式不提供
- OTLP 匯出器、自動收集管道或詳細追蹤和診斷日誌的替代品。
- 僅因為有效負載包含事件 ID,所以僅傳送一次。
- 收集原始提供商有效負載、使用者內容、憑證或受監管資料的權限。
事件結構描述範例
此工作流程的事件結構描述
在將查詢或程式碼片段適應生產之前,請檢查行粒度、發出邊界、所需型別、隱私類、範例有效負載和驗證清單。
相關產品功能
繼續此工作流程 AI代理監控
透過可審查的 SQL 連線代理執行、工具使用、模型成本、品質和產品結果。
相關 SQL 查詢範例
更多 SQL 範例
針對此工作流程中的結構化欄位執行查詢,檢查範例結果,並將有用的答案轉換為儀表板或警示。
衡量人工智慧代理任務的成功和人工交接
哪些代理工作流程成功完成併產生可接受的結果?
開啟查詢範例按功能和模型計算 LLM 成本
哪些產品功能和型號正在推動法學碩士支出?
開啟查詢範例衡量 LLM 快取節省和重試成本
有多少模型成本與重試和快取未命中相關?
開啟查詢範例測量 LLM 獲得第一個權杖的時間
在輸出開始之前,哪些模型和功能組合感覺很慢?
開啟查詢範例衡量每美元所接受的人工智慧產出
哪種模型和功能組合可以產生最受接受的單位美元產出?
開啟查詢範例按實施系列瀏覽
比較相關整合模式
與此整合配對的範本
更多整合