跳至主要內容
Telemetry
整合指南

Vercel AI SDK 遙測

追蹤 AI SDK 工作流程的流式傳輸完成情況、權杖使用情況、重試、延遲和接受的結果。

審閱者 Telemetry產品團隊 . 我們檢查了要傳送的事件、要排除的資料和程式碼新增方式. 誰負責審查此頁面

準備好將模型使用與可接受的產品結果聯絡起來了嗎?回顧 OpenAI 成本追蹤指南.

有用於
  • 流媒體 LLM 分析
  • 功能成本報告
  • 可靠性儀表板
實施證據

使用 Vercel AI SDK telemetry 傳送並驗證事件

在受控應用程式邊界使用 Vercel AI SDK telemetry,保持事件契約較小,並在建置聚合檢視之前驗證已知結果。

  1. 1

    選擇結果

    流媒體 LLM 分析

  2. 2

    定義合約

    功能、提供商、型號、prompt_version 和 finish_reason

  3. 3

    在結果處發出

    流完成後記錄終端生成結果,以便權杖使用和完成原因完整。

  4. 4

    核實證據

    Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.

開始之前

開始之前

  • AI SDK 生成或在可信伺服器邊界上執行的流式呼叫
  • 用於比較各代的穩定功能和提示版本分類法
  • 遙測後設資料的白名單,不包括提示、回應、標頭和工具負載

交貨設定

安裝並初始化伺服器端

在僅伺服器程式碼中匯入 telemetry-sh 並使用 process.env.TELEMETRY_API_KEY 對其進行一次初始化。 將攝取憑據保留在瀏覽器包、客戶端可見的環境變數、原始碼控制、日誌和異常訊息之外。

vercel-ai-sdk-install

npm安裝

bash
npm install telemetry-sh
  1. 1準備一個具有有限網路行為的可重用伺服器端交付客戶端。
  2. 2在成功、失敗、重試或超時邊界處新增結果事件。
  3. 3在啟用警示之前傳送受控裝置並檢查儲存的行。

片段

從一個結構化事件開始

在工作流程完成、失敗或重試的位置新增此形狀。然後從真實的欄位建置儀表板。

vercel-ai-sdk

Vercel AI SDK telemetry事件

javascript
await telemetry.log("llm_request_completed", {
  provider: "openai",
  model: "gpt-4.1-mini",
  feature: "draft_reply",
  prompt_version: "draft-reply-v4",
  input_tokens: 924,
  output_tokens: 218,
  latency_ms: 1380,
  finish_reason: "stop",
  status: "success",
  accepted: true,
});

事件結構

功能、提供商、型號、prompt_version 和 finish_reason

input_tokens、output_tokens、total_tokens、estimated_cost_usd 和 latency_ms

狀態、retry_count、time_to_first_token_ms、已接受、已發布

檢查設定

檢查站 1

流完成後記錄終端生成結果,以便權杖使用和完成原因完整。

檢查站 2

使用 AI SDK 生命週期回撥或遙測整合來實現一致的覆蓋範圍,而不是在每個呼叫周圍重複臨時記錄。

檢查站 3

在升級期間檢查 SDK 的實驗性遙測行為,並明確排除提示、回應、請求標頭和工具參數屬性。

驗證

證明事件已到達

在演練已知的成功和失敗案例後執行此命令。如果您的最終事件契約與程式碼片段不同,請替換後備資料表名稱。

vercel-ai-sdk-verification

Vercel AI SDK telemetry 驗證查詢

sql
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;
確認每個邏輯結果的一個終端行,以及預期狀態、識別符號、單位和 UTC 時間。
檢查推斷的架構並驗證重試不會更改欄位型別或生成新的邏輯事件 ID。
在儲存的欄位中搜尋憑據、原始有效負載、提示、私有內容和無限制的錯誤訊息。
在將儀表板視為完整之前,請執行提供程式超時、攝取拒絕和處理程序關閉。

實施參考

在啟用新的生產路徑之前,請檢查事件合約、資料安全指南和上游主要文件。

在哪裡記錄事件

保持結果事件小且可恢復

該模式提供了

  • 除了上游工作流程之外,還有一個有界的、SQL 就緒的結果。
  • 用於儀表板、警示和跨事件關聯的穩定欄位。
  • 用於驗證成功、失敗、重試和超時行為的夾具驅動路徑。

該模式不提供

  • OTLP 匯出器、自動收集管道或詳細追蹤和診斷日誌的替代品。
  • 僅因為有效負載包含事件 ID,所以僅傳送一次。
  • 收集原始提供商有效負載、使用者內容、憑證或受監管資料的權限。

事件結構描述範例

在將查詢或程式碼片段適應生產之前,請檢查行粒度、發出邊界、所需型別、隱私類、範例有效負載和驗證清單。

相關產品功能

繼續此工作流程 AI代理監控

透過可審查的 SQL 連線代理執行、工具使用、模型成本、品質和產品結果。

相關 SQL 查詢範例

更多 SQL 範例

針對此工作流程中的結構化欄位執行查詢,檢查範例結果,並將有用的答案轉換為儀表板或警示。

瀏覽所有查詢範例

按實施系列瀏覽

比較相關整合模式

與此整合配對的範本

更多整合