使用 Amazon Bedrock model telemetry 傳送並驗證事件
在受控應用程式邊界使用 Amazon Bedrock model telemetry，保持事件契約較小，並在建置聚合檢視之前驗證已知結果。
- 1
選擇結果
基岩模型成本歸因
- 2
定義合約
提供商、model_id、inference_profile、區域、功能和狀態
- 3
在結果處發出
記錄實際模型或推理設定檔案識別符號，因為路由和價格可能不同。
- 4
核實證據
Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.
開始之前
開始之前
- 具有最低 Bedrock 模型權限的 AWS 憑證
- 伺服器端TELEMETRY_API_KEY
- 批准的模型、區域、功能和提示版本尺寸
交貨設定
安裝並初始化伺服器端
在僅伺服器程式碼中匯入 telemetry-sh 並使用 process.env.TELEMETRY_API_KEY 對其進行一次初始化。 將攝取憑據保留在瀏覽器包、客戶端可見的環境變數、原始碼控制、日誌和異常訊息之外。
npm安裝
npm install telemetry-sh- 1準備一個具有有限網路行為的可重用伺服器端交付客戶端。
- 2在成功、失敗、重試或超時邊界處新增結果事件。
- 3在啟用警示之前傳送受控裝置並檢查儲存的行。
片段
從一個結構化事件開始
在工作流程完成、失敗或重試的位置新增此形狀。然後從真實的欄位建置儀表板。
Amazon Bedrock model telemetry事件
import {
BedrockRuntimeClient,
ConverseCommand,
} from "@aws-sdk/client-bedrock-runtime";
import telemetry from "telemetry-sh";
const bedrock = new BedrockRuntimeClient({ region: process.env.AWS_REGION });
const startedAt = performance.now();
const modelId = process.env.BEDROCK_MODEL_ID;
try {
const response = await bedrock.send(new ConverseCommand({
modelId,
messages,
}));
await telemetry.log("llm_request_completed", {
provider: "aws_bedrock",
model: modelId,
region: process.env.AWS_REGION,
feature: "research_assistant",
status: "success",
latency_ms: Math.round(performance.now() - startedAt),
input_tokens: response.usage?.inputTokens,
output_tokens: response.usage?.outputTokens,
total_tokens: response.usage?.totalTokens,
finish_reason: response.stopReason,
});
return response;
} catch (error) {
await telemetry.log("llm_request_completed", {
provider: "aws_bedrock",
model: modelId,
region: process.env.AWS_REGION,
feature: "research_assistant",
status: "failed",
latency_ms: Math.round(performance.now() - startedAt),
error_type: classifyProviderError(error),
});
throw error;
}事件結構
提供商、model_id、inference_profile、區域、功能和狀態
input_tokens、output_tokens、latency_ms、stop_reason 和 estimated_cost_usd
嘗試、tool_count、error_type，並審查業務成果
檢查設定
檢查站 1
記錄實際模型或推理設定檔案識別符號，因為路由和價格可能不同。
檢查站 2
使用基岩回應用法而不是根據文字長度估計標記。
檢查站 3
將訊息內容、工具參數、憑據和原始模型回應保留在一般遙測之外。
驗證
證明事件已到達
在演練已知的成功和失敗案例後執行此命令。如果您的最終事件契約與程式碼片段不同，請替換後備資料表名稱。
Amazon Bedrock model telemetry 驗證查詢
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;實施參考
在啟用新的生產路徑之前，請檢查事件合約、資料安全指南和上游主要文件。
在哪裡記錄事件
保持結果事件小且可恢復
該模式提供了
- 除了上游工作流程之外，還有一個有界的、SQL 就緒的結果。
- 用於儀表板、警示和跨事件關聯的穩定欄位。
- 用於驗證成功、失敗、重試和超時行為的夾具驅動路徑。
該模式不提供
- OTLP 匯出器、自動收集管道或詳細追蹤和診斷日誌的替代品。
- 僅因為有效負載包含事件 ID，所以僅傳送一次。
- 收集原始提供商有效負載、使用者內容、憑證或受監管資料的權限。
事件結構描述範例
此工作流程的事件結構描述
在將查詢或程式碼片段適應生產之前，請檢查行粒度、發出邊界、所需型別、隱私類、範例有效負載和驗證清單。
相關產品功能
繼續此工作流程 AI代理監控
透過可審查的 SQL 連線代理執行、工具使用、模型成本、品質和產品結果。
相關 SQL 查詢範例
更多 SQL 範例
針對此工作流程中的結構化欄位執行查詢，檢查範例結果，並將有用的答案轉換為儀表板或警示。
按功能和模型計算 LLM 成本
哪些產品功能和型號正在推動法學碩士支出？
開啟查詢範例測量 LLM 獲得第一個權杖的時間
在輸出開始之前，哪些模型和功能組合感覺很慢？
開啟查詢範例衡量 LLM 快取節省和重試成本
有多少模型成本與重試和快取未命中相關？
開啟查詢範例衡量人工智慧代理任務的成功和人工交接
哪些代理工作流程成功完成併產生可接受的結果？
開啟查詢範例按實施系列瀏覽
比較相關整合模式
與此整合配對的範本
更多整合