使用 Azure OpenAI Responses telemetry 发送并验证事件
在受控应用程序边界使用 Azure OpenAI Responses telemetry，保持事件契约较小，并在构建聚合视图之前验证已知结果。
- 1
选择结果
Azure 部署成本归因
- 2
定义合同
提供商、部署、型号、区域、功能和状态
- 3
在结果处发出
将 Azure 部署名称与返回的模型标识符分开。
- 4
核实证据
Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.
开始之前
开始之前
- 服务器端 Azure OpenAI 凭据和 TELEMETRY_API_KEY
- 稳定的部署、区域、功能和提示版本合约
- 已部署模型的版本化价格查找
交货设置
安装并初始化服务器端
在仅服务器代码中导入 telemetry-sh 并使用 process.env.TELEMETRY_API_KEY 对其进行一次初始化。 将摄取凭据保留在浏览器包、客户端可见的环境变量、源代码控制、日志和异常消息之外。
npm安装
npm install telemetry-sh- 1准备一个具有有限网络行为的可重用服务器端交付客户端。
- 2在成功、失败、重试或超时边界处添加结果事件。
- 3在启用警报之前发送受控装置并检查存储的行。
片段
从一个结构化事件开始
在工作流程完成、失败或重试的位置添加此形状。然后从真实的字段构建仪表板。
Azure OpenAI Responses telemetry事件
import OpenAI from "openai";
import telemetry from "telemetry-sh";
const azure = new OpenAI({
apiKey: process.env.AZURE_OPENAI_API_KEY,
baseURL: process.env.AZURE_OPENAI_BASE_URL,
});
const startedAt = performance.now();
try {
const response = await azure.responses.create({
model: process.env.AZURE_OPENAI_DEPLOYMENT,
input: userInput,
});
await telemetry.log("llm_request_completed", {
provider: "azure_openai",
deployment: process.env.AZURE_OPENAI_DEPLOYMENT,
model: response.model,
region: process.env.AZURE_REGION,
feature: "document_summary",
status: "success",
latency_ms: Math.round(performance.now() - startedAt),
input_tokens: response.usage?.input_tokens,
output_tokens: response.usage?.output_tokens,
total_tokens: response.usage?.total_tokens,
prompt_version: "summary-v3",
});
return response;
} catch (error) {
await telemetry.log("llm_request_completed", {
provider: "azure_openai",
deployment: process.env.AZURE_OPENAI_DEPLOYMENT,
feature: "document_summary",
status: "failed",
latency_ms: Math.round(performance.now() - startedAt),
error_type: classifyProviderError(error),
});
throw error;
}事件结构
提供商、部署、型号、区域、功能和状态
input_tokens、output_tokens、total_tokens、latency_ms 和 estimated_cost_usd
response_id、prompt_version、error_type 和接受的结果
检查配置
检查站 1
将 Azure 部署名称与返回的模型标识符分开。
检查站 2
从响应中读取使用情况并应用与部署关联的价格版本。
检查站 3
未经明确批准，请勿记录提示、输出、API 凭证、最终用户标识符或原始提供程序错误主体。
验证
证明事件已到达
在演练已知的成功和失败案例后运行此命令。如果您的最终事件契约与代码片段不同，请替换后备表名称。
Azure OpenAI Responses telemetry 验证查询
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;实施参考
在启用新的生产路径之前，请检查事件合同、数据安全指南和上游主要文档。
在哪里记录事件
保持结果事件小且可恢复
该模式提供了
- 除了上游工作流程之外，还有一个有界的、SQL 就绪的结果。
- 用于仪表板、警报和跨事件关联的稳定字段。
- 用于验证成功、失败、重试和超时行为的夹具驱动路径。
该模式不提供
- OTLP 导出器、自动收集管道或详细跟踪和诊断日志的替代品。
- 仅因为有效负载包含事件 ID，所以仅传送一次。
- 收集原始提供商有效负载、用户内容、凭证或受监管数据的权限。
事件模式示例
此工作流的事件模式
在将查询或代码片段适应生产之前，请检查行粒度、发出边界、所需类型、隐私类、示例有效负载和验证清单。
相关产品功能
继续此工作流程 AI代理监控
通过可审查的 SQL 连接智能体运行、工具使用、模型成本、质量和产品结果。
相关 SQL 查询示例
更多 SQL 示例
针对此工作流程中的结构化字段运行查询，检查示例结果，并将有用的答案转换为仪表板或警报。
按功能和模型计算 LLM 成本
哪些产品功能和型号正在推动法学硕士支出？
打开查询示例测量 LLM 获得第一个令牌的时间
在输出开始之前，哪些模型和功能组合感觉很慢？
打开查询示例衡量每美元所接受的人工智能产出
哪种模型和功能组合可以产生最受接受的单位美元产出？
打开查询示例按提示版本查找 AI 质量回归
新的提示版本是否在不增加人工交接的情况下提高了质量？
打开查询示例按实施系列浏览
比较相关集成模式
与此集成配对的模板
更多集成