Azure OpenAI Responses Telemetry：从边界到验证行
在受控应用程序边界使用 Azure OpenAI Responses Telemetry，保持事件契约较小，并在构建聚合视图之前验证已知结果。
- 1
选择结果
Azure 部署成本归因
- 2
定义合同
提供商、部署、型号、区域、功能和状态
- 3
埋点边界
将 Azure 部署名称与返回的模型标识符分开。
- 4
核实证据
Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.
开始之前
先决条件和界限
- 服务器端 Azure OpenAI 凭据和 TELEMETRY_API_KEY
- 稳定的部署、区域、功能和提示版本合约
- 已部署模型的版本化价格查找
交货设置
安装并初始化服务器端
在仅服务器代码中导入 telemetry-sh 并使用 process.env.TELEMETRY_API_KEY 对其进行一次初始化。 将摄取凭据保留在浏览器包、客户端可见的环境变量、源代码控制、日志和异常消息之外。
npm安装
npm install telemetry-sh- 1准备一个具有有限网络行为的可重用服务器端交付客户端。
- 2在成功、失败、重试或超时边界处添加结果事件。
- 3在启用警报之前发送受控装置并检查存储的行。
片段
从一个结构化事件开始
在工作流程完成、失败或重试的位置添加此形状。然后从真实的字段构建仪表板。
Azure OpenAI Responses Telemetry事件
import OpenAI from "openai";
import telemetry from "telemetry-sh";
const azure = new OpenAI({
apiKey: process.env.AZURE_OPENAI_API_KEY,
baseURL: process.env.AZURE_OPENAI_BASE_URL,
});
const startedAt = performance.now();
try {
const response = await azure.responses.create({
model: process.env.AZURE_OPENAI_DEPLOYMENT,
input: userInput,
});
await telemetry.log("llm_request_completed", {
provider: "azure_openai",
deployment: process.env.AZURE_OPENAI_DEPLOYMENT,
model: response.model,
region: process.env.AZURE_REGION,
feature: "document_summary",
status: "success",
latency_ms: Math.round(performance.now() - startedAt),
input_tokens: response.usage?.input_tokens,
output_tokens: response.usage?.output_tokens,
total_tokens: response.usage?.total_tokens,
prompt_version: "summary-v3",
});
return response;
} catch (error) {
await telemetry.log("llm_request_completed", {
provider: "azure_openai",
deployment: process.env.AZURE_OPENAI_DEPLOYMENT,
feature: "document_summary",
status: "failed",
latency_ms: Math.round(performance.now() - startedAt),
error_type: classifyProviderError(error),
});
throw error;
}活动合约
提供商、部署、型号、区域、功能和状态
input_tokens、output_tokens、total_tokens、latency_ms 和 estimated_cost_usd
response_id、prompt_version、error_type 和接受的结果
实施检查点
检查站 1
将 Azure 部署名称与返回的模型标识符分开。
检查站 2
从响应中读取使用情况并应用与部署关联的价格版本。
检查站 3
未经明确批准，请勿记录提示、输出、API 凭证、最终用户标识符或原始提供程序错误主体。
验证
证明事件已到达
在演练已知的成功和失败案例后运行此命令。如果您的最终事件契约与代码片段不同，请替换后备表名称。
Azure OpenAI Responses Telemetry 验证查询
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;实施参考
在启用新的生产路径之前，请检查事件合同、数据安全指南和上游主要文档。
生产边界
保持结果事件小且可恢复
该模式提供了
- 除了上游工作流程之外，还有一个有界的、SQL 就绪的结果。
- 用于仪表板、警报和跨事件关联的稳定字段。
- 用于验证成功、失败、重试和超时行为的夹具驱动路径。
该模式不提供
- OTLP 导出器、自动收集管道或详细跟踪和诊断日志的替代品。
- 仅因为有效负载包含事件 ID，所以仅传送一次。
- 收集原始提供商有效负载、用户内容、凭证或受监管数据的权限。
事件架构起点
此工作流程的事件契约
在将查询或代码片段适应生产之前，请检查行粒度、发出边界、所需类型、隐私类、示例有效负载和验证清单。
相关产品功能
继续此工作流程 AI代理监控
通过可审查的 SQL 连接智能体运行、工具使用、模型成本、质量和产品结果。
相关 SQL 查询示例
用 SQL 回答下一个问题
针对此工作流程中的结构化字段运行查询，检查示例结果，并将有用的答案转换为仪表板或警报。
按功能和模型计算 LLM 成本
哪些产品功能和型号正在推动法学硕士支出？
打开查询示例测量 LLM 获得第一个令牌的时间
在输出开始之前，哪些模型和功能组合感觉很慢？
打开查询示例衡量每美元所接受的人工智能产出
哪种模型和功能组合可以产生最受接受的单位美元产出？
打开查询示例按提示版本查找 AI 质量回归
新的提示版本是否在不增加人工交接的情况下提高了质量？
打开查询示例按实施系列浏览
比较相关集成模式
与此集成配对的模板
更多集成