跳转到内容
Telemetry
整合集合

AI 智能体和 LLM Telemetry 集成

比较模型提供程序、智能体框架、工具编排、检索系统和 AI 应用程序运行时的实施指南。

审阅者 Telemetry产品团队 . 运行时边界、共享事件字段、验证工作流程和上游实现源. 审查标准和所有权

20 实施指南

每个指南都包含服务器端代码片段、交付和隐私边界、验证查询、相关 SQL 以及上游文档的链接。

浏览指南

选择框架

选择知道结果的边界

最终结果的所有者

使用模型 SDK 指南了解请求成本和延迟,然后添加智能体或框架指南,以了解工具选择、重试和最终任务状态。

保持痕迹和结果清晰

需要时保留详细跨度的跟踪后端。使用批准的相关标识符将有界乘积结果发送到 Telemetry。

除了成本之外还要衡量价值

将令牌和延迟与已审核的结果(例如接受、保存、解决、升级或移交)联系起来,而不是单独优化请求量。

共享事件合约

保持第一个模式可互操作

  • run_id,功能、提供商、型号和状态
  • input_tokens、output_tokens、estimated_cost_usd 和 latency_ms
  • tool_name、retry_count、cache_hit、reviewer_outcome 和 human_handoff

使这些字段适应工作流程,但在多个服务依赖同一个表之前保持单位、状态类别、标识符和所有权明确。

验证

在发出警报之前练习故障路径

  1. 1运行一个成功的模型请求并协调提供商报告的令牌。
  2. 2练习一种工具失败、重试和最终智能体结果。
  3. 3确认排除原始提示、完成、凭据和私有工具负载。
  4. 4按功能划分的查询成本、延迟、失败率和可接受的结果。

实施指南

匹配框架、提供程序或运行时

来源实施指南

OpenAI 智能体Telemetry

使用结构化事件记录 OpenAI 智能体运行、工具调用、模型使用、延迟、成本和最终结果。

打开指南
来源实施指南

OpenAI 响应 API Telemetry

测量 OpenAI 响应 API 延迟、令牌使用、工具活动、故障和下游结果,而无需收集提示或生成的内容。

打开指南
来源实施指南

LiteLLM 网关和 SDK Telemetry

跨受控模型网关跟踪 LiteLLM 提供商路由、重试、回退、令牌使用、延迟、成本估算和可接受的结果。

打开指南
来源实施指南

人类克劳德 API Telemetry

跟踪 Claude API 令牌使用情况、模型、延迟、停止原因、错误、成本背景以及审查的产品结果,而无需存储提示。

打开指南
来源实施指南

谷歌双子座 API Telemetry

跟踪 Gemini 请求延迟、模型使用情况、令牌、完成原因、错误和审查的产品结果,而无需存储提示或生成的内容。

打开指南
来源实施指南

亚马逊基岩型号 Telemetry

通过模型或推理配置文件、令牌使用情况、延迟、停止原因、重试和业务成果来衡量 Bedrock Converse 请求。

打开指南
来源实施指南

Azure OpenAI 响应 Telemetry

通过可编辑的 SQL 就绪事件跟踪 Azure OpenAI 部署使用情况、令牌成本、延迟、故障和产品结果。

打开指南
来源实施指南

Vercel AI SDK 与 Telemetry 集成

跟踪 AI SDK 工作流程的流式传输完成情况、令牌使用情况、重试、延迟和接受的结果。

打开指南
来源实施指南

LangChain智能体结果Telemetry

将 LangChain 智能体运行和工具结果与面向产品的成本、可靠性、移交和验收指标连接起来,而无需重复原始跟踪。

打开指南
来源实施指南

LangGraph 智能体可观测性

测量 LangGraph 运行结果、节点和工具故障、重试、检查点、人工切换、延迟和审核的任务质量。

打开指南
来源实施指南

克劳德智能体SDK Telemetry

跟踪 Claude Agent SDK 运行结果、持续时间、工具活动、周转、成本和批准的产品信号,无需存储提示或工具负载。

打开指南
来源实施指南

Pydantic AI 智能体 Telemetry

通过安全结构化事件测量 Pydantic AI 运行结果、经过验证的输出、重试、工具活动、延迟、使用情况和产品接受度。

打开指南
来源实施指南

CrewAI 工作流程 Telemetry

跟踪 CrewAI 人员和流程结果、任务计数、移交、重试、延迟、成本和接受的结果,而无需保留智能体对话。

打开指南
来源实施指南

Google ADK 智能体 Telemetry

通过 SQL 就绪事件衡量 Google 智能体开发工具包会话、运行结果、工具活动、切换、延迟和批准的产品信号。

打开指南
来源实施指南

马斯特拉智能体Telemetry

跟踪 Mastra 智能体和工作流程结果、工具活动、延迟、重试、成本和产品验收以及内置跟踪和评估。

打开指南
来源实施指南

LlamaIndex 智能体 Telemetry

通过结构化事件跟踪 LlamaIndex 智能体和工作流程结果、工具活动、延迟、检索版本、成本和审核质量。

打开指南
来源实施指南

DSPy程序评估Telemetry

使用 SQL 就绪事件测量 DSPy 程序延迟、故障、指标分数、优化器版本、模型成本以及跨版本的可接受结果。

打开指南
来源实施指南

AutoGen 任务流、状态和超时监控

通过紧凑的结构化事件跟踪 AutoGen 任务流状态、超时、团队和智能体结果、工具活动、切换、延迟、故障、成本和发布。

打开指南
来源实施指南

语义内核智能体 Telemetry

测量语义内核功能和智能体结果、工具活动、模型使用、延迟、成本和发布以及 OpenTelemetry 跟踪。

打开指南
来源实施指南

MCP 服务器和工具 Telemetry

跟踪模型上下文协议工具的结果、延迟、错误、批准、重试、客户端和发布,而不存储参数或返回的内容。

打开指南

首先验证一个端到端工作流程

创建一个免费的 API 密钥,选择最接近的运行时指南,并在扩大覆盖范围之前发送已知的成功和失败信息。

免费开始