Saltar al contenido
Telemetry
Para productos de IA con uso de modelo, gasto de tokens y riesgo de latencia

OpenAI Monitoreo de costos

Supervise el gasto en OpenAI y LLM por modelo, característica, cliente, latencia, tasa de error y resultado con paneles SQL y alertas de presupuesto.

Revisado por el equipo de producto Telemetry en . Revisamos los campos de los eventos, las consultas sugeridas y los datos que deben excluirse. Quién revisa esta página

¿Por qué esto funciona?
  • Modele el gasto por función y cuenta de cliente.
  • Tendencias de latencia y fallas antes de que se conviertan en tickets de soporte.
  • Tasa de aceptación o ahorro de resultados generados donde la aplicación los expone.
Qué registrar y comprobar

Convierta el uso de tokens en unidades económicas revisables

El uso del proveedor se vuelve más útil cuando una estimación versionada se une a los reintentos y al resultado posterior que la aplicación realmente valora.

  1. 1

    Solicitud de modelo

    Capture proveedor, modelo, característica, tokens, latencia, caché y contexto de reintento.

  2. 2

    estimación de costos

    Aplique una fuente de precios fechada y conserve su versión junto a la estimación.

  3. 3

    Resultado del producto

    Conecte la solicitud con el trabajo aceptado, resuelto, guardado, escalado o descartado.

  4. 4

    Economía unitaria

    Compare el costo por resultado revisado, no solo el token o el volumen de solicitudes.

Caso de uso versus plantilla

Elige qué medir

Utilice la guía de casos de uso para elegir resultados, límites de eventos y preguntas de análisis. Abra la plantilla correspondiente cuando esté listo para un breve resumen de implementación de copiar y pegar.

Abierto Rastreador de costos de LLM

Mensaje del agente

Pega esto en tu agente de codificación

Reemplazar YOUR_API_KEY después del registro, solicite al agente que ejecute el flujo del producto y verifique los primeros eventos.

aviso del agente

Mensaje de configuración OpenAI cost monitoring

text
Instrumente este proyecto con Telemetry para que podamos comprender el uso de OpenAI y LLM.

Utilice /skill.md y esta clave API Telemetry: YOUR_API_KEY

Por favor inicie sesión:
1. Cada solicitud de modelo con model, provider, route, feature, input_tokens, output_tokens, total_tokens, estimated_cost_usd, latency_ms, status y error_type cuando sea relevante.
2. Llamadas a herramientas realizadas por el agente o asistente, incluidas tool_name, status, latency_ms y result_category.
3. Resultados del flujo de trabajo de IA orientado al usuario, incluidos feature, status, retry_count, y si el usuario accepted, copied, saved o discarded es el resultado.
4. Un panel con costo diario, costo por función, fallas por modelo, latencia p95 y tasa de salida aceptada.

Mantenga las indicaciones y las terminaciones sin procesar fuera de la telemetría a menos que apruebe explícitamente su almacenamiento.

Pasos de configuración

  1. 1Registre cada solicitud de modelo sin almacenar mensajes sin formato de forma predeterminada.
  2. 2Registre tokens, costo estimado, latencia, proveedor, modelo y flujo de trabajo.
  3. 3Conecte eventos de resultados del producto como guardado, copiado, aceptado o reintentado.
  4. 4Cree paneles de control para margen, confiabilidad y valor para el usuario.

Eventos para capturar

llm_request_completedllm_request_failedassistant_tool_calledai_output_acceptedai_output_discardedai_feature_retained

Preguntas que esto desbloquea

  • ¿Qué funciones de IA cuestan más por usuario activado?
  • ¿Qué modelo tiene la mejor tasa de producción aceptada por dólar?
  • ¿Dónde los reintentos o los tiempos de espera dañan la conversión?

Costo de LLM y economía unitaria

Normalice el uso de proveedores y luego mida el costo por resultado útil

El gasto de tokens se vuelve procesable cuando permanece conectado a la función, la cuenta, la ruta de reintento y el resultado del usuario revisado que lo creó. Utilice la calculadora para probar suposiciones y luego ejecute el mismo análisis en el laboratorio SQL de varias tablas.

Estimar el costo mensual

Los datos de precios son ejemplos, no precios actuales de los proveedores. Reemplácelos con las tarifas y categorías de tokens facturables de su acuerdo de proveedor.

Intentos del proveedor

105.000

Costo mensual estimado

304,50 US$

Costo estimado del reintento

14,50 US$

Salidas aceptadas

60.000

Costo por salida aceptada

0,0051 US$

Esta estimación solo para navegador no se envía a Telemetry y no es una factura del proveedor.

Un contrato de evento neutral para el proveedor

Conserve los campos de respuesta del proveedor que necesita, pero normalice la superficie de análisis para que los cambios de modelos y precios no requieran un nuevo panel.

Campos normalizadosPor qué pertenecen juntos
provider, model, featureAtribuya el uso al proveedor y al flujo de trabajo del producto.
input_tokens, output_tokensPreservar los componentes de uso informados por el proveedor.
cached_input_tokens, reasoning_tokensMantenga las categorías facturables opcionales separadas cuando estén disponibles.
estimated_cost_usd, pricing_versionHacer que la estimación analítica sea reproducible después de que cambien los precios.
retry_count, cache_hit, latency_msExplicar los cambios de costos y confiabilidad dentro de la ruta de ejecución.
accepted, saved, discarded, human_handoffConecte el consumo del proveedor con el resultado de un producto revisado.

Mantenga acotado el reclamo de facturación

Utilice facturas de proveedores como verdad de facturación. El costo a nivel de evento es una estimación analítica para atribución, decisiones de productos, investigación de márgenes y detección de anomalías.

Lea la guía de implementación de seguimiento de costos de la API OpenAI

Ejemplos de esquemas de eventos

Revise el detalle de la fila, el límite de emisión, los tipos requeridos, las clases de privacidad, la carga útil de ejemplo y la lista de verificación de validación antes de adaptar una consulta o fragmento a producción.

Función relacionada del producto

Continúe este flujo de trabajo en Monitoreo de agentes de IA

Conecte las ejecuciones de agentes, el uso de herramientas, el costo del modelo, la calidad y los resultados del producto con SQL revisable.

Recetas SQL relacionadas

Más ejemplos de SQL

Ejecute la consulta en los campos estructurados de este flujo de trabajo, inspeccione el resultado del ejemplo y convierta una respuesta útil en un panel o alerta.

Explorar todas las recetas

Siguiente paso

Cree la clave API que utilizará su agente

El plan gratuito es suficiente para ejecutar el mensaje, enviar eventos de prueba y revisar el primer panel.

Páginas relacionadas