Saltar al contenido
Telemetry
IA y LLM receta SQL

Calcular el costo de LLM por característica y modelo

Atribuya el gasto del modelo, los tokens, el volumen de solicitudes y el costo por solicitud a las características del producto.

Principiantellm_request_completedRevisado 2026-07-27Probado con Apache DataFusion 45.2.0

Revisado por el equipo de producto Telemetry en . Compatibilidad con SQL, contrato de eventos, resultados sintéticos y advertencias operativas. Revisar los estándares y la propiedad

Pregunta respondida

¿Qué características y modelos de productos impulsan el gasto en LLM?

El gasto diario del proveedor no puede explicar si el crecimiento de los costos proviene de la adopción, un cambio de modelo o indicaciones ineficientes. Los eventos de solicitud a nivel de función conectan el gasto con el flujo de trabajo que lo creó.

Contrato de evento

Campos que espera la consulta

CampoTipoPor que existe
timestamp_utcTimestampCuando se completó la solicitud del modelo.
featureUtf8Flujo de trabajo del producto estable o nombre de la característica.
modelUtf8Identificador del modelo de proveedor.
input_tokensInt64Tokens de entrada informados por el proveedor.
output_tokensInt64Tokens de salida informados por el proveedor.
estimated_cost_usdFloat64Costo de la solicitud calculado a partir del precio del modelo versionado.
statusUtf8éxito o fracaso.
DataFusionSQL

Copiar la consulta

sql
SELECT
  feature,
  model,
  COUNT(*) AS requests,
  SUM(input_tokens + output_tokens) AS total_tokens,
  ROUND(SUM(estimated_cost_usd), 4) AS cost_usd,
  ROUND(SUM(estimated_cost_usd) / NULLIF(COUNT(*), 0), 4) AS cost_per_request_usd
FROM llm_request_completed
WHERE timestamp_utc >= now() - INTERVAL '30 days'
  AND feature IS NOT NULL
GROUP BY feature, model
ORDER BY cost_usd DESC;

Esta consulta de solo lectura se planifica y ejecuta en una tabla escrita vacía con Apache DataFusion 45.2.0. El resultado de la muestra determinista es sintético y se revisa por separado; valide tipos de campos, umbrales y definiciones comerciales con sus propios datos. Lea la metodología de prueba.

Resultado de la consulta

Costo del modelo de treinta días por característica

Los informes de investigación cuestan más en general a pesar de muchas menos solicitudes, lo que apunta a una optimización del costo unitario en lugar de un problema de adopción.

featuremodelrequeststotal_tokenscost_usdcost_per_request_usd
research_reportreasoning-large480000,80,2
document_summarybalanced-medium345000,150,05
support_draftfast-small550000,10,02

Salida de ejemplo sintético. Ejecute la consulta con su propio esquema de eventos y umbrales antes de utilizarla para decisiones operativas.

Thirty-day model cost by feature: gráfico estático de valores sintéticos de cost_usd del resultado del ejemplo Calculate LLM Cost by Feature and Model
SVG indexable de la salida del ejemplo determinista. Descárguelo para ver un artículo, un runbook o una revisión de diseño con atribución.

Reproducir el ejemplo

Descargar el accesorio público

El paquete JSON incluye el contrato de evento escrito, reproducible filas de entrada, SQL exacto, resultado esperado, notas de revisión y versión del motor. El CSV contiene el resultado mostrado.

Ejecutar en el navegadorAccesorio JSONCSV de salida esperadaGráfico SVG estático

Cómo funciona el SQL

  1. 1La agrupación tanto por característica como por modelo preserva el contexto necesario para explicar las migraciones de modelos.
  2. 2El costo por solicitud distingue un flujo de trabajo económico de gran volumen de uno costoso de bajo volumen.
  3. 3Almacene el costo de la solicitud calculado en el momento del evento utilizando una tabla de precios versionada para que los informes históricos no cambien cuando cambien los precios del proveedor.

Casos extremos para decidir

  • No multiplique el total de tokens por una tasa cuando los tokens de entrada, de entrada en caché y de salida tengan precios diferentes.
  • Incluir solicitudes fallidas si el proveedor les factura; de lo contrario, agregue un campo billing_status.
  • Utilice identificadores de cuenta o equipo cuando los márgenes varíen materialmente según el cliente.

Panel recomendado

  • Gráfico de barras: cost_usd por característica
  • Gráfico de líneas: costo diario dividido por modelo
  • Tabla: solicitudes individuales de mayor costo sin contenido de aviso sin procesar

Guía de alerta

Alerte cuando el costo diario de una función o el costo por resultado exitoso exceda un presupuesto acordado, no solo cuando aumente el volumen de solicitudes.

Leer configuración de alerta

Pon la receta a trabajar

Instrumentación y guías relacionadas.

Caso de uso de costos OpenAIPlantilla de costos de LLMGuía de costos OpenAI

Definir los datos de origen

Esquemas de eventos para este análisis.

llm_request_completed

Un evento de llamada de modelo de terminal con modelo, tokens, latencia, costo de asignación y resultado de la herramienta, sin indicaciones ni contenido generado.

Revisar esquema

Continuar el análisis

Medir las producciones de IA aceptadas por dólar

Conecte el gasto modelo con resultados de productos aceptados, ahorrados o útiles.

Receta abierta

Medir el ahorro de caché de LLM y el costo de reintento

Compare las solicitudes almacenadas en caché, el volumen de reintentos y el gasto estimado por modelo para encontrar costos de IA evitables.

Receta abierta

Medir el tiempo de LLM hasta el primer token

Compare la capacidad de respuesta de la transmisión y la latencia total de generación por modelo y característica.

Receta abierta

Ejecútelo en eventos reales.

Crea una tabla, adapta los campos y guarda el resultado.

Comience gratis, envíe eventos estructurados y utilice el resultado de la consulta como un gráfico, un widget de panel compartido o una entrada de alerta.

Obtén una clave API