DSPy Program Evaluation Telemetry: del límite a la fila verificada
Utilice DSPy Program Evaluation Telemetry en un límite de aplicación controlado, mantenga el contrato de evento pequeño y verifique un resultado conocido antes de crear vistas agregadas.
- 1
Elige el resultado
Fiabilidad del programa DSPy
- 2
Definir el contrato
operation_id, program_name, program_version, model_alias, optimizer_name y versión
- 3
Instrumentar el límite
Envuelva la llamada del módulo público DSPy para obtener resultados de producción y emita los resultados del evaluador por separado una vez que se complete dspy.Evaluate.
- 4
Verificar la evidencia
Exercise a known fixture, then inspect dspy_program_completed for one correctly typed terminal row.
Antes de empezar
Requisitos previos y límites
- DSPy y telemetry-sh inicializados en un proceso Python confiable
- Versiones estables de programa, modelo, optimizador, conjunto de datos, métricas y lanzamiento
- Separar granos de eventos para predicciones en vivo y resultados de evaluación fuera de línea
Configuración de entrega
Instalar e inicializar el lado del servidor
Inicialice Telemetry para código síncrono o TelemetryAsync para código asíncrono una vez por proceso con una clave del lado del servidor. Mantenga las credenciales de ingesta fuera de los paquetes de navegador, las variables de entorno visibles para el cliente, el control de fuente, los registros y los mensajes de excepción.
Instalación pip
python -m pip install telemetry-sh- 1Prepare un cliente de entrega del lado del servidor reutilizable con comportamiento de red limitado.
- 2Agregue el evento de resultado en el límite de éxito, error, reintento o tiempo de espera.
- 3Envíe accesorios controlados e inspeccione las filas almacenadas antes de habilitar una alerta.
Fragmento
Comience con un evento estructurado
Agregue esta forma donde el flujo de trabajo se completa, falla o se vuelve a intentar. Luego cree el panel a partir de campos reales.
Evento DSPy Program Evaluation Telemetry
from time import perf_counter
def run_support_program(program, question: str, operation_id: str):
started_at = perf_counter()
status = "success"
error_type = None
try:
return program(question=question)
except Exception as error:
status = "failed"
error_type = classify_program_error(error)
raise
finally:
telemetry.log("dspy_program_completed", {
"operation_id": operation_id,
"program_name": "support_answer",
"program_version": PROGRAM_VERSION,
"model_alias": MODEL_ALIAS,
"status": status,
"error_type": error_type,
"duration_ms": round((perf_counter() - started_at) * 1000),
"release": APP_RELEASE,
})Contrato de evento
operation_id, program_name, program_version, model_alias, optimizer_name y versión
estado, duration_ms, estimated_cost_usd, aceptado y error_type
dataset_version, metric_name, metric_version, evaluation_score, aprobado y evaluated_at para eventos de evaluación.
Puntos de control de implementación
Punto de control 1
Envuelva la llamada del módulo público DSPy para obtener resultados de producción y emita los resultados del evaluador por separado una vez que se complete dspy.Evaluate.
Punto de control 2
No compare candidatos de optimizador que utilizaron diferentes conjuntos de datos, métricas, modelos de evaluación, umbrales o cobertura de evaluación sin separar esas versiones.
Punto de control 3
Mantenga ejemplos, predicciones, seguimientos, comentarios de métricas, indicaciones e historial de modelos en el flujo de trabajo de observabilidad o DSPy aprobado en lugar de copiarlos en Telemetry.
Verificación
Demuestra que el evento llegó
Ejecute esto después de ejercitar casos conocidos de éxito y fracaso. Reemplace el nombre de la tabla alternativa si su contrato de evento final difiere del fragmento.
Consulta de verificación DSPy Program Evaluation Telemetry
SELECT *
FROM dspy_program_completed
ORDER BY timestamp_utc DESC
LIMIT 20;Referencias de implementación
Revise el contrato del evento, la guía de seguridad de los datos y la documentación primaria previa antes de habilitar una nueva ruta de producción.
Límite de producción
Mantenga el evento de resultado pequeño y recuperable
Este patrón proporciona
- Un resultado limitado y listo para SQL junto al flujo de trabajo ascendente.
- Campos estables para paneles, alertas y correlación entre eventos.
- Una ruta basada en dispositivos para validar el comportamiento de éxito, fracaso, reintento y tiempo de espera.
Este patrón no proporciona
- Un exportador de OTLP, un canal de recopilación automática o un reemplazo para seguimientos detallados y registros de diagnóstico.
- Entrega exactamente una vez simplemente porque la carga útil contiene un ID de evento.
- Permiso para recopilar cargas útiles sin procesar del proveedor, contenido de usuario, credenciales o datos regulados.
Puntos de partida del esquema de eventos
Contratos de eventos para este flujo de trabajo
Revise el detalle de la fila, el límite de emisión, los tipos requeridos, las clases de privacidad, la carga útil de ejemplo y la lista de verificación de validación antes de adaptar una consulta o fragmento a producción.
Función relacionada del producto
Continúe este flujo de trabajo en Monitoreo de agentes de IA
Conecte las ejecuciones de agentes, el uso de herramientas, el costo del modelo, la calidad y los resultados del producto con SQL revisable.
Recetas SQL relacionadas
Responde la siguiente pregunta con SQL
Ejecute la consulta en los campos estructurados de este flujo de trabajo, inspeccione el resultado del ejemplo y convierta una respuesta útil en un panel o alerta.
Encuentre regresiones de calidad de IA por versión de solicitud
¿La nueva versión del mensaje mejoró la calidad sin aumentar las transferencias humanas?
Receta abiertaEvaluar la calidad de recuperación de RAG por versión
¿Mejoró el nuevo oleoducto RAG las tasas de recuperación y respuesta en tierra?
Receta abiertaMedir las producciones de IA aceptadas por dólar
¿Qué combinación de modelo y características produce los resultados por dólar más aceptados?
Receta abiertaCalcular el costo de LLM por característica y modelo
¿Qué características y modelos de productos impulsan el gasto en LLM?
Receta abiertaExplorar por familia de implementación
Comparar patrones de integración relacionados
Plantillas para combinar con esta integración
Plantilla de observabilidad de agentes de IA
Realice un seguimiento de las ejecuciones de agentes, llamadas de herramientas, reintentos, latencia de modelos, errores y resultados aceptados con eventos estructurados listos para SQL.
Abrir plantillaRastreador de costos de LLM
Mida el gasto del modelo, el uso de tokens, la latencia, la tasa de fallas y las señales de valor por función, usuario y cuenta.
Abrir plantillaMás integraciones
Vercel SDK de IA Telemetry
Realice un seguimiento de las finalizaciones de transmisión, el uso de tokens, los reintentos, la latencia y los resultados aceptados de los flujos de trabajo del SDK de AI.
abrir guiaOpenAI Agente Telemetry
Registre las ejecuciones del agente OpenAI, las llamadas a herramientas, el uso del modelo, la latencia, el costo y los resultados finales con eventos estructurados.
abrir guiaAPI de Google Géminis Telemetry
Realice un seguimiento de la latencia de las solicitudes de Gemini, el uso del modelo, los tokens, el motivo de finalización, los errores y los resultados de los productos revisados sin almacenar indicaciones ni contenido generado.
abrir guia