Envía y verifica eventos con Google Gemini API telemetry
Utilice Google Gemini API telemetry en un límite de aplicación controlado, mantenga el contrato de evento pequeño y verifique un resultado conocido antes de crear vistas agregadas.
- 1
Elige el resultado
Análisis de latencia y token de Gemini
- 2
Definir el contrato
proveedor, modelo, característica, estado y finish_reason
- 3
Emitir en el resultado
Lea los recuentos de tokens de los metadatos de respuesta del proveedor y almacene el identificador del modelo utilizado para la solicitud.
- 4
Verificar la evidencia
Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.
Antes de empezar
Antes de empezar
- Un GEMINI_API_KEY y un TELEMETRY_API_KEY del lado del servidor
- Un entorno de servidor con fetch y AbortSignal.timeout
- Un nombre de función estable y un cálculo de costos versionado fuera del mensaje
- El resultado de un producto, como aceptado, guardado o completado, cuando el flujo de trabajo lo expone.
Configuración de entrega
Instalar e inicializar el lado del servidor
Este ejemplo de servidor envía eventos mediante la API Log, con una clave del servidor y una solicitud fetch acotada; no es necesario inicializar el SDK de Telemetry. Mantenga las credenciales de ingesta fuera de los paquetes de navegador, las variables de entorno visibles para el cliente, el control de fuente, los registros y los mensajes de excepción.
Instalación npm
npm install @google/genai- 1Prepare un cliente de entrega del lado del servidor reutilizable con comportamiento de red limitado.
- 2Agregue el evento de resultado en el límite de éxito, error, reintento o tiempo de espera.
- 3Envíe accesorios controlados e inspeccione las filas almacenadas antes de habilitar una alerta.
Fragmento
Comience con un evento estructurado
Agregue esta forma donde el flujo de trabajo se completa, falla o se vuelve a intentar. Luego cree el panel a partir de campos reales.
Evento Google Gemini API telemetry
import { GoogleGenAI } from "@google/genai";
async function emitModelOutcome(data) {
try {
const delivery = await fetch("https://api.telemetry.sh/log", {
method: "POST",
headers: {
Authorization: process.env.TELEMETRY_API_KEY,
"Content-Type": "application/json",
},
body: JSON.stringify({ table: "llm_request_completed", data }),
signal: AbortSignal.timeout(1000),
});
if (!delivery.ok) throw new Error("telemetry_delivery_unconfirmed");
} catch {
try { console.warn("Telemetry delivery unconfirmed"); } catch {}
}
}
const gemini = new GoogleGenAI({ apiKey: process.env.GEMINI_API_KEY });
const startedAt = performance.now();
try {
const response = await gemini.models.generateContent({
model: process.env.GEMINI_MODEL,
contents: userInput,
});
const usage = response.usageMetadata;
await emitModelOutcome({
provider: "google",
model: process.env.GEMINI_MODEL,
feature: "support_draft",
status: "success",
latency_ms: Math.round(performance.now() - startedAt),
input_tokens: usage?.promptTokenCount,
output_tokens: usage?.candidatesTokenCount,
total_tokens: usage?.totalTokenCount,
prompt_version: "support-v4",
});
return response;
} catch (error) {
await emitModelOutcome({
provider: "google",
model: process.env.GEMINI_MODEL,
feature: "support_draft",
status: "failed",
latency_ms: Math.round(performance.now() - startedAt),
error_type: "provider_request_failed",
});
throw error;
}Esquema del evento
proveedor, modelo, característica, estado y finish_reason
input_tokens, output_tokens, total_tokens, latency_ms y estimated_cost_usd
request_id, prompt_version, error_type y resultado revisado
Comprueba tu configuración
Punto de control 1
Lea los recuentos de tokens de los metadatos de respuesta del proveedor y almacene el identificador del modelo utilizado para la solicitud.
Punto de control 2
Calcule el costo a partir de una tabla de precios versionada porque los precios de los proveedores y las clases de tokens pueden cambiar.
Punto de control 3
No envíe mensajes de texto, contenido cargado, resultados generados, claves API ni cuerpos de error del proveedor a la telemetría general.
Punto de control 4
Envíe solo los metadatos permitidos del modelo mediante la API Log, con un límite cooperativo de un segundo; un fallo de envío no debe cambiar el resultado del proveedor.
Punto de control 5
Este ejemplo en línea puede añadir latencia de envío y no garantiza la entrega duradera. En producción, use una cola acotada o un outbox gestionado por la aplicación.
Verificación
Demuestra que el evento llegó
Ejecute esto después de ejercitar casos conocidos de éxito y fracaso. Reemplace el nombre de la tabla alternativa si su contrato de evento final difiere del fragmento.
Consulta de verificación Google Gemini API telemetry
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;Referencias de implementación
Revise el contrato del evento, la guía de seguridad de los datos y la documentación primaria previa antes de habilitar una nueva ruta de producción.
Dónde registrar eventos
Mantenga el evento de resultado pequeño y recuperable
Este patrón proporciona
- Un resultado limitado y listo para SQL junto al flujo de trabajo ascendente.
- Campos estables para paneles, alertas y correlación entre eventos.
- Una ruta basada en dispositivos para validar el comportamiento de éxito, fracaso, reintento y tiempo de espera.
Este patrón no proporciona
- Un exportador de OTLP, un canal de recopilación automática o un reemplazo para seguimientos detallados y registros de diagnóstico.
- Entrega exactamente una vez simplemente porque la carga útil contiene un ID de evento.
- Permiso para recopilar cargas útiles sin procesar del proveedor, contenido de usuario, credenciales o datos regulados.
Ejemplos de esquemas de eventos
Esquemas de eventos para este flujo de trabajo
Revise el detalle de la fila, el límite de emisión, los tipos requeridos, las clases de privacidad, la carga útil de ejemplo y la lista de verificación de validación antes de adaptar una consulta o fragmento a producción.
Función relacionada del producto
Continúe este flujo de trabajo en Monitoreo de agentes de IA
Conecte las ejecuciones de agentes, el uso de herramientas, el costo del modelo, la calidad y los resultados del producto con SQL revisable.
Recetas SQL relacionadas
Más ejemplos de SQL
Ejecute la consulta en los campos estructurados de este flujo de trabajo, inspeccione el resultado del ejemplo y convierta una respuesta útil en un panel o alerta.
Calcular el costo de LLM por característica y modelo
¿Qué características y modelos de productos impulsan el gasto en LLM?
Receta abiertaMedir el tiempo de LLM hasta el primer token
¿Qué combinaciones de modelos y características se sienten lentas antes de que comience la producción?
Receta abiertaMedir las producciones de IA aceptadas por dólar
¿Qué combinación de modelo y características produce los resultados por dólar más aceptados?
Receta abiertaEncuentre regresiones de calidad de IA por versión de solicitud
¿La nueva versión del mensaje mejoró la calidad sin aumentar las transferencias humanas?
Receta abiertaExplorar por familia de implementación
Comparar patrones de integración relacionados
Plantillas para combinar con esta integración
Plantilla de observabilidad del agente de IA
Realice un seguimiento de las ejecuciones de agentes, llamadas de herramientas, reintentos, latencia de modelos, errores y resultados aceptados con eventos estructurados listos para SQL.
Abrir plantillaRastreador de costos de LLM
Mida el gasto del modelo, el uso de tokens, la latencia, la tasa de fallas y las señales de valor por función, usuario y cuenta.
Abrir plantillaMás integraciones
Respuestas de Azure OpenAI Telemetry
Realice un seguimiento del uso de la implementación de Azure OpenAI, el costo de los tokens, la latencia, los errores y los resultados del producto con eventos editables listos para SQL.
abrir guiaAPI de respuestas OpenAI Telemetry
Mida la latencia de la API de OpenAI Responses, el uso de tokens, la actividad de las herramientas, las fallas y los resultados posteriores sin recopilar indicaciones ni contenido generado.
abrir guiaVercel SDK de IA Telemetry
Realice un seguimiento de las finalizaciones de transmisión, el uso de tokens, los reintentos, la latencia y los resultados aceptados de los flujos de trabajo del SDK de AI.
abrir guia