Saltar al contenido
Telemetry
guía de integración

API de Google Géminis Telemetry

Realice un seguimiento de la latencia de las solicitudes de Gemini, el uso del modelo, los tokens, el motivo de finalización, los errores y los resultados de los productos revisados sin almacenar indicaciones ni contenido generado.

Revisado por el equipo de producto Telemetry en . Contrato de instrumentación, límites de privacidad y guía de implementación. Revisar los estándares y la propiedad

Obtén una clave APIVer fragmento
Útil para
  • Análisis de latencia y token de Gemini
  • Fiabilidad del modelo por característica del producto
  • Revisión de costos y resultados aceptados
Evidencia de implementación

Google Gemini API Telemetry: del límite a la fila verificada

Utilice Google Gemini API Telemetry en un límite de aplicación controlado, mantenga el contrato de evento pequeño y verifique un resultado conocido antes de crear vistas agregadas.

  1. 1

    Elige el resultado

    Análisis de latencia y token de Gemini

  2. 2

    Definir el contrato

    proveedor, modelo, característica, estado y finish_reason

  3. 3

    Instrumentar el límite

    Lea los recuentos de tokens de los metadatos de respuesta del proveedor y almacene el identificador del modelo utilizado para la solicitud.

  4. 4

    Verificar la evidencia

    Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.

Antes de empezar

Requisitos previos y límites

  • Un GEMINI_API_KEY y un TELEMETRY_API_KEY del lado del servidor
  • Un nombre de función estable y un cálculo de costos versionado fuera del mensaje
  • El resultado de un producto, como aceptado, guardado o completado, cuando el flujo de trabajo lo expone.

Configuración de entrega

Instalar e inicializar el lado del servidor

Importe telemetry-sh en código solo de servidor e inicialícelo una vez con Process.env.TELEMETRY_API_KEY. Mantenga las credenciales de ingesta fuera de los paquetes de navegador, las variables de entorno visibles para el cliente, el control de fuente, los registros y los mensajes de excepción.

Instalación de google-gemini

Instalación npm

bash
npm install telemetry-sh
  1. 1Prepare un cliente de entrega del lado del servidor reutilizable con comportamiento de red limitado.
  2. 2Agregue el evento de resultado en el límite de éxito, error, reintento o tiempo de espera.
  3. 3Envíe accesorios controlados e inspeccione las filas almacenadas antes de habilitar una alerta.

Fragmento

Comience con un evento estructurado

Agregue esta forma donde el flujo de trabajo se completa, falla o se vuelve a intentar. Luego cree el panel a partir de campos reales.

google-gemini

Evento Google Gemini API Telemetry

javascript
import { GoogleGenAI } from "@google/genai";
import telemetry from "telemetry-sh";

const gemini = new GoogleGenAI({ apiKey: process.env.GEMINI_API_KEY });
const startedAt = performance.now();

try {
  const response = await gemini.models.generateContent({
    model: process.env.GEMINI_MODEL,
    contents: userInput,
  });
  const usage = response.usageMetadata;

  await telemetry.log("llm_request_completed", {
    provider: "google",
    model: process.env.GEMINI_MODEL,
    feature: "support_draft",
    status: "success",
    latency_ms: Math.round(performance.now() - startedAt),
    input_tokens: usage?.promptTokenCount,
    output_tokens: usage?.candidatesTokenCount,
    total_tokens: usage?.totalTokenCount,
    prompt_version: "support-v4",
  });

  return response;
} catch (error) {
  await telemetry.log("llm_request_completed", {
    provider: "google",
    model: process.env.GEMINI_MODEL,
    feature: "support_draft",
    status: "failed",
    latency_ms: Math.round(performance.now() - startedAt),
    error_type: classifyProviderError(error),
  });
  throw error;
}

Contrato de evento

proveedor, modelo, característica, estado y finish_reason

input_tokens, output_tokens, total_tokens, latency_ms y estimated_cost_usd

request_id, prompt_version, error_type y resultado revisado

Puntos de control de implementación

Punto de control 1

Lea los recuentos de tokens de los metadatos de respuesta del proveedor y almacene el identificador del modelo utilizado para la solicitud.

Punto de control 2

Calcule el costo a partir de una tabla de precios versionada porque los precios de los proveedores y las clases de tokens pueden cambiar.

Punto de control 3

No envíe mensajes de texto, contenido cargado, resultados generados, claves API ni cuerpos de error del proveedor a la telemetría general.

Verificación

Demuestra que el evento llegó

Ejecute esto después de ejercitar casos conocidos de éxito y fracaso. Reemplace el nombre de la tabla alternativa si su contrato de evento final difiere del fragmento.

Verificación google-gemini

Consulta de verificación Google Gemini API Telemetry

sql
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;
Confirme una fila terminal por resultado lógico, con el estado esperado, identificadores, unidades y hora UTC.
Inspeccione el esquema inferido y verifique que los reintentos no cambien los tipos de campos ni generen un nuevo ID de evento lógico.
Busque en los campos almacenados credenciales, cargas útiles sin procesar, mensajes, contenido privado y mensajes de error ilimitados.
Realice un tiempo de espera del proveedor, un rechazo de la ingesta y un cierre del proceso antes de considerar el panel como completo.

Referencias de implementación

Revise el contrato del evento, la guía de seguridad de los datos y la documentación primaria previa antes de habilitar una nueva ruta de producción.

Guía de costos OpenAI y LLMCosto de LLM SQLSQL con calidad de IAGeneración de texto API Gemini

Límite de producción

Mantenga el evento de resultado pequeño y recuperable

Este patrón proporciona

  • Un resultado limitado y listo para SQL junto al flujo de trabajo ascendente.
  • Campos estables para paneles, alertas y correlación entre eventos.
  • Una ruta basada en dispositivos para validar el comportamiento de éxito, fracaso, reintento y tiempo de espera.

Este patrón no proporciona

  • Un exportador de OTLP, un canal de recopilación automática o un reemplazo para seguimientos detallados y registros de diagnóstico.
  • Entrega exactamente una vez simplemente porque la carga útil contiene un ID de evento.
  • Permiso para recopilar cargas útiles sin procesar del proveedor, contenido de usuario, credenciales o datos regulados.
Entrega e idempotenciaProcesamiento por lotes y apagadoSolucionar problemas de ingestión

Puntos de partida del esquema de eventos

Contratos de eventos para este flujo de trabajo

Revise el detalle de la fila, el límite de emisión, los tipos requeridos, las clases de privacidad, la carga útil de ejemplo y la lista de verificación de validación antes de adaptar una consulta o fragmento a producción.

Operaciones de IA10 campos

llm_request_completed

Una solicitud de proveedor de modelo completa.

inspeccionar contrato

Función relacionada del producto

Continúe este flujo de trabajo en Monitoreo de agentes de IA

Conecte las ejecuciones de agentes, el uso de herramientas, el costo del modelo, la calidad y los resultados del producto con SQL revisable.

Explorar Monitoreo de agentes de IARevisar la evidencia del cliente

Recetas SQL relacionadas

Responde la siguiente pregunta con SQL

Ejecute la consulta en los campos estructurados de este flujo de trabajo, inspeccione el resultado del ejemplo y convierta una respuesta útil en un panel o alerta.

Explorar todas las recetas
IA y LLMPrincipiante

Calcular el costo de LLM por característica y modelo

¿Qué características y modelos de productos impulsan el gasto en LLM?

Receta abierta
IA y LLMIntermedio

Medir el tiempo de LLM hasta el primer token

¿Qué combinaciones de modelos y características se sienten lentas antes de que comience la producción?

Receta abierta
IA y LLMIntermedio

Medir las producciones de IA aceptadas por dólar

¿Qué combinación de modelo y características produce los resultados por dólar más aceptados?

Receta abierta
IA y LLMIntermedio

Encuentre regresiones de calidad de IA por versión de solicitud

¿La nueva versión del mensaje mejoró la calidad sin aumentar las transferencias humanas?

Receta abierta
colecciones completasIA y LLM SQL

Explorar por familia de implementación

Comparar patrones de integración relacionados

Integraciones de agente de IA y LLM TelemetryIntegraciones de nube e infraestructura Telemetry

Plantillas para combinar con esta integración

Plantilla de observabilidad de agentes de IA

Realice un seguimiento de las ejecuciones de agentes, llamadas de herramientas, reintentos, latencia de modelos, errores y resultados aceptados con eventos estructurados listos para SQL.

Abrir plantilla

Rastreador de costos de LLM

Mida el gasto del modelo, el uso de tokens, la latencia, la tasa de fallas y las señales de valor por función, usuario y cuenta.

Abrir plantilla

Más integraciones

Respuestas de Azure OpenAI Telemetry

Realice un seguimiento del uso de la implementación de Azure OpenAI, el costo de los tokens, la latencia, los errores y los resultados del producto con eventos editables listos para SQL.

abrir guia

API de respuestas OpenAI Telemetry

Mida la latencia de la API de OpenAI Responses, el uso de tokens, la actividad de las herramientas, las fallas y los resultados posteriores sin recopilar indicaciones ni contenido generado.

abrir guia

Vercel SDK de IA Telemetry

Realice un seguimiento de las finalizaciones de transmisión, el uso de tokens, los reintentos, la latencia y los resultados aceptados de los flujos de trabajo del SDK de AI.

abrir guia