Saltar al contenido
Telemetry
colección de recetas SQL

Calidad de datos Recetas SQL

Detecte ingestas obsoletas, identificadores duplicados, campos obligatorios faltantes, eventos retrasados y regresiones de instrumentación antes de que los paneles se vuelvan engañosos.

contrato de evento común

Campos que mantienen estas consultas reutilizables

  • timestamp_utc, received_at, event_id, event_name y schema_version
  • fuente, entorno, producer_version y campos comerciales obligatorios
  • ingestion_status, validation_error y resultado duplicado

Definiciones antes de SQL

Decisiones que la consulta no puede tomar por usted

  1. 1Defina el volumen de eventos esperado y la frescura por separado para cada fuente.
  2. 2Elija identificadores de eventos estables antes de intentar la deduplicación.
  3. 3Mida la integridad del campo solo cuando el campo sea realmente obligatorio.

Secuencia recomendada

Primero la detección de compilación, luego el diagnóstico

Patrones de análisis

Hacer que el resultado explique una decisión.

Monitorear la propia telemetría

Trate la frescura, la integridad, la singularidad y la adopción de esquemas como señales de primera clase además de las métricas del producto que respaldan.

Separe la hora del evento de la hora de recepción

Compare cuándo se realizó el trabajo y cuándo llegó para exponer los clientes retrasados, los reabastecimientos y la ingesta bloqueada.

Segmento por productor

Divida las regresiones por fuente, entorno, versión de esquema o versión para que el propietario y los límites de implementación queden claros.

recetas completas

Copie la consulta y luego valide las suposiciones.

Principiantetelemetry_events

Medir la frescura de la ingestión de eventos

Encuentre fuentes de eventos que dejaron de entregar datos o que llegan mucho más tarde de lo que ocurrieron.

¿Qué fuentes de eventos de producción están obsoletas o retrasadas en este momento?

Ver SQL y resultado
Principiantetelemetry_events

Buscar ID de eventos duplicados

Identifique identificadores de eventos entregados más de una vez y mida si el manejo de duplicados está funcionando.

¿Qué ID de evento se recibieron más de una vez?

Ver SQL y resultado
Principianteproduct_events

Medir la tasa de nulos de campos obligatorios

Encuentre contratos de eventos en los que un campo obligatorio de cuenta, estado o correlación esté desapareciendo.

¿Qué nombres de eventos tienen una tasa de identificador de cuenta faltante inaceptable?

Ver SQL y resultado
Intermedioingestion_events

Medir eventos que llegan tarde

Mida el retraso en la entrega de eventos por fuente e identifique a los productores que envían datos obsoletos o desordenados.

¿Qué productores de eventos entregan datos lo suficientemente tarde como para distorsionar el análisis?

Ver SQL y resultado
Principianteproduct_events

Seguimiento de la adopción de la versión del esquema del evento

Mida la implementación de la versión del esquema por productor y encuentre contratos de eventos antiguos que permanezcan activos después de una implementación.

¿Qué productores siguen emitiendo versiones antiguas de un evento crítico?

Ver SQL y resultado
Principiantetelemetry_ingestion_events

Medir el volumen Telemetry por nombre de evento

Clasifique los tipos de eventos por bytes de carga útil, tamaño promedio de evento y tasa de rechazo antes de cambiar la política de retención o recolección.

¿Qué contratos de eventos generan el mayor volumen de ingesta?

Ver SQL y resultado

Adaptar el contrato del evento antes del umbral.

Mantenga el patrón de análisis, pero valide los nombres de las tablas, los tipos de campos, las definiciones comerciales, las ventanas de tiempo y las reglas de volumen mínimo con respecto a sus propios eventos. Cada consulta publicada también se planifica y ejecuta en una tabla escrita vacía con el motor fijado.