Saltar al contenido
Telemetry
Seguridad y auditoría receta SQL

Auditar las decisiones de autorización de la herramienta del agente de IA

Revise las decisiones de herramientas de agentes permitidas, denegadas y con aprobación requerida por clase de riesgo sin recopilar indicaciones, argumentos de herramientas, resultados o credenciales.

Principianteagent_tool_authorization_decisionsRevisado 2026-07-30Probado con Apache DataFusion 45.2.0

Revisado por el equipo de producto Telemetry en . Compatibilidad con SQL, contrato de eventos, resultados sintéticos y advertencias operativas. Revisar los estándares y la propiedad

Pregunta respondida

¿Qué herramientas de agentes se niegan o se envían a la aprobación humana con mayor frecuencia?

El análisis de seguridad del agente comienza en el límite de aplicación. Esta consulta conserva el volumen de decisiones, el recuento de denegaciones, la demanda de aprobación y el recuento permitido por herramienta y clase de riesgo para que los equipos puedan revisar un cambio de política sin interpretar las cargas útiles de las herramientas sin procesar.

Contrato de evento

Campos que espera la consulta

CampoTipoPor que existe
timestamp_utcTimestampHora final de decisión política en UTC.
workflowUtf8Flujo de trabajo del agente versionado y de baja cardinalidad.
tool_nameUtf8Identificador de herramienta de baja cardinalidad aprobado.
action_classUtf8Clase controlada como read_only o external_state_change.
risk_levelUtf8Clase de riesgo revisada baja, media o alta.
decisionUtf8Permitido, denegado o approval_required.
reason_codeUtf8Razón de política controlada sin una explicación del modelo de forma libre.
policy_versionUtf8Versión del contrato de póliza utilizado para la decisión.
environmentUtf8Entorno de implementación.
DataFusionSQL

Copiar la consulta

sql
SELECT
  tool_name,
  risk_level,
  COUNT(*) AS decisions,
  SUM(CASE WHEN decision = 'denied' THEN 1 ELSE 0 END) AS denied,
  SUM(CASE WHEN decision = 'approval_required' THEN 1 ELSE 0 END) AS approval_required,
  SUM(CASE WHEN decision = 'allowed' THEN 1 ELSE 0 END) AS allowed,
  100.0 * SUM(CASE WHEN decision = 'denied' THEN 1 ELSE 0 END)
    / NULLIF(COUNT(*), 0) AS denial_rate_pct
FROM agent_tool_authorization_decisions
WHERE timestamp_utc >= now() - INTERVAL '30 days'
  AND environment = 'production'
GROUP BY tool_name, risk_level
ORDER BY denied DESC, approval_required DESC, tool_name;

Esta consulta de solo lectura se planifica y ejecuta en una tabla escrita vacía con Apache DataFusion 45.2.0. El resultado de la muestra determinista es sintético y se revisa por separado; valide tipos de campos, umbrales y definiciones comerciales con sus propios datos. Lea la metodología de prueba.

Resultado de la consulta

Tasa de denegación de herramientas del agente

Las decisiones sintéticas mantienen la tasa de rechazo junto a la aprobación y el volumen total de cada herramienta.

tool_namerisk_leveldecisionsdeniedapproval_requiredalloweddenial_rate_pct
database_writehigh421150
filesystem_writehigh412125
web_searchmedium30030

Salida de ejemplo sintético. Ejecute la consulta con su propio esquema de eventos y umbrales antes de utilizarla para decisiones operativas.

Agent tool denial rate: gráfico estático de valores sintéticos de denial_rate_pct del resultado del ejemplo Audit AI Agent Tool Authorization Decisions
SVG indexable de la salida del ejemplo determinista. Descárguelo para ver un artículo, un runbook o una revisión de diseño con atribución.

Reproducir el ejemplo

Descargar el accesorio público

El paquete JSON incluye el contrato de evento escrito, reproducible filas de entrada, SQL exacto, resultado esperado, notas de revisión y versión del motor. El CSV contiene el resultado mostrado.

Cómo funciona el SQL

  1. 1La decisión la emite la capa de autorización antes de la ejecución, no se infiere de la acción solicitada del modelo.
  2. 2El nombre de la herramienta, el nivel de riesgo, el código de motivo y la versión de la política utilizan valores controlados para que los cambios de la política sigan siendo comparables.
  3. 3Los recuentos siguen siendo visibles junto a la tasa de denegación porque un alto porcentaje en unas pocas decisiones no debería desencadenar una escalada automática.

Casos extremos para decidir

  • Una negativa esperada puede mostrar que la política está funcionando; definir las condiciones de escalada revisadas antes de alertar.
  • Registre el resultado de la herramienta terminal por separado para que una decisión permitida no se confunda con una ejecución exitosa.
  • Mantenga las indicaciones, argumentos, resultados, credenciales, documentos recuperados y explicaciones de políticas de formato libre fuera de la telemetría general.

Panel recomendado

  • Barras: denial_rate_pct por tool_name
  • Decisiones acumuladas: permitidas, denegadas y approval_required por risk_level
  • Tendencia: combinación de decisiones por policy_version y lanzamiento

Guía de alerta

Alerte solo sobre condiciones revisadas, como un pico sostenido de denegaciones de alto riesgo, una nueva clase de herramienta o una cola de aprobación vencida con suficiente volumen.

Leer configuración de alerta

Pon la receta a trabajar

Instrumentación y guías relacionadas.

Definir los datos de origen

Esquemas de eventos para este análisis.

Continuar el análisis

Ejecútelo en eventos reales.

Crea una tabla, adapta los campos y guarda el resultado.

Comience gratis, envíe eventos estructurados y utilice el resultado de la consulta como un gráfico, un widget de panel compartido o una entrada de alerta.

Obtén una clave API