Monitoreo de seguridad del agente AI con SQL

Ruta de evidencia de casos de uso

AI Agent Security Monitoring: de la implementación a la decisión

Un bucle de medición completo ai agent security monitoring conecta un flujo de trabajo propio, un contrato de evento limitado, un dispositivo controlado y una pregunta sobre la que alguien puede actuar.

1
Establecer el límite
Herramientas de inventario que leen datos, escriben datos, ejecutan código o afectan sistemas externos.
2
Captura el resultado
Begin with agent_tool_authorization_decided, agent_tool_completed, agent_policy_changed and document the grain of each event.
3
probar las filas
Revise los cambios en la versión de la política, los picos de denegación y los retrasos en la aprobación antes de habilitar las alertas.
4
Toma la decisión
¿Qué herramientas de alto riesgo se niegan o se envían a aprobación con mayor frecuencia?

Caso de uso versus plantilla

Esta página explica qué medir y por qué.

Utilice la guía de casos de uso para elegir resultados, límites de eventos y preguntas de análisis. Abra la plantilla correspondiente cuando esté listo para un breve resumen de implementación de copiar y pegar.

Abierto Plantilla de auditoría de seguridad del agente de IA

Alcance y casos de uso vecinos

Elija esta página para obtener el límite de medición correcto

Utilice esta página para la autorización de herramientas del agente, la aprobación humana y el análisis de decisiones políticas.
Utilice la observabilidad del agente de IA para determinar la latencia, el costo, los reintentos y la confiabilidad de la ejecución de un extremo a otro.
Utilice análisis de registros de auditoría de seguridad para autenticación y acciones privilegiadas fuera de los límites del agente.

Aviso del agente

Pega esto en tu agente de codificación

Reemplazar YOUR_API_KEY después del registro, solicite al agente que ejecute el flujo del producto y verifique los primeros eventos.

aviso del agente

Mensaje de configuración AI Agent Security Monitoring

text

Instrumente las decisiones de seguridad del agente de IA con Telemetry.

Utilice /skill.md y esta clave API Telemetry: YOUR_API_KEY

Antes de cada llamada de herramienta consiguiente, registre agent_tool_authorization_decided con event_id, run_id, tool_call_id, workflow, tool_name, action_class, risk_level, decision, reason_code, policy_version, release, environment y timestamp_utc. Utilice sólo valores acotados. Registre la herramienta terminal outcome por separado con el mismo run_id y tool_call_id.

Cree paneles para tomar decisiones por herramienta y nivel de riesgo, tasa de denegación, volumen de aprobación requerida, cambios en la versión de la política y acciones permitidas que luego fallan. Mantenga los recuentos junto a las tasas y exija un tamaño de muestra mínimo antes de alertar.

Nunca registre solicitudes sin procesar, finalizaciones, credenciales, encabezados de autorización, argumentos de herramientas, resultados de herramientas, documentos recuperados, contenido del cliente o explicaciones de políticas de formato libre. No trate estos análisis como un reemplazo de privilegios mínimos, zonas de pruebas, aplicación de autorizaciones o un almacén de evidencia de seguridad inmutable.

Pasos de configuración

1Herramientas de inventario que leen datos, escriben datos, ejecutan código o afectan sistemas externos.
2Defina los campos de acción controlada, riesgo, decisión y motivo con el propietario de la seguridad.
3Emita una decisión de autorización antes de cada llamada de herramienta consiguiente y un resultado de terminal separado después.
4Revise los cambios en la versión de la política, los picos de denegación y los retrasos en la aprobación antes de habilitar las alertas.

Eventos para capturar

agent_tool_authorization_decidedagent_tool_completedagent_policy_changedagent_approval_resolvedagent_run_completed

Preguntas desbloqueadas

¿Qué herramientas de alto riesgo se niegan o se envían a aprobación con mayor frecuencia?
¿Una póliza o autorización de agente cambió la combinación de autorizaciones?
¿Qué acciones permitidas luego fallan o requieren una revisión del incidente?

Puntos de partida del esquema de eventos

Revise el detalle de la fila, el límite de emisión, los tipos requeridos, las clases de privacidad, la carga útil de ejemplo y la lista de verificación de validación antes de adaptar una consulta o fragmento a producción.

Seguridad del agente de IA12 campos

agent_tool_authorization_decided

Una decisión de autorización final por intento de llamada de herramienta lógica.

inspeccionar contrato

Operaciones de IA11 campos

agent_tool_call_completed

Un intento de llamada a herramienta completado dentro de una ejecución de agente.

inspeccionar contrato

Función relacionada del producto

Continúe este flujo de trabajo en Monitoreo de agentes de IA

Conecte las ejecuciones de agentes, el uso de herramientas, el costo del modelo, la calidad y los resultados del producto con SQL revisable.

Explorar Monitoreo de agentes de IA Revisar la evidencia del cliente

Recetas SQL relacionadas

Responde la siguiente pregunta con SQL

Ejecute la consulta en los campos estructurados de este flujo de trabajo, inspeccione el resultado del ejemplo y convierta una respuesta útil en un panel o alerta.

Explorar todas las recetas

Seguridad y auditoríaPrincipiante