跳转到内容
Telemetry
安全和审计 SQL查询示例

审核AI智能体工具授权决策

按风险类别审查允许、拒绝和需要批准的智能体工具决策,而无需收集提示、工具参数、结果或凭据。

入门agent_tool_authorization_decisions已审核 2026-07-30测试用 阿帕奇 DataFusion 45.2.0

审阅者 Telemetry产品团队 . SQL 兼容性、事件契约、合成输出和操作注意事项. 审查标准和所有权

问题已回答

哪些智能体工具最常被拒绝或转而寻求人工批准?

智能体安全分析从执行边界开始。此查询保留决策量、拒绝计数、批准需求以及按工具和风险类别允许的计数,以便团队可以在不解释原始工具负载的情况下审查策略更改。

活动合约

查询期望的字段

字段类型为什么存在
timestamp_utcTimestamp最终政策决策时间(UTC)。
workflowUtf8版本化、低基数智能体工作流程。
tool_nameUtf8批准的低基数工具标识符。
action_classUtf8受控类如read_only或external_state_change。
risk_levelUtf8审查了低、中或高风险级别。
decisionUtf8允许、拒绝或 approval_required。
reason_codeUtf8受控政策原因,没有自由形式的模型解释。
policy_versionUtf8用于决策的保单合同版本。
environmentUtf8部署环境。
DataFusion SQL

复制查询

sql
SELECT
  tool_name,
  risk_level,
  COUNT(*) AS decisions,
  SUM(CASE WHEN decision = 'denied' THEN 1 ELSE 0 END) AS denied,
  SUM(CASE WHEN decision = 'approval_required' THEN 1 ELSE 0 END) AS approval_required,
  SUM(CASE WHEN decision = 'allowed' THEN 1 ELSE 0 END) AS allowed,
  100.0 * SUM(CASE WHEN decision = 'denied' THEN 1 ELSE 0 END)
    / NULLIF(COUNT(*), 0) AS denial_rate_pct
FROM agent_tool_authorization_decisions
WHERE timestamp_utc >= now() - INTERVAL '30 days'
  AND environment = 'production'
GROUP BY tool_name, risk_level
ORDER BY denied DESC, approval_required DESC, tool_name;

此只读查询是针对空类型表计划和执行的 阿帕奇 DataFusion 45.2.0。确定性样本输出是综合的并单独审查;根据您自己的数据验证字段类型、阈值和业务定义。 阅读测试方法。

查询结果

智能体工具拒绝率

综合决策除了批准率和每个工具的总量之外,还保留拒绝率。

tool_namerisk_leveldecisionsdeniedapproval_requiredalloweddenial_rate_pct
database_writehigh421150
filesystem_writehigh412125
web_searchmedium30030

综合示例输出。在将其用于操作决策之前,针对您自己的事件架构和阈值运行查询。

Agent tool denial rate:来自 Audit AI Agent Tool Authorization Decisions 示例结果的合成 denial_rate_pct 值的静态图表
确定性示例输出的可索引 SVG。下载它以获取带有归属的文章、操作手册或设计评论。

重现示例

下载公共装置

JSON 包包含类型化事件契约, reproducible 输入行、确切的 SQL、预期输出、审阅注释和引擎版本。 CSV 包含显示的结果。

SQL 是如何工作的

  1. 1该决策是由授权层在执行之前发出的,而不是从模型请求的操作中推断出来的。
  2. 2工具名称、风险级别、原因代码和策略版本使用受控值,以便策略更改保持可比性。
  3. 3除了拒绝率之外,计数仍然可见,因为少数决策的高百分比不应触发自动升级。

需要决定的边缘情况

  • 预期的否认可以表明政策正在发挥作用;在发出警报之前定义已审核的升级条件。
  • 单独记录终端工具结果,以便允许的决策不会被误认为成功执行。
  • 将提示、参数、结果、凭据、检索到的文档和自由格式的政策解释保留在一般遥测之外。

推荐仪表板

  • 酒吧:denial_rate_pct by tool_name
  • 堆叠决策:允许、拒绝以及 approval_required by risk_level
  • 趋势:policy_version 的决策组合并发布

警报指导

仅针对已审查的情况发出警报,例如持续的高风险拒绝高峰、新颖的工具类别或数量充足的逾期批准队列。

读取警报设置

让查询示例发挥作用

相关埋点和指南

定义源数据

此分析的事件模式

继续分析

在真实事件中运行它

创建表,调整字段并保存结果

免费开始,发送结构化事件,并将查询结果用作图表、共享仪表板小部件或警报输入。

获取 API 密钥