跳转到内容
Telemetry
对于管理可以调用工具或更改外部状态的 AI 智能体的团队

AI智能体安全监控

监控工具授权、策略拒绝、批准队列、有风险的操作类和发布更改,而无需存储提示、凭据或工具负载。

审阅者 Telemetry产品团队 . 事件契约、推荐分析和隐私边界. 审查标准和所有权

为什么这有效
  • 将智能体请求的操作与策略引擎的决策分开。
  • 按工具和风险类别衡量拒绝、允许和需要批准的结果。
  • 根据有限决策和终端工具结果构建调查时间表。
用例证据路径

AI Agent Security Monitoring:从实施到决策

完整的 ai agent security monitoring 测量循环连接一个拥有的工作流程、一个有界事件契约、一个受控装置和一个有人可以采取行动的问题。

  1. 1

    设定边界

    读取数据、写入数据、执行代码或影响外部系统的清单工具。

  2. 2

    捕捉结果

    Begin with agent_tool_authorization_decided, agent_tool_completed, agent_policy_changed and document the grain of each event.

  3. 3

    证明行数

    在启用警报之前,请检查策略版本更改、拒绝峰值和审批积压。

  4. 4

    做出决定

    哪些高风险工具最常被拒绝或转而获得批准?

用例与模板

本页解释了要测量的内容以及原因

使用用例指南来选择结果、事件边界和分析问题。当您准备好接受较短的复制粘贴实施简介时,请打开匹配的模板。

打开 AI智能体安全审计模板

范围和邻近用例

选择此页面以获得正确的测量边界

  • 使用此页面进行智能体工具授权、人工批准和策略决策分析。
  • 使用 AI 智能体可观察延迟、成本、重试和端到端运行可靠性。
  • 使用安全审核日志分析来进行智能体边界之外的身份验证和特权操作。

智能体提示

将其粘贴到您的编码代理中

更换 YOUR_API_KEY 注册后,然后要求智能体运行产品流程并验证第一个事件。

代理提示

AI Agent Security Monitoring 设置提示

text
使用 Telemetry 检测 AI 代理安全决策。

使用 /skill.md 和此 Telemetry API 密钥:YOUR_API_KEY

在每次后续工具调用之前,使用 event_id、run_id、tool_call_id、workflow、tool_name、action_class、risk_level、decision、reason_code、policy_version 记录 agent_tool_authorization_decided, release、environment 和 timestamp_utc。仅使用有界值。与相同的run_id和tool_call_id分别登录终端工具outcome。

根据工具和风险级别、拒绝率、所需批准的数量、策略版本更改以及允许稍后失败的操作创建决策仪表板。保持比率旁边的计数,并在发出警报之前要求最小样本量。

切勿记录原始提示、完成、凭据、授权标头、工具参数、工具结果、检索到的文档、客户内容或自由格式的策略说明。不要将这些分析视为最小权限、沙箱、授权执行或不可变安全证据存储的替代品。

设置步骤

  1. 1读取数据、写入数据、执行代码或影响外部系统的清单工具。
  2. 2与安全所有者一起定义受控操作、风险、决策和原因字段。
  3. 3在每次相应的工具调用之前发出授权决策,然后发出单独的终端结果。
  4. 4在启用警报之前,请检查策略版本更改、拒绝峰值和审批积压。

要捕获的事件

agent_tool_authorization_decidedagent_tool_completedagent_policy_changedagent_approval_resolvedagent_run_completed

问题已解锁

  • 哪些高风险工具最常被拒绝或转而获得批准?
  • 政策或智能体发布是否改变了授权组合?
  • 哪些允许的操作后来会失败或需要进行事件审查?

事件架构起点

在将查询或代码片段适应生产之前,请检查行粒度、发出边界、所需类型、隐私类、示例有效负载和验证清单。

相关产品功能

继续此工作流程 AI代理监控

通过可审查的 SQL 连接智能体运行、工具使用、模型成本、质量和产品结果。

相关 SQL 查询示例

用 SQL 回答下一个问题

针对此工作流程中的结构化字段运行查询,检查示例结果,并将有用的答案转换为仪表板或警报。

浏览所有查询示例

下一步

创建您的智能体将使用的 API 密钥

免费计划足以运行提示、发送测试事件和查看第一个仪表板。

相关页面