跳至主要內容
Telemetry
對於管理可以呼叫工具或更改外部狀態的 AI 代理的團隊

AI代理安全監控

監控工具授權、策略拒絕、批准佇列、有風險的操作類和發布更改,而無需儲存提示、憑據或工具負載。

審閱者 Telemetry產品團隊 . 事件契約、推薦分析和隱私邊界. 審查標準和所有權

為什麼這有效
  • 將代理請求的操作與策略引擎的決策分開。
  • 按工具和風險類別衡量拒絕、允許和需要批准的結果。
  • 根據有限決策和終端工具結果建置調查時間表。
用例證據路徑

AI Agent Security Monitoring:從實施到決策

完整的 ai agent security monitoring 測量迴圈連線一個擁有的工作流程、一個有界事件契約、一個受控裝置和一個有人可以採取行動的問題。

  1. 1

    設定邊界

    讀取資料、寫入資料、執行程式碼或影響外部系統的清單工具。

  2. 2

    捕捉結果

    Begin with agent_tool_authorization_decided, agent_tool_completed, agent_policy_changed and document the grain of each event.

  3. 3

    證明行數

    在啟用警示之前,請檢查策略版本更改、拒絕峰值和審批積壓。

  4. 4

    做出決定

    哪些高風險工具最常被拒絕或轉而獲得批准?

用例與範本

本頁解釋了要測量的內容以及原因

使用用例指南來選擇結果、事件邊界和分析問題。當您準備好接受較短的複製貼上實施簡介時,請開啟匹配的範本。

開啟 AI代理安全稽核範本

範圍和鄰近用例

選擇此頁面以獲得正確的測量邊界

  • 使用此頁面進行代理工具授權、人工批准和策略決策分析。
  • 使用 AI 代理可觀察延遲、成本、重試和端到端執行可靠性。
  • 使用安全審查日誌分析來進行代理邊界之外的身分驗證和特權操作。

代理提示

將其貼上到您的編碼代理中

更換 YOUR_API_KEY 註冊後,然後要求代理執行產品流程並驗證第一個事件。

代理提示

AI Agent Security Monitoring 設定提示

text
使用 Telemetry 檢測 AI 代理安全決策。

使用 /skill.md 和此 Telemetry API 金鑰:YOUR_API_KEY

在每次後續工具呼叫之前,使用 event_id、run_id、tool_call_id、workflow、tool_name、action_class、risk_level、decision、reason_code、policy_version 記錄 agent_tool_authorization_decided, release、environment 和 timestamp_utc。僅使用有界值。與相同的run_id和tool_call_id分別登入終端工具outcome。

根據工具和風險級別、拒絕率、所需批准的數量、策略版本更改以及允許稍後失敗的操作建立決策儀表板。保持比率旁邊的計數,並在發出警示之前要求最小樣本量。

切勿記錄原始提示、完成、憑據、授權標頭、工具參數、工具結果、檢索到的文件、客戶內容或自由格式的策略說明。不要將這些分析視為最小權限、沙箱、授權執行或不可變安全證據儲存的替代品。

設定步驟

  1. 1讀取資料、寫入資料、執行程式碼或影響外部系統的清單工具。
  2. 2與安全所有者一起定義受控操作、風險、決策和原因欄位。
  3. 3在每次相應的工具呼叫之前發出授權決策,然後發出單獨的終端結果。
  4. 4在啟用警示之前,請檢查策略版本更改、拒絕峰值和審批積壓。

要捕獲的事件

agent_tool_authorization_decidedagent_tool_completedagent_policy_changedagent_approval_resolvedagent_run_completed

問題已解鎖

  • 哪些高風險工具最常被拒絕或轉而獲得批准?
  • 政策或代理發布是否改變了授權組合?
  • 哪些允許的操作後來會失敗或需要進行事件審查?

事件架構起點

在將查詢或程式碼片段適應生產之前,請檢查行粒度、發出邊界、所需型別、隱私類、範例有效負載和驗證清單。

相關產品功能

繼續此工作流程 AI代理監控

透過可審查的 SQL 連線代理執行、工具使用、模型成本、品質和產品結果。

相關 SQL 查詢範例

用 SQL 回答下一個問題

針對此工作流程中的結構化欄位執行查詢,檢查範例結果,並將有用的答案轉換為儀表板或警示。

瀏覽所有查詢範例

下一步

建立您的代理將使用的 API 金鑰

免費計劃足以執行提示、傳送測試事件和檢視第一個儀表板。

相關頁面