イベント契約
クエリが期待するフィールド
| フィールド | 種類 | なぜ存在するのか |
|---|---|---|
| timestamp_utc | Timestamp | ターミナル エージェントの実行時間 (UTC)。 |
| workflow | Utf8 | 安定した製品ワークフローまたはタスク カテゴリ。 |
| model | Utf8 | プロバイダーの応答から記録されたモデル識別子。 |
| status | Utf8 | テクニカルランの成功または失敗。 |
| reviewer_outcome | Utf8 | 承認、改訂、拒否、または not_reviewed。 |
| human_handoff | Boolean | 人間がそのタスクを引き継いだかどうか。 |
| duration_ms | Float64 | エンドツーエンドのワークフローの期間。 |
| estimated_cost_usd | Float64 | 実行の正規化された推定モデルコスト。 |
クエリをコピーする
SELECT
workflow,
model,
COUNT(*) AS runs,
100.0 * SUM(CASE WHEN status = 'success' THEN 1 ELSE 0 END)
/ NULLIF(COUNT(*), 0) AS technical_success_rate_pct,
100.0 * SUM(CASE WHEN reviewer_outcome = 'accepted' THEN 1 ELSE 0 END)
/ NULLIF(SUM(CASE
WHEN reviewer_outcome <> 'not_reviewed' THEN 1 ELSE 0
END), 0) AS reviewed_acceptance_rate_pct,
100.0 * SUM(CASE WHEN human_handoff THEN 1 ELSE 0 END)
/ NULLIF(COUNT(*), 0) AS human_handoff_rate_pct,
AVG(duration_ms) AS average_duration_ms,
SUM(estimated_cost_usd) / NULLIF(COUNT(*), 0) AS cost_per_run_usd
FROM agent_run_outcomes
WHERE timestamp_utc >= now() - INTERVAL '30 days'
GROUP BY workflow, model
HAVING COUNT(*) >= 20
ORDER BY reviewed_acceptance_rate_pct, runs DESC;この読み取り専用クエリは、空の型付きテーブルに対して計画され、実行されます。 アパッチ DataFusion 45.2.0。決定論的なサンプル出力は合成され、個別にレビューされます。フィールド タイプ、しきい値、ビジネス定義を独自のデータと照合して検証します。 テスト方法を読んでください。
クエリ結果
ワークフローごとにエージェントの受け入れを確認しました
払い戻しのレビューは技術的には完了しますが、他のワークフローよりも大幅に多くの修正や人間による引き継ぎが必要です。
| workflow | model | runs | technical_success_rate_pct | reviewed_acceptance_rate_pct | human_handoff_rate_pct | average_duration_ms | cost_per_run_usd |
|---|---|---|---|---|---|---|---|
| support_triage | configured-model-a | 1,840 | 98.1 | 86.4 | 18.2 | 4,820 | 0.04 |
| refund_review | configured-model-b | 620 | 96.8 | 68.7 | 42.9 | 8,110 | 0.07 |
| knowledge_draft | configured-model-a | 940 | 99.2 | 91.6 | 8.4 | 3,910 | 0.04 |
合成出力例。運用上の決定に使用する前に、独自のイベント スキーマとしきい値に対してクエリを実行します。
例を再現する
パブリックフィクスチャをダウンロードする
JSON バンドルには、型付きイベント コントラクトが含まれています。 illustrative 入力行、正確な SQL、予想される出力、レビューメモ、およびエンジンのバージョン。 CSV には、表示された結果が含まれます。
SQL の仕組み
- 1技術的な成功とレビューされた承認は分離されたままであるため、完了した API コールは製品の品質を代用することはできません。
- 2合格分母は、欠落しているラベルを黙って拒否として扱うのではなく、未レビューの実行を除外します。
- 3ハンドオフ、期間、コストは、一見高い完了率の背後にある運用上のトレードオフを明らかにします。
決定すべきエッジケース
- レビュー担当者の結果には、チームまたはモデルのバージョンを比較する前に、安定したルーブリックと評価者間チェックが必要です。
- 自動的に解決される簡単なタスクは、承認を上方に偏らせる可能性があります。変更されるタスクの難易度ごとにセグメント化します。
- 明示的に承認されない限り、未処理のプロンプト、入力完了、および機密ツールの結果をイベントに入れないでください。
推奨されるダッシュボード
- バー: ワークフローによる受け入れの確認と人間による引き継ぎ
- 傾向: モデルまたは即時リリース後に受け入れられる
- 表: 管理されたレビュー担当者の結果ごとにグループ化された実行
レシピを活用する
関連する機器とガイド
ソースデータを定義する
この分析のイベント スキーマ
分析を続ける
実際のイベントで実行する
テーブルを作成し、フィールドを調整して、結果を保存します
無料で始めて、構造化されたイベントを送信し、クエリ結果をグラフ、共有ダッシュボード ウィジェット、またはアラート入力として使用します。