イベント契約
クエリが期待するフィールド
| フィールド | 種類 | なぜ存在するのか |
|---|---|---|
| timestamp_utc | Timestamp | UTC での評価完了時間。 |
| workflow_name | Utf8 | 境界付き AI ワークフロー名。 |
| prompt_version | Utf8 | プロンプトまたはポリシーのバージョンを確認しました。 |
| model_name | Utf8 | 境界付きモデル名。 |
| quality_score | Float64 | 文書化された評価者からの正規化されたスコア。 |
| quality_passed | Boolean | 実行がレビューされた品質しきい値を超えたかどうか。 |
| accepted_without_edit | Boolean | ユーザーが編集せずに出力を受け入れたかどうか。 |
| human_handoff | Boolean | ワークフローが担当者にエスカレーションされたかどうか。 |
| cost_usd | Float64 | 実行のための正規化されたモデルコスト。 |
| environment | Utf8 | 導入環境。 |
DataFusion SQL
クエリをコピーする
sql
SELECT
workflow_name,
prompt_version,
COUNT(*) AS evaluated_runs,
100.0 * SUM(CASE WHEN quality_passed THEN 1 ELSE 0 END)
/ NULLIF(COUNT(*), 0) AS quality_pass_rate_pct,
100.0 * SUM(CASE WHEN accepted_without_edit THEN 1 ELSE 0 END)
/ NULLIF(COUNT(*), 0) AS acceptance_rate_pct,
100.0 * SUM(CASE WHEN human_handoff THEN 1 ELSE 0 END)
/ NULLIF(COUNT(*), 0) AS handoff_rate_pct,
AVG(quality_score) AS average_quality_score,
SUM(cost_usd) / NULLIF(
SUM(CASE WHEN quality_passed THEN 1 ELSE 0 END),
0
) AS cost_per_quality_pass_usd
FROM ai_quality_events
WHERE timestamp_utc >= now() - INTERVAL '30 days'
AND environment = 'production'
GROUP BY workflow_name, prompt_version
ORDER BY workflow_name, prompt_version;この読み取り専用クエリは、空の型付きテーブルに対して計画され、実行されます。 アパッチ DataFusion 45.2.0。決定論的なサンプル出力は合成され、個別にレビューされます。フィールド タイプ、しきい値、ビジネス定義を独自のデータと照合して検証します。 テスト方法を読んでください。
クエリ結果
プロンプトバージョンごとの AI 品質
バージョン 4 では、ハンドオフが観察されず、品質の合格率と合格率が高くなります。
support-v3
60%
comparison 40%
support-v4
80%
comparison 0%
| workflow_name | prompt_version | evaluated_runs | quality_pass_rate_pct | acceptance_rate_pct | handoff_rate_pct | average_quality_score | cost_per_quality_pass_usd |
|---|---|---|---|---|---|---|---|
| support_reply | support-v3 | 5 | 60 | 60 | 40 | 0.69 | 0.03 |
| support_reply | support-v4 | 5 | 80 | 80 | 0 | 0.83 | 0.03 |
合成出力例。運用上の決定に使用する前に、独自のイベント スキーマとしきい値に対してクエリを実行します。
例を再現する
パブリックフィクスチャをダウンロードする
JSON バンドルには、型付きイベント コントラクトが含まれています。 reproducible 入力行、正確な SQL、予想される出力、レビューメモ、およびエンジンのバージョン。 CSV には、表示された結果が含まれます。
SQL の仕組み
- 1プロンプト バージョンは明示的なイベント フィールドであり、ロールアウトの比較を再現可能にします。
- 2品質合格、製品の受け入れ、引き渡し率は、有用性のさまざまな側面を示しています。
- 3コストは、実際の実行ではなく、成功した品質の結果によって分割されるため、安価な失敗が効率的に見えるのを防ぎます。
決定すべきエッジケース
- 比較したバージョン間でエバリュエーターの定義としきい値を安定させます。
- オフライン評価者のスコアを実際のユーザーの受け入れ結果から分離し、どちらかをグラウンド トゥルースとして扱うのではなく。
- プロンプト バージョンが大幅に異なるトラフィックを受信する場合は、タスクの難易度または顧客コホートごとにセグメント化します。
推奨されるダッシュボード
- バー: prompt_version による品質と合格率
- 傾向: ロールアウト アノテーションによるハンドオフ率
- 表: 評価された実行と品質パスあたりのコスト
レシピを活用する
関連する機器とガイド
分析を続ける
実際のイベントで実行する
テーブルを作成し、フィールドを調整して、結果を保存します
無料で始めて、構造化されたイベントを送信し、クエリ結果をグラフ、共有ダッシュボード ウィジェット、またはアラート入力として使用します。