イベントスキーマ
クエリが期待するフィールド
| フィールド | 種類 | なぜ存在するのか |
|---|---|---|
| timestamp_utc | Timestamp | UTC での評価完了時間。 |
| pipeline_version | Utf8 | バージョン管理された取得者、インデックス、およびプロンプトの構成。 |
| test_case_id | Utf8 | 安定した評価ケースの識別子。 |
| evaluation_run_id | Utf8 | 候補パイプライン間で共通に使用する比較実行。 |
| dataset_version | Utf8 | 固定した評価データセットのバージョン。 |
| evaluator_version | Utf8 | 評価器、評価基準、しきい値の設定を識別するバージョン。 |
| relevant_document_retrieved | Boolean | 検索関連性の結果をレビューしました。 |
| answer_grounded | Boolean | 根拠のある回答結果をレビューしました。 |
| retrieval_latency_ms | Int64 | 取得段階の遅延 (ミリ秒単位)。 |
| cost_usd | Float64 | バージョン化された推定評価コスト (USD)。 |
| environment | Utf8 | 評価環境または実稼働環境。 |
クエリをコピーする
WITH cases AS (
SELECT
pipeline_version,
test_case_id,
COUNT(*) AS records,
MAX(CASE WHEN relevant_document_retrieved THEN 1
WHEN relevant_document_retrieved = false THEN 0 END) AS retrieved,
MAX(CASE WHEN answer_grounded THEN 1
WHEN answer_grounded = false THEN 0 END) AS grounded,
MAX(retrieval_latency_ms) AS retrieval_latency_ms,
MAX(cost_usd) AS cost_usd
FROM rag_evaluation_events
WHERE timestamp_utc >= now() - INTERVAL '30 days'
AND environment = 'evaluation'
AND evaluation_run_id = 'release-check-001'
AND dataset_version = 'faq-v1'
AND evaluator_version = 'grounding-rubric-v1'
AND pipeline_version IS NOT NULL AND pipeline_version <> ''
AND test_case_id IS NOT NULL AND test_case_id <> ''
GROUP BY pipeline_version, test_case_id
)
SELECT
pipeline_version,
SUM(CASE WHEN records = 1 THEN 1 ELSE 0 END) AS test_cases,
SUM(CASE WHEN records > 1 THEN 1 ELSE 0 END) AS conflicting_test_cases,
COUNT(CASE WHEN records = 1 THEN retrieved END) AS retrieval_reviewed_cases,
COUNT(CASE WHEN records = 1 THEN grounded END) AS grounding_reviewed_cases,
100.0 * SUM(CASE WHEN records = 1 THEN retrieved END)
/ NULLIF(COUNT(CASE WHEN records = 1 THEN retrieved END), 0) AS retrieval_relevance_pct,
100.0 * SUM(CASE WHEN records = 1 THEN grounded END)
/ NULLIF(COUNT(CASE WHEN records = 1 THEN grounded END), 0) AS grounded_answer_pct,
AVG(CASE WHEN records = 1 THEN retrieval_latency_ms END) AS avg_retrieval_latency_ms,
SUM(CASE WHEN records = 1 THEN cost_usd END) AS evaluation_cost_usd
FROM cases
GROUP BY pipeline_version
ORDER BY grounded_answer_pct DESC NULLS LAST,
retrieval_relevance_pct DESC NULLS LAST, pipeline_version;この読み取り専用クエリは、空の型付きテーブルに対して計画され、実行されます。 アパッチ DataFusion 45.2.0。決定論的なサンプル出力は合成され、個別にレビューされます。フィールド タイプ、しきい値、ビジネス定義を独自のデータと照合して検証します。 テスト方法を読んでください。
クエリ結果
パイプライン別の根拠のある回答の比率
棒グラフは根拠のある回答の比率だけを示します。表には検索の関連性と、各比率の分母となる評価済みケース数を別々に示します。
| pipeline_version | test_cases | conflicting_test_cases | retrieval_reviewed_cases | grounding_reviewed_cases | retrieval_relevance_pct | grounded_answer_pct | avg_retrieval_latency_ms | evaluation_cost_usd |
|---|---|---|---|---|---|---|---|---|
| rag-v2 | 4 | 0 | 4 | 4 | 75 | 75 | 95 | 0.05 |
| rag-v1 | 4 | 0 | 4 | 4 | 50 | 50 | 120 | 0.04 |
合成出力例。運用上の決定に使用する前に、独自のイベント スキーマとしきい値に対してクエリを実行します。
例を再現する
サンプルデータをダウンロードする
JSON バンドルには、型付きイベント コントラクトが含まれています。 reproducible 入力行、正確な SQL、予想される出力、レビューメモ、およびエンジンのバージョン。 CSV には、表示された結果が含まれます。
SQL の仕組み
- 1実行、データセット、評価器のフィルターを、固定した一つの比較の設定に置き換えます。プロンプトと回答は評価システムに保持します。
- 2パイプラインとケースごとに最終レコードを一つだけ集計します。競合するケースは報告し、比率、レイテンシー、コストから除外します。
- 3評価のNULLは不明のまま扱います。各品質比率は、それぞれの評価済みケース数を分母にします。欠落したケースは予定したテストセットと別途比較する必要があります。
- 4パイプライン バージョンでは、テストに使用される取得者、インデックス スナップショット、リランカー、および回答プロンプトを識別する必要があります。
- 5適切な文書であってもサポートされていない回答が生成される可能性があるため、検索の関連性と回答の根拠は分離されたままになります。
- 6レイテンシとコストにより、品質の比較が生産上の制約に結びつきます。
確認するエッジケース
- 一つの実行では、すべてのパイプラインで同じ固定ケース一覧と評価器設定を使います。評価器のバージョンが違えば、測定しているものも違います。
- リンク先の rag_retrieval_evaluated スキーマは異なるデータ契約です。このクエリを使う前に、上記のフィールドを追加してください。duration_ms は処理全体の時間であり、retrieval_latency_ms ではありません。retrieval_score を真偽値のレビュー結果に変換するには、明確な関連性の評価基準が必要です。
- リリースを判断する前に conflicting_test_cases を調査します。識別子のないレコードは除外されます。結果行がないことは失敗率ゼロを意味しません。
- レイテンシーとコストは、競合がなく該当する値があるレコードだけを対象とし、実行全体を表すとは限りません。
- パイプライン間で同じバージョン管理されたテスト ケースを使用し、新しく追加または削除されたケースをレポートします。
- 人間およびモデルベースの採点者には、文書化されたルーブリック、校正、および意見の相違のレビューが必要です。
- デフォルトでは、プライベートなソースの一節や生の回答を一般テレメトリに保存しないでください。
推奨されるダッシュボード
- 棒グラフ:パイプライン別の grounded_answer_pct。検索の関連性と評価済みケース数は表に表示
- 傾向: テストセットの変化に伴う評価結果
- 表: レイテンシー、コスト、テスト数、採点者のバージョン
このクエリに必要なイベントを設定する
関連する機器とガイド
ソースデータを定義する
この分析のイベント スキーマ
分析を続ける
自分のイベントで実行する
テーブルを作成し、フィールドを調整して、結果を保存します
無料で始めて、構造化されたイベントを送信し、クエリ結果をグラフ、共有ダッシュボード ウィジェット、またはアラート入力として使用します。