이벤트 스키마
쿼리가 예상하는 필드
| 필드 | 유형 | 그것이 존재하는 이유 |
|---|---|---|
| timestamp_utc | Timestamp | 평가 완료 시간(UTC)입니다. |
| pipeline_version | Utf8 | 버전이 지정된 검색기, 인덱스 및 프롬프트 구성입니다. |
| test_case_id | Utf8 | 안정적인 평가 사례 식별자입니다. |
| evaluation_run_id | Utf8 | 후보 파이프라인들이 공유하는 비교 실행입니다. |
| dataset_version | Utf8 | 고정된 평가 데이터 세트의 버전입니다. |
| evaluator_version | Utf8 | 평가기, 평가 기준 및 임곗값 설정의 버전입니다. |
| relevant_document_retrieved | Boolean | 검색 관련성 결과를 검토했습니다. |
| answer_grounded | Boolean | 근거 답변 결과를 검토했습니다. |
| retrieval_latency_ms | Int64 | 검색 단계 대기 시간(밀리초)입니다. |
| cost_usd | Float64 | 버전화된 예상 평가 비용은 USD로 표시됩니다. |
| environment | Utf8 | 평가 또는 프로덕션 환경. |
DataFusion SQL
쿼리 복사
sql
WITH cases AS (
SELECT
pipeline_version,
test_case_id,
COUNT(*) AS records,
MAX(CASE WHEN relevant_document_retrieved THEN 1
WHEN relevant_document_retrieved = false THEN 0 END) AS retrieved,
MAX(CASE WHEN answer_grounded THEN 1
WHEN answer_grounded = false THEN 0 END) AS grounded,
MAX(retrieval_latency_ms) AS retrieval_latency_ms,
MAX(cost_usd) AS cost_usd
FROM rag_evaluation_events
WHERE timestamp_utc >= now() - INTERVAL '30 days'
AND environment = 'evaluation'
AND evaluation_run_id = 'release-check-001'
AND dataset_version = 'faq-v1'
AND evaluator_version = 'grounding-rubric-v1'
AND pipeline_version IS NOT NULL AND pipeline_version <> ''
AND test_case_id IS NOT NULL AND test_case_id <> ''
GROUP BY pipeline_version, test_case_id
)
SELECT
pipeline_version,
SUM(CASE WHEN records = 1 THEN 1 ELSE 0 END) AS test_cases,
SUM(CASE WHEN records > 1 THEN 1 ELSE 0 END) AS conflicting_test_cases,
COUNT(CASE WHEN records = 1 THEN retrieved END) AS retrieval_reviewed_cases,
COUNT(CASE WHEN records = 1 THEN grounded END) AS grounding_reviewed_cases,
100.0 * SUM(CASE WHEN records = 1 THEN retrieved END)
/ NULLIF(COUNT(CASE WHEN records = 1 THEN retrieved END), 0) AS retrieval_relevance_pct,
100.0 * SUM(CASE WHEN records = 1 THEN grounded END)
/ NULLIF(COUNT(CASE WHEN records = 1 THEN grounded END), 0) AS grounded_answer_pct,
AVG(CASE WHEN records = 1 THEN retrieval_latency_ms END) AS avg_retrieval_latency_ms,
SUM(CASE WHEN records = 1 THEN cost_usd END) AS evaluation_cost_usd
FROM cases
GROUP BY pipeline_version
ORDER BY grounded_answer_pct DESC NULLS LAST,
retrieval_relevance_pct DESC NULLS LAST, pipeline_version;이 읽기 전용 쿼리는 빈 유형의 테이블에 대해 계획되고 실행됩니다. 아파치 DataFusion 45.2.0. 결정론적 샘플 출력은 합성되어 별도로 검토됩니다. 자신의 데이터에 대해 필드 유형, 임계값 및 비즈니스 정의를 검증합니다. 테스트 방법론을 읽어보세요.
쿼리 결과
파이프라인별 근거 있는 답변 비율
막대는 근거 있는 답변 비율만 표시합니다. 표는 검색 관련성과 각 비율의 분모인 평가된 사례 수를 별도로 표시합니다.
rag-v2
75%
rag-v1
50%
| pipeline_version | test_cases | conflicting_test_cases | retrieval_reviewed_cases | grounding_reviewed_cases | retrieval_relevance_pct | grounded_answer_pct | avg_retrieval_latency_ms | evaluation_cost_usd |
|---|---|---|---|---|---|---|---|---|
| rag-v2 | 4 | 0 | 4 | 4 | 75 | 75 | 95 | 0.05 |
| rag-v1 | 4 | 0 | 4 | 4 | 50 | 50 | 120 | 0.04 |
합성 예제 출력. 운영 결정에 사용하기 전에 자체 이벤트 스키마 및 임계값에 대해 쿼리를 실행하세요.
SQL 작동 방식
- 1실행, 데이터 세트 및 평가기 필터를 하나의 고정된 비교 설정으로 바꾸세요. 프롬프트와 답변은 평가 시스템에 보관하세요.
- 2파이프라인과 사례별로 최종 레코드 하나만 집계합니다. 충돌하는 사례는 별도로 표시하고 비율, 지연 시간 및 비용에서 제외합니다.
- 3NULL 평가는 알 수 없는 상태로 유지합니다. 각 품질 비율은 해당 항목의 평가된 사례 수를 분모로 사용합니다. 누락된 사례는 예정된 테스트 세트와 별도로 비교해야 합니다.
- 4파이프라인 버전은 테스트에 사용되는 검색기, 인덱스 스냅샷, 순위 조정기 및 응답 프롬프트를 식별해야 합니다.
- 5좋은 문서라도 여전히 지원되지 않는 답변을 생성할 수 있으므로 검색 관련성과 답변 기반은 별도로 유지됩니다.
- 6지연 시간과 비용은 프로덕션 제약과 관련된 품질 비교를 유지합니다.
확인할 경계 사례
- 한 실행에서는 모든 파이프라인에 동일한 고정 사례 목록과 평가기 설정을 사용해야 합니다. 평가기 버전이 다르면 측정하는 대상도 다릅니다.
- 연결된 rag_retrieval_evaluated 스키마는 다른 데이터 계약을 사용합니다. 이 쿼리를 사용하기 전에 위에 나열된 필드를 추가하세요. duration_ms는 전체 처리 시간이며 retrieval_latency_ms가 아닙니다. retrieval_score를 불리언 검토 결과로 변환하려면 명확한 관련성 평가 기준이 필요합니다.
- 릴리스를 결정하기 전에 conflicting_test_cases를 조사하세요. 식별자가 없는 레코드는 제외됩니다. 결과 행이 없다고 실패율이 0인 것은 아닙니다.
- 지연 시간과 비용은 충돌 없이 해당 값이 있는 레코드만 포함하며, 전체 실행을 나타내지는 않을 수 있습니다.
- 파이프라인 전체에서 동일한 버전의 테스트 사례를 사용하고 새로 추가되거나 제거된 사례를 보고하세요.
- 인간 및 모델 기반 채점자는 문서화된 루브릭, 보정 및 불일치 검토가 필요합니다.
- 기본적으로 일반 텔레메트리에는 개인 소스 구절이나 원시 답변을 저장하지 마세요.
추천 대시보드
- 막대 차트: 파이프라인별 grounded_answer_pct. 검색 관련성과 평가된 사례 수는 표에 표시
- 추세: 테스트 세트 변경에 따른 평가 결과
- 표: 대기 시간, 비용, 테스트 횟수 및 그레이더 버전
이 쿼리에 필요한 이벤트 설정하기
관련 계측 및 가이드
소스 데이터 정의
이 분석을 위한 이벤트 스키마
분석 계속하기
내 이벤트로 실행하기
테이블을 만들고, 필드를 조정하고, 결과를 저장하세요.
무료로 시작하고, 구조화된 이벤트를 보내고, 쿼리 결과를 차트, 공유 대시보드 위젯 또는 알림 입력으로 사용하세요.