콘텐츠로 건너뛰기
AI 및 LLM SQL 레시피

버전별 RAG 검색 품질 평가

RAG 파이프라인 버전 전체에서 관련 문서 검색, 근거 있는 답변, 검색 대기 시간 및 평가 비용을 비교하세요.

중급rag_evaluation_events검토됨 2026-10-02테스트됨 아파치 DataFusion 45.2.0

검토자 Telemetry 제품 팀 에 . SQL 문법, 필수 이벤트 필드, 예제 결과, 쿼리 사용 시 제한 사항을 확인했습니다. 이 페이지의 검토 담당자

질문에 답변됨

새로운 RAG 파이프라인이 검색 및 근거 있는 답변 비율을 향상시켰습니까?

RAG 품질은 하나의 점수가 아닙니다. 이 쿼리는 버전이 지정된 테스트 세트에 대해 검색 관련성, 답변 기반, 대기 시간 및 평가 비용을 함께 유지하므로 운영상의 장단점을 기준으로 명백한 품질 향상을 검토할 수 있습니다.

이벤트 스키마

쿼리가 예상하는 필드

필드유형그것이 존재하는 이유
timestamp_utcTimestamp평가 완료 시간(UTC)입니다.
pipeline_versionUtf8버전이 지정된 검색기, 인덱스 및 프롬프트 구성입니다.
test_case_idUtf8안정적인 평가 사례 식별자입니다.
evaluation_run_idUtf8후보 파이프라인들이 공유하는 비교 실행입니다.
dataset_versionUtf8고정된 평가 데이터 세트의 버전입니다.
evaluator_versionUtf8평가기, 평가 기준 및 임곗값 설정의 버전입니다.
relevant_document_retrievedBoolean검색 관련성 결과를 검토했습니다.
answer_groundedBoolean근거 답변 결과를 검토했습니다.
retrieval_latency_msInt64검색 단계 대기 시간(밀리초)입니다.
cost_usdFloat64버전화된 예상 평가 비용은 USD로 표시됩니다.
environmentUtf8평가 또는 프로덕션 환경.
DataFusion SQL

쿼리 복사

sql
WITH cases AS (
  SELECT
    pipeline_version,
    test_case_id,
    COUNT(*) AS records,
    MAX(CASE WHEN relevant_document_retrieved THEN 1
      WHEN relevant_document_retrieved = false THEN 0 END) AS retrieved,
    MAX(CASE WHEN answer_grounded THEN 1
      WHEN answer_grounded = false THEN 0 END) AS grounded,
    MAX(retrieval_latency_ms) AS retrieval_latency_ms,
    MAX(cost_usd) AS cost_usd
  FROM rag_evaluation_events
  WHERE timestamp_utc >= now() - INTERVAL '30 days'
    AND environment = 'evaluation'
    AND evaluation_run_id = 'release-check-001'
    AND dataset_version = 'faq-v1'
    AND evaluator_version = 'grounding-rubric-v1'
    AND pipeline_version IS NOT NULL AND pipeline_version <> ''
    AND test_case_id IS NOT NULL AND test_case_id <> ''
  GROUP BY pipeline_version, test_case_id
)
SELECT
  pipeline_version,
  SUM(CASE WHEN records = 1 THEN 1 ELSE 0 END) AS test_cases,
  SUM(CASE WHEN records > 1 THEN 1 ELSE 0 END) AS conflicting_test_cases,
  COUNT(CASE WHEN records = 1 THEN retrieved END) AS retrieval_reviewed_cases,
  COUNT(CASE WHEN records = 1 THEN grounded END) AS grounding_reviewed_cases,
  100.0 * SUM(CASE WHEN records = 1 THEN retrieved END)
    / NULLIF(COUNT(CASE WHEN records = 1 THEN retrieved END), 0) AS retrieval_relevance_pct,
  100.0 * SUM(CASE WHEN records = 1 THEN grounded END)
    / NULLIF(COUNT(CASE WHEN records = 1 THEN grounded END), 0) AS grounded_answer_pct,
  AVG(CASE WHEN records = 1 THEN retrieval_latency_ms END) AS avg_retrieval_latency_ms,
  SUM(CASE WHEN records = 1 THEN cost_usd END) AS evaluation_cost_usd
FROM cases
GROUP BY pipeline_version
ORDER BY grounded_answer_pct DESC NULLS LAST,
  retrieval_relevance_pct DESC NULLS LAST, pipeline_version;

이 읽기 전용 쿼리는 빈 유형의 테이블에 대해 계획되고 실행됩니다. 아파치 DataFusion 45.2.0. 결정론적 샘플 출력은 합성되어 별도로 검토됩니다. 자신의 데이터에 대해 필드 유형, 임계값 및 비즈니스 정의를 검증합니다. 테스트 방법론을 읽어보세요.

쿼리 결과

파이프라인별 근거 있는 답변 비율

막대는 근거 있는 답변 비율만 표시합니다. 표는 검색 관련성과 각 비율의 분모인 평가된 사례 수를 별도로 표시합니다.

pipeline_versiontest_casesconflicting_test_casesretrieval_reviewed_casesgrounding_reviewed_casesretrieval_relevance_pctgrounded_answer_pctavg_retrieval_latency_msevaluation_cost_usd
rag-v240447575950.05
rag-v1404450501200.04

합성 예제 출력. 운영 결정에 사용하기 전에 자체 이벤트 스키마 및 임계값에 대해 쿼리를 실행하세요.

Grounded-answer rate by pipeline: Evaluate RAG retrieval quality by version 예제 결과의 합성 grounded_answer_pct 값에 대한 정적 차트
결정론적 예제 출력의 색인 생성 가능한 SVG입니다. 기사, 런북 또는 저작자가 포함된 디자인 검토를 위해 다운로드하세요.

예제 재현

샘플 데이터 다운로드

JSON 번들은 타입이 지정된 이벤트 계약을 포함합니다. reproducible 입력 행, 정확한 SQL, 예상 출력, 검토 참고 사항 및 엔진 버전. CSV에는 표시된 결과가 포함됩니다.

SQL 작동 방식

  1. 1실행, 데이터 세트 및 평가기 필터를 하나의 고정된 비교 설정으로 바꾸세요. 프롬프트와 답변은 평가 시스템에 보관하세요.
  2. 2파이프라인과 사례별로 최종 레코드 하나만 집계합니다. 충돌하는 사례는 별도로 표시하고 비율, 지연 시간 및 비용에서 제외합니다.
  3. 3NULL 평가는 알 수 없는 상태로 유지합니다. 각 품질 비율은 해당 항목의 평가된 사례 수를 분모로 사용합니다. 누락된 사례는 예정된 테스트 세트와 별도로 비교해야 합니다.
  4. 4파이프라인 버전은 테스트에 사용되는 검색기, 인덱스 스냅샷, 순위 조정기 및 응답 프롬프트를 식별해야 합니다.
  5. 5좋은 문서라도 여전히 지원되지 않는 답변을 생성할 수 있으므로 검색 관련성과 답변 기반은 별도로 유지됩니다.
  6. 6지연 시간과 비용은 프로덕션 제약과 관련된 품질 비교를 유지합니다.

확인할 경계 사례

  • 한 실행에서는 모든 파이프라인에 동일한 고정 사례 목록과 평가기 설정을 사용해야 합니다. 평가기 버전이 다르면 측정하는 대상도 다릅니다.
  • 연결된 rag_retrieval_evaluated 스키마는 다른 데이터 계약을 사용합니다. 이 쿼리를 사용하기 전에 위에 나열된 필드를 추가하세요. duration_ms는 전체 처리 시간이며 retrieval_latency_ms가 아닙니다. retrieval_score를 불리언 검토 결과로 변환하려면 명확한 관련성 평가 기준이 필요합니다.
  • 릴리스를 결정하기 전에 conflicting_test_cases를 조사하세요. 식별자가 없는 레코드는 제외됩니다. 결과 행이 없다고 실패율이 0인 것은 아닙니다.
  • 지연 시간과 비용은 충돌 없이 해당 값이 있는 레코드만 포함하며, 전체 실행을 나타내지는 않을 수 있습니다.
  • 파이프라인 전체에서 동일한 버전의 테스트 사례를 사용하고 새로 추가되거나 제거된 사례를 보고하세요.
  • 인간 및 모델 기반 채점자는 문서화된 루브릭, 보정 및 불일치 검토가 필요합니다.
  • 기본적으로 일반 텔레메트리에는 개인 소스 구절이나 원시 답변을 저장하지 마세요.

추천 대시보드

  • 막대 차트: 파이프라인별 grounded_answer_pct. 검색 관련성과 평가된 사례 수는 표에 표시
  • 추세: 테스트 세트 변경에 따른 평가 결과
  • 표: 대기 시간, 비용, 테스트 횟수 및 그레이더 버전

알림 안내

프로덕션 페이징 알림 대신 최소 테스트 횟수와 검토된 회귀 허용 오차를 갖춘 평가 릴리스 게이트를 사용하세요.

알림 설정 읽기

이 쿼리에 필요한 이벤트 설정하기

관련 계측 및 가이드

소스 데이터 정의

이 분석을 위한 이벤트 스키마

분석 계속하기

내 이벤트로 실행하기

테이블을 만들고, 필드를 조정하고, 결과를 저장하세요.

무료로 시작하고, 구조화된 이벤트를 보내고, 쿼리 결과를 차트, 공유 대시보드 위젯 또는 알림 입력으로 사용하세요.

API 키 받기