Advanced RAG 개요

🧭

왜 Advanced RAG인가

실패 유형 3가지 · 3단계 최적화

PART 1 · 왜 Advanced RAG인가

Advanced RAG

Naive RAG가 실패하는 지점을 진단하고, 파이프라인 단계별로 처방하는 기법 체계

🧭

Advanced RAG

기법의 나열이 아니라 진단 → 처방의 체계 — 어느 단계가 병목인지에 따라 쓸 기법이 달라집니다

• 진단 — 실패 유형 3가지
• 인덱싱 — 저장 방법 개선 (오프라인 1회)
• 사전 검색 — 쿼리 변환 (검색 전)
• 사후 검색 — 결과 정제 (검색 후)

takeaway

전부 쓰는 것이 아닙니다 — 병목에 맞는 기법만 골라 얹고, 평가 루프로 효과를 확인합니다.
모든 기법은 비용(레이턴시·토큰·인프라)을 추가합니다.

PART 1 · 왜 Advanced RAG인가

Naive RAG — 직선 파이프라인의 벽

검색 한 번, 결과 그대로 주입 — 앞 모듈에서 만든 기본형이 실전에서 부딪히는 지점

takeaway

앞 RAG 파이프라인 모듈에서 만든 구성이 바로 이 Naive(Basic) RAG입니다 — 동작은 하지만 중간에 고칠 지점이 없어, 검색이 틀리면 답도 그대로 틀립니다.

PART 1 · 왜 Advanced RAG인가

Naive vs Advanced — 무엇이 다른가

파이프라인을 갈아엎는 것이 아니라, 같은 뼈대의 단계마다 개선 포인트를 꽂는 것

Naive RAG

고정된 직선 파이프라인

• 질문을 받은 그대로 검색 — 쿼리 개선 없음
• 검색도 주입도 한 번 — 재시도·정제 없음
• 순위가 틀려도 그대로 LLM에 전달
• 구현이 단순 — 프로토타입에 적합

실패해도 그 원인을 고칠 지점이 파이프라인 안에 없습니다.

Advanced RAG

단계마다 개선 포인트를 꽂는 체계

• 인덱싱 — 저장 방법부터 개선 (Parent-Child·메타데이터)
• 사전 검색 — 쿼리를 바꿔서 검색 (Rewriting·Multi-Query)
• 검색 — 벡터 + 키워드 하이브리드
• 사후 검색 — 결과를 정제해 주입 (Reranking·Compression)

같은 뼈대 위에 병목에 맞는 기법만 골라 얹습니다.

takeaway

Advanced RAG는 새 아키텍처가 아니라 Naive 파이프라인에 꽂는 개선 포인트의 모음입니다 — 무엇을 꽂을지는 실패 유형이 정합니다.

PART 1 · 왜 Advanced RAG인가

Naive RAG의 실패 유형 3가지

단순 벡터 검색이 놓치는 질문들 — 유형에 따라 달라지는 처방

어휘 불일치

"해약하면 돈 내야 해?" — 문서는 "취소 수수료 정책"

• 구어체↔문어체·동의어를 임베딩이 잇지 못하는 경우
• 관련 문서가 아예 검색되지 않음
• 처방 — Query Rewriting · 하이브리드 검색

의도 불명확

"괜찮은 데 있어?" — 카테고리 · 조건이 모호

• 어떤 관점으로 검색해야 할지 쿼리에 정보가 없음
• 엉뚱한 문서가 상위에 올라옴
• 처방 — Multi-Query · 메타데이터 필터

복합 질문

"예약 바꾸면서 인원도 추가할 수 있어?" — 주제 2개

• 하나의 벡터로 두 주제를 표현할 수 없음
• 한쪽 주제만 검색되어 반쪽 답변
• 처방 — Sub-Query 분해 · RAG Fusion

takeaway

LLM이 아무리 좋아도 잘못된 문서가 들어가면 할루시네이션(환각)입니다.
Advanced RAG의 목표는 하나 — 정확한 문서를 가져오는 것

PART 1 · 왜 Advanced RAG인가

3단계 최적화 지도

왼쪽은 Naive, 오른쪽은 Advanced — 같은 세로 흐름에서 오른쪽에만 기법이 끼어든다

NAIVE — 직선 그대로

ADVANCED — 같은 흐름, 사이에 기법

오프라인

문서

문서

↓

↓

① 인덱싱 최적화 — Parent-Child · Semantic · 메타데이터 · 임베딩

↓

↓

벡터 인덱스

벡터 인덱스

온라인

질문

질문

↓

↓

② 사전 검색 — Rewriting · HyDE · Multi-Query · Fusion

↓

↓

벡터 검색

벡터 검색

↓

↓

③ 사후 검색 — Reranking · Compression · Citation

↓

↓

Top-K 주입 → 생성

Top-K 주입 → 생성

① 1회 설정 — 추가 쿼리 비용 없음
② 매 쿼리 LLM 호출 추가
③ 쿼리당 리랭커 · LLM 호출 추가

takeaway

각 단계는 독립 적용 가능합니다 — 그리고 비용이 낮은 인덱싱부터 시도하는 것이 정석입니다.

PART 1 · 왜 Advanced RAG인가

러닝 예제 — Naive vs Advanced

같은 질문 "예약금 환불 규정이 어떻게 되나요?" — 기법 3개가 문서들의 순위를 어떻게 바꾸는가 (예시 수치)

"예약금 환불 규정이 어떻게 되나요?"
restaurant-policy.pdf
정답은 §3 예약금 환불 기준 청크

NAIVE — 질문 그대로 1회

3
restaurant-policy §3 정답

0.64

1
terms.pdf §9 포인트 환급 절차

0.71

2
faq.pdf 결제 오류 시 재결제 안내

0.68

순위 변화

3위 → 1위 ↑

1위 → 2위 ↓

2위 → 3위 ↓

ADVANCED — 재작성 · 하이브리드 · 리랭킹

1
정답

0.94

2

0.41

3

0.28

왼쪽은 임베딩 유사도, 오른쪽은 리랭커 관련도 — 점수 축은 다르지만, 답을 정하는 것은 순위입니다