ㅁ 검색 생성 융합

ㅇ 정의:
검색과 생성 모델을 결합하여, 외부 지식 검색 결과를 기반으로 생성 모델이 더 정확하고 풍부한 응답을 생성하는 방식.

ㅇ 특징:
– 검색 단계에서 최신 정보나 도메인 특화 데이터를 확보.
– 생성 모델이 검색 결과를 참고하여 환각(hallucination) 감소.
– 구조적으로 검색 모듈과 생성 모듈이 분리되어 유지보수 용이.

ㅇ 적합한 경우:
– 최신 데이터 반영이 중요한 QA 시스템.
– 법률, 의학 등 신뢰성 높은 근거 기반 답변이 필요한 경우.

ㅇ 시험 함정:
– 단순 생성형 모델과 혼동.
– 검색 결과를 그대로 출력하는 방식과 혼동.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “검색 모듈과 생성 모델을 결합하여 외부 지식을 반영한다.”
X: “검색 결과 없이도 항상 정확한 답변을 생성한다.”

================================

1. GAR

ㅇ 정의:
Generation-Augmented Retrieval의 약자로, 검색 결과를 생성 단계에 직접 반영하여 응답 품질을 높이는 기법.

ㅇ 특징:
– 검색과 생성 간 상호작용 최적화.
– 검색 결과를 문맥으로 주입하여 생성 품질 향상.
– 대규모 언어모델의 환각 현상 완화.

ㅇ 적합한 경우:
– 최신 뉴스 요약, 엔터프라이즈 문서 QA.
– 검색과 생성의 결합이 필요한 챗봇.

ㅇ 시험 함정:
– Retrieval-Augmented Generation(RAG)과 혼동.
– 검색이 사전 단계인지 사후 단계인지 구분 필요.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “검색 결과를 생성 모델의 입력에 포함한다.”
X: “생성 결과를 기반으로 검색을 수행한다.”

================================

2. Retrieval-Augmented Generation Plus

ㅇ 정의:
기존 RAG 방식에 추가적인 최적화나 기능(예: 재랭킹, 다중 검색 소스 통합)을 더한 확장형 기법.

ㅇ 특징:
– 다단계 검색 및 필터링.
– 생성 전에 검색 결과의 품질을 재평가.
– 다양한 데이터 소스 통합 가능.

ㅇ 적합한 경우:
– 다국어, 다분야 지식 통합이 필요한 서비스.
– 검색 결과 품질이 불균등한 환경.

ㅇ 시험 함정:
– 단순 RAG와 동일하게 간주.
– Plus 기능이 단순 속도 향상이라고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “검색 결과 재랭킹을 통해 생성 품질을 높인다.”
X: “검색 단계를 제거하여 성능을 향상시킨다.”

================================

3. Deep Retrieval Tuning

ㅇ 정의:
딥러닝 기반의 검색 모델을 미세조정(fine-tuning)하여 검색 정확도를 극대화하는 기술.

ㅇ 특징:
– 쿼리와 문서 임베딩 품질 향상.
– 특정 도메인에 맞춘 검색 성능 최적화.
– 대규모 코퍼스에서도 효율적 검색 가능.

ㅇ 적합한 경우:
– 도메인 특화 QA 시스템.
– 일반 검색 성능이 낮은 특수 데이터셋.

ㅇ 시험 함정:
– 단순 BM25와 같은 전통 검색 기법과 동일시.
– 생성 모델 튜닝과 혼동.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “쿼리-문서 임베딩을 학습하여 검색 정확도를 높인다.”
X: “문서 내용을 변경하여 검색 성능을 높인다.”

ㅁ 추가 학습 내용

[학습 정리]
GAR(Generation-Augmented Retrieval)와 RAG(Retrieval-Augmented Generation)의 비교에서 핵심은 검색과 생성의 순서 및 데이터 흐름이다.
– RAG: 먼저 검색(Retrieval)을 수행하여 관련 문서를 찾고, 이를 생성(Generation) 모델에 입력하여 응답을 생성한다.
– GAR: 생성 과정에서 필요한 정보를 동적으로 검색에 반영하거나, 생성과 검색을 반복·융합하여 결과를 개선한다.

검색 결과를 생성 모델에 주입하는 방식은 단순 연결(concatenation), 프롬프트 내 삽입, 또는 구조적 입력(예: key-value 형태) 등이 있다.

Retrieval-Augmented Generation Plus(RAG+)에서는 검색 결과의 품질 향상을 위해 재랭킹 알고리즘을 사용한다.
– BERT re-ranker: 문서와 쿼리를 함께 입력하여 점수를 계산하는 cross-encoder 방식이 대표적이며, 정확도가 높지만 속도가 느리다.
– bi-encoder: 쿼리와 문서를 각각 임베딩하여 벡터 유사도로 계산, 속도는 빠르지만 정확도는 낮을 수 있다.
– 다중 소스 검색 전략: 여러 데이터베이스나 검색 인덱스를 병행하여 더 풍부한 후보 문서를 확보한다.

Deep Retrieval Tuning에서는 다음 요소가 중요하다.
– 학습 데이터 구성: 쿼리-문서 쌍의 질과 다양성 확보
– 하드 네거티브 샘플링: 모델이 구분하기 어려운 부정 예시를 학습에 포함
– 임베딩 차원 최적화: 검색 효율성과 정확도를 모두 고려
– ANN(Approximate Nearest Neighbor) 검색 기법과의 연계: 대규모 데이터에서 빠른 근사 검색을 가능하게 함

검색-생성 융합 구조에서 고려해야 할 사항
– latency(응답 지연)와 accuracy(정확도) 간의 트레이드오프: 속도를 높이면 정확도가 떨어질 수 있고, 반대의 경우도 있음
– 캐싱 전략: 반복되는 쿼리나 검색 결과를 저장하여 응답 속도 개선
– 실시간 데이터 반영: 최신 정보를 반영하기 위한 인덱스 업데이트 및 스트리밍 처리

[시험 대비 체크리스트]
1. GAR와 RAG의 개념과 차이점 설명 가능 여부
2. 검색과 생성의 순서 및 데이터 흐름 정리
3. 검색 결과를 생성 모델에 주입하는 다양한 방식 이해
4. BERT re-ranker의 원리와 cross-encoder vs bi-encoder 비교
5. 다중 소스 검색 전략의 장점과 구현 방식
6. 학습 데이터 구성 시 고려 요소
7. 하드 네거티브 샘플링의 목적과 방법
8. 임베딩 차원 최적화의 필요성과 영향
9. ANN 검색 기법의 특징과 활용 사례
10. latency와 accuracy 간 트레이드오프 설명 가능 여부
11. 캐싱 전략의 종류와 장단점
12. 실시간 데이터 반영 방법과 구현 시 고려사항