RAG 입문: AI가 문서를 찾아 답하게 하는 방식

RAG는 Retrieval-Augmented Generation의 약자입니다. 한국어로 풀면 “검색으로 보강한 생성” 정도로 이해할 수 있습니다. 핵심은 AI가 먼저 관련 문서를 찾고, 그 문서 내용을 바탕으로 답한다는 점입니다.

일반 챗봇은 모델이 학습한 지식이나 입력된 문맥에 기대어 답합니다. 그래서 최신 정보, 회사 내부 문서, 특정 계약서처럼 학습 데이터에 없던 내용은 틀릴 수 있습니다. RAG는 이 문제를 줄이기 위해 문서 저장소를 따로 두고, 질문과 관련된 조각을 찾아 모델에 함께 넣습니다.

흐름은 단순합니다. 문서를 작은 단위로 나눕니다. 각 조각을 검색하기 쉬운 형태로 저장합니다. 사용자가 질문하면 관련 조각을 찾습니다. 마지막으로 모델이 그 조각을 읽고 답을 작성합니다.

RAG도 완벽하지는 않습니다. 검색 단계에서 엉뚱한 문서를 가져오면 답도 흔들립니다. 문서가 오래됐거나 서로 모순되면 모델이 혼란스러워질 수 있습니다. 그래서 좋은 RAG 시스템은 문서 날짜, 출처, 권한, 인용 위치를 함께 관리해야 합니다.