RAG란?

RAG (Retrieval-Augmented Generation)는 자연어 처리 분야에서 사용되는 한 기술로, 텍스트 생성을 위해 정보 검색과 기계 학습을 결합한 모델입니다. 이 모델은 주로 질문에 대한 답변을 생성하는 데 사용되며, 이를 위해 두 가지 주요 구성 요소를 활용합니다: 검색 엔진과 생성 모델.

1. 검색 엔진 (Retrieval Component): RAG 모델의 첫 번째 단계는 주어진 질문에 관련된 문서나 데이터를 검색하는 것입니다. 이 검색 엔진은 데이터베이스나 인터넷에서 관련 정보를 찾아 이를 모델에 제공합니다. 이 검색 결과는 질문에 대한 답변을 생성하는 데 필요한 배경 지식을 제공합니다.
2. 생성 모델 (Generation Component): 검색된 정보를 바탕으로, 생성 모델은 이를 통합하여 자연스러운 언어 형식의 답변을 생성합니다. 이 모델은 주로 트랜스포머 기반의 언어 모델을 사용하며, 검색된 내용과 질문을 입력으로 받아 답변을 생성합니다.

RAG 모델은 기존의 순수한 언어 모델보다 더 정확하고 상세한 정보를 제공할 수 있습니다. 왜냐하면 실시간으로 관련 데이터를 검색하고, 이를 바탕으로 답변을 생성하기 때문입니다. 이런 방식은 특히 대규모의 정적인 학습 데이터에만 의존하는 기존 모델들이 갖는 한계를 극복하고, 보다 다양하고 최신의 정보를 반영할 수 있게 해줍니다.

RAG는 OpenAI의 GPT 시리즈와 같은 순수 생성 모델과는 다르게 작동합니다. 이는 특히 복잡한 질문에 대해 더 정확하고 깊이 있는 답변을 생성하는 데 유용합니다. 예를 들어, 최신 뉴스 이벤트나 매우 특정한 주제에 대한 질문에 답변할 때 RAG 모델은 관련 데이터를 검색하여 더 정확하고 상세한 정보를 제공할 수 있습니다.

 

RAG 관련 자료

• NVIDIA 자료 → 32분 부터
• NVIDIA blog 글 → What Is Retrieval-Augmented Generation, aka RAG?
• NVIDIA RAG 강의 코스
• NVIDIA RAG 성능평가 블로그 글 → Evaluating Retriever for Enterprise-Grade RAG