RAG(Retrieval Augmented Generation)를 사용해야 하는 이유와 장점

RAG란 무엇인가?

RAG(Retrieval Augmented Generation, 검색 증강 생성)는 검색을 통해 외부 데이터를 참조하여 AI가 답변을 생성하도록 돕는 기술입니다.

현재 ChatGPT의 문제점 (AS-IS)

• 최신 정보가 학습되어 있지 않아 최신 정보를 제공하기 어렵습니다.
• 개인 또는 회사의 내부 데이터와 같은 제한적인 정보에 접근이 불가능합니다.
• 내부 문서를 업로드해도 문서가 많아지면 할루시네이션(환각) 현상이 발생하여 정확한 답변을 기대하기 어렵습니다.

RAG 적용 후 기대 효과 (TO-BE)

• 최신 정보 및 내부 데이터 기반으로 정확한 답변이 가능합니다.
• 내부 문서를 DB에 저장하여 원하는 정보를 검색하고 답변 품질을 향상할 수 있습니다.
• 답변의 출처를 DB에서 직접 검색하여 할루시네이션 현상을 최소화합니다.
• 도메인 특화 챗봇 개발이 가능해집니다.

왜 자체적인 RAG 구현이 필요한가?

ChatGPT는 RAG 과정을 블랙박스로 제공하여 과정이 투명하지 않습니다. 자체적으로 RAG를 구현하면 모든 과정을 직접 설계하고 분석 및 관리할 수 있어 답변의 정확성과 신뢰성을 높일 수 있습니다.

RAG 구현의 이점

• 최신 정보를 기반으로 답변을 제공합니다.
• 답변 생성 과정을 추적하고 투명성을 확보하여 분석이 가능합니다.
• 할루시네이션을 줄이고 정확한 정보를 강제하는 방식으로 신뢰성을 높일 수 있습니다.

결론

RAG는 AI 답변의 정확성과 신뢰성을 향상시키고 최신 정보를 반영할 수 있게 하여 더욱 고도화된 AI 시스템을 구축하는 데 중요한 기술입니다.

출처 및 참고자료

• OpenAI RAG vs Customized RAG - Which One is Better?
• OpenAI Dev Day 자료 
• 테디노트의 RAG 비법노트 : 랭체인을 활용한 GPT부터 로컬 모델까지의 RAG 가이드