우리 호텔 매뉴얼을 AI에게 통째로 학습시키는 가장 확실한 방법 (RAG vs 파인튜닝)

안녕하세요! 오늘은 AI 에이전트를 개발할 때 가장 고민되는 부분, 바로 **"내가 가진 데이터를 AI에게 어떻게 주입할 것인가?"**에 대해 이야기해 보려 합니다.

호텔 운영을 예로 들어볼까요? 체크인 규정, 조식 시간, 룸서비스 메뉴얼... 이 수많은 정보를 챗GPT가 다 알고 있을 리가 없죠. 그렇다고 매번 사람이 채팅창에 복사해서 붙여넣을 수도 없는 노릇입니다.

이때 필요한 기술이 바로 **RAG(Retrieval-Augmented Generation, 검색 증강 생성)**입니다. 오늘은 호텔 매뉴얼을 AI에게 학습시키는 3가지 방법을 비교하고, 왜 RAG가 정답인지 알아보겠습니다.

 

---

1. AI에게 지식을 주입하는 3가지 방법

AI에게 "우리 호텔 조식은 7시부터야"라고 알려주는 방법은 크게 세 가지 레벨로 나뉩니다.

Lv 1. 롱 컨텍스트 (Long Context): 책 통째로 펼쳐두기

최신 AI 모델(Gemini 1.5 Pro 등)은 한 번에 엄청난 양의 텍스트를 읽을 수 있습니다. 그냥 프롬프트 창에 매뉴얼 PDF 파일을 '첨부'하는 방식입니다.

• 장점: 개발이 필요 없음. 파일만 올리면 끝.
• 단점: 질문할 때마다 그 긴 파일을 처음부터 끝까지 다시 읽어야 해서 비용(토큰)이 많이 듭니다.

Lv 2. 파인 튜닝 (Fine-tuning): 달달 외우게 시키기

많은 분들이 오해하시는 방식입니다. AI 모델 자체를 재학습시켜 뇌에 정보를 새기는 것입니다.

• 치명적 단점: 정보가 바뀌면(예: 조식 가격 인상) 처음부터 다시 학습시켜야 합니다. 그리고 가끔 엉뚱한 거짓말(할루시네이션)을 할 때가 있어 팩트 전달용으로는 부적합합니다.

Lv 3. RAG (검색 증강 생성): 필요할 때만 찾아보기 (★추천)

오늘의 주인공입니다. AI에게 오픈북 시험을 보게 하는 것과 같습니다. 매뉴얼을 외우는 게 아니라, 옆에 꽂아두고 **"질문이 들어오면 해당 페이지만 찾아서 읽고 답해"**라고 시키는 기술입니다.

---

2. 왜 호텔 매뉴얼은 'RAG'가 정답일까?

RAG 시스템은 다음과 같은 4단계로 작동합니다.

1. 쪼개기 (Chunking): 방대한 호텔 매뉴얼을 문단 단위(체크인, 조식, 수영장 등)로 잘게 쪼갭니다.
2. 저장하기 (Vector DB): 쪼갠 내용을 AI가 이해하기 쉬운 숫자(벡터)로 변환해 데이터베이스에 넣습니다.
3. 꺼내오기 (Retrieval): 고객이 "수영장 몇 층이에요?"라고 물으면, DB에서 '수영장' 관련 문단만 쏙 뽑아옵니다.
4. 답변하기 (Generation): AI가 뽑아온 문단을 보고 "3층입니다"라고 정확하게 답합니다.

[RAG의 강력한 장점]

• 정확성: 없는 말을 지어내지 않고, 매뉴얼에 있는 내용만 근거로 답합니다.
• 유지보수: 조식 시간이 바뀌면? DB에 있는 텍스트 한 줄만 고치면 됩니다. 재학습이 필요 없습니다.

---

3. 개발자를 위한 가이드: 무엇부터 시작할까?

만약 파이썬(Python)을 다루실 줄 안다면, **랭체인(LangChain)**이라는 라이브러리를 강력 추천합니다. RAG 시스템을 구축하는 데 필요한 모든 도구가 들어있는 '레고 블록' 같은 도구입니다.

• 준비물: 호텔 매뉴얼 텍스트 파일 (.txt 또는 .pdf)
• 도구: Python + LangChain + OpenAI(혹은 Gemini) API
• 데이터베이스: ChromaDB (무료로 로컬에서 테스트 가능)

이 조합이면 개인 개발자도 하루 만에 "우리 호텔 규정을 완벽히 숙지한 AI 직원"을 만들 수 있습니다.

---

마치며

AI는 만능 천재가 아닙니다. 우리가 정확한 정보(Context)를 쥐어줄 때 비로소 전문가가 됩니다.

호텔 매뉴얼처럼 **'사실(Fact)'**이 중요한 데이터를 다룰 때는 무리하게 학습(Fine-tuning)시키지 마세요. AI가 언제든 꺼내볼 수 있도록 **똑똑한 도서관(RAG)**을 지어주는 것이 가장 효율적인 방법입니다.

다음 포스팅에서는 파이썬과 랭체인을 이용해 간단한 RAG 실습 코드를 다뤄보겠습니다. 관심 있으신 분들은 이웃 추가 부탁드립니다! ^^