09. 파인튜닝 vs RAG vs 프롬프트
AI가 원하는 대로 답하게 만드는 방법은 크게 세 가지다. 셋은 경쟁이 아니라 용도가 다르다.
한눈에 비교
| 프롬프트 | RAG | 파인튜닝 | |
|---|---|---|---|
| 무엇 | 지시·맥락을 입력으로 줌 | 외부 자료를 찾아 붙여줌 | 모델을 추가 학습시킴 |
| 적합 | 형식·말투·간단한 맥락 | 최신·내부 지식 반영 | 특정 말투·형식·전문성 체화 |
| 비용·난이도 | 가장 쉬움/쌈 | 중간 (파이프라인 필요) | 높음 (데이터·학습 비용) |
| 지식 갱신 | 매번 입력 | 저장소만 갱신 | 재학습 필요 |
| 비유 | 질문을 잘 하기 | 오픈북 시험 | 공부시켜 체화 |
언제 무엇을 쓰나
| 목표 | 추천 |
|---|---|
| 답 형식·말투만 바꾸고 싶다 | 프롬프트 |
| 우리 문서·최신 정보에 답하게 | RAG |
| 특정 도메인 말투·판단을 "몸에 배게" | 파인튜닝 |
| 정확한 사실 + 특화 스타일 둘 다 | RAG + 파인튜닝 병행 |
실무 판단 순서 (권장)
1) 프롬프트로 해결되나? → 되면 끝. (가장 싸고 빠름)
2) 안 되면: 지식이 부족한가? → RAG
3) 그래도 부족: 스타일·전문성이 필요한가? → 파인튜닝
:::tip 대부분은 프롬프트 + RAG로 충분 파인튜닝은 비용·관리 부담이 크다. "지식 부족"은 RAG, "지시로 되는 것"은 프롬프트로 먼저 풀고, 파인튜닝은 정말 필요할 때만. :::
흔한 오해
- "최신 정보를 알게 하려면 파인튜닝?" → 아니다. 지식 주입은 RAG가 더 싸고 유연하다.
- "파인튜닝하면 환각이 사라지나?" → 줄 수는 있어도 근본 해결은 아니다. 사실 근거는 RAG가 맡는다.
다음
여기까지가 "LLM 활용의 핵심"이다. 이제 AI가 스스로 도구를 쓰는 에이전트로 넘어간다. → 10. AI 에이전트·툴·MCP