09. 파인튜닝 vs RAG vs 프롬프트

AI가 원하는 대로 답하게 만드는 방법은 크게 세 가지다. 셋은 경쟁이 아니라 용도가 다르다.

한눈에 비교

	프롬프트	RAG	파인튜닝
무엇	지시·맥락을 입력으로 줌	외부 자료를 찾아 붙여줌	모델을 추가 학습시킴
적합	형식·말투·간단한 맥락	최신·내부 지식 반영	특정 말투·형식·전문성 체화
비용·난이도	가장 쉬움/쌈	중간 (파이프라인 필요)	높음 (데이터·학습 비용)
지식 갱신	매번 입력	저장소만 갱신	재학습 필요
비유	질문을 잘 하기	오픈북 시험	공부시켜 체화

언제 무엇을 쓰나

목표	추천
답 형식·말투만 바꾸고 싶다	프롬프트
우리 문서·최신 정보에 답하게	RAG
특정 도메인 말투·판단을 "몸에 배게"	파인튜닝
정확한 사실 + 특화 스타일 둘 다	RAG + 파인튜닝 병행

실무 판단 순서 (권장)

1) 프롬프트로 해결되나?   →  되면 끝. (가장 싸고 빠름)
2) 안 되면: 지식이 부족한가?  →  RAG
3) 그래도 부족: 스타일·전문성이 필요한가?  →  파인튜닝

:::tip 대부분은 프롬프트 + RAG로 충분 파인튜닝은 비용·관리 부담이 크다. "지식 부족"은 RAG, "지시로 되는 것"은 프롬프트로 먼저 풀고, 파인튜닝은 정말 필요할 때만. :::

흔한 오해

• "최신 정보를 알게 하려면 파인튜닝?" → 아니다. 지식 주입은 RAG가 더 싸고 유연하다.
• "파인튜닝하면 환각이 사라지나?" → 줄 수는 있어도 근본 해결은 아니다. 사실 근거는 RAG가 맡는다.

다음

여기까지가 "LLM 활용의 핵심"이다. 이제 AI가 스스로 도구를 쓰는 에이전트로 넘어간다. → 10. AI 에이전트·툴·MCP