RAG VS FineTuning - 100-hours-a-week/12-marong-Wiki GitHub Wiki

RAG vs Finetuning

📍 RAG 이란?

• LLM이 외부 지식을 검색해서 답변을 생성하도록 하는 방식
• 대규모 문서 집합에서 관련된 문단을 검색하는 리트리버와, 이를 바탕으로 답변을 생성하는 모델을 결합
• LLM이 몰라도 되는 지식은 미리 저장된 문서에서 찾아와 참고하는 구조

📍 파인튜닝(Fine-Tuning) 이란?

• 이미 학습된 LLM의 가중치를 특정 데이터셋으로 추가 학습시켜, 특정 태스크에 최적화하는 방식
• 각자의 서비스에 꼭 필요한 지식이나 스타일을 모델 내부에 직접 심는 과정이라고 볼 수 있음

---

📍 무조건 파인튜닝하는 것이 좋은 것만은 아니다

이 둘은 근본적으로 다른 접근 방식이기 때문

✔️ 외부 데이터 소스에 접근해야하는지

외부 데이터 소스에 접근해야한다면 RAG이 더 좋은 선택일 가능성이 크다

• RAG
  • RAG 시스템은 정의상 응답을 생성하기 전에 지식 소스에서 관련 정보를 검색하여 LLM 능력을 보강하도록 설계되어있음.
  • 리트리버와 생성기 구성요소를 이러한 외부 소스 활용에 최적화할 수 있음
• Fine Tuning
  • LLM을 파인튜닝하여 외부 지식을 학습시키는 것도 가능하지만, 이를 위해서는 대상 도멘인의 질문-응답 쌍으로 된 대규모 레이블 데이터셋이 필요함.
  • 해당 데이터가 변경될 떄마다 데이터셋을 업데이트 해야 하므로, 자주 바뀌는 데이터 소스에는 현실적이지 않음

✔️ 모델의 동작, 문체 또는 도메인 특화 지식을 수정해야하는지

전문화된 문체나 깊이있는 도메인 용어 정렬을 요구한다면, 파인튜닝이 더 적합할 수 있음

• RAG

  • 외부 지식 통합에서는 강력하지만, 검색된 정보를 바탕으로 언어 스타일이나 도메인 특화성을 본질적으로 조정하지는 않음

• Fine Tuning

  • LLM의 행동을 특정 뉘앙스, 어투, 용어 사용에 맞게 조정하는 데 탁월함
  • 예를 들어, 의료 전문가처럼 말하게 하는 등 도메인 특화 데이터로 파인튜닝 하는 방법이 맞춤화를 가능하게 함

---

📍 비교 및 마롱 서비스 대입

	RAG	FineTuning	marong
외부 데이터 접근 필요 여부	O	X	정적데이터(사실상 X )	FineTuning
도메인 특화 조정 필요 여부	X	O	X	RAG
환각 억제 중요도(검증 필요 여부)	O	X	X	FineTuning
라벨된 학습 데이터량	X	O	O	FineTuning
데이터셋이 동적 데이터인가	O	X	X	Fine Tuning
투명성/ 해석가능성	X	O	X	RAG

💥 FineTuning 하는 것이 더욱 효과적