파인튜닝 (Fine-tuning)

파인튜닝 (Fine-tuning) 은 사전 학습된 대규모 언어 모델을 더 작고 엄선된 데이터셋으로 추가 학습하여 특정 태스크, 도메인, 또는 스타일에 특화시키는 과정입니다. 모델은 범용 언어 능력을 유지하면서 새로운 목표에 맞게 가중치를 조정합니다.

파인튜닝의 주요 활용 이유:

• 도메인 전문성 — 법률, 의료, 금융 분야의 전문적인 언어 대응
• 브랜드 보이스 — 제품에 일관된 톤 부여
• 태스크 특화 — 함수 호출의 신뢰성, 구조화된 출력
• 성능 — 좁은 태스크에서는 소형 파인튜닝 모델이 대형 범용 모델을 능가할 수 있음

현대 방식에서는 파라미터 효율적 파인튜닝 (PEFT), 특히 LoRA와 QLoRA가 활용됩니다. 이는 동결된 베이스 가중치 위에 소형 어댑터만을 학습하여 VRAM 요구량을 10〜100배 줄이고, 단일 GPU에서도 파인튜닝을 실용적으로 만듭니다. 모든 가중치를 업데이트하는 전체 파인튜닝은 최대 규모의 프로젝트에만 사용됩니다.

파인튜닝과 혼동하기 쉬운 개념과의 차이:

• 사전 학습: 전체 웹 코퍼스를 이용한 초기 학습
• RLHF / DPO: 인간 선호도에 기반한 정렬(파인튜닝의 한 단계인 경우가 많음)
• 프롬프트 엔지니어링: 모델이 아닌 입력만 변경
• RAG: 모델을 수정하지 않고 추론 시점에 컨텍스트를 검색

2026년 기준 대부분의 제품 사용 사례에서는 RAG와 프롬프트 엔지니어링으로 충분한 품질을 달성할 수 있습니다. 파인튜닝은 좁고 반복 가능한 태스크가 있고 수백 개 이상의 고품질 예시를 보유한 경우에 투자 가치가 있습니다.