Home / 모델 커스터마이징 / 모델 커스터마이징 기법
Note

모델 커스터마이징 기법

FM 커스터마이징 의사결정 흐름과 5가지 기법의 원리

⏱ 30분 166 / 189

모델 커스터마이징 기법

FM 커스터마이징 의사결정 흐름과 5가지 기법의 원리

범용 모델을 도메인 전문가로 바꾸는 5가지 방법

파운데이션 모델의 한계 극복 — 프롬프트로 안 되면 가중치를 바꾼다

커스터마이징 개요

파운데이션 모델 한계 · 5가지 기법 · 의사결정 흐름

PART 1 · 커스터마이징 개요

커스터마이징

파운데이션 모델의 한계와 5가지 대응 기법

프롬프트로 안 되면 가중치를 바꾼다

범용 파운데이션 모델의 4대 한계를 5가지 기법으로 넘습니다 — 항상 비용이 낮은 방법부터 시도합니다.

  • 프롬프트 엔지니어링 — 비용 $0 · 대부분의 유스케이스 해결
  • RAG — 인프라 비용 · 환각 대폭 감소
  • SFT — GPU 시간 · 태스크 특화
  • DPO/GRPO — 선호·보상 정렬
  • CPT — 클러스터 · 최후 수단
takeaway

대부분은 프롬프트 엔지니어링 + RAG로 충분합니다 — 안 될 때만 가중치를 건드립니다.

PART 1 · 커스터마이징 개요

파운데이션 모델의 4대 한계

범용 모델이 프로덕션에서 부딪히는 근본적 문제

도메인 전문성 부족

의료·법률·금융 특수 용어와 추론 패턴을 학습하지 못함

환각 (Hallucination)

사내 전용 데이터·최신 정보 미반영 → 그럴듯한 오답 생성

지시 수행 불일치

특정 포맷(JSON, SQL)·응답 톤·길이 제어가 불안정

비용 비효율

단순 반복 태스크에 대형 모델 호출 → 과잉 비용

PART 1 · 커스터마이징 개요

5가지 기법 스펙트럼

비용이 낮은 순서대로 시도 — 대부분은 프롬프트 엔지니어링 + RAG로 충분

PART 1 · 커스터마이징 개요

의사결정 흐름

항상 비용이 낮은 방법부터 시도

  1. 1
    프롬프트로 해결?

    프롬프트 최적화 (DSPy/GEPA) — GEPA는 GRPO를 평균 6%·최대 20% 능가 (ICLR 2026)

  2. 2
    RAG로 해결?

    검색으로 최신/도메인 정보 주입 — 대부분의 환각 문제 해결

  3. 3
    포맷/톤 필요?

    SFT — 1K~10K 데이터로 응답 형식 각인

  4. 4
    안전성/정렬?

    DPO/GRPO — 선호 쌍 또는 검증 가능 보상으로 정렬

  5. 5
    도메인 지식?

    CPT — 수십억 토큰 비레이블 코퍼스, 최후 수단

takeaway

질문 다섯 개를 비용 순서대로 던집니다 — 앞 단계에서 해결되면 거기서 멈춥니다.

대부분은 프롬프트로 충분합니다. 안 될 때만 가중치를 건드리세요.

프롬프트 엔지니어링 → RAG → SFT → DPO → CPT — 비용 순서대로 시도