ㅁ PEFT/Fine-tuning

ㅇ 정의:
PEFT(Fine-tuning)란 사전 학습된 모델을 특정 작업에 맞게 조정하는 기법으로, 모델의 일부 또는 전체를 미세 조정하여 성능을 최적화하는 것을 말한다.

ㅇ 특징:
– 기존 모델의 가중치를 재사용하여 학습 비용을 절감할 수 있음.
– 데이터가 적은 환경에서도 높은 성능을 발휘할 수 있음.

ㅇ 적합한 경우:
– 특정 도메인에 특화된 모델이 필요한 경우.
– 리소스가 제한된 환경에서 효율적인 학습이 필요한 경우.

ㅇ 시험 함정:
– Fine-tuning과 Transfer Learning의 개념을 혼동할 수 있음.
– 적용 범위와 한계를 명확히 이해하지 못하면 시험에서 틀리기 쉬움.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Fine-tuning은 기존 모델의 일부 가중치를 조정하여 특정 작업에 맞게 최적화하는 과정이다.
– X: Fine-tuning은 항상 모델의 모든 파라미터를 조정하는 것을 의미한다.

================================

1. BitFit

ㅇ 정의:
BitFit은 미세 조정의 한 방법으로, 사전 학습된 모델의 가중치 중 일부(특히 바이어스 항목)만 조정하여 적은 자원으로도 높은 성능을 달성하는 기법이다.

ㅇ 특징:
– 모델의 바이어스 파라미터만 업데이트하여 학습 속도가 빠름.
– 메모리 사용량이 적고, 계산 비용이 낮음.
– 기존 모델의 구조를 크게 변경하지 않음.

ㅇ 적합한 경우:
– 제한된 자원으로 모델을 미세 조정해야 하는 경우.
– 대규모 모델을 사용할 때 메모리와 계산 비용을 최소화하려는 경우.

ㅇ 시험 함정:
– BitFit이 모든 문제에서 최적의 성능을 보장한다고 오해할 수 있음.
– 바이어스 외의 파라미터를 조정하는 다른 기법과 혼동할 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: BitFit은 사전 학습된 모델의 바이어스 파라미터만 조정하여 효율적으로 모델을 미세 조정하는 기법이다.
– X: BitFit은 모델의 모든 파라미터를 조정하여 최적화를 수행한다.

ㅁ 추가 학습 내용

BitFit에 대한 학습 내용을 다음과 같이 정리할 수 있습니다:

1. BitFit의 주요 응용 사례와 실제 성능 비교 결과:
– BitFit이 적용된 주요 응용 분야를 조사하고, 해당 분야에서의 성능이 기존 방법들과 어떻게 비교되는지 확인합니다.
– 성능 비교 결과를 통해 BitFit의 강점과 약점을 파악합니다.

2. BitFit과 다른 PEFT 기법(LoRA, Adapter 등)의 차이점과 장단점:
– BitFit과 LoRA, Adapter 등의 PEFT(효율적인 미세 조정) 기법 간의 구조적 차이를 분석합니다.
– 각 기법의 학습 속도, 메모리 효율성, 성능 측면에서의 장단점을 비교합니다.

3. BitFit이 NLP 외의 다른 도메인(컴퓨터 비전 등)에서 사용된 사례와 그 성과:
– BitFit이 컴퓨터 비전과 같은 NLP 외의 분야에서 적용된 연구나 사례를 조사합니다.
– 이러한 도메인에서 BitFit의 성능과 잠재적 이점을 분석합니다.

4. BitFit이 학습 데이터의 크기와 품질에 따라 성능이 어떻게 달라지는지에 대한 분석:
– 학습 데이터의 크기와 품질이 BitFit의 성능에 미치는 영향을 연구합니다.
– 데이터 부족 환경이나 데이터 품질이 낮은 상황에서 BitFit의 성능이 어떻게 변화하는지 이해합니다.