ㅁ 클래스 불균형 해결

ㅇ 정의:
클래스 불균형 해결은 데이터셋 내 특정 클래스의 샘플이 다른 클래스에 비해 현저히 적거나 많은 상황에서 모델이 균형 잡힌 성능을 내도록 조정하는 기법을 의미한다.

ㅇ 특징:
– 클래스 비율이 불균형할 때 모델이 다수 클래스에 편향되는 문제를 완화한다.
– 데이터 리샘플링, 비용 민감 학습, 특화된 손실 함수 등의 다양한 접근법을 포함한다.

ㅇ 적합한 경우:
– 이상 탐지, 의료 진단 등 희소한 이벤트를 탐지해야 하는 문제에 적합하다.
– 다수 클래스와 소수 클래스 간의 성능 균형이 중요한 상황.

ㅇ 시험 함정:
– 클래스 불균형 해결 기법을 적용하지 않았을 때의 모델 성능 저하를 간과할 수 있다.
– 데이터 리샘플링과 손실 함수 조정의 차이를 혼동할 가능성.

ㅇ 시험 대비 “패턴 보기” 예시:
O: 클래스 불균형 문제는 모델이 다수 클래스에 편향될 가능성을 증가시킨다.
X: 클래스 불균형 문제는 항상 데이터 리샘플링으로만 해결된다.

================================

1. Focal Loss

ㅇ 정의:
Focal Loss는 클래스 불균형 문제를 해결하기 위해 설계된 손실 함수로, 학습이 잘 되지 않는 어려운 샘플에 가중치를 부여하여 모델이 이를 더 잘 학습하도록 유도한다.

ㅇ 특징:
– 교차 엔트로피 손실에 난이도 기반 가중치를 추가한 확장형 손실 함수이다.
– 알파(α)와 감마(γ)라는 두 개의 조정 파라미터를 사용해 클래스 간 중요도와 난이도 기반 가중치를 조정한다.

ㅇ 적합한 경우:
– 데이터셋 내 클래스 불균형이 심한 경우.
– 모델이 특정 클래스의 샘플을 과소 학습하거나 무시하는 경우.

ㅇ 시험 함정:
– 감마(γ) 값이 클수록 어려운 샘플에 더 큰 가중치를 부여한다는 점을 간과할 수 있다.
– Focal Loss가 모든 클래스 불균형 문제에 적합하지 않을 수 있다는 점을 이해하지 못할 위험.

ㅇ 시험 대비 “패턴 보기” 예시:
O: Focal Loss는 클래스 불균형 문제를 해결하기 위해 어려운 샘플에 가중치를 부여한다.
X: Focal Loss는 감마(γ) 값이 작을수록 어려운 샘플에 더 큰 가중치를 부여한다.

================================

ㅁ 추가 학습 내용

클래스 불균형 문제를 해결하기 위한 다양한 접근 방법은 다음과 같습니다:

1. **Weighted Cross-Entropy Loss**:
– 클래스 불균형 문제를 해결하기 위해 각 클래스에 가중치를 부여하여 손실 값을 조정하는 방법입니다.
– 가중치는 일반적으로 클래스의 빈도에 반비례하도록 설정하여 소수 클래스의 손실이 더 크게 반영되도록 합니다.
– 이를 통해 모델이 소수 클래스에 더 많은 관심을 가지게 됩니다.

2. **SMOTE (Synthetic Minority Over-sampling Technique)**:
– 데이터 증강 기법으로, 소수 클래스의 샘플을 생성하여 데이터셋의 클래스 비율을 균형 있게 만드는 방법입니다.
– 소수 클래스 샘플 간의 거리를 계산하고, 이들 사이에 새로운 샘플을 생성하여 데이터셋을 확장합니다.
– 모델이 소수 클래스의 특징을 더 잘 학습할 수 있도록 돕습니다.

3. **Precision-Recall Curve**:
– 클래스 불균형 문제에서 모델 성능을 평가하기 위해 사용되는 지표입니다.
– Precision은 모델이 예측한 양성 클래스 중 실제로 양성인 비율을 나타내며, Recall은 실제 양성 클래스 중 모델이 양성으로 예측한 비율을 나타냅니다.
– 이 두 지표를 통해 모델이 소수 클래스에 대해 얼마나 잘 예측하고 있는지를 분석할 수 있습니다.

4. **F1-Score**:
– Precision과 Recall의 조화 평균으로, 클래스 불균형 문제에서 모델 성능을 종합적으로 평가할 수 있는 지표입니다.
– F1-Score는 Precision과 Recall 간의 균형을 평가하며, 특히 소수 클래스의 성능을 측정하는 데 유용합니다.
– 높은 F1-Score는 모델이 소수 클래스에 대해 정확하고 포괄적인 예측을 하고 있음을 의미합니다.

이러한 방법과 지표를 활용하면 클래스 불균형 문제를 효과적으로 해결하고 모델 성능을 개선할 수 있습니다.