ㅁ 스마트 증강

ㅇ 정의:
데이터 증강 기법 중 하나로, 원본 데이터와 증강 데이터를 혼합하여 새로운 데이터를 생성하는 기술.

ㅇ 특징:
데이터 다양성을 극대화시켜 과적합을 방지하고 모델의 일반화 성능을 향상시킴.

ㅇ 적합한 경우:
데이터셋이 불균형하거나 데이터 양이 적은 경우.

ㅇ 시험 함정:
원본 데이터와 증강 데이터의 혼합 비율을 잘못 설정하면 오히려 성능이 저하될 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Mixup은 데이터셋의 다양성을 증가시키는 데 효과적이다.
– X: Mixup은 원본 데이터만 사용하는 기법이다.

================================

1. Mixup

ㅇ 정의:
두 개의 데이터 샘플과 해당 레이블을 선형 결합하여 새로운 데이터를 생성하는 데이터 증강 기법.

ㅇ 특징:
– 학습 데이터 간의 관계를 보존하며 새로운 데이터 포인트를 생성.
– 라벨도 혼합되기 때문에 모델이 더 일반화된 패턴을 학습할 수 있음.

ㅇ 적합한 경우:
– 이미지 데이터셋에서 과적합 방지가 필요한 경우.
– 데이터 불균형 문제가 있는 경우.

ㅇ 시험 함정:
– 혼합 비율(알파 값)을 잘못 설정하면 데이터 왜곡이 심해질 수 있음.
– 모든 데이터셋에 효과적이지 않을 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Mixup은 두 데이터 샘플을 선형 결합하여 새로운 데이터를 생성하는 기법이다.
– X: Mixup은 레이블을 유지한 채 원본 데이터만 변형한다.

ㅁ 추가 학습 내용

1. Mixup과 CutMix의 차이점
– Mixup은 두 샘플의 데이터를 선형적으로 혼합하여 새로운 샘플을 생성하는 방식이다. 이때, 입력 데이터와 해당 라벨이 모두 혼합된다.
– CutMix는 이미지의 일부를 잘라내어 다른 이미지에 붙이는 방식으로 샘플을 생성하며, 잘린 영역에 해당하는 라벨도 비율에 따라 혼합된다.
– Mixup은 전체 데이터에 대해 균일한 혼합을 수행하지만, CutMix는 이미지의 특정 영역에 집중적으로 변화를 준다.
– CutMix는 공간적인 정보를 보존하면서도 데이터 다양성을 확보할 수 있는 반면, Mixup은 전체적으로 더 균일한 데이터 변형을 제공한다.

2. Mixup에서 혼합 비율(알파 값)의 설정
– 알파 값은 베타 분포를 통해 두 샘플의 혼합 비율을 결정하는 데 사용된다.
– 알파 값이 작을수록 두 샘플 간의 차이가 적게 반영되며, 값이 클수록 더 다양한 혼합이 가능하다.
– 일반적으로 알파 값은 실험적으로 설정되며, 데이터셋 특성과 모델의 학습 안정성에 따라 조정된다.
– 적절한 알파 값을 선택하면 모델의 일반화 성능을 향상시킬 수 있다.

3. 최적화 기법에 대한 이해
– Mixup은 모델이 더 부드러운 결정 경계를 학습하도록 도와주며, 과적합을 방지하는 데 효과적이다.
– 혼합된 데이터와 라벨을 기반으로 손실 함수를 계산하므로, 모델의 학습 과정에서 더 안정적인 최적화를 지원한다.
– 알파 값이나 배치 크기와 같은 하이퍼파라미터를 조정하여 최적의 성능을 얻도록 실험하는 것이 중요하다.