ㅁ 적합성/장점

1. 모드 붕괴

ㅇ 정의:
생성 모델(특히 GAN)에서 학습 중 생성기가 다양한 패턴을 생성하지 못하고 일부 패턴(모드)에만 집중하여 출력 다양성이 급격히 줄어드는 현상.

ㅇ 특징:
– 출력 이미지나 데이터가 매우 유사하거나 동일하게 반복됨.
– 데이터 분포의 일부 영역만 재현하고 나머지는 무시함.
– 주로 생성기와 판별기의 학습 불균형, 학습률 설정 문제, 네트워크 구조 한계 등에서 발생.

ㅇ 적합한 경우:
– 모드 붕괴 자체는 바람직하지 않으나, 특정 패턴만 집중적으로 생성해야 하는 특수 목적(예: 특정 스타일 복제)에는 의도적으로 유사한 출력을 활용할 수 있음.

ㅇ 시험 함정:
– ‘모드 붕괴는 모델의 일반화 성능을 높인다’ → X (다양성 감소로 일반화 성능 저하)
– ‘모드 붕괴는 판별기의 과적합과도 관련이 있다’ → O
– ‘모드 붕괴는 데이터 증강으로 쉽게 해결된다’ → X (근본적 해결책 아님)

ㅇ 시험 대비 “패턴 보기” 예시:
– “GAN에서 생성된 샘플이 모두 비슷한 경우를 모드 붕괴라고 한다” → O
– “모드 붕괴는 생성 모델이 데이터 분포 전반을 고르게 학습했을 때 발생한다” → X
– “모드 붕괴는 학습 불안정성의 한 형태다” → O

ㅁ 추가 학습 내용

모드 붕괴를 방지하기 위한 대표적 기법으로는 미니배치 판별(minibatch discrimination), Unrolled GAN, 다양한 노이즈 주입, Wasserstein GAN(WGAN)과 Gradient Penalty(GP) 사용이 있다. 모드 붕괴는 GAN뿐 아니라 VAE나 기타 확률적 생성 모델에서도 발생할 수 있으므로, 시험에서 ‘GAN에서만 발생한다’라는 절대적 표현은 오답이다. 모드 붕괴와 관련된 평가 지표로는 Inception Score(IS)와 Fréchet Inception Distance(FID)가 있으며, 이는 생성된 샘플의 다양성을 측정하는 데 활용된다.