ㅁ 에너지 기반 모델

ㅇ 정의:
에너지 기반 모델은 데이터의 분포를 에너지 함수로 표현하여, 낮은 에너지를 가지는 데이터가 높은 확률로 나타나도록 학습하는 모델입니다.

ㅇ 특징:
– 확률 밀도 함수를 명시적으로 정의하지 않고도 확률 기반의 추론이 가능합니다.
– 에너지 함수의 최소화를 통해 최적의 상태를 찾습니다.
– 다양한 데이터 유형에 적용 가능하며, 특히 이미지 생성 및 이상 탐지에 자주 사용됩니다.

ㅇ 적합한 경우:
– 복잡한 데이터 분포를 모델링해야 하는 경우.
– 생성 모델이 필요한 경우.
– 데이터의 이상 탐지 및 분류가 필요한 경우.

ㅇ 시험 함정:
– 에너지 기반 모델과 확률 기반 모델의 차이를 혼동하는 경우.
– 에너지 함수의 최소화 과정에서 발생하는 계산 복잡성을 간과하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
1. 에너지 기반 모델은 확률 밀도 함수를 명시적으로 정의한다. (X)
2. 에너지 기반 모델은 데이터의 분포를 에너지 함수로 표현한다. (O)

================================

1. Diffusion

ㅇ 정의:
Diffusion 모델은 데이터의 분포를 점진적으로 노이즈를 추가하고 제거하는 과정을 통해 학습하는 생성 모델입니다.

ㅇ 특징:
– 높은 품질의 데이터 생성을 지원합니다.
– 데이터의 점진적인 변환 과정을 통해 안정적인 학습이 가능합니다.
– 계산 비용이 높아 대규모 데이터 학습에 제약이 있을 수 있습니다.

ㅇ 적합한 경우:
– 고품질 이미지 생성이 필요한 경우.
– 데이터의 점진적 변환 과정을 활용할 필요가 있는 경우.

ㅇ 시험 함정:
– Diffusion 모델과 GAN의 차이를 혼동하는 경우.
– 노이즈 추가와 제거 과정의 순서를 혼동하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Diffusion 모델은 노이즈를 추가하는 과정만 포함한다. (X)
2. Diffusion 모델은 데이터의 점진적인 변환 과정을 통해 학습한다. (O)

ㅁ 추가 학습 내용

1. Variational Inference와 Diffusion 모델의 연관성:
– Variational Inference는 복잡한 확률 분포를 근사적으로 추정하는 방법으로, Diffusion 모델에서 데이터 분포를 점진적으로 노이즈화하고 이를 역으로 복원하는 과정에서 사용된다.
– Diffusion 모델은 데이터의 분포를 학습하기 위해 확률적 과정(마르코프 과정)을 사용하며, 이 과정에서 Variational Lower Bound를 최적화한다. 이는 Variational Inference의 핵심 아이디어와 연관된다.

2. Diffusion 과정에서의 노이즈 스케줄링 기법:
– 노이즈 스케줄링은 데이터에 추가되는 노이즈의 강도를 단계적으로 조정하는 방식을 의미한다.
– 선형 스케줄링: 노이즈를 일정한 비율로 증가시키는 방식.
– 비선형 스케줄링: 노이즈를 비선형적으로 조정하여 초기 단계에서 더 많은 노이즈를 추가하거나, 후반부에서 더 세밀하게 조정하는 방식.
– 노이즈 스케줄링은 모델의 성능과 생성된 데이터의 품질에 큰 영향을 미친다.

3. GAN 대비 Diffusion 모델의 장단점:
– 장점:
– Diffusion 모델은 훈련 과정에서 안정적이며, 모드 붕괴(Mode Collapse) 문제가 적다.
– 확률적 모델링으로 인해 생성 데이터의 다양성이 높다.
– 단점:
– Diffusion 모델은 생성 속도가 느리며, 많은 계산 자원이 필요하다.
– GAN은 상대적으로 빠른 생성 속도를 제공한다.

4. Diffusion 모델의 주요 응용 사례:
– 이미지 복원: 손상된 이미지의 복구나 노이즈 제거에 사용된다.
– 초해상도 생성: 저해상도 이미지를 고해상도로 변환하는 작업에 활용된다.
– 텍스트-이미지 변환 모델: DALL-E와 같은 모델에서 텍스트로부터 이미지를 생성하는 데 사용되며, 이러한 작업에서 Diffusion 모델은 높은 품질의 결과를 제공한다.