ㅁ 핵심 개념 ㅇ 정의: 확산 모델(DDPM, Denoising Diffusion Probabilistic Models)은 확률적 생성 모델로, 데이터에 점진적으로 노이즈를 추가하고 이를 제거하는 과정을 통해 새로운 데이터를 생성하는 방식이다. ㅇ 특징: – 데이터 분포를 학습하기 위해 점진적으로 노이즈를 추가하고 제거하는 과정 사용. – 계산 비용이 높으며, 학습 및 생성 속도가 느릴 수 있음. – 높은 품질의 이미지를 생성할
ㅁ 핵심 개념 ㅇ 정의: 확산 모델의 변형으로, 확률적 과정을 결정론적 방식으로 변환하여 샘플링 속도를 개선하는 알고리즘. ㅇ 특징: – 기존 확산 모델보다 적은 샘플링 단계로도 고품질의 결과를 생성할 수 있음. – 확률적 성격을 유지하면서도 결정론적 경로를 제공함. – 모델 학습 과정에서 기존 확산 모델과 동일한 손실 함수를 사용. ㅇ 적합한 경우: – 생성 속도가
ㅁ 핵심 개념 ㅇ 정의: 확산 모델에서 데이터에 점진적으로 노이즈를 추가하고, 이를 역으로 제거하는 과정을 통해 원본 데이터를 복원하는 방법론. ㅇ 특징: – 데이터의 점진적인 변형과 복원 과정을 포함. – 노이즈를 예측하고 제거하는 데 최적화된 신경망 사용. – 고해상도 데이터 생성에 유리. ㅇ 적합한 경우: – 이미지 생성, 텍스트 생성 등 생성 작업에서 고품질 결과가
ㅁ 주요 문제 ㅇ 정의: 생성모델 GANs에서 발생하는 문제로, 생성자가 다양한 데이터 분포를 학습하지 못하고 특정 패턴의 데이터만 생성하는 현상을 말한다. ㅇ 특징: – 생성된 데이터가 다양성이 부족함. – 특정 클래스나 데이터 패턴에만 집중. – 판별자는 이를 쉽게 탐지하지 못할 수 있음. ㅇ 적합한 경우: – 데이터 다양성이 필요하지 않거나 특정 패턴의 데이터만 요구되는 경우
ㅁ 주요 문제 ㅇ 정의: 생성모델 GANs의 주요 문제는 생성자와 판별자의 학습 불균형으로 인해 최적의 균형을 이루지 못하는 상황을 포함한다. ㅇ 특징: – 판별자가 너무 강력하게 학습되면 생성자가 유의미한 샘플을 생성하지 못할 수 있다. – 생성자와 판별자 간의 경쟁이 학습을 불안정하게 만들 수 있다. ㅇ 적합한 경우: – 생성자와 판별자의 학습률을 조정하여 균형을 맞추는 경우.
ㅁ 주요 문제 ㅇ 정의: 생성모델 GANs에서 발생하는 주요 문제를 다루며, Generator와 관련된 이슈를 포함. ㅇ 특징: – GANs의 학습 과정에서 Generator는 Discriminator와 경쟁적으로 학습. – Generator가 제대로 학습되지 않을 경우, 생성된 데이터 품질이 저하됨. ㅇ 적합한 경우: – 생성된 데이터의 품질을 높이기 위해 Generator의 학습 상태를 점검할 때. – Discriminator와 Generator의 균형 학습이 필요한
ㅁ 핵심 원리 ㅇ 정의: Variational Autoencoder(VAE)에서 잠재 공간의 샘플링 과정에서 역전파가 불가능한 문제를 해결하기 위해 사용되는 기법. ㅇ 특징: – 샘플링 과정을 미분 가능하게 만들어 학습 가능하도록 설계. – 잠재 변수 z를 평균과 표준편차로 표현하고, 이를 가우시안 분포에서 샘플링하여 모델 학습에 활용. ㅇ 적합한 경우: – VAE를 학습시키는 과정에서 잠재 변수의 샘플링이 필요한 경우.
ㅁ 핵심 원리 ㅇ 정의: 확률 분포 간의 유사성을 측정하는 지표로, 두 분포가 얼마나 다른지를 나타내는 값. 주로 VAE에서 잠재 공간의 분포를 정규 분포와 가깝게 만드는 데 사용됨. ㅇ 특징: – 비대칭적 특성을 가짐 (KL(P||Q) ≠ KL(Q||P)) – 값이 0에 가까울수록 두 분포가 유사함을 의미 – 계산이 간단하며 확률 분포를 비교하는 데 효과적 ㅇ 적합한
ㅁ 핵심 원리 ㅇ 정의: 생성모델 VAE의 핵심 원리로, 입력 데이터를 잠재 공간(latent space)으로 압축 후 복원하며 손실을 측정하는 과정. ㅇ 특징: 재구성 손실은 입력 데이터와 복원된 데이터 간의 차이를 최소화하는 방향으로 작동하며, 일반적으로 평균 제곱 오차(MSE)를 사용. ㅇ 적합한 경우: 데이터의 복원 품질을 평가하거나 잠재 공간의 구조를 분석할 때 유용. ㅇ 시험 함정: 재구성
ㅁ 적합성/장점 ㅇ 정의: 생성모델의 성능을 평가하고 비교할 때, 특정 상황에 적합한 모델을 선택하거나 모델의 장점을 강조하는 기준을 의미함. ㅇ 특징: – 다양한 생성모델의 특성과 한계를 비교하여 특정 목적에 적합한 모델을 선택할 수 있음. – 사용자 요구와 데이터 특성에 맞는 모델을 선정하는 데 활용됨. ㅇ 적합한 경우: – 특정 작업에서 성능 최적화가 필요한 경우. –