[카테고리:] AI 이론

ㅁ 주요 문제 1. Generator ㅇ 정의: GAN(Generative Adversarial Network)에서 가짜 데이터를 생성하는 신경망으로, 무작위 노이즈 벡터를 입력받아 실제 데이터와 유사한 샘플을 출력. ㅇ 특징: – 입력: 잠재 공간(latent space)의 랜덤 벡터 – 출력: 실제 데이터와 동일한 차원의 데이터 – 학습 목표: Discriminator를 속일 수 있는 데이터를 생성 – 역전파는 Discriminator의 판단 결과를 통해 간접적으로

ㅁ 주요 문제 1. 판별자(Discriminator) ㅇ 정의: 생성모델(GAN)에서 입력된 데이터가 실제(real) 데이터인지 생성(fake) 데이터인지를 구분하는 신경망 모델로, 생성자와 경쟁 관계를 형성하며 학습함. ㅇ 특징: – 이진 분류(binary classification) 구조를 가짐. – 학습 초기에 생성자가 만든 데이터 품질이 낮아 판별자가 쉽게 구분함. – 학습이 진행되면서 생성자의 품질이 향상되면 판별자의 난이도도 높아짐. – 과도하게 강한 판별자는 생성자의

ㅁ 주요 문제 ㅇ 정의: GAN 학습 과정에서 생성기가 소수의 패턴만 반복적으로 생성하여 다양한 데이터 분포를 재현하지 못하는 현상. ㅇ 특징: – 출력 다양성이 떨어지고, 비슷하거나 동일한 샘플이 반복 생성됨. – 판별기는 일부 패턴에만 익숙해져 다른 패턴 구분 능력이 떨어짐. – 학습이 불안정하게 수렴하거나 특정 모드에 고착됨. ㅇ 적합한 경우: – 적합한 경우가 아니라, 피해야

ㅁ 핵심 개념 ㅇ 정의: – Noise Prediction은 확산 모델(Diffusion Model)에서 주어진 시점의 노이즈가 섞인 데이터로부터 원래 데이터나 노이즈 성분을 예측하는 과정을 의미한다. – 주로 U-Net과 같은 신경망 구조를 사용하여 입력 이미지의 노이즈 패턴을 추정한다. ㅇ 특징: – 학습 시, 정해진 시간 스텝 t에서 입력 데이터에 가우시안 노이즈를 주입한 후 해당 노이즈를 예측하도록 모델을 훈련한다.

ㅁ 핵심 개념 1. DDIM ㅇ 정의: 비확률적(Deterministic) 방식의 Denoising Diffusion Implicit Model로, 기존 DDPM(Denoising Diffusion Probabilistic Model)의 확률적 샘플링을 비확률적 경로로 변환하여 더 적은 스텝으로 이미지를 생성하는 확산 모델 변형 기법. ㅇ 특징: – 샘플링 속도가 빠르며, 동일한 초기 노이즈에서 동일한 결과를 재현 가능. – 스텝 수를 줄여도 품질 저하가 상대적으로 적음. – 시간

ㅁ 핵심 개념 1. DDPM ㅇ 정의: 확산 확률 모델(Denoising Diffusion Probabilistic Model)의 약자로, 데이터에 점진적으로 노이즈를 추가한 뒤 이를 역으로 제거하는 과정을 학습하여 새로운 데이터를 생성하는 생성 모델. ㅇ 특징: – 순방향 과정: 데이터에 점진적으로 가우시안 노이즈를 추가하여 잠재 공간으로 변환 – 역방향 과정: 노이즈 제거 네트워크를 통해 원본 데이터로 복원 – 안정적인 학습과

ㅁ 핵심 개념 ㅇ 정의: 확산 모델에서 원본 데이터에 점진적으로 노이즈를 추가하여 순수한 가우시안 분포에 가까워지도록 만드는 과정. 시계열적으로 t=0(원본)에서 t=T(완전 노이즈)로 진행됨. ㅇ 특징: – 마르코프 체인 구조를 가지며, 각 단계에서 이전 단계의 데이터에 소량의 가우시안 노이즈를 더함. – 파라미터가 고정되어 있으며 학습 과정에서는 주로 역방향(Reverse Process)을 학습. – 데이터 분포를 점진적으로 파괴하여 모델이

ㅁ 그래프 증강 기법 ㅇ 정의: 그래프의 구조를 변경하여 학습 데이터의 다양성을 확보하고 모델의 일반화 성능을 높이는 방법 중 하나로, 노드 간의 엣지 연결을 재구성하는 기법. ㅇ 특징: – 기존 엣지를 제거하거나 새로운 엣지를 추가하여 그래프의 연결 구조를 변화시킴 – 무작위(Random) 또는 특정 규칙(예: 노드 유사도 기반)에 따라 수행 가능 – 데이터 편향을 완화하고 과적합을

ㅁ 그래프 증강 기법 ㅇ 정의: 그래프의 구조를 변형하여 모델의 일반화 성능을 높이는 데이터 증강 방법 중 하나로, Edge Dropout은 그래프의 일부 간선을 확률적으로 제거하는 기법이다. ㅇ 특징: – 간선 제거를 통해 노드 간 연결성을 변화시켜 과적합을 방지. – 모델이 다양한 구조적 변형에 견고하도록 학습. – 무작위성이 있어 매 학습 시 다른 그래프 구조를 경험.

ㅁ 그래프 증강 기법 ㅇ 정의: 그래프 데이터에서 일부 노드를 무작위로 제거하여 모델이 특정 노드에 과적합되는 것을 방지하고, 일반화 성능을 향상시키는 데이터 증강 기법. ㅇ 특징: – 노드와 해당 노드에 연결된 엣지를 함께 제거함. – 학습 시 네트워크 구조 변화를 유도하여 강건성(Robustness) 향상. – 제거 비율이 높을수록 구조 정보 손실 가능성이 커짐. ㅇ 적합한 경우: