ㅁ 검증 기법

ㅇ 정의:
Leave-One-Out Cross Validation(LOOCV)은 주어진 데이터셋에서 하나의 샘플만을 검증용으로 사용하고 나머지 모든 샘플을 학습에 사용하는 교차 검증 방식이다. 이를 데이터 개수만큼 반복하여 평균 성능을 측정한다.

ㅇ 특징:
– 데이터 손실 없이 최대한 학습에 활용 가능
– 데이터 개수가 적을 때 유리
– 학습 반복 횟수가 데이터 개수와 동일하므로 계산량이 매우 많음
– 분산이 작고 편향이 낮은 평가 결과 제공

ㅇ 적합한 경우:
– 데이터셋의 크기가 매우 작아 학습 데이터 확보가 중요한 경우
– 모델의 일반화 성능을 최대한 정확히 평가하고 싶은 경우
– 계산 자원이 충분한 경우

ㅇ 시험 함정:
– LOOCV가 항상 최고의 평가 방법은 아님 (계산 비용 무시하면 안됨)
– 데이터가 많을수록 계산량이 급증하여 비효율적
– 분산이 작지만 특정 데이터 분포에서는 과적합 위험 존재

ㅇ 시험 대비 “패턴 보기” 예시:
O: LOOCV는 데이터가 적을 때 효과적인 검증 방법이다.
O: LOOCV는 데이터 개수만큼 모델을 학습시킨다.
X: LOOCV는 데이터의 절반을 검증에 사용한다.
X: LOOCV는 계산량이 적어 대규모 데이터셋에 적합하다.

ㅁ 추가 학습 내용

LOOCV(Leave-One-Out Cross Validation)는 k-Fold Cross Validation에서 k를 데이터 개수(N)로 설정한 특수한 경우이다. LOOCV의 평균 제곱 오차(MSE)는 편향이 낮지만 분산이 높을 수 있다. 특히 선형 회귀와 같은 모델에서 해석이 용이하다. k-Fold CV에서 k 값이 작을수록 분산이 커지고 편향이 작아진다. LOOCV는 k가 N인 극단적인 경우이며, 병렬 처리를 통해 계산 속도를 개선할 수 있다. 또한 데이터 누락 없이 전수 검증이 가능하다는 장점이 있다.