ㅁ 강건한 변환

ㅇ 정의:
데이터의 분포를 일정한 범위로 변환하여 모델의 학습 성능을 높이는 기법으로, 이상치의 영향을 최소화하기 위해 사용됨.

ㅇ 특징:
– 데이터의 중앙값과 IQR(Interquartile Range)을 사용하여 변환.
– 이상치(outlier)에 강건함.
– 데이터의 분포를 왜곡시키지 않음.

ㅇ 적합한 경우:
– 이상치가 많은 데이터셋.
– 데이터의 분포가 비대칭적인 경우.

ㅇ 시험 함정:
– 강건한 변환과 표준화를 혼동할 가능성.
– 이상치의 정의와 처리 방법에 대한 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
1) 강건한 변환은 평균과 표준편차를 사용하여 데이터를 변환한다. (X)
2) 강건한 변환은 이상치의 영향을 최소화하기 위해 중앙값과 IQR을 사용한다. (O)

================================

1. Z-score(Standardization)

ㅇ 정의:
데이터의 평균을 0, 표준편차를 1로 변환하는 정규화 기법으로, 데이터의 상대적 위치를 유지.

ㅇ 특징:
– 평균과 표준편차를 기반으로 계산.
– 이상치에 민감.
– 데이터의 분포가 정규 분포에 가까울수록 효과적.

ㅇ 적합한 경우:
– 데이터가 정규 분포를 따르는 경우.
– 이상치가 적은 데이터셋.

ㅇ 시험 함정:
– Z-score와 Min-Max Scaling을 혼동할 가능성.
– Z-score가 항상 이상치를 처리할 수 있다고 생각하는 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
1) Z-score는 데이터의 중앙값과 IQR을 사용하여 변환한다. (X)
2) Z-score는 평균과 표준편차를 사용하여 데이터를 정규화한다. (O)

ㅁ 추가 학습 내용

강건한 변환과 Z-score(Standardization)의 차이점을 명확히 이해하고, 두 기법의 적용 상황을 비교하기 위해 다음과 같은 내용을 학습해야 합니다.

1. **강건한 변환의 정의와 특징**:
– 강건한 변환은 데이터의 중앙값(median)과 IQR(Interquartile Range, 1사분위수~3사분위수 범위)을 사용하여 데이터를 변환하는 기법입니다.
– 이상치(outlier)에 덜 민감합니다. 이는 중앙값과 IQR이 평균(mean)과 표준편차(std)보다 이상치의 영향을 덜 받기 때문입니다.
– 주로 이상치가 포함된 데이터나 비정규분포(non-normal distribution)를 다룰 때 적합합니다.

2. **Z-score(Standardization)의 정의와 특징**:
– Z-score는 데이터의 평균(mean)을 0으로, 표준편차(std)를 1로 변환하는 기법입니다.
– 이상치에 민감합니다. 이는 평균과 표준편차가 이상치의 영향을 강하게 받기 때문입니다.
– 데이터가 정규분포(normal distribution)를 따르는 경우 효과적이며, 머신러닝 모델(특히 거리 기반 알고리즘)에서 자주 사용됩니다.

3. **두 기법의 적용 상황 비교**:
– **강건한 변환**: 이상치가 많거나 데이터가 비정규분포를 따를 경우 유리합니다. 예를 들어, 주택 가격 데이터에서 극단적인 고가 주택이 포함된 경우 강건한 변환을 사용하는 것이 적합합니다.
– **Z-score**: 데이터가 정규분포에 가까운 경우 적합하며, 이상치가 거의 없는 데이터에서 효과적으로 사용됩니다. 예를 들어, 학생들의 시험 점수와 같이 이상치가 적고 정규분포를 따르는 경우 Z-score가 적합합니다.

4. **이상치 처리와 관련된 강건한 변환의 유리함**:
– 강건한 변환은 중앙값과 IQR을 사용하기 때문에 이상치의 영향을 거의 받지 않습니다. 따라서 이상치가 데이터 분석 결과에 미치는 영향을 최소화할 수 있습니다.
– 반면 Z-score는 평균과 표준편차를 기준으로 하기 때문에 이상치가 포함되면 평균이 왜곡되고, 표준편차가 커져 변환된 값이 왜곡될 가능성이 높습니다.

5. **Z-score를 사용한 데이터 변환 후 분포와 모델 성능 분석**:
– Z-score를 적용하면 데이터의 중심이 0, 분산이 1로 변환되어 정규화됩니다. 그러나 이상치가 많을 경우 변환 후에도 데이터 분포가 왜곡될 수 있습니다.
– 모델 성능에 미치는 영향을 분석하려면 Z-score 변환 전후의 데이터 분포를 시각화하고, 변환된 데이터를 사용해 머신러닝 모델을 학습시켜 성능 변화를 비교해야 합니다.
– 예를 들어, KNN(K-Nearest Neighbors) 모델은 데이터 스케일에 민감하므로 Z-score를 적용한 경우 더 나은 성능을 보일 수 있습니다. 그러나 이상치가 많은 데이터에서는 성능이 저하될 가능성이 있습니다.

위 내용을 바탕으로 강건한 변환과 Z-score의 차이점과 적용 상황을 명확히 이해하고, 이상치와 관련된 사례를 통해 학습하며, Z-score 변환 후 데이터 분포와 모델 성능 변화를 분석하는 연습을 진행하세요.