ㅁ 클래스 불균형 해결

ㅇ 정의:
클래스 불균형 해결은 데이터셋에서 특정 클래스의 샘플 수가 다른 클래스에 비해 현저히 적거나 많은 상황을 다루는 기법이다.

ㅇ 특징:
– 데이터의 불균형으로 인해 모델이 특정 클래스에 치우친 예측을 할 가능성이 크다.
– 다양한 기법(샘플링, 비용 민감 학습 등)을 통해 불균형을 완화할 수 있다.

ㅇ 적합한 경우:
– 의료 진단, 사기 탐지와 같이 특정 클래스의 데이터가 희소하지만 중요한 경우.

ㅇ 시험 함정:
– 클래스 불균형 해결이 항상 정확도를 높이는 것은 아님.
– 샘플링 기법이 데이터 분포를 왜곡할 수 있다는 점을 간과하기 쉬움.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 클래스 불균형 문제는 모델의 성능을 저하시킬 수 있다.
– X: 클래스 불균형 문제는 항상 샘플링 기법으로 해결된다.

================================

1. Cost-sensitive Learning

ㅇ 정의:
Cost-sensitive Learning은 학습 과정에서 클래스별로 다른 비용을 부여하여 불균형 문제를 해결하는 기법이다.

ㅇ 특징:
– 클래스별로 잘못 예측했을 때의 비용을 다르게 설정하여 모델이 중요한 클래스에 더 집중하게 한다.
– 비용 행렬을 설계하는 것이 성능에 중요한 영향을 미친다.

ㅇ 적합한 경우:
– 특정 클래스의 예측 오류가 치명적인 영향을 미치는 경우(예: 의료 진단에서 암 진단).

ㅇ 시험 함정:
– 비용 행렬을 잘못 설정하면 오히려 성능이 악화될 수 있음.
– Cost-sensitive Learning이 모든 불균형 문제를 해결하는 만능 방법은 아님.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Cost-sensitive Learning은 클래스별 비용을 고려하여 모델을 학습시킨다.
– X: Cost-sensitive Learning은 데이터의 샘플링 과정을 포함한다.

ㅁ 추가 학습 내용

Cost-sensitive Learning은 학습 모델이 클래스 간의 예측 오류를 다르게 취급하도록 설계하는 접근법입니다. 이 기법은 비용 행렬을 사용하여 특정 오류에 대해 더 높은 비용을 부여하거나 낮은 비용을 부여함으로써 모델이 주어진 상황에서 더 적합한 결정을 내릴 수 있도록 합니다. 비용 행렬 설계는 Cost-sensitive Learning의 핵심 요소로, 잘 설계된 비용 행렬은 모델의 성능을 크게 향상시킬 수 있습니다.

예를 들어, 사기 탐지 문제에서 사기 거래를 놓치는 경우(즉, 사기를 정상 거래로 잘못 분류하는 경우)는 심각한 금전적 손실을 초래할 수 있습니다. 따라서 비용 행렬에서 사기 거래를 놓치는 오류에 높은 비용을 설정하면 모델이 사기 거래를 더 신중하게 예측하도록 유도할 수 있습니다. 반대로, 정상 거래를 사기로 잘못 분류하는 경우는 상대적으로 낮은 비용을 설정하여 모델이 이러한 오류에 덜 민감하도록 할 수 있습니다. 이처럼 비용 행렬은 문제의 특성과 목표에 맞게 설계되어야 하며, 잘못된 비용 행렬 설계는 모델의 성능 저하를 초래할 수 있습니다.

Cost-sensitive Learning과 샘플링 기법은 서로 다른 접근법이며, 이를 명확히 구분하는 것이 중요합니다. 샘플링 기법은 클래스 간의 데이터 불균형을 해결하기 위해 사용되며, 일반적으로 소수 클래스 데이터를 증강하거나 다수 클래스 데이터를 줄이는 방식으로 이루어집니다. 예를 들어, 오버샘플링은 소수 클래스 데이터를 복제하거나 생성하여 학습 데이터의 균형을 맞추는 방법이며, 언더샘플링은 다수 클래스 데이터를 일부 제거하여 균형을 맞추는 방법입니다. 샘플링 기법은 데이터의 분포를 조정하여 학습 모델이 클래스 간의 불균형에 덜 영향을 받도록 하는 데 초점을 맞춥니다.

반면, Cost-sensitive Learning은 데이터의 불균형을 직접적으로 조정하지 않고, 비용 행렬을 통해 예측 오류의 중요도를 조정합니다. 이는 모델이 특정 오류를 더 중요하게 여기도록 하여 학습 방향을 조정하는 방법입니다. 따라서 Cost-sensitive Learning은 데이터의 분포를 변경하지 않고도 클래스 간의 중요도를 반영할 수 있다는 점에서 샘플링 기법과 차별화됩니다.

결론적으로, 비용 행렬 설계는 Cost-sensitive Learning의 성공적인 적용을 위해 필수적이며, 문제의 특성과 목표를 반영하여 신중하게 설계해야 합니다. 또한, Cost-sensitive Learning과 샘플링 기법은 서로 다른 문제를 해결하는 접근법임을 이해하고, 상황에 맞게 적절히 선택하여 활용하는 것이 중요합니다.