ㅁ 성능 분석

ㅇ 정의:
모델의 예측 오류를 구성 요소별로 나누어 분석하는 기법으로, 전체 성능 저하 원인을 정량적으로 파악하기 위해 사용됨.

ㅇ 특징:
– 오류를 편향(Bias), 분산(Variance), 잡음(Noise) 등으로 분해하여 원인 진단 가능
– 데이터 품질, 모델 복잡도, 학습 데이터 양 등과의 관계를 분석할 수 있음
– 학습/검증/테스트 데이터셋에서의 성능 차이를 비교하여 문제 지점을 특정

ㅇ 적합한 경우:
– 모델 개선 방향을 정하기 위해 구체적인 오류 원인을 파악해야 할 때
– 과적합/과소적합 여부를 정량적으로 진단하고자 할 때
– 데이터 수집 전략을 최적화하려고 할 때

ㅇ 시험 함정:
– Bias와 Variance의 정의를 혼동하는 경우 많음
– Noise는 모델 개선으로 줄이기 어려운 경우가 많음
– 단일 지표(예: 정확도)만 보고 오류 원인을 단정하는 것은 위험함

ㅇ 시험 대비 “패턴 보기” 예시:
O: “에러 분해는 모델 예측 오류를 Bias, Variance, Noise로 나누어 분석한다.”
X: “에러 분해는 모델의 모든 오류를 데이터 전처리로 해결할 수 있다고 본다.”

ㅁ 추가 학습 내용

에러 분해(Error Decomposition)는 모델 성능 저하 원인을 분석하는 중요한 방법으로, Bias-Variance Trade-off와 함께 시험에 자주 출제된다.
Bias는 모델이 지나치게 단순하거나 데이터 패턴을 충분히 학습하지 못해 발생하는 체계적 오류로, 복잡한 모델을 사용하거나 학습 데이터를 늘리면 줄일 수 있다.
Variance는 모델이 학습 데이터에 과도하게 민감하여 발생하는 변동성 오류로, 규제(Regularization) 적용이나 데이터 증강을 통해 완화할 수 있다.
Noise는 데이터 자체의 불확실성이나 측정 오차로 인해 발생하며, 모델로 줄이기 어렵다.
시험에서는 학습 곡선(Learning Curve)과 연결하여 Bias와 Variance를 해석하는 문제가 자주 나온다.
또한 교차검증(Cross Validation)을 이용해 오류를 추정하고 이를 에러 분해와 결합하는 방법도 중요한 출제 포인트이다.