ㅁ 시각화 기반

ㅇ 정의: XAI(설명 가능한 인공지능)에서 모델의 예측 결과를 이해하기 위해 데이터를 시각적으로 표현하는 방법론.

ㅇ 특징: 복잡한 모델의 내부 작동을 시각적으로 표현하여, 비전문가도 이해할 수 있도록 돕는다. 주로 피처의 중요도, 상호작용, 영향 등을 파악하는 데 사용된다.

ㅇ 적합한 경우: 모델의 예측 결과를 해석하거나, 피처의 상대적 중요도를 시각적으로 분석해야 하는 경우.

ㅇ 시험 함정: 시각화 결과를 과도하게 신뢰하거나, 데이터의 왜곡된 부분을 간과하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:

================================

1. Partial Dependence Plot

ㅇ 정의: 머신러닝 모델에서 특정 피처가 예측값에 미치는 평균적인 영향을 시각화하는 도구.

ㅇ 특징: 피처의 변화를 독립적으로 조정하여, 나머지 피처가 고정된 상태에서 예측값의 변화를 관찰한다. 주로 선형 및 비선형 관계를 파악하는 데 유용하다.

ㅇ 적합한 경우: 모델의 특정 피처가 예측값에 미치는 영향을 직관적으로 이해하고자 할 때.

ㅇ 시험 함정: 피처 간 상호작용을 무시하고 독립적인 영향을 가정하기 때문에, 상관관계가 높은 피처에서는 왜곡된 결과를 초래할 수 있다.

ㅇ 시험 대비 “패턴 보기” 예시:

O: Partial Dependence Plot은 특정 피처가 예측값에 미치는 평균적인 영향을 시각화한다.

X: Partial Dependence Plot은 피처 간 상호작용을 완벽히 반영한다.

ㅁ 추가 학습 내용

Partial Dependence Plot(PDP)은 특정 피처가 모델 예측에 미치는 영향을 시각화하는 데 유용하지만, 피처 간 상호작용을 반영하지 못하는 한계가 있습니다. 이를 보완하기 위해 Individual Conditional Expectation(ICE) Plot을 함께 학습하는 것이 좋습니다. ICE Plot은 각 데이터 포인트에 대해 개별적인 영향을 시각화함으로써 피처 간 상호작용을 더 잘 반영할 수 있습니다.

PDP와 ICE Plot을 활용할 때 시각화 결과를 해석하기 위해 데이터의 분포와 스케일링 여부를 고려하는 것이 중요합니다. 데이터의 분포는 특정 피처 값이 얼마나 자주 나타나는지를 보여주므로, 결과 해석 시 편향을 방지하는 데 도움이 됩니다. 또한, 스케일링 여부는 모델이 피처를 어떻게 처리했는지를 파악하는 데 중요한 요소로 작용합니다. 이러한 점을 염두에 두고 PDP 및 ICE Plot을 분석하면 보다 정확하고 신뢰성 있는 인사이트를 얻을 수 있습니다.