ㅁ 규칙 기반

ㅇ 정의:
사람이 이해할 수 있는 규칙을 기반으로 AI 모델의 예측 결과를 설명하는 방법.

ㅇ 특징:
– 직관적으로 이해 가능하며, 트리 구조를 통해 시각적으로 표현 가능.
– 복잡한 모델을 단순화하여 설명력을 높임.
– 데이터 분할 기준에 따라 결과가 달라질 수 있음.

ㅇ 적합한 경우:
– 모델의 해석 가능성이 중요한 경우.
– 비전문가에게 결과를 설명해야 하는 경우.
– 데이터가 비교적 간단한 구조를 가질 때.

ㅇ 시험 함정:
– 규칙 기반 모델이 항상 원래 모델을 정확히 반영하지 않을 수 있음.
– 데이터 분포가 비대칭일 경우 설명력이 낮아질 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 규칙 기반 모델은 사람이 이해하기 쉬운 설명을 제공한다.
– X: 규칙 기반 모델은 항상 원래 모델의 정확도를 유지한다.

================================

1. Decision Tree Surrogate

ㅇ 정의:
복잡한 머신러닝 모델의 예측 결과를 설명하기 위해 대리로 사용하는 결정 트리 모델.

ㅇ 특징:
– 원래 모델의 출력값을 예측하도록 학습됨.
– 트리 구조로 인해 설명이 간단하고 직관적임.
– 원래 모델의 복잡성을 완전히 반영하지 못할 수 있음.

ㅇ 적합한 경우:
– 블랙박스 모델의 동작을 이해하고자 할 때.
– 모델의 전반적인 예측 패턴을 설명해야 할 때.
– 데이터가 고차원적이지 않은 경우.

ㅇ 시험 함정:
– Surrogate 모델이 원래 모델의 성능을 대체하는 것은 아님.
– 데이터 샘플링 방법에 따라 결과가 달라질 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Decision Tree Surrogate는 블랙박스 모델의 예측 결과를 설명하는 데 사용된다.
– X: Decision Tree Surrogate는 원래 모델과 동일한 성능을 가진다.

ㅁ 추가 학습 내용

규칙 기반 설명 방법에서 데이터 전처리의 중요성은 매우 큽니다. 데이터 전처리는 모델이 정확하고 신뢰할 수 있는 결과를 도출할 수 있도록 데이터를 준비하는 과정입니다. 특히 규칙 기반 설명 방법에서는 데이터의 품질이 설명의 신뢰성과 해석 가능성에 직접적인 영향을 미칩니다. 따라서 누락값 처리, 이상값 제거, 범주형 변수의 적절한 인코딩, 데이터 정규화 등 데이터 전처리의 각 단계가 중요하게 다뤄져야 합니다.

Decision Tree Surrogate 모델을 사용할 때는 과적합을 방지하기 위해 트리의 깊이를 제한하는 것이 중요합니다. 트리의 깊이를 제한하면 모델이 지나치게 복잡해지는 것을 막아 일반화 성능을 유지할 수 있습니다. 이를 위해 최대 깊이(max_depth)와 같은 하이퍼파라미터를 설정하여 트리의 복잡성을 조절할 수 있습니다.

또한, Decision Tree Surrogate 모델이 원래 모델의 예측값과 얼마나 잘 일치하는지를 평가하는 과정도 필요합니다. 이를 위해 원래 모델의 예측값과 Surrogate 모델의 예측값 간의 차이를 측정하는 지표를 사용할 수 있습니다. 예를 들어, 평균 절대 오차(MAE), 평균 제곱 오차(MSE), R^2 점수 등을 활용하여 두 모델 간의 예측 성능 차이를 분석할 수 있습니다. 이러한 평가 과정은 Surrogate 모델의 신뢰성 및 원래 모델의 설명력을 판단하는 데 중요한 역할을 합니다.