ㅁ 규칙 기반

ㅇ 정의:
규칙 기반 XAI(설명 가능한 인공지능)는 모델의 예측 결과를 사람이 이해할 수 있는 규칙(조건문, if-then 형태 등)으로 표현하여 설명하는 방식.

ㅇ 특징:
– 사람이 읽을 수 있는 규칙으로 결과 해석 가능
– 복잡한 모델을 단순화하여 설명
– 규칙 수가 많아지면 오히려 해석 난이도 증가 가능
– 주로 의사결정 과정의 투명성을 확보하는 데 활용

ㅇ 적합한 경우:
– 법적·윤리적 이유로 모델의 의사결정 근거를 제시해야 하는 경우
– 도메인 전문가가 규칙 기반으로 결과를 검증해야 하는 경우

ㅇ 시험 함정:
– 규칙 기반 = 항상 완벽한 설명 제공 ❌ (규칙 수가 많으면 복잡해질 수 있음)
– 규칙 기반 = 단순 모델만 가능 ❌ (복잡 모델에도 적용 가능, 단 해석 난이도 차이 존재)

ㅇ 시험 대비 “패턴 보기” 예시:
O: 규칙 기반 XAI는 사람이 읽을 수 있는 조건문 형태로 예측 근거를 제공한다.
X: 규칙 기반 XAI는 항상 간단하고 직관적인 설명만 제공한다.

================================

1. Counterfactual

ㅇ 정의:
모델 예측을 바꾸기 위해 필요한 최소한의 입력 변경을 제시하는 기법. “만약 ~였다면 결과가 어떻게 달라졌을까?”를 분석.

ㅇ 특징:
– 입력 값 변경 최소화
– 사용자가 목표하는 결과를 얻기 위해 필요한 조건 제시
– 직관적인 해석 제공, 그러나 현실성 없는 변경 제안 가능성 존재

ㅇ 적합한 경우:
– 개별 예측 결과에 대한 구체적인 변경 방향을 제시할 때
– 사용자가 결과를 개선하거나 변경하고자 할 때

ㅇ 시험 함정:
– Counterfactual = 모델 전체 설명 ❌ (개별 사례 중심 설명)
– Counterfactual = 항상 현실적으로 가능한 변경 제공 ❌

ㅇ 시험 대비 “패턴 보기” 예시:
O: Counterfactual은 예측을 바꾸기 위해 필요한 최소한의 입력 변경을 제시한다.
X: Counterfactual은 전체 데이터셋의 전반적 규칙을 설명한다.

================================

2. Rule Extraction

ㅇ 정의:
블랙박스 모델(예: 신경망)로부터 사람이 이해할 수 있는 규칙을 추출하는 기법.

ㅇ 특징:
– 모델의 내부 동작을 규칙 형태로 변환
– 복잡한 모델의 가독성 향상
– 규칙 수가 많으면 해석이 어려워질 수 있음

ㅇ 적합한 경우:
– 블랙박스 모델의 결과를 규칙 형태로 설명할 필요가 있는 경우
– 규제나 감사 목적으로 모델 근거를 제시해야 하는 경우

ㅇ 시험 함정:
– Rule Extraction = 모델 단순화 과정에서 정보 손실 가능성을 무시 ❌
– Rule Extraction = 항상 완벽히 원래 모델과 동일한 성능 유지 ❌

ㅇ 시험 대비 “패턴 보기” 예시:
O: Rule Extraction은 블랙박스 모델의 예측 근거를 규칙 형태로 추출한다.
X: Rule Extraction은 모델의 정확도를 전혀 떨어뜨리지 않는다.

================================

3. Decision Tree Surrogate

ㅇ 정의:
복잡한 블랙박스 모델을 대신하여 동작을 모사하는 결정 트리 모델을 학습시켜 설명하는 방식.

ㅇ 특징:
– 원래 모델과 비슷한 예측을 수행
– 결정 트리 형태로 시각화 및 규칙화 가능
– 원래 모델과의 유사도에 따라 설명 신뢰도가 달라짐

ㅇ 적합한 경우:
– 복잡 모델의 전반적 의사결정 구조를 설명하고자 할 때
– 모델 해석과 시각화가 중요한 경우

ㅇ 시험 함정:
– Decision Tree Surrogate = 원래 모델의 완벽한 복제 ❌
– Surrogate 모델이 단순하면 설명은 쉬워도 성능 유사도가 낮을 수 있음

ㅇ 시험 대비 “패턴 보기” 예시:
O: Decision Tree Surrogate는 블랙박스 모델의 동작을 모사하는 결정 트리를 학습하여 설명한다.
X: Decision Tree Surrogate는 원래 모델과 항상 동일한 예측을 한다.

================================