ㅁ 설명가능 인공지능(XAI) 핵심기법

ㅇ 정의:
설명가능 인공지능(XAI)의 핵심 기법으로, 복잡한 모델의 예측을 이해하기 위해 단순한 대체 모델을 사용하여 설명을 제공하는 방법.

ㅇ 특징:
– 복잡한 모델(예: 딥러닝)의 예측을 설명하기 위해 사용.
– 대체 모델은 주로 선형 회귀, 의사결정 트리와 같은 해석 가능한 모델을 사용.
– 원래 모델의 전체 구조를 반영하지는 않으며, 예측 결과를 근사적으로 설명.

ㅇ 적합한 경우:
– 원래 모델이 블랙박스 형태로 작동하여 내부 구조를 이해하기 어려운 경우.
– 모델의 전체적인 동작을 설명하고자 할 때.

ㅇ 시험 함정:
– Global Surrogate가 원래 모델의 정확도를 완전히 대체할 수 있다고 혼동하는 경우.
– 대체 모델이 원래 모델의 모든 세부적인 동작을 설명한다고 오해하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Global Surrogate는 복잡한 모델을 단순화하여 설명하는 데 사용된다. (O)
2. Global Surrogate는 원래 모델의 정확도를 유지하면서 모든 세부적인 동작을 설명한다. (X)

================================

1. Global Surrogate

ㅇ 정의:
복잡한 머신러닝 모델의 예측을 이해하기 위해 해석 가능한 단순 모델을 사용하여 설명하는 방법.

ㅇ 특징:
– 대체 모델은 원래 모델의 예측 결과를 근사적으로 설명.
– 주로 선형 회귀, 의사결정 트리 등을 사용.
– 원래 모델의 전체 구조를 반영하지 않음.

ㅇ 적합한 경우:
– 블랙박스 모델의 동작 원리를 설명해야 할 때.
– 모델의 전반적인 행동을 이해하는 데 초점이 맞춰질 때.

ㅇ 시험 함정:
– 대체 모델이 원래 모델과 동일한 성능을 가진다고 착각하는 경우.
– Global Surrogate가 지역적 설명(Local Explanation)도 포함한다고 오해하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Global Surrogate는 블랙박스 모델의 예측 결과를 단순 모델로 설명한다. (O)
2. Global Surrogate는 원래 모델의 내부 구조를 정확히 반영한다. (X)

ㅁ 추가 학습 내용

Global Surrogate를 학습할 때 중요한 점은 대체 모델의 선택 기준과 원래 모델과의 적합성을 이해하는 것입니다. Global Surrogate는 복잡한 원래 모델을 단순화하여 전체적인 동작을 설명하는 데 사용되므로, 대체 모델은 다음과 같은 기준을 충족해야 합니다:

1. 단순성: 대체 모델은 원래 모델보다 단순해야 하며, 그래야 해석이 용이합니다.
2. 해석 가능성: 대체 모델은 사람이 이해할 수 있는 형태여야 합니다. 예를 들어, 선형 회귀나 의사결정 트리가 자주 사용됩니다.
3. 적합성: 대체 모델은 원래 모델의 예측을 잘 반영해야 합니다. 즉, 두 모델 간의 성능 차이가 작아야 합니다.

Global Surrogate의 한계점도 이해해야 합니다. 대표적인 한계로는 원래 모델의 세부적인 동작을 정확히 설명하지 못한다는 점이 있습니다. 이는 대체 모델이 단순화된 형태를 가지기 때문에 발생합니다. 따라서 Global Surrogate는 원래 모델의 전반적인 경향을 파악하는 데 유용하지만, 세부적인 예측 이유를 설명하는 데는 한계가 있습니다.

Global Surrogate와 Local Explanation 기법의 차이점도 알아둘 필요가 있습니다. Global Surrogate는 모델의 전체적인 동작을 설명하는 데 초점을 맞추는 반면, Local Explanation은 특정 데이터 포인트에 대한 모델의 예측 이유를 설명합니다. 따라서 Global Surrogate는 모델의 전반적인 이해에 적합하고, Local Explanation은 개별 예측에 대한 상세한 분석에 적합합니다.

시험 대비를 위해 Global Surrogate의 정의, 대체 모델의 선택 기준, 한계점, 그리고 Local Explanation 기법과의 차이점을 명확히 이해하고 정리해 두는 것이 중요합니다.