ㅁ 규칙 기반

ㅇ 정의:
데이터와 모델의 예측 결과로부터 사람이 이해할 수 있는 규칙(If-Then 형태)을 추출하여 모델의 의사결정 과정을 설명하는 방법.

ㅇ 특징:
– 복잡한 모델(예: 신경망, 앙상블)로부터 간단한 규칙 집합을 생성.
– 규칙은 사람이 읽고 해석할 수 있는 형태로 제공됨.
– 특정 입력 특성과 출력 간의 관계를 명확하게 보여줌.

ㅇ 적합한 경우:
– 규제 산업(금융, 의료 등)에서 모델의 투명성이 필수적인 경우.
– 모델이 블랙박스 형태로 동작하나, 의사결정 이유를 설명해야 하는 경우.

ㅇ 시험 함정:
– 규칙 수가 많아지면 해석 가능성이 떨어질 수 있음.
– 규칙 추출 과정에서 원래 모델의 예측 성능이 일부 손실될 수 있음.
– 모든 규칙이 원래 모델의 모든 예측 과정을 완벽히 반영하지 않을 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Rule Extraction은 블랙박스 모델로부터 사람이 이해할 수 있는 규칙을 생성한다.”
X: “Rule Extraction은 모델의 가중치를 직접 수정하여 해석 가능성을 높인다.”

================================

1. Rule Extraction

ㅇ 정의:
블랙박스 모델(예: 딥러닝, 랜덤포레스트)의 입력-출력 관계를 분석하여, 사람이 이해할 수 있는 규칙 집합을 생성하는 기법.

ㅇ 특징:
– 규칙은 일반적으로 If-Then 형태.
– 데이터 기반 규칙 생성 또는 모델 기반 규칙 추출 방식 존재.
– 해석 가능성과 설명 가능성을 높임.

ㅇ 적합한 경우:
– 의사결정 과정을 감사(audit)해야 하는 경우.
– 모델 배포 후 규제 기관에 설명을 제공해야 하는 경우.

ㅇ 시험 함정:
– 규칙 단순화 과정에서 일부 예외 케이스를 설명하지 못할 수 있음.
– 규칙 기반 설명이 항상 모델의 실제 작동 방식을 100% 반영하는 것은 아님.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Rule Extraction은 If-Then 규칙을 통해 모델의 예측 근거를 설명한다.”
X: “Rule Extraction은 규칙 생성을 위해 반드시 모델의 내부 가중치를 직접 분석해야 한다.”

ㅁ 추가 학습 내용

Rule Extraction 기법은 크게 세 가지로 구분된다.
1. Ante-hoc 방식: 모델 학습 과정에서 규칙을 생성하는 방식
2. Post-hoc 방식: 학습이 완료된 모델로부터 규칙을 추출하는 방식
3. 하이브리드 방식: 두 방식을 혼합하여 사용하는 방식

시험에서는 Post-hoc 방식이 블랙박스 모델 설명에 주로 사용된다는 점이 자주 출제된다.

규칙 추출 알고리즘 예시로는 Decision Tree Surrogate, TREPAN, RuleFit 등이 있으며, 각 알고리즘의 장단점과 적용 사례를 숙지해야 한다.

규칙 품질 평가 지표에는 정확도(Accuracy), 커버리지(Coverage), 규칙 복잡도(Complexity)가 있다. 규칙 수가 지나치게 많아지면 해석성이 떨어진다는 점이 함정 포인트로 출제될 수 있다.

금융권에서는 규제 준수를 위해 규칙 기반 설명이 필수적인 경우가 있으며, 의료 분야에서는 환자별 맞춤형 설명을 위해 규칙 기반 접근이 유리할 수 있다.