ㅁ 최신 연구 주제

1. Explainable AI (XAI)

ㅇ 정의:
인공지능 모델이 내린 예측이나 결정의 이유를 사람에게 이해할 수 있는 형태로 설명하는 기술 및 방법론.

ㅇ 특징:
– 복잡한 딥러닝 모델의 ‘블랙박스’ 문제를 해결하기 위해 개발됨.
– 규칙 기반 설명, 시각화, 중요 변수 강조 등 다양한 방식 존재.
– 법적·윤리적 요구사항(예: GDPR의 설명권) 대응 가능.

ㅇ 적합한 경우:
– 의료, 금융, 법률 등 의사결정 근거가 중요한 분야.
– 모델의 신뢰성 확보와 사용자 수용성을 높여야 하는 프로젝트.

ㅇ 시험 함정:
– XAI와 단순한 모델 해석 가능성(interpretability)을 혼동.
– ‘모든’ AI 모델이 XAI를 적용하면 설명 가능해지는 것처럼 서술하는 경우.
– 설명 가능성이 높으면 반드시 정확도도 높아진다고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– (O) XAI는 복잡한 AI 모델의 의사결정 과정을 사람이 이해할 수 있도록 설명하는 기술이다.
– (X) XAI는 모든 AI 모델의 정확도를 높이는 기술이다.
– (X) XAI는 모델의 블랙박스 특성을 유지하면서 설명 가능성을 높인다.

ㅁ 추가 학습 내용

XAI(설명 가능한 인공지능)의 주요 접근법은 모델-내재적 방법(Interpretable Model)과 사후 설명(Post-hoc Explanation)으로 구분된다.
대표적인 사후 설명 기법으로는 LIME(Local Interpretable Model-agnostic Explanations), SHAP(SHapley Additive exPlanations), Grad-CAM(Gradient-weighted Class Activation Mapping)이 있다.

시험에서는 다음 내용이 자주 출제된다.
– LIME과 SHAP의 차이
– 글로벌 설명(Global Explanation)과 로컬 설명(Local Explanation)의 구분
– 규제 준수 측면에서 XAI의 필요성
– 설명력과 예측력 간의 트레이드오프

또한, XAI의 한계에 대한 비판적 시각도 중요하다.
– 설명의 주관성 문제
– 복잡한 모델의 근본적 불투명성