ㅁ 성능 모니터링

ㅇ 정의:
AI 모델 운영 중 비정상적인 성능 저하나 이상 패턴을 자동으로 탐지하고, 그 원인을 설명 가능하게 제공하는 기법.

ㅇ 특징:
– 실시간 또는 배치 방식으로 모델 입력/출력, 시스템 지표를 분석.
– 이상 탐지와 함께 SHAP, LIME 등의 설명 가능 AI(XAI) 기법을 결합하여 원인 파악 지원.
– 단순 알림이 아니라 원인 분석 리포트를 제공하여 대응 속도를 높임.

ㅇ 적합한 경우:
– 모델 예측 결과의 신뢰성이 중요한 금융, 의료, 제조 분야.
– 데이터 분포 변화(데이터 드리프트)나 모델 성능 저하를 조기에 발견해야 하는 경우.

ㅇ 시험 함정:
– 단순 Anomaly Detection과 Explainability를 별개로 오해하는 경우.
– Explainability가 항상 정답 원인을 100% 제공한다고 착각하는 경우.
– 실시간 모니터링과 배치 분석의 차이를 혼동하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “운영 중인 AI 모델의 이상 징후를 탐지하고, 그 원인을 설명하는 기능을 제공한다.”
X: “이상 징후를 탐지하면 자동으로 모델을 재학습한다.”

ㅁ 추가 학습 내용

Anomaly Detection with Explainability 구현 시에는 이상 탐지 알고리즘과 설명 가능성 기법을 함께 설계해야 한다.
이상 탐지 알고리즘 예시: Isolation Forest, One-Class SVM, Autoencoder
설명 가능성 기법 예시: SHAP, LIME, Counterfactual Explanation

시험 포인트
– 데이터 드리프트 탐지와 모델 성능 저하 탐지를 구분할 수 있어야 한다.
– 설명 가능성은 모델의 의사결정 근거를 제공하는 것이며, 반드시 문제의 근본 원인을 알려주는 것은 아니다.

실무 고려 사항
– 경고 임계값 설정
– 알림 채널 구성
– 로그 저장 전략
– GDPR 등 개인정보 보호 규제 준수 여부

환경별 모니터링 차이
– 실시간 스트리밍 환경(Kafka, Flink)과 배치 환경(Spark, Airflow)의 모니터링 차이를 이해해야 한다.