ㅁ 인프라 및 자동화

ㅇ 정의:
AI 시스템의 배포 및 운영 과정에서 모델의 결정을 설명하고 추적 가능한 로그를 생성하는 기술.

ㅇ 특징:
– 모델의 예측 결과와 입력 데이터를 기록하여 투명성을 보장.
– 규제 준수와 감사 목적에 적합.
– 로그 데이터는 데이터베이스나 클라우드 스토리지에 저장됨.

ㅇ 적합한 경우:
– 의료, 금융 등 고위험 도메인에서의 AI 모델 운영.
– 모델의 신뢰성과 공정성을 입증해야 하는 경우.

ㅇ 시험 함정:
– Explainability와 Debugging을 혼동하는 경우.
– 로그 데이터가 지나치게 방대하여 관리가 어려운 상황을 간과.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Explainability Logging은 모델의 예측 결과를 숨기기 위한 기술이다. (X)
2. Explainability Logging은 입력 데이터와 예측 결과를 기록하여 투명성을 제공한다. (O)

ㅁ 추가 학습 내용

1. Explainability Logging과 데이터 보안 및 개인정보 보호 규정 준수 방법:
– Explainability Logging을 구현할 때, 데이터 보안과 개인정보 보호 규정을 준수하는 것이 필수적입니다. 이를 위해 민감한 데이터를 처리할 때는 데이터 마스킹, 익명화, 또는 암호화 기술을 활용하여 개인 식별이 불가능하도록 해야 합니다.
– 로그 데이터에서 불필요한 개인 데이터를 수집하지 않도록 설계하며, 데이터 최소화 원칙을 준수해야 합니다.
– GDPR, CCPA와 같은 주요 개인정보 보호 규정을 학습하고, 해당 규정에서 요구하는 데이터 저장 기간, 접근 권한 관리, 데이터 삭제 요청 처리 절차 등을 이해해야 합니다.
– 로그 데이터에 접근할 수 있는 권한을 제한하고, 권한이 있는 사용자에게도 접근 내역을 기록하여 감사 추적을 가능하게 해야 합니다.
– Explainability Logging 도구를 선택할 때, 해당 도구가 보안과 규정 준수 요건을 충족하는지 검토해야 합니다.

2. Explainability와 Interpretability의 차이:
– Explainability는 모델의 예측 결과에 대해 사람이 이해할 수 있는 설명을 제공하는 능력을 의미합니다. 이는 “왜 이런 결과가 나왔는가?”에 대한 질문에 답하는 데 중점을 둡니다.
– Interpretability는 모델의 내부 작동 방식이나 구조를 이해하는 능력을 의미합니다. 이는 “모델이 어떻게 작동하는가?”에 대한 질문에 답하는 데 중점을 둡니다.
– Explainability는 주로 복잡한 블랙박스 모델(예: 딥러닝 모델)에서 활용되며, Interpretability는 상대적으로 간단한 모델(예: 선형 회귀, 의사결정나무)에서 더 중요하게 다뤄집니다.

3. 사례를 통한 차이 설명:
– Explainability 사례: 신용 점수 예측 모델이 대출 승인 여부를 결정했다고 가정합니다. Explainability는 “왜 이 사용자가 대출 승인을 받았는지”를 설명하기 위해 특정 입력 변수(예: 소득, 신용 기록 등)가 결과에 어떤 영향을 미쳤는지 보여주는 것입니다.
– Interpretability 사례: 의사결정나무 모델에서 “소득이 5만 달러 이상이고, 신용 점수가 700 이상인 경우 대출이 승인된다”는 규칙을 이해하는 것은 Interpretability에 해당합니다. 이 경우 모델의 작동 방식을 명확히 이해할 수 있습니다.