ㅁ 책임 있는 AI

ㅇ 정의:
인공지능 시스템이 사회적, 윤리적, 법적 기준을 준수하며 공정하고 투명하게 작동하도록 설계·운영하는 개념.

ㅇ 특징:
– 공정성, 투명성, 설명 가능성, 안전성, 개인정보 보호를 포함
– 이해관계자 신뢰 확보를 목표로 함
– 규제 준수 및 기업 윤리 정책과 연계

ㅇ 적합한 경우:
– 금융, 의료, 채용 등 사회적 영향이 큰 AI 적용 분야
– 규제 기관 보고 및 인증이 필요한 경우

ㅇ 시험 함정:
– 단순히 ‘설명 가능성’만 확보하면 책임 있는 AI라고 오인
– 기술적 측면만 강조하고 거버넌스·프로세스 요소 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “책임 있는 AI는 공정성, 설명 가능성, 개인정보 보호를 모두 포함한다.”
X: “책임 있는 AI는 모델 정확도 향상만을 목표로 한다.”

================================

1. AI Fairness

ㅇ 정의:
AI 모델이 특정 집단에 불리하거나 유리하게 작동하지 않도록 결과의 공정성을 보장하는 개념.

ㅇ 특징:
– Demographic parity, Equalized odds 등 다양한 수학적 정의 존재
– 데이터 수집, 전처리, 모델 학습 전 과정에서 고려 필요

ㅇ 적합한 경우:
– 채용, 대출 심사, 범죄 예측 등 사회적 불평등을 초래할 수 있는 분야

ㅇ 시험 함정:
– 공정성 지표가 하나만 있다고 생각하는 오류
– 정확도와 공정성이 항상 동시에 향상된다고 오인

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI Fairness는 특정 집단에 대한 편향을 완화하는 것을 목표로 한다.”
X: “AI Fairness는 모델의 속도를 높이는 기술이다.”

================================

2. Bias Detection

ㅇ 정의:
AI 모델이나 데이터셋에서 의도치 않은 편향을 식별하는 과정.

ㅇ 특징:
– 데이터 편향, 알고리즘 편향, 사용자 상호작용 편향 등 유형 다양
– 통계 분석, 시각화, 테스트 데이터 활용

ㅇ 적합한 경우:
– 모델 배포 전 품질 점검
– 규제 준수를 위한 사전 검증

ㅇ 시험 함정:
– Bias Detection만으로 편향이 제거된다고 오해
– 데이터 표본 수가 적어도 편향 검출이 정확하다고 착각

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Bias Detection은 모델의 불공정성을 사전에 식별하는 활동이다.”
X: “Bias Detection은 모델의 예측 속도를 향상시키는 최적화 기법이다.”

================================

3. Explainability Auditing

ㅇ 정의:
AI 모델의 의사결정 과정을 검증하고 설명 가능성을 평가하는 절차.

ㅇ 특징:
– LIME, SHAP 등 설명 가능성 도구 활용
– 규제 기관 보고서 작성 시 필수

ㅇ 적합한 경우:
– 금융/의료 등 고위험 AI 시스템 검증
– 신뢰성 확보와 법적 분쟁 대비

ㅇ 시험 함정:
– 설명 가능성 도구가 항상 정확하다고 생각
– 모델 해석이 곧 모델 성능 향상이라고 오인

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Explainability Auditing은 모델의 의사결정 과정을 검증하는 활동이다.”
X: “Explainability Auditing은 모델의 학습 속도를 높이는 방법이다.”

================================

4. Model Governance

ㅇ 정의:
AI 모델의 개발, 배포, 운영, 폐기까지 전 생애주기를 관리하는 체계.

ㅇ 특징:
– 버전 관리, 접근 제어, 변경 기록, 규제 준수 포함
– 모델 위험 평가 및 모니터링

ㅇ 적합한 경우:
– 대규모 AI 시스템 운영 기업
– 규제 산업(금융, 의료)에서의 AI 활용

ㅇ 시험 함정:
– 거버넌스가 기술적 모니터링만 포함한다고 오인
– 문서화 없이도 규제 준수가 가능하다고 착각

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Model Governance는 AI 모델의 전 생애주기를 관리하는 체계다.”
X: “Model Governance는 모델의 하이퍼파라미터 튜닝 기법이다.”

ㅁ 추가 학습 내용

[학습 정리]
책임 있는 AI 관련 주요 개념은 상호 연관성이 있으나, 각 개념의 초점과 역할이 다릅니다.
– AI Fairness: AI 결과의 공정성을 목표로 하는 개념. Equal Opportunity, Predictive Parity 등 다양한 수학적 정의와 적용 사례가 존재.
– Bias Detection: 데이터나 모델에서 편향을 식별하는 과정. Fairness 달성을 위한 전단계. 기법의 한계와 이를 극복하기 위한 Bias Mitigation 방법(데이터 리샘플링, 알고리즘 수정 등)이 중요.
– Explainability Auditing: 모델의 의사결정 과정을 설명 가능하게 만드는 절차를 검증. LIME, SHAP, Counterfactual Explanation 등의 장단점을 비교 이해해야 함.
– Model Governance: 모델의 전 수명주기 관리 체계로, Explainability, Fairness, Bias Detection 등을 포괄. MLOps와 비교 시 MLOps는 운영·배포 중심, Model Governance는 규제·정책·품질 관리 중심.
– 글로벌 규제 동향: EU AI Act, NIST AI Risk Management Framework 등 주요 국제 규제와 표준의 방향성과 차이점을 숙지.

[시험 대비 체크리스트]
1. AI Fairness의 정의와 Equal Opportunity, Predictive Parity 등 수학적 개념 설명 가능 여부
2. Fairness와 Bias Detection의 차이와 관계 명확히 구분 가능 여부
3. Bias Detection 기법의 한계와 Bias Mitigation 방법(데이터, 알고리즘, 사후 처리) 설명 가능 여부
4. Explainability Auditing의 목적과 LIME, SHAP, Counterfactual Explanation의 특징·장단점 비교 가능 여부
5. Model Governance의 범위와 MLOps와의 차이점 설명 가능 여부
6. EU AI Act와 NIST AI Risk Management Framework의 주요 내용과 차이 이해 여부
7. 개념 간 상호작용(예: Governance가 Fairness, Explainability, Bias Detection을 어떻게 포괄하는지) 설명 가능 여부