ㅁ 책임 있는 AI

ㅇ 정의:
인공지능 기술의 개발과 활용 과정에서 사회적, 법적, 윤리적 책임을 준수하며 인권과 공정성을 보장하는 접근 방식.

ㅇ 특징:
– 공정성, 투명성, 설명 가능성, 편향 감지, 거버넌스 등을 포함
– 규제 및 표준 준수 강조
– 이해관계자 참여와 지속적인 모니터링 필요

ㅇ 적합한 경우:
– 사회적 영향이 큰 AI 서비스 개발 시
– 금융, 의료, 채용 등 민감 영역

ㅇ 시험 함정:
– 단순한 기술적 성능 향상만을 책임 있는 AI로 오해하는 경우
– 윤리적 고려 없이 법적 준수만 강조하는 경우

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 시스템이 사회적 약자에게 불리한 영향을 미치지 않도록 설계하는 것은 책임 있는 AI의 예이다.”
X: “책임 있는 AI는 모델의 정확도를 최대화하는 것만을 목표로 한다.”

================================

1. Fairness

ㅇ 정의:
AI 의사결정에서 인종, 성별, 연령 등 불합리한 차별을 최소화하는 원칙.

ㅇ 특징:
– 데이터 수집·처리 단계에서 편향 제거
– 다양한 그룹 간 성과 균형 확보

ㅇ 적합한 경우:
– 채용, 대출 심사, 범죄 예측 등 공정성 민감 영역

ㅇ 시험 함정:
– 모든 차이를 없애는 것이 공정성이라고 착각
– 통계적 균형만 맞추면 충분하다고 오해

ㅇ 시험 대비 “패턴 보기” 예시:
O: “대출 심사 모델이 동일한 조건의 지원자에게 인종에 관계없이 같은 결과를 주는 것은 Fairness 구현이다.”
X: “Fairness는 모든 사람에게 동일한 결과를 주는 것을 의미한다.”

================================

2. Transparency

ㅇ 정의:
AI 시스템의 설계, 데이터, 의사결정 과정이 이해 가능하도록 공개되는 정도.

ㅇ 특징:
– 알고리즘 구조, 데이터 출처, 한계점 문서화
– 이해관계자 검증 가능성 확보

ㅇ 적합한 경우:
– 규제 기관 보고 필요
– 사용자 신뢰 확보가 중요한 서비스

ㅇ 시험 함정:
– 모든 소스코드를 공개해야만 투명성 확보라고 오해

ㅇ 시험 대비 “패턴 보기” 예시:
O: “모델의 입력 변수와 가중치 영향도를 공개하는 것은 Transparency 확보에 해당한다.”
X: “Transparency는 내부 알고리즘을 외부에 전혀 공개하지 않는 것을 의미한다.”

================================

3. Explainability

ㅇ 정의:
AI의 예측·결정 결과에 대해 사람이 이해할 수 있는 설명을 제공하는 능력.

ㅇ 특징:
– 모델의 의사결정 경로를 해석 가능하게 함
– 규제 준수와 사용자 신뢰 확보에 필수

ㅇ 적합한 경우:
– 의료 진단, 법률 판결 지원 등 고위험 의사결정

ㅇ 시험 함정:
– 단순히 모델 구조를 보여주는 것이 설명 가능성이라고 오해

ㅇ 시험 대비 “패턴 보기” 예시:
O: “의료 AI가 환자 진단 결과와 함께 주요 근거 데이터를 제시하는 것은 Explainability 구현이다.”
X: “Explainability는 AI가 스스로 결정을 내리는 능력을 의미한다.”

================================

4. Bias Detection

ㅇ 정의:
AI 모델이나 데이터셋에서 의도치 않은 편향을 식별하는 과정.

ㅇ 특징:
– 통계 분석, 시각화, 테스트 데이터 활용
– 사전·사후 단계 모두 적용 가능

ㅇ 적합한 경우:
– 신규 데이터셋 구축 시
– 모델 업데이트 전 검증 단계

ㅇ 시험 함정:
– 편향 감지가 곧 편향 제거라고 착각

ㅇ 시험 대비 “패턴 보기” 예시:
O: “채용 AI의 성별별 합격률 차이를 분석하는 것은 Bias Detection에 해당한다.”
X: “Bias Detection은 편향을 자동으로 제거하는 기술이다.”

================================

5. AI Governance

ㅇ 정의:
AI 개발·운영 과정 전반에 대한 정책, 절차, 책임 구조를 마련하는 관리 체계.

ㅇ 특징:
– 윤리 원칙, 법규 준수, 위험 관리 포함
– 조직 내 역할과 책임 명확화

ㅇ 적합한 경우:
– 대규모 AI 프로젝트
– 다수 부서·기관이 연계된 서비스

ㅇ 시험 함정:
– 거버넌스를 단순한 문서 작성 절차로 오해

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 개발 과정에서 데이터 윤리 심의위원회를 운영하는 것은 AI Governance의 예이다.”
X: “AI Governance는 AI 모델의 정확도 향상 기법이다.”

ㅁ 추가 학습 내용

추가 학습 정리

1) 공정성(Fairness)
– 주요 측정 지표:
• Demographic Parity: 예측 결과가 집단 간 동일 비율로 분포하는지 평가
• Equal Opportunity: 실제 긍정 사례에서 집단 간 참양성률(True Positive Rate)이 동일한지 평가
• Predictive Parity: 예측이 긍정일 때 실제 긍정일 확률(Precision)이 집단 간 동일한지 평가
– 상충 관계(Trade-off): 서로 다른 지표를 동시에 만족시키기 어려움. 특정 지표를 높이면 다른 지표가 낮아질 수 있음

2) 투명성(Transparency)
– 모델 카드(Model Cards): 모델의 목적, 성능, 한계, 사용 시 주의사항 등을 문서화
– 데이터 시트(Data Sheets for Datasets): 데이터셋의 수집, 구성, 전처리, 사용 제한 사항 등을 체계적으로 기록
– 활용 사례: 모델 배포 시 신뢰성 확보, 규제 준수, 이해관계자 간 정보 공유

3) 설명 가능성(Explainability)
– LIME(Local Interpretable Model-agnostic Explanations): 개별 예측에 대한 국소적 선형 근사로 특징 중요도 설명
– SHAP(SHapley Additive exPlanations): 게임이론 기반 특징 기여도 계산
– 한계: 계산 비용이 높거나, 복잡 모델에 대한 설명의 정확성이 제한될 수 있음

4) 편향 탐지(Bias Detection) 및 완화 기법
– 사전(pre-processing): 학습 전 데이터의 편향 제거(리샘플링, 재가중치 등)
– 중간(in-processing): 학습 알고리즘에 제약 조건이나 수정 적용(공정성 제약, 가중치 조정)
– 사후(post-processing): 예측 결과를 재조정하여 편향 완화(임계값 변경, 확률 보정)

5) AI 거버넌스(AI Governance)
– OECD AI 원칙: 인권 존중, 투명성, 견고성, 책임성 등
– EU AI Act: 위험 기반 규제 접근, 고위험 AI 시스템 요건
– NIST AI Risk Management Framework: AI 위험 식별, 평가, 완화 절차 제시

6) 책임 있는 AI(Responsible AI)
– 윤리적 설계: 다양한 이해관계자 참여를 통한 요구사항 수립, 영향 평가
– 지속적 모니터링: 성능, 편향, 보안, 규제 준수 여부를 주기적으로 점검하는 체계 구축

시험 대비 체크리스트

[ ] Demographic Parity, Equal Opportunity, Predictive Parity의 정의와 차이 이해
[ ] 공정성 지표 간 상충 관계 설명 가능
[ ] 모델 카드와 데이터 시트의 목적과 구성 요소 숙지
[ ] LIME과 SHAP의 원리와 차이점, 한계 파악
[ ] 사전·중간·사후 편향 완화 기법의 구분과 예시 제시 가능
[ ] OECD AI 원칙, EU AI Act, NIST AI RMF의 핵심 내용 암기
[ ] 이해관계자 참여 방법과 지속적 모니터링 체계 설계 요소 설명 가능