ㅁ 중점 이슈

1. Responsible AI

ㅇ 정의:
– 인공지능 개발과 활용 전 과정에서 윤리적, 법적, 사회적 책임을 고려하여 설계·운영하는 접근 방식.

ㅇ 특징:
– 투명성, 공정성, 안전성, 프라이버시 보호, 책임성 등의 원칙을 포함.
– 기업의 AI 거버넌스 체계와 연계되어 운영.

ㅇ 적합한 경우:
– 사회적 파급력이 큰 AI 서비스 개발 시.
– 규제 준수가 필수적인 산업(금융, 의료 등).

ㅇ 시험 함정:
– 단순히 AI의 성능 향상만을 목표로 하는 경우와 혼동.
– Responsible AI는 기술적 성능보다 윤리·사회적 영향에 초점.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “AI 개발 시 프라이버시 보호, 공정성, 책임성을 포함하는 접근”
– X: “AI의 연산 속도와 정확도를 최우선으로 하는 접근”

2. Fairness Audit

ㅇ 정의:
– AI 모델의 의사결정 결과가 특정 집단에 불공정한 영향을 주지 않는지 점검하는 절차.

ㅇ 특징:
– 데이터 편향, 알고리즘 편향 분석 포함.
– 법적·윤리적 기준에 따른 정량·정성 평가.

ㅇ 적합한 경우:
– 채용, 대출 승인, 보험 심사 등 공정성이 중요한 의사결정 시스템.

ㅇ 시험 함정:
– 단순 기능 테스트와 혼동.
– Fairness Audit은 결과의 공정성을 검증하는 것이 핵심.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “AI 채용 시스템이 성별에 따른 합격률 차이를 보이는지 점검”
– X: “AI 모델의 응답 속도를 측정하는 절차”

3. Bias Detection

ㅇ 정의:
– AI 시스템의 데이터, 알고리즘, 결과물에서 편향을 식별하는 과정.

ㅇ 특징:
– 사전(데이터 수집 단계)·사후(모델 결과 분석 단계) 모두 적용 가능.
– 통계적 분석, 시각화, 샘플링 기법 활용.

ㅇ 적합한 경우:
– 다양한 인구집단 데이터를 다루는 AI 서비스.

ㅇ 시험 함정:
– Bias Detection은 편향을 ‘제거’하는 것이 아니라 ‘식별’하는 단계임.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “모델 결과에서 특정 연령대에 불리한 패턴을 식별”
– X: “모델의 모든 편향을 자동으로 제거하는 기능”

4. Explainability Auditing

ㅇ 정의:
– AI 모델의 의사결정 과정을 설명 가능하게 하고, 이를 검증하는 절차.

ㅇ 특징:
– 모델 해석 기법(LIME, SHAP 등) 활용.
– 설명의 정확성, 일관성, 사용자 이해도 평가.

ㅇ 적합한 경우:
– 규제 준수나 신뢰 확보를 위해 의사결정 과정을 공개해야 하는 경우.

ㅇ 시험 함정:
– 단순한 모델 성능 평가와 혼동.
– Explainability Auditing은 ‘왜’ 그 결과가 나왔는지를 검증.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “AI 대출 심사 모델의 승인/거절 사유를 사용자에게 설명하고 검증”
– X: “모델의 정확도 수치를 계산하는 과정”

ㅁ 추가 학습 내용

[학습 정리]

1. Responsible AI 국제 표준 및 가이드라인 비교
– OECD AI Principles: 인권 존중, 투명성, 공정성, 안전성, 지속 가능한 개발 촉진 등 5대 원칙.
– EU AI Act: 위험 기반 접근(Risk-based approach), 고위험 AI 시스템에 대한 엄격한 규제 요건, 데이터 거버넌스, 투명성, 모니터링 의무.
– 비교 포인트: 규제 강도(EU AI Act는 법적 구속력, OECD는 권고), 적용 범위, 위험 분류 방식, 요구되는 기술·관리 조치.

2. Fairness Audit 주요 지표와 계산 방법
– Disparate Impact Ratio(DIR): 보호집단/비보호집단의 긍정적 결과 비율 비교. 0.8 미만이면 차별 가능성 경고.
계산: (보호집단 긍정 비율) / (비보호집단 긍정 비율)
– Equal Opportunity Difference(EOD): 두 집단 간 True Positive Rate 차이. 0에 가까울수록 공정성 높음.
계산: TPR(보호집단) – TPR(비보호집단)

3. Bias Detection 시 편향 유형과 탐지 방법
– 표본 편향(Sampling Bias): 데이터 수집 단계에서 특정 집단 과소·과대 대표. 탐지: 데이터 분포 분석, 인구통계 비교.
– 측정 편향(Measurement Bias): 데이터 측정·라벨링 과정의 오류나 왜곡. 탐지: 라벨링 품질 검증, 측정 도구 검토.
– 알고리즘 편향(Algorithmic Bias): 학습 과정에서 알고리즘이 특정 집단에 불리하게 작동. 탐지: 모델 출력 분석, 시뮬레이션 테스트.

4. Explainability Auditing에서 모델 유형별 해석 기법 차이
– 블랙박스 모델(딥러닝 등): LIME, SHAP, Counterfactual Explanation 등 외부 설명 도구 활용.
– 화이트박스 모델(의사결정나무, 선형회귀 등): 구조 자체로 해석 가능, 계수 해석, 규칙 기반 설명.

5. 각 절차의 법적 요구사항과 기업 적용 사례
– 법적 요구사항: 개인정보보호법, 차별금지법, AI 관련 규제 준수, 설명 가능성 의무(EU AI Act 등).
– 기업 적용 사례: 금융권 신용평가 모델의 공정성 검증, 의료 AI의 진단 근거 제공, 채용 AI의 편향 점검.

6. 용어 혼동 방지
– Fairness Audit vs Bias Detection: Fairness Audit은 공정성 수준을 평가하는 절차, Bias Detection은 데이터·모델의 편향 원인을 식별하는 과정.
– Explainability vs Interpretability: Explainability는 모델의 예측 결과를 사람이 이해할 수 있도록 설명하는 능력, Interpretability는 모델 구조와 작동 원리를 직관적으로 이해할 수 있는 정도.

[시험 대비 체크리스트]
– OECD AI Principles와 EU AI Act의 주요 내용과 차이점을 설명할 수 있는가?
– Disparate Impact Ratio와 Equal Opportunity Difference의 정의, 계산식, 해석 방법을 알고 있는가?
– 표본 편향, 측정 편향, 알고리즘 편향의 특징과 탐지 방법을 구분할 수 있는가?
– 블랙박스 모델과 화이트박스 모델의 해석 기법 차이를 설명할 수 있는가?
– Responsible AI 관련 절차의 법적 요구사항과 실제 적용 사례를 제시할 수 있는가?
– Fairness Audit과 Bias Detection, Explainability와 Interpretability의 차이를 명확히 구분할 수 있는가?