ㅁ 책임 있는 AI

ㅇ 정의:
인공지능 시스템이 사회적, 윤리적 가치를 준수하며 투명하고 신뢰성 있게 동작하도록 설계·운영하는 개념. 공정성, 투명성, 설명 가능성, 프라이버시 보호 등을 포함.

ㅇ 특징:
– 법적·윤리적 기준 준수
– 데이터 편향 최소화 및 차별 방지
– 이해관계자와의 신뢰 형성
– 지속적인 모니터링과 개선

ㅇ 적합한 경우:
– 금융, 의료, 채용 등 사회적 영향이 큰 분야
– 규제가 강화된 산업군
– 다양한 인구집단에 서비스 제공 시

ㅇ 시험 함정:
– ‘책임 있는 AI’를 단순히 ‘성능이 좋은 AI’로 오해
– ‘투명성’과 ‘설명 가능성’을 동일시하는 오류
– 법적 규제 준수만으로 책임 있는 AI가 완성된다고 착각

ㅇ 시험 대비 “패턴 보기” 예시:
O: “책임 있는 AI는 공정성을 포함한 윤리적 원칙을 준수한다.”
X: “책임 있는 AI는 성능이 높으면 공정성을 자동으로 확보한다.”

================================

1. AI Fairness

ㅇ 정의:
AI 시스템이 특정 집단이나 개인에게 불합리한 차별을 하지 않도록 설계·운영하는 원칙 및 기법.

ㅇ 특징:
– 데이터 수집 단계에서의 대표성 확보
– 알고리즘 학습 과정에서 편향 제거
– 결과물 평가 시 집단별 성능 차이 분석
– 정량적 지표(예: Demographic Parity, Equal Opportunity) 활용

ㅇ 적합한 경우:
– 채용, 대출 심사, 보험료 산정 등 사회적 불평등을 야기할 수 있는 의사결정 시스템
– 다양한 인구통계학적 집단을 대상으로 하는 서비스

ㅇ 시험 함정:
– ‘AI Fairness’를 ‘모든 집단에 동일한 결과를 주는 것’으로 단순화
– 편향 제거를 데이터 전처리 단계에서만 수행하면 충분하다고 오해
– 공정성과 정확도가 항상 동시에 극대화 가능하다고 착각

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI Fairness는 집단 간 차별을 최소화하는 것을 목표로 한다.”
X: “AI Fairness는 모든 집단에 동일한 예측 결과를 제공해야 한다.”

ㅁ 추가 학습 내용

AI 공정성 학습 정리

1. 공정성 측정 지표와 상충 관계
– Demographic Parity, Equalized Odds, Predictive Parity 등의 지표는 동시에 만족시키기 어려운 경우가 많음
– 시험에서 ‘모든 지표를 동시에 만족 가능’이라는 문장은 오답일 가능성이 큼

2. 편향 제거 기법의 세 가지 접근 방식
– 데이터 전처리(Pre-processing): 학습 전 데이터의 편향을 수정, 장점은 모델 무관 적용 가능, 단점은 정보 손실 가능성
– 알고리즘 수정(In-processing): 학습 과정에서 공정성 제약 반영, 장점은 모델 최적화와 공정성 동시 고려, 단점은 구현 복잡성
– 결과 보정(Post-processing): 예측 결과를 사후 조정, 장점은 기존 모델 수정 없이 적용 가능, 단점은 예측 왜곡 가능성

3. 법적·윤리적 가이드라인
– EU AI Act, IEEE Ethically Aligned Design 등 공정성 확보를 위한 국제적 규범과 지침 숙지

4. 공정성과 정확도의 트레이드오프
– 공정성을 높이면 정확도가 일부 감소할 수 있으며, 상황에 따라 균형점을 찾아야 함

5. 실제 사례 기반 분석
– 예: 채용 AI가 여성 지원자에게 불리하게 작동한 사례
– 문제 발생 단계 파악(데이터 수집, 모델 학습, 결과 해석 등)
– 해당 단계에서 적용 가능한 편향 완화 조치 식별 및 적용