AI 트렌드: AI 윤리 – Fairness
ㅁ AI 윤리
ㅇ 정의:
인공지능 시스템이 편향 없이 모든 사용자와 집단에 대해 공정하게 작동하도록 하는 원칙과 기술.
ㅇ 특징:
– 데이터 수집, 처리, 모델 학습 과정에서 발생할 수 있는 편향을 최소화.
– 알고리즘 결과가 특정 집단에 불리하게 작용하지 않도록 지속적인 모니터링 필요.
– 법적 규제, 사회적 합의와 밀접한 연관.
ㅇ 적합한 경우:
– 채용, 대출 심사, 범죄 예측 등 사회적 영향이 큰 의사결정 시스템.
– 다양한 인구 집단이 포함된 서비스.
ㅇ 시험 함정:
– “정확도”가 높다고 해서 항상 공정한 것은 아님(O/X 문제에서 자주 출제).
– 편향 제거는 단순히 데이터 양을 늘리는 것만으로 해결되지 않음.
ㅇ 시험 대비 “패턴 보기” 예시:
– O: AI의 공정성 확보를 위해 데이터 전처리, 알고리즘 수정, 결과 사후 조정이 모두 사용될 수 있다.
– X: 공정성 확보는 데이터 수집 단계에서만 고려하면 충분하다.
================================
1. Fairness
ㅇ 정의:
인공지능이 의사결정 과정에서 특정 집단이나 개인에게 불합리한 차별을 하지 않는 성질.
ㅇ 특징:
– 통계적 공정성(Statistical Fairness)과 개별적 공정성(Individual Fairness) 개념 존재.
– 편향 측정 지표: Demographic Parity, Equal Opportunity, Equalized Odds 등.
– 데이터, 알고리즘, 결과 단계별로 편향이 발생할 수 있음.
ㅇ 적합한 경우:
– 사회적 불평등 해소가 중요한 분야.
– 법률, 인권 관련 규제가 엄격한 산업.
ㅇ 시험 함정:
– 공정성 지표 간에는 상충(trade-off)이 발생할 수 있음.
– 모든 지표를 동시에 만족시키는 것은 현실적으로 어려움.
ㅇ 시험 대비 “패턴 보기” 예시:
– O: Equal Opportunity는 긍정 클래스에 대해 집단 간 참양성률(TPR)을 동일하게 맞추는 것을 목표로 한다.
– X: Demographic Parity는 집단별 데이터 수를 동일하게 맞추는 것을 의미한다.
ㅁ 추가 학습 내용
공정성(Fairness) 관련 추가 학습 정리
1. 공정성 측정 지표 정의와 수식
– Demographic Parity: 집단별 긍정 예측 비율이 동일해야 함. P(ŷ=1 | A=a) = P(ŷ=1 | A=b)
– Equalized Odds: 집단별 True Positive Rate(TPR)와 False Positive Rate(FPR)이 모두 동일해야 함. P(ŷ=1 | Y=1, A=a) = P(ŷ=1 | Y=1, A=b) 및 P(ŷ=1 | Y=0, A=a) = P(ŷ=1 | Y=0, A=b)
– Predictive Parity: Positive Predictive Value(PPV)가 집단 간 동일해야 함. P(Y=1 | ŷ=1, A=a) = P(Y=1 | ŷ=1, A=b)
2. 편향 제거 기법
– 사전(pre-processing): 데이터 단계에서 편향 완화. 예: 재표본추출(re-sampling), 가중치 조정(re-weighting)
– 중간(in-processing): 모델 학습 과정에서 편향 제어. 예: 적대적 편향 제거(adversarial debiasing)
– 사후(post-processing): 모델 예측 결과를 조정. 예: 임계값 조정(threshold adjustment)
3. Fairness와 Accuracy의 트레이드오프
– 공정성을 강화하면 정확도가 감소할 수 있으며, 반대로 정확도 극대화 시 특정 집단에 불리한 편향이 생길 수 있음
– 비즈니스 의사결정 시 공정성 목표, 법적 요구사항, 고객 신뢰, 사회적 책임 등을 종합적으로 고려해야 함
4. 실제 사례
– COMPAS 재범 예측 알고리즘: 흑인 피고인에게 더 높은 재범 위험 점수를 부여한 편향 논란
– 채용 AI 성별 편향: 여성 지원자에게 불리하게 작용한 사례
5. 법적·규제적 동향
– EU AI Act: 고위험 AI 시스템에 대해 공정성과 투명성 확보 요구
– 미국 Algorithmic Accountability Act: 자동화된 의사결정 시스템의 편향 평가 및 시정 요구