ㅁ 중점 이슈

ㅇ 정의:
데이터나 알고리즘이 특정 집단, 속성, 상황에 대해 불공정하거나 왜곡된 결과를 내는 편향을 식별하는 과정.

ㅇ 특징:
– 통계적 분석, 모델 출력 비교, 샘플링 점검 등을 통해 편향 여부를 탐지.
– 데이터 수집 단계부터 모델 배포 이후까지 전 과정에서 수행 가능.
– 자동화된 도구와 사람의 해석이 함께 필요.

ㅇ 적합한 경우:
– 인공지능 모델이 채용, 대출, 의료 진단 등 민감한 의사결정에 사용될 때.
– 다양한 인구 집단에 대한 공정성을 확보해야 하는 경우.

ㅇ 시험 함정:
– Bias Detection은 편향을 ‘교정’하는 것이 아니라 ‘발견’하는 단계임.
– 단순히 데이터 불균형을 찾는 것과, 예측 결과에서의 차별적 패턴을 찾는 것은 구분해야 함.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “모델의 예측 결과를 집단별로 나누어 정확도를 비교한다.”
O: “데이터셋의 특정 속성 분포를 분석하여 편향 가능성을 확인한다.”
X: “Bias Detection은 발견과 동시에 모든 편향을 제거하는 과정이다.”
X: “Bias Detection은 데이터 전처리 단계에서만 수행된다.”

================================

ㅁ 추가 학습 내용

Bias Detection 추가 학습 정리

1. 편향의 유형
– 데이터 편향: 샘플링 편향, 측정 편향 등 데이터 수집 및 구성 과정에서 발생
– 알고리즘 편향: 모델 구조나 학습 방식에서 기인하는 편향
– 사회적 편향: 문화적·제도적 요인에 의해 발생하는 편향

2. 주요 기법
– Demographic Parity: 집단 간 예측 결과 비율의 균형 여부 확인
– Equalized Odds: 집단별로 참양성률과 거짓양성률이 동일한지 분석
– Disparate Impact: 특정 집단에 불리한 영향을 미치는 정도를 비율로 측정

3. 도구
– IBM AI Fairness 360: 다양한 편향 측정 및 완화 알고리즘 제공
– Google What-If Tool: 시각적 분석을 통한 모델 편향 탐색 지원

4. 규제 및 표준
– EU AI Act: 인공지능 시스템의 투명성, 공정성, 안전성에 관한 법적 요구사항
– IEEE P7003: 알고리즘 편향 고려 사항에 대한 국제 표준

5. 실무 유의점
– 편향 탐지 결과를 이해관계자와 공유
– 개선 계획을 수립하고 문서화하여 추적 가능성 확보