ㅁ 중점 이슈

ㅇ 정의: 데이터와 알고리즘이 특정 그룹에 대해 불공정하거나 편향된 결과를 초래하지 않도록 하는 문제를 다루는 영역.

ㅇ 특징: 공정성은 데이터 수집, 모델 설계, 결과 해석 등 전 과정에서 고려되어야 하며, 다양한 이해관계자의 관점이 반영되어야 함.

ㅇ 적합한 경우: 공공 정책, 금융, 의료 등 민감한 분야의 AI 모델 개발 시 필수적으로 적용.

ㅇ 시험 함정: 공정성을 지나치게 강조하다가 모델 성능 저하를 간과하거나, 공정성과 편향의 개념을 혼동하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:

1. 공정성은 데이터 수집 단계에서만 고려된다. (X)
2. 공정성은 모든 이해관계자의 관점을 반영하여야 한다. (O)

=========================

1. Fairness Audit

ㅇ 정의: 알고리즘 및 데이터의 공정성을 평가하고 불공정한 요소를 식별하여 수정하는 과정.

ㅇ 특징: 데이터 편향, 알고리즘 설계, 결과 해석 등 다양한 단계에서 공정성을 점검하며, 정량적 지표와 정성적 방법을 병행함.

ㅇ 적합한 경우: 대규모 데이터 기반 의사결정 시스템에서 특정 그룹에 대한 차별을 방지하기 위해 필요.

ㅇ 시험 함정: Fairness Audit을 단순히 데이터 검증 과정으로 이해하거나, 모든 공정성 문제를 해결할 수 있다고 가정하는 오류.

ㅇ 시험 대비 “패턴 보기” 예시:

1. Fairness Audit은 알고리즘 설계 단계에서만 시행된다. (X)
2. Fairness Audit은 정량적 지표와 정성적 방법을 병행하여 공정성을 평가한다. (O)

ㅁ 추가 학습 내용

Fairness Audit은 머신러닝 모델이 특정 그룹에 대해 불공정한 결과를 생성하지 않도록 평가하고 수정하는 과정입니다. 이를 위해 공정성을 평가하는 주요 지표와 모델 수정 방법론을 이해하는 것이 중요합니다.

1. **공정성을 평가하는 주요 지표**:
– **Demographic Parity**: 모델의 예측 결과가 모든 그룹 간에 동일한 비율로 나타나는지를 평가합니다. 예를 들어, 채용 모델에서 모든 인구 집단이 동일한 채용률을 가져야 한다는 기준입니다.
– **Equalized Odds**: 모델의 예측이 모든 그룹에서 동일한 정확도를 가지는지 평가합니다. 즉, 특정 긍정 또는 부정 결과에 대한 민감도(True Positive Rate)와 특이도(False Positive Rate)가 모든 그룹에서 동일해야 합니다.
– **Predictive Parity**: 모델의 예측 결과에 대해 모든 그룹이 동일한 Positive Predictive Value를 가지는지를 평가합니다. 이는 특정 결과가 실제로 발생할 확률이 모든 그룹에서 동일해야 한다는 것을 의미합니다.
– **Individual Fairness**: 비슷한 특성을 가진 개인들에 대해 모델이 비슷한 예측 결과를 제공해야 한다는 기준입니다.

2. **Fairness Audit 결과를 바탕으로 모델 수정 방법론**:
– **재가중치(Reweighting)**: 데이터의 특정 그룹에 가중치를 부여하여 모델이 해당 그룹을 더 공정하게 평가하도록 유도합니다. 예를 들어, 소수 집단의 데이터에 더 높은 가중치를 부여하여 학습 과정에서 불균형을 완화할 수 있습니다.
– **재표본화(Resampling)**: 데이터셋을 수정하여 특정 그룹의 데이터가 더 많이 포함되거나, 불공정성을 유발하는 데이터가 제거되도록 조정합니다. 이는 데이터의 분포를 바꾸어 모델이 학습 과정에서 공정성을 확보하도록 합니다.
– **Post-processing**: 모델이 학습을 완료한 후, 예측 결과를 수정하여 공정성을 확보합니다. 예를 들어, 특정 그룹의 예측 결과를 조정하여 Demographic Parity를 만족시킬 수 있습니다.
– **Adversarial Debiasing**: 적대적 학습을 활용하여 모델이 특정 그룹에 대해 편향된 결과를 생성하지 않도록 유도합니다. 이 방법은 편향을 최소화하는 방향으로 모델을 학습시킵니다.
– **Constraint-based Optimization**: 모델 학습 과정에서 공정성을 만족시키는 제약 조건을 추가하여 모델이 특정 지표를 준수하도록 설계합니다.

공정성 지표를 이해하고 적절한 수정 방법론을 적용함으로써 모델의 편향을 줄이고, 공정하고 신뢰할 수 있는 결과를 제공하도록 개선할 수 있습니다.