ㅁ 중점 이슈

1. Responsible AI

ㅇ 정의:
– 인공지능 개발·운영 전 과정에서 윤리, 법률, 사회적 책임을 고려하여 설계·운영하는 접근 방식.

ㅇ 특징:
– 투명성, 공정성, 책임성, 안전성, 프라이버시 보호를 핵심 원칙으로 함.
– 기업의 AI 거버넌스 체계와 연계되어 지속적 모니터링 필요.

ㅇ 적합한 경우:
– 금융, 의료, 공공 서비스 등 사회적 영향이 큰 AI 시스템 개발 시.

ㅇ 시험 함정:
– Responsible AI를 단순히 법률 준수로만 한정하는 오답 유도.

ㅇ 시험 대비 “패턴 보기” 예시:
– (O) Responsible AI는 투명성, 공정성, 안전성 등을 포함한다.
– (X) Responsible AI는 기술적 정확도만을 의미한다.

================================

2. Fairness Audit

ㅇ 정의:
– AI 시스템이 특정 집단에 불공정한 영향을 미치지 않는지 평가·검증하는 절차.

ㅇ 특징:
– 데이터 수집부터 모델 결과까지 전 과정에서 편향 여부 점검.
– 정량적 지표(정확도 차이, 기회 균등성 등)와 정성적 평가 병행.

ㅇ 적합한 경우:
– 채용, 대출 심사, 범죄 예측 등 사회적 형평성이 중요한 분야.

ㅇ 시험 함정:
– Fairness Audit을 단순히 데이터 품질 검사로 오해하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– (O) Fairness Audit은 AI 결과의 집단 간 형평성 검증을 포함한다.
– (X) Fairness Audit은 오직 모델의 속도 향상만을 목적으로 한다.

================================

3. Bias Detection

ㅇ 정의:
– 데이터, 알고리즘, 결과물에서 발생하는 편향을 식별하는 과정.

ㅇ 특징:
– 통계 분석, 샘플링 검증, 시각화 등을 통해 편향 패턴 탐지.
– 사전(pre-processing), 중간(in-processing), 사후(post-processing) 단계별 적용 가능.

ㅇ 적합한 경우:
– 신규 데이터셋 도입, 모델 재학습 전 검증 단계.

ㅇ 시험 함정:
– Bias Detection을 편향 제거와 동일시하는 오답 유도.

ㅇ 시험 대비 “패턴 보기” 예시:
– (O) Bias Detection은 편향 존재 여부를 찾는 과정이다.
– (X) Bias Detection은 편향을 자동으로 제거하는 기술이다.

================================

4. Explainability Auditing

ㅇ 정의:
– AI 모델의 의사결정 과정을 이해 가능하게 설명하고, 이를 검증하는 절차.

ㅇ 특징:
– LIME, SHAP 등 설명 가능 AI(XAI) 기법 활용.
– 규제 준수, 사용자 신뢰 확보에 필수.

ㅇ 적합한 경우:
– 고위험 AI 시스템, 규제 산업(금융, 의료 등)에서 의사결정 근거 제시 필요 시.

ㅇ 시험 함정:
– Explainability Auditing을 모델 성능 최적화와 동일시하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– (O) Explainability Auditing은 모델 예측 이유를 검증하는 절차이다.
– (X) Explainability Auditing은 모델의 속도 향상만을 목적으로 한다.

ㅁ 추가 학습 내용

Responsible AI에서는 국제 표준인 OECD AI 원칙과 EU AI Act의 주요 원칙과 차이점을 숙지해야 한다.
Fairness Audit에서는 공정성 지표인 Statistical Parity, Equal Opportunity, Predictive Parity 등의 계산 방법과 각각의 한계점을 이해해야 한다.
Bias Detection에서는 표본 편향, 측정 편향, 알고리즘 편향 등 편향 유형을 구분하고 각 유형별 사례를 파악해야 한다.
Explainability Auditing에서는 블랙박스 모델과 화이트박스 모델의 차이를 이해하고, 다양한 XAI 기법의 장단점 및 규제 준수 측면에서의 활용 방안을 학습해야 한다.