ㅁ AI 윤리

ㅇ 정의:
인공지능 기술 개발 및 활용 과정에서 사회적 책임, 공정성, 투명성, 안전성을 확보하기 위한 원칙과 지침.

ㅇ 특징:
법적 규제와 사회적 기대를 모두 고려하며, 기술적·비기술적 요소를 통합적으로 관리.

ㅇ 적합한 경우:
공공 부문, 금융, 의료 등 사회적 영향이 큰 분야의 AI 도입 시.

ㅇ 시험 함정:
단순히 개인정보 보호만을 의미한다고 오해하기 쉬움.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 윤리는 사회적 책임과 기술적 안전성을 모두 포함한다.”
X: “AI 윤리는 개인정보 보호와 동일하다.”

================================

1. Responsible AI

ㅇ 정의:
AI 시스템이 사회적 책임을 다하도록 설계·운영하는 접근 방식으로, 윤리적 원칙과 규제 준수를 포함.

ㅇ 특징:
투명성, 공정성, 설명 가능성, 안전성, 프라이버시 보호를 포괄.

ㅇ 적합한 경우:
AI 의사결정 결과가 개인 또는 사회에 중대한 영향을 미치는 경우.

ㅇ 시험 함정:
Responsible AI를 단일 기술로 오해하거나, 규제 준수만을 의미한다고 착각.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Responsible AI는 기술적·윤리적 기준을 모두 충족하는 AI 개발을 의미한다.”
X: “Responsible AI는 법률 준수만을 의미한다.”

================================

2. Fairness

ㅇ 정의:
AI 의사결정에서 인종, 성별, 연령 등 특정 집단에 대한 차별이나 편향을 최소화하는 원칙.

ㅇ 특징:
데이터 전처리, 알고리즘 설계, 결과 해석 단계에서 편향 제거 노력 필요.

ㅇ 적합한 경우:
채용, 대출 심사, 범죄 예측 등 사회적 불평등을 악화시킬 수 있는 분야.

ㅇ 시험 함정:
모든 차이를 없애는 것과 공정성을 혼동.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 공정성은 불합리한 차별을 최소화하는 것을 목표로 한다.”
X: “AI 공정성은 모든 집단의 결과를 동일하게 만든다.”

================================

3. Transparency

ㅇ 정의:
AI 시스템의 의사결정 과정과 작동 원리를 이해 가능하게 공개하는 원칙.

ㅇ 특징:
모델 구조, 데이터 출처, 의사결정 로직에 대한 설명 제공.

ㅇ 적합한 경우:
규제기관 보고, 사용자 신뢰 확보, 법적 분쟁 예방.

ㅇ 시험 함정:
모든 소스코드를 공개하는 것과 혼동.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 투명성은 의사결정 근거를 이해할 수 있도록 정보를 제공하는 것이다.”
X: “AI 투명성은 모든 내부 코드를 공개하는 것이다.”

================================

4. Accountability

ㅇ 정의:
AI 시스템의 결과와 영향에 대해 명확한 책임 소재를 규정하는 원칙.

ㅇ 특징:
오류 발생 시 책임 주체를 명확히 하고, 피해 구제 절차를 마련.

ㅇ 적합한 경우:
자율주행차 사고, 의료 AI 오진 등 인명·재산 피해 가능성이 있는 분야.

ㅇ 시험 함정:
기술 개발자만 책임진다고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 책임성은 결과에 대한 명확한 책임 주체를 설정하는 것이다.”
X: “AI 책임성은 개발자 개인에게만 적용된다.”

ㅁ 추가 학습 내용

Responsible AI의 7대 원칙과 적용 사례
1. 공정성: 알고리즘이 인종, 성별, 연령 등 특정 집단에 불리하게 작용하지 않도록 설계. 예: 채용 AI에서 성별 편향 제거.
2. 투명성: AI의 의사결정 과정과 근거를 이해할 수 있도록 공개. 예: 신용평가 모델의 설명 제공.
3. 프라이버시: 개인정보를 안전하게 보호하고 최소한만 수집·활용. 예: 데이터 익명화 처리.
4. 안전성: AI 시스템이 예측 불가능한 오류나 위험을 최소화. 예: 자율주행차의 안전 프로토콜 적용.
5. 포용성: 다양한 사용자 집단이 차별 없이 이용 가능하도록 설계. 예: 장애인 접근성 기능 포함.
6. 지속가능성: 환경 영향을 최소화하고 장기적 사용 가능성 확보. 예: 에너지 효율적인 AI 학습 방식.
7. 인권 존중: AI가 인권을 침해하지 않도록 보장. 예: 감시 기술의 남용 방지.

Fairness 측정 지표와 상충 관계
– Statistical Parity: 예측 결과에서 긍정적 결과 비율이 집단 간 동일해야 함.
– Equal Opportunity: 실제로 긍정적인 사례에서 집단 간 True Positive Rate이 동일해야 함.
– Predictive Parity: 예측이 긍정일 때 실제로 긍정일 확률(Precision)이 집단 간 동일해야 함.
– 상충 관계: 하나의 지표를 만족시키면 다른 지표를 만족시키기 어려운 경우가 존재하며, 데이터 분포와 목적에 따라 우선순위 설정 필요.

Transparency 구현 방법과 규제 준수 사례
– Explainable AI: 모델의 예측 근거를 사람이 이해할 수 있도록 설명.
– 모델 카드(Model Card): 모델의 성능, 한계, 사용 권장 사항 등을 문서화.
– 데이터 시트(Data Sheet): 데이터셋의 수집, 구성, 한계, 사용 조건 등을 명시.
– 규제 준수 사례: 금융권에서 신용평가 모델 설명 제공 의무 준수.

Accountability 확보를 위한 법적 프레임워크와 책임 분배 모델
– EU AI Act: 위험 기반 접근으로 AI 시스템 규제, 고위험 AI에 엄격한 요건 부과.
– OECD AI Principles: 인권, 공정성, 투명성, 책임성 등을 포함한 국제 가이드라인.
– 책임 분배 모델: 개발자, 배포자, 운영자 간 역할과 법적 책임 명확화.

윤리적 실패 사례와 교훈
– COMPAS 알고리즘 편향 사건: 범죄 재범 위험 예측에서 흑인에게 불리하게 작용.
– 교훈: 데이터 편향과 알고리즘 설계 시 공정성 검증의 필요성, 투명성 강화 필요.

AI 윤리 관련 국제 표준과 기업별 가이드라인 차이점
– ISO/IEC JTC 1/SC 42: AI의 거버넌스, 신뢰성, 윤리성에 관한 국제 표준 개발.
– 기업별 가이드라인 차이: 각 기업의 산업 특성, 리스크 인식, 법적 환경에 따라 원칙과 실행 방법이 상이함.