ㅁ AI 윤리

ㅇ 정의:
AI 윤리는 인공지능의 개발, 배포, 활용 과정에서 사회적·법적·윤리적 책임을 고려하는 원칙과 지침을 의미한다.

ㅇ 특징:
– 기술적 성능뿐 아니라 인권, 공정성, 안전성, 책임성을 중시한다.
– 국제 표준 및 가이드라인(예: OECD AI 원칙, UNESCO 권고 등)과 연계된다.
– 법제화와 함께 기업 내부 지침, 윤리 위원회 운영 등으로 구체화된다.

ㅇ 적합한 경우:
– AI 프로젝트 기획·설계 단계에서 사회적 영향 평가가 필요한 경우
– 공공 서비스, 의료, 금융 등 고위험 분야의 AI 도입 시

ㅇ 시험 함정:
– 단순히 개인정보 보호만을 AI 윤리의 전부로 오해하는 경우
– 기술적 최적화와 윤리적 고려가 상충한다고만 생각하는 경우

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 윤리는 공정성, 투명성, 책임성을 포함한다.”
X: “AI 윤리는 법률과 무관하므로 기술자 재량에 따라 결정된다.”

================================

1. 투명성

ㅇ 정의:
AI 시스템의 의사결정 과정, 데이터 출처, 알고리즘 로직 등을 이해 가능하고 검증 가능하게 공개하는 원칙.

ㅇ 특징:
– 모델의 입력·출력 관계, 의사결정 기준을 설명 가능하게 함(EXPLAINABLE AI).
– 데이터 수집·가공 과정과 알고리즘 변경 이력의 기록·공개.
– 이해관계자가 결과를 해석할 수 있도록 문서화·시각화 제공.

ㅇ 적합한 경우:
– 규제 산업(금융, 의료)에서 AI 의사결정의 근거를 제시해야 하는 경우
– 공공정책 결정 지원 시스템 등 사회적 영향이 큰 분야

ㅇ 시험 함정:
– 모든 알고리즘 코드를 완전히 공개해야만 투명성이 확보된다고 오해하는 경우
– 투명성과 설명가능성을 동일 개념으로 혼동하는 경우

ㅇ 시험 대비 “패턴 보기” 예시:
O: “투명성은 AI 의사결정 과정을 이해 가능하게 하는 것이다.”
X: “투명성은 AI 모델의 성능을 높이기 위해 알고리즘을 비공개로 유지하는 것이다.”

ㅁ 추가 학습 내용

투명성은 설명가능성과 밀접하게 연관되지만 동일한 개념이 아니다. 설명가능성은 주로 기술적 측면에서 모델의 내부 작동 원리를 이해하는 데 초점을 두는 반면, 투명성은 정책과 운영 측면에서 정보 공개와 절차의 명확화에 중점을 둔다.
투명성을 확보하는 방법으로는 모델 카드(Model Card), 데이터 시트(Data Sheet for Datasets), 알고리즘 감사(AI Audit) 등이 있다.
그러나 지나친 투명성은 보안 취약점 노출이나 지적재산권 침해 위험을 초래할 수 있으므로 적절한 균형이 필요하다.
또한 EU AI 법안(AI Act), 미국 NIST AI Risk Management Framework 등 주요 국제 규제에서 투명성을 핵심 요구사항으로 규정하고 있으므로 관련 법과 규제의 동향을 숙지해야 한다.