ㅁ 주요 과제

ㅇ 정의: AI 시스템 개발 및 활용 과정에서 발생하는 윤리적, 사회적 문제를 해결하기 위한 주요 논점들.

ㅇ 특징: 기술적 발전과 함께 윤리적 기준 설정이 필수적이며, 다양한 이해관계자 간 협력이 중요함.

ㅇ 적합한 경우: AI 기술이 사회적 영향을 크게 미칠 때, 윤리적 문제를 사전에 해결하고자 할 때.

ㅇ 시험 함정: 주요 과제를 기술적 문제로만 한정하거나, 윤리적 논점을 과소평가하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:

O: AI 주요 과제는 기술적, 윤리적, 사회적 문제를 포함한다.
X: AI 주요 과제는 기술적 문제에만 국한된다.

================================

1. AI 투명성

ㅇ 정의: AI 시스템의 작동 원리, 데이터 처리 과정, 의사결정의 기준 등을 이해 가능하고 명확하게 공개하는 것.

ㅇ 특징: 신뢰성 향상을 위해 필수적이며, 사용자의 이해도를 높이고 책임성을 강화함.

ㅇ 적합한 경우: 고위험 AI 시스템을 도입하거나, 의사결정의 공정성이 중요한 환경에서.

ㅇ 시험 함정: 투명성을 단순히 코드 공개로만 이해하거나, 모든 상황에서 투명성이 항상 최우선이라고 간주하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:

O: AI 투명성은 시스템의 신뢰성을 높이는 데 기여한다.
X: AI 투명성은 모든 AI 시스템에서 반드시 동일한 수준으로 요구된다.

ㅁ 추가 학습 내용

설명 가능성(Explainability)은 AI 시스템이 내리는 의사결정의 과정을 사용자나 이해관계자가 이해할 수 있도록 명확히 하는 개념입니다. 이는 AI 투명성과 밀접하게 연관되어 있지만 동일한 개념은 아닙니다. AI 투명성은 AI 시스템의 설계, 데이터, 알고리즘, 의사결정 과정 전반에 대한 개방성과 관련된 더 넓은 개념입니다. 반면, 설명 가능성은 특히 AI의 의사결정을 사람이 이해할 수 있는 방식으로 설명하는 데 초점을 둡니다.

설명 가능성은 딥러닝 기반 AI에서 특히 중요합니다. 딥러닝 모델은 고도로 복잡한 구조를 가지고 있어 그 내부 작동 원리를 설명하기 어렵기 때문에 종종 “블랙박스”로 비유됩니다. 따라서 설명 가능성 기술은 AI 모델의 복잡성을 줄이고, 모델의 작동 원리와 의사결정 과정을 해석 가능하게 만듭니다. 이는 사용자나 이해관계자가 AI의 결과를 신뢰하고, 필요할 경우 모델의 결정을 검증하거나 수정할 수 있도록 돕습니다.

시험에서는 설명 가능성과 관련하여 다음과 같은 함정이 출제될 수 있습니다:
1. 설명 가능성과 투명성을 동일시하는 오류.
2. 설명 가능성이 단순히 AI 모델의 결과를 공개하는 것이라고 오해하는 문제.
3. 설명 가능성이 딥러닝 모델에만 국한된다고 잘못 이해하는 경우.

따라서 설명 가능성의 정의와 필요성, AI 투명성과의 차이점, 그리고 관련 기술적 접근법(예: SHAP, LIME, 모델 시각화 기법 등)을 명확히 이해하는 것이 중요합니다.