ㅁ 국제 동향

ㅇ 정의:
AI 기술 및 시스템 개발과 관련된 국제적인 윤리적, 규제적 동향과 가이드라인을 의미.

ㅇ 특징:
– 다양한 국가 및 국제기구에서 AI의 투명성, 공정성, 책임성을 강조.
– 기술 발전과 사회적 수용성 간의 균형을 맞추기 위한 노력.
– 각국의 법적, 규제적 차이가 존재하여 글로벌 표준화 필요.

ㅇ 적합한 경우:
– 글로벌 기업이 AI 시스템을 여러 국가에서 운영할 때.
– 윤리적 AI 개발 및 국제 협력 필요성이 대두될 때.

ㅇ 시험 함정:
– 국제 동향과 특정 국가 규제를 혼동하는 경우.
– 윤리적 원칙과 기술적 구현 방안을 동일시하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 국제 동향은 AI 윤리적 원칙과 규제의 조화를 목표로 한다.
– X: 국제 동향은 모든 국가에서 동일한 규제를 의미한다.

================================

1. Explainability

ㅇ 정의:
AI 시스템의 의사결정 과정을 이해 가능하게 설명할 수 있는 능력.

ㅇ 특징:
– 사용자가 AI의 결정을 신뢰할 수 있도록 돕는 핵심 요소.
– 복잡한 딥러닝 모델의 경우 설명 가능성을 확보하기 어려움.
– 규제 및 법적 요구사항으로 중요성이 증가.

ㅇ 적합한 경우:
– 의료, 금융 등 고위험 분야에서 AI를 활용할 때.
– 의사결정의 투명성과 책임성이 요구되는 상황.

ㅇ 시험 함정:
– Explainability와 Interpretability를 동일한 개념으로 혼동.
– 단순히 모델의 성능만으로 Explainability를 평가하려는 오류.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Explainability는 AI의 의사결정 과정을 사용자에게 이해시키는 능력이다.
– X: Explainability는 항상 모델의 성능을 저하시킨다.

ㅁ 추가 학습 내용

1. LIME(Locally Interpretable Model-agnostic Explanations)은 복잡한 머신러닝 모델의 예측 결과를 해석 가능하게 만들어주는 기법입니다. 특정 데이터 포인트 주변의 국소적인 영역에서 모델의 동작을 단순화하여 설명하는 방식으로 작동합니다. 이를 통해 모델의 의사결정 과정을 이해하고 신뢰도를 높이는 데 도움을 줍니다.

SHAP(SHapley Additive exPlanations)는 게임 이론의 샤플리 값(Shapley Value)을 기반으로 모델 예측에 대한 각 특성(feature)의 기여도를 정량적으로 계산하는 기법입니다. 모델 전반에 걸쳐 공정하고 일관된 설명을 제공하며, 특성의 중요도를 비교하거나 모델의 작동 방식을 분석하는 데 유용합니다.

2. 유럽연합의 ‘AI Act’는 인공지능 기술의 안전성과 투명성을 보장하고 윤리적 문제를 해결하기 위해 제정된 법안입니다. 위험 기반 접근 방식을 채택하여 AI 시스템을 위험 수준에 따라 분류하고, 고위험 AI 시스템에 대해 엄격한 규제를 적용합니다. 이는 AI 기술의 책임 있는 개발과 사용을 촉진하기 위한 중요한 국제적 움직임으로 평가받고 있습니다.

OECD의 ‘AI 원칙’은 신뢰할 수 있는 인공지능의 개발과 사용을 촉진하기 위한 가이드라인입니다. 인간 중심적 접근, 투명성, 공정성, 데이터 보안, 지속 가능성 등을 포함한 5가지 원칙을 제시하며, 회원국들이 AI 기술을 책임감 있게 활용할 수 있도록 방향성을 제공합니다. 이는 국제 사회에서 AI의 윤리적 사용을 장려하는 데 중요한 역할을 하고 있습니다.