ㅁ AI 윤리

ㅇ 정의: AI 기술 개발 및 활용 과정에서 윤리적 문제를 고려하는 접근법.

ㅇ 특징: 공정성, 투명성, 책임성을 기반으로 함. 다양한 이해관계자 간의 협력이 필수적임.

ㅇ 적합한 경우: 사회적 신뢰가 중요한 AI 시스템, 의료 및 금융 분야의 AI 활용 사례.

ㅇ 시험 함정: 윤리적 문제를 기술적 문제로 혼동하거나, 특정 사례에서 윤리적 고려를 과소평가하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:

================================

1. Transparency

ㅇ 정의: AI 시스템의 의사결정 과정과 작동 원리를 이해 가능하게 만드는 것.

ㅇ 특징: 데이터 사용, 알고리즘 설계, 결과 해석의 투명성을 강조함. 이해관계자에게 명확한 정보를 제공함.

ㅇ 적합한 경우: 설명 가능성이 중요한 의료 진단 AI, 금융 대출 AI 시스템.

ㅇ 시험 함정: 투명성을 단순히 코드 공개로만 오해하거나, 모든 AI 시스템에 동일한 수준의 투명성을 요구하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
O: 투명성은 AI 시스템의 신뢰성을 높이는 데 필수적이다.
X: 투명성은 모든 AI 시스템에서 동일한 방식으로 구현되어야 한다.

================================

ㅁ 추가 학습 내용

1. Explainability(설명 가능성)의 정의와 중요성:
– 설명 가능성은 AI 시스템이 내놓은 결과를 인간이 이해할 수 있는 방식으로 설명하는 능력을 의미합니다.
– 이는 특히 의료, 법률, 금융과 같은 고위험 분야에서 매우 중요합니다. 예를 들어, 환자에게 특정 치료를 권장하는 AI 시스템은 그 결정을 뒷받침하는 이유를 명확히 설명해야 합니다.

2. Transparency(투명성)와 Explainability(설명 가능성)의 차이:
– 투명성은 AI 시스템의 작동 방식, 데이터 소스, 알고리즘 구조와 같은 내부 과정을 공개하는 것을 의미합니다.
– 설명 가능성은 시스템의 결과물과 관련된 이유를 사람이 이해할 수 있는 형태로 전달하는 것을 강조합니다.
– 투명성은 시스템 내부를 들여다보는 것과 관련이 있고, 설명 가능성은 결과를 해석하고 받아들이는 것에 초점이 맞춰져 있습니다.

3. 실제 사례를 통한 이해:
– 의료 분야: AI가 특정 질병에 대해 치료 옵션을 추천하는 경우, 투명성은 AI가 어떤 데이터와 알고리즘을 사용했는지를 공개하는 것을 포함합니다. 설명 가능성은 왜 특정 치료를 추천했는지에 대한 명확한 이유를 제공하는 것입니다.
– 금융 분야: 대출 승인 여부를 판단하는 AI의 경우, 투명성은 AI가 어떤 데이터(신용 점수, 소득 등)를 사용했는지를 보여주는 것이고, 설명 가능성은 대출 거절의 구체적인 이유를 고객에게 설명하는 것입니다.
– 법률 분야: AI가 법적 판결에 대한 조언을 제공할 때, 투명성은 사용된 법적 데이터와 알고리즘의 공개를 포함하고, 설명 가능성은 특정 판결을 추천한 이유를 상세히 설명하는 것입니다.

4. 학습 방법:
– 투명성과 설명 가능성의 개념을 명확히 이해하고, 이를 실제 사례에 적용해 구분하는 연습을 합니다.
– 다양한 분야에서 AI의 설명 가능성이 강조되는 사례를 찾아보고, 각각의 사례에서 투명성과 설명 가능성이 어떻게 구현되었는지 분석합니다.
– AI 시스템의 결과를 설명하는 데 사용되는 기법들(예: SHAP, LIME 등)에 대해 학습하여, 설명 가능성을 높이는 방법을 이해합니다.