ㅁ AI 및 사회

ㅇ 정의:
AI가 사회에 미치는 영향을 분석하고, 이를 기반으로 안전한 AI 시스템을 설계 및 운영하는 분야.

ㅇ 특징:
– AI의 윤리적, 법적, 기술적 측면을 모두 고려.
– 예측 불가능한 결과를 최소화하고, 인간 중심의 설계를 지향.

ㅇ 적합한 경우:
– AI 시스템이 공공 서비스, 의료, 금융 등 민감한 분야에 사용될 때.
– AI의 의사결정이 사회적 불평등을 초래할 가능성이 있을 때.

ㅇ 시험 함정:
– AI 윤리와 AI Safety를 혼동.
– 기술적 안전성만 강조하고, 사회적 관점을 간과.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “AI Safety는 사회적, 기술적 안전성을 모두 포함한다.”
– X: “AI Safety는 기술적 안전성만을 다룬다.”

================================

1. AI Safety

ㅇ 정의:
AI 시스템이 예상치 못한 위험을 초래하지 않도록 설계, 개발, 운영하는 과정 및 방법론.

ㅇ 특징:
– AI의 의사결정 과정의 투명성과 신뢰성을 중시.
– 안전한 데이터 사용 및 모델 검증 절차 포함.

ㅇ 적합한 경우:
– 자율주행차, 의료 AI 등 인간의 생명과 직결된 애플리케이션.
– 대규모 데이터를 처리하며 높은 신뢰성이 요구되는 시스템.

ㅇ 시험 함정:
– AI Ethics와 AI Safety를 동일시.
– AI Safety를 단순히 시스템의 오류 방지로 축소 해석.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “AI Safety는 윤리적 고려도 포함하여 설계된다.”
– X: “AI Safety는 기술적 오류 방지만을 목표로 한다.”

ㅁ 추가 학습 내용

AI Safety와 관련하여 학습할 중요한 개념들을 다음과 같이 정리할 수 있습니다:

1. Explainable AI (XAI): AI 시스템의 작동 원리와 결과를 인간이 이해할 수 있도록 만드는 기술이나 접근법. 이는 AI의 신뢰성을 높이고, 사용자가 결과를 해석하고 검증할 수 있도록 돕는 데 중점을 둔다. 시험에서는 XAI의 필요성, 구현 방법, 그리고 실제 사례에 대해 다룰 가능성이 높다.

2. Bias Mitigation: AI 모델이 편향된 데이터를 학습함으로써 불공정하거나 차별적인 결과를 생성하지 않도록 하는 방법론. 이는 데이터 수집, 전처리, 모델 학습 및 평가 과정에서 편향을 줄이는 기술과 관련 있다. 시험에서는 편향의 정의, 유형, 그리고 이를 완화하기 위한 기술적 접근법이 중요하게 다뤄질 수 있다.

3. AI Safety의 국제 표준화 노력: AI 기술이 글로벌 환경에서 안전하게 사용되도록 하기 위한 국제 표준화의 필요성과 진행 상황. 여기에는 ISO, IEEE 등의 표준화 기구가 포함되며, 시험에서는 주요 표준화 기구와 그들의 역할, 그리고 표준화 사례를 이해하는 것이 중요하다.

4. 주요 기술적 접근법:
– Formal Verification: AI 시스템이 특정 요구사항을 충족하는지 수학적으로 증명하는 방법. 이는 AI 시스템의 안전성과 신뢰성을 보장하기 위해 사용된다.
– Adversarial Training: 악의적인 공격(예: 적대적 샘플)에 대해 AI 모델의 강건성을 높이기 위한 훈련 방법. 시험에서는 이 기술의 원리와 적용 사례가 자주 언급될 수 있다.

이러한 개념들은 AI Safety의 이론적 배경과 실무적 적용 모두에서 중요한 주제이므로, 각각의 개념을 깊이 이해하고 실제 사례를 통해 학습하는 것이 효과적이다.