ㅁ 국제 동향

1. EU AI Regulations

ㅇ 정의:
유럽연합(EU)에서 제정한 인공지능 규제 법안으로, AI 시스템을 위험 기반으로 분류하고 각 등급별 규제 요건을 부과하는 법률.

ㅇ 특징:
– 위험 등급(금지, 고위험, 제한적 위험, 최소 위험)으로 구분
– 고위험 AI에 대해 데이터 품질, 투명성, 인적 감독, 보안 요구사항 부과
– 위반 시 매출액 대비 최대 6%의 과징금 부과 가능

ㅇ 적합한 경우:
– 유럽 시장에 진출하거나 EU 시민 데이터를 처리하는 AI 서비스 개발 시

ㅇ 시험 함정:
– 모든 AI 시스템이 동일한 규제를 받는다고 착각하기 쉬움
– 금지 AI 범위(예: 사회적 점수화 시스템)와 고위험 AI 범위를 혼동

ㅇ 시험 대비 “패턴 보기” 예시:
O: “EU AI Act는 위험 기반 접근 방식을 취한다.”
X: “EU AI Act는 모든 AI 시스템에 동일한 규제를 적용한다.”

2. Responsible AI

ㅇ 정의:
공정성, 투명성, 책임성, 프라이버시 보호 등을 포함한 윤리적 AI 개발·운영 원칙.

ㅇ 특징:
– 인권 존중과 차별 방지
– 데이터 편향 최소화
– 이해관계자 참여와 설명 가능성 확보

ㅇ 적합한 경우:
– 사회적 신뢰 확보가 중요한 공공 서비스 AI
– 의료, 금융 등 윤리적 책임이 큰 분야

ㅇ 시험 함정:
– Responsible AI를 단순히 기술적 성능 향상 개념으로 오해
– 공정성과 투명성을 동일 개념으로 혼동

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Responsible AI는 AI의 사회적 신뢰 확보를 목표로 한다.”
X: “Responsible AI는 AI의 연산 속도를 높이는 기술이다.”

3. AI Governance

ㅇ 정의:
AI의 개발, 배포, 운영 전 과정에서 법적·윤리적 기준을 준수하도록 관리·감독하는 체계.

ㅇ 특징:
– 정책, 표준, 절차 수립
– 위험 평가 및 관리 프로세스 포함
– 이해관계자 간 책임과 역할 명확화

ㅇ 적합한 경우:
– 대규모 AI 프로젝트에서 규제 준수와 위험 관리가 필요한 경우

ㅇ 시험 함정:
– AI Governance를 단순한 기술 아키텍처 설계로 오해
– 규제 준수와 내부 통제의 차이를 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI Governance는 AI 전 생애주기 관리 체계를 의미한다.”
X: “AI Governance는 AI 알고리즘의 하이퍼파라미터 튜닝을 뜻한다.”

4. Explainability

ㅇ 정의:
AI 모델의 의사결정 과정을 사람에게 이해할 수 있는 형태로 설명하는 능력.

ㅇ 특징:
– 블랙박스 모델 해석 가능성 제공
– 규제 준수 및 사용자 신뢰 확보에 필수
– 모델 투명성 향상

ㅇ 적합한 경우:
– 금융, 의료 등 규제 산업에서 의사결정 근거 제공이 필요한 경우

ㅇ 시험 함정:
– Explainability를 단순히 모델 정확도 향상 기법으로 오해
– 해석 가능성과 예측 가능성을 혼동

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Explainability는 AI 의사결정의 근거를 제공한다.”
X: “Explainability는 AI의 예측 속도를 높인다.”

ㅁ 추가 학습 내용

정리
EU AI 규제에서는 고위험 AI 범주를 구체적으로 제시하고 있으며, 대표적으로 생체인식 시스템, 중요 인프라 제어 시스템, 교육 및 고용 평가 시스템이 포함된다. 각 범주별로 적용되는 요구사항과 규제 내용을 정확히 숙지해야 한다.
Responsible AI 영역에서는 IEEE, OECD 등 국제 기구가 제시한 AI 윤리 가이드라인의 내용과 차이점을 비교·분석하는 것이 중요하다.
AI 거버넌스에서는 내부 감사 체계, 독립적 검증 절차, 데이터 거버넌스와의 연계 구조가 핵심 포인트로 시험에서 자주 출제된다.
Explainability(설명가능성) 분야에서는 LIME, SHAP, Counterfactual Explanation과 같은 주요 해석 기법의 원리, 특징, 적용 사례, 한계를 이해해야 한다.

시험 대비 체크리스트
1. EU AI 규제에서 고위험 AI의 범주와 각 범주별 요구사항을 구체적으로 설명할 수 있는가?
2. 생체인식, 중요 인프라 제어, 교육·고용 평가 시스템의 규제 포인트를 구분할 수 있는가?
3. IEEE와 OECD의 AI 윤리 가이드라인 주요 내용과 차이점을 비교할 수 있는가?
4. AI 거버넌스의 구성 요소(내부 감사, 독립적 검증, 데이터 거버넌스 연계)를 설명할 수 있는가?
5. LIME, SHAP, Counterfactual Explanation의 원리와 장단점을 구체적으로 말할 수 있는가?
6. 각 해석 기법이 어떤 상황에 적합하며, 어떤 한계를 가지는지 사례와 함께 제시할 수 있는가?