ㅁ 국제 동향

ㅇ 정의:
EU AI Regulations는 유럽연합(EU)이 인공지능(AI) 시스템의 개발, 배포, 사용 전 과정에서 안전성, 투명성, 인권 보호를 보장하기 위해 제정한 법적 규제 체계이다.

ㅇ 특징:
– 위험 기반 접근(Risk-based approach) 채택: AI 시스템을 위험 수준에 따라 금지, 고위험, 제한, 최소 위험으로 분류
– 고위험 AI에 대해 데이터 품질, 기록 유지, 투명성, 인적 감독, 견고성 등의 요건 부과
– 위반 시 매출액의 일정 비율 또는 고액의 벌금 부과
– AI 윤리 원칙(인간 중심, 안전성, 차별 방지 등)을 법제화

ㅇ 적합한 경우:
– EU 시장에 AI 제품이나 서비스를 제공하려는 기업
– 글로벌 AI 거버넌스 기준을 마련하려는 정책 입안자
– AI 위험 관리 및 규제 준수 전략이 필요한 조직

ㅇ 시험 함정:
– 모든 AI 시스템이 동일한 규제를 받는다고 오해하기 쉬움 → 실제로는 위험 수준별로 차등 적용
– GDPR과 동일한 범위로 적용된다고 착각 → AI Act는 별도의 법률이며 일부 교차 영역 존재
– 규제가 기술 개발을 전면적으로 막는다고 단정 → 혁신 촉진과 안전 확보를 병행

ㅇ 시험 대비 “패턴 보기” 예시:
– O: EU AI 규제는 위험 기반 접근 방식을 채택하여 고위험 AI에 대해 엄격한 요건을 부과한다.
– X: EU AI 규제는 모든 AI 시스템에 동일한 규제를 적용한다.
– O: 고위험 AI에는 데이터 거버넌스, 투명성, 인적 감독 요건이 포함된다.
– X: EU AI 규제는 GDPR과 동일한 법률로 AI를 규제한다.

ㅁ 추가 학습 내용

EU AI 규제(AI Act)는 2021년 제안되었으며 2024년경 최종 채택이 예상된다.
위험 수준 분류 예시는 다음과 같다.
– 금지 AI: 사회적 신용 점수 부여 등
– 고위험 AI: 의료기기, 채용 알고리즘 등
– 제한적 위험: 챗봇
– 최소 위험: 게임 AI

규제 적용 대상은 EU 내에서 제공되는 AI뿐만 아니라 EU 시장에 진입하는 제3국 기업도 포함되며, 역외 적용이 가능하다.
집행 기관은 각 회원국이 지정하는 감독기관과 유럽 AI 위원회(European Artificial Intelligence Board)이다.
벌금 수준은 최대 3천만 유로 또는 전 세계 연 매출의 6% 중 높은 금액이 부과될 수 있다.

GDPR과의 차이점 및 연계성으로는, GDPR은 개인정보 처리에 중점을 두고 AI Act는 AI 시스템의 투명성과 책임성 요구사항을 강조하며, 두 규제는 상호 보완적인 성격을 가진다.
시험에서는 위험 기반 접근과 금지 AI 사례를 구분하는 문제가 자주 출제되므로, 각 위험군의 구체적 예시를 암기하는 것이 중요하다.