ㅁ AI 및 사회

ㅇ 정의:
인공지능 기술의 개발과 활용 과정에서 발생할 수 있는 윤리적 문제를 다루고, 사회적 책임과 가치 기준을 반영하여 AI를 설계·운영하는 원칙과 프레임워크.

ㅇ 특징:
– 투명성, 공정성, 설명가능성, 책임성, 프라이버시 보호 등이 핵심 가치.
– 기술적 측면뿐 아니라 법·사회·문화적 요소를 함께 고려.
– 국제 표준(예: OECD AI 원칙, EU AI Act)과의 연계 필요.

ㅇ 적합한 경우:
– AI 시스템이 사람의 권리, 안전, 프라이버시에 직접 영향을 미치는 경우.
– 공공 부문, 의료, 금융, 교육 등 사회적 파급력이 큰 분야.

ㅇ 시험 함정:
– 단순히 ‘AI 안전’과 혼동하여 기술적 보안만 강조하는 경우.
– ‘윤리’를 법적 규제와 동일시하는 경우.
– ‘공정성’을 단순히 데이터 편향 제거로만 축소 해석.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 윤리는 투명성과 설명가능성을 포함한다.”
O: “AI 윤리 원칙은 기술적, 사회적 요소를 모두 고려해야 한다.”
X: “AI 윤리는 법적 규제와 동일하다.”
X: “AI 윤리는 데이터 보안만을 의미한다.”

ㅁ 추가 학습 내용

AI 윤리와 관련하여 시험에 자주 출제되는 핵심 개념은 다음과 같다.
설명가능한 AI(Explainable AI, XAI): AI의 의사결정 과정을 사람이 이해할 수 있도록 설명하는 기술과 방법.
책임 있는 AI(Responsible AI): AI 개발과 활용 전 과정에서 사회적, 법적, 윤리적 책임을 다하는 접근.
편향(Bias)과 차별(Discrimination): 데이터나 알고리즘 설계에서 비롯된 불공정한 결과와 이에 따른 차별 문제.
데이터 거버넌스: 데이터의 수집, 저장, 활용, 폐기 전 과정에 대한 관리와 규제 체계.

국제 기구(OECD, UNESCO, EU 등)가 제시하는 AI 윤리 원칙의 공통 요소는 다음과 같다.
투명성: AI의 동작과 의사결정 과정을 명확히 공개.
공정성: 특정 집단이나 개인에게 불리하지 않도록 설계.
안전성: AI가 의도치 않은 피해를 발생시키지 않도록 보장.
책임성: AI의 결과와 영향에 대해 책임을 질 수 있는 체계 마련.
프라이버시 보호: 개인 정보와 데이터 보호를 철저히 준수.

실제 사례 이해가 중요하다. 예시로 채용 알고리즘의 성별 편향, 범죄 예측 AI의 인종차별 논란 등이 있으며, 이를 통해 응용형 문제에 대비할 수 있다.

시험에서는 AI 윤리, AI 안전, AI 보안의 차이를 구분하는 문제가 자주 출제된다. 또한 기술적 문제 해결만으로 윤리 문제가 완전히 해소되지 않는다는 점을 강조하는 문장이 정답으로 출제될 가능성이 높다.