ㅁ 배포 아키텍처 ㅇ 정의: 실시간 서빙(Real-time Serving)은 AI 모델의 예측 결과를 사용자의 요청에 즉시 응답하는 형태로 제공하는 배포 방식으로, 요청-응답 지연(latency)을 최소화하는 것을 목표로 함. ㅇ 특징: – 밀리초~수초 단위의 응답 속도 요구 – 온라인 API 형태로 제공되며, 주로 REST API, gRPC 기반 – 고가용성(HA)과 확장성(Scalability)을 위해 로드 밸런싱, 캐싱, 오토스케일링 적용 – 실시간

ㅁ 배포 아키텍처 ㅇ 정의: – Batch Serving은 일정 주기마다 대량의 데이터를 한 번에 처리하여 결과를 제공하는 AI 모델 서빙 방식이다. – 실시간 응답이 필요하지 않은 경우에 주로 사용되며, 사전 계산된 결과를 저장 후 제공한다. ㅇ 특징: – 데이터 처리량이 크고, 처리 주기가 명확하다. – 처리 시간 동안 결과가 갱신되지 않으며, 일정 간격으로만 업데이트된다. –

ㅁ 배포 아키텍처 1. Model-as-service ㅇ 정의: – 학습된 AI 모델을 API 형태로 배포하여 외부 애플리케이션이 네트워크를 통해 호출하여 사용할 수 있도록 하는 방식. – 모델은 중앙 서버나 클라우드 환경에서 실행되며, 요청에 따라 결과를 반환. ㅇ 특징: – 모델 업데이트 및 관리가 중앙집중식으로 용이. – 다양한 클라이언트(웹, 모바일, IoT 등)에서 동일한 모델을 공유 가능. –

ㅁ 배포 아키텍처 ㅇ 정의: 모델을 API 형태로 배포하여 외부 애플리케이션이나 서비스에서 실시간으로 호출할 수 있도록 제공하는 방식. ㅇ 특징: – REST API, gRPC 등 네트워크 프로토콜을 통해 모델 예측 결과를 제공 – 모델과 애플리케이션이 분리되어 있어 확장성과 유지보수 용이 – 실시간 응답 속도가 중요하며, 서버 자원과 네트워크 대역폭 관리 필요 – 컨테이너(Docker)와 오케스트레이션(Kubernetes) 환경에서

ㅁ 설명가능 인공지능(XAI) 핵심기법 ㅇ 정의: 모델이 제공하는 설명이 전체 예측 결과를 완전하게 반영해야 한다는 원칙. 즉, 모델의 출력값이 설명 변수들의 기여도 합과 정확히 일치해야 함. ㅇ 특징: – SHAP, Integrated Gradients 등에서 중요한 속성으로 사용됨. – 설명의 신뢰성을 높이며, 부분적 설명이 아닌 전체적인 설명을 요구함. – 수학적으로는 예측값 = 모든 특성 기여도의 합 +

ㅁ 설명가능 인공지능(XAI) 핵심기법 ㅇ 정의: 사용자가 인공지능 모델의 동작 원리와 예측 결과를 직관적으로 이해할 수 있도록 정보를 제공하는 능력. 모델의 복잡성을 줄이거나, 결과를 사람이 해석 가능한 형태로 변환하는 것을 목표로 함. ㅇ 특징: – 주로 시각화, 규칙 기반 설명, 예시 기반 설명 등을 활용 – 비전문가도 이해할 수 있도록 단순화된 표현 사용 – 모델의

ㅁ 설명가능 인공지능(XAI) 핵심기법 1. Faithfulness ㅇ 정의: 모델이 제공하는 설명이 실제 모델의 의사결정 과정과 얼마나 일치하는지를 나타내는 성질. 즉, 설명이 모델 내부의 진짜 작동 원리를 충실히 반영하는 정도. ㅇ 특징: – 설명이 직관적으로 이해되더라도 실제 모델의 내부 로직과 다르면 Faithfulness가 낮음. – 모델의 예측 결과 변경 시 설명도 일관되게 변해야 함. – 복잡한 딥러닝

ㅁ 설명가능 인공지능(XAI) 핵심기법 1. SHAP 값 ㅇ 정의: SHAP(SHapley Additive exPlanations) 값은 게임이론의 Shapley 값을 기반으로 각 특징(feature)이 모델 예측에 기여한 정도를 정량적으로 설명하는 기법. ㅇ 특징: – 모든 특징의 기여도를 공정하게 분배 – 모델 불문(트리, 딥러닝 등) 적용 가능 – 로컬(local) 및 글로벌(global) 설명 모두 제공 – 계산량이 많아 대규모 데이터셋에서는 근사치 사용

ㅁ 설명가능 인공지능(XAI) 핵심기법 ㅇ 정의: – Class Activation Map(CAM)은 CNN 기반 모델에서 특정 클래스 예측에 기여한 이미지의 영역을 시각적으로 표시하는 기법으로, 마지막 합성곱층의 feature map과 해당 클래스의 가중치를 결합하여 생성한다. ㅇ 특징: – 모델의 내부 작동을 시각적으로 이해할 수 있음 – 주로 이미지 분류 모델에서 사용 – 특정 클래스별로 활성화 영역을 강조 – Grad-CAM

ㅁ 설명가능 인공지능(XAI) 핵심기법 1. Local Surrogate ㅇ 정의: 특정 예측 결과를 설명하기 위해, 원래 복잡한 모델 대신 해당 예측 근처의 입력 데이터에 대해 단순하고 해석 가능한 대체 모델(선형 회귀, 의사결정나무 등)을 학습시켜 설명하는 기법. ㅇ 특징: – 전체 모델(global)을 설명하는 것이 아니라 개별 예측(local)에 집중. – 원래 모델은 블랙박스로 유지되지만, 근처 데이터 샘플을 생성하여