ㅁ 운영 전략

ㅇ 정의:
모델의 개발, 배포, 유지보수 전 과정을 체계적으로 운영하기 위한 전략과 절차를 수립하는 것.

ㅇ 특징:
– 모델의 라이프사이클 전반을 관리
– 재현성, 추적성, 품질 보증에 중점
– 다양한 모델과 버전을 동시에 관리 가능

ㅇ 적합한 경우:
– 여러 팀이 협업하여 모델을 개발·운영하는 환경
– 규제 준수와 감사가 필요한 산업

ㅇ 시험 함정:
– 단순 모델 저장소와 혼동
– 운영 전략은 기술 스택이 아니라 관리 프로세스임을 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “운영 전략은 모델의 전체 수명주기를 고려한 관리 방안을 포함한다.”
X: “운영 전략은 모델 학습 알고리즘을 선택하는 과정이다.”

================================

1. Model Registry

ㅇ 정의:
모델의 메타데이터, 버전, 상태(개발/검증/배포)를 중앙에서 관리하는 시스템.

ㅇ 특징:
– 모델 아티팩트와 메타데이터 저장
– 승인 프로세스와 배포 이력 관리
– 재현성과 추적성 확보

ㅇ 적합한 경우:
– 다수의 모델을 주기적으로 업데이트하는 환경
– 모델 검증 및 승인 절차가 필요한 기업 환경

ㅇ 시험 함정:
– 단순 파일 저장소와 혼동
– Model Registry는 모델 실행 환경을 직접 포함하지 않음

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Model Registry는 모델 버전과 메타데이터를 중앙에서 관리한다.”
X: “Model Registry는 모델 학습 속도를 향상시키는 GPU 클러스터이다.”

================================

2. Version Control

ㅇ 정의:
모델, 데이터, 코드의 변경 이력을 기록하고 관리하는 시스템.

ㅇ 특징:
– Git, DVC 등의 도구 사용
– 변경 이력 추적 및 롤백 가능
– 협업 시 충돌 해결 기능 제공

ㅇ 적합한 경우:
– 여러 명이 동시에 모델 개발에 참여하는 경우
– 모델 재현성을 보장해야 하는 경우

ㅇ 시험 함정:
– 소스코드 버전관리와 모델 버전관리를 혼동
– 데이터 버전관리를 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Version Control은 모델과 데이터 변경 이력을 추적할 수 있다.”
X: “Version Control은 모델의 하이퍼파라미터를 자동 최적화한다.”

================================

3. Ensemble Management

ㅇ 정의:
여러 개의 개별 모델을 조합하여 최종 예측 성능을 향상시키는 방법과 그 운영 관리.

ㅇ 특징:
– 배깅, 부스팅, 스태킹 등의 기법 사용
– 모델 간 상관관계를 고려한 조합
– 운영 환경에서 가중치 조정 및 성능 모니터링 필요

ㅇ 적합한 경우:
– 단일 모델의 성능이 한계에 도달한 경우
– 다양한 특성을 가진 데이터셋 처리 시

ㅇ 시험 함정:
– 앙상블 기법을 단순히 모델 병렬 처리로 오해
– 운영 관리 측면을 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Ensemble Management는 여러 모델을 조합하여 예측 성능을 향상시킨다.”
X: “Ensemble Management는 단일 모델의 학습 속도를 높이는 GPU 최적화 기술이다.”

ㅁ 추가 학습 내용

[학습 정리]

1. Model Registry
– MLflow Model Registry: 오픈소스, 실험-모델-배포까지 통합 관리, REST API 지원, 다양한 스토리지 연동 가능
– SageMaker Model Registry: AWS 서비스와 밀접 통합, 권한 관리(IAM), 자동 배포 파이프라인과 연계 용이
– Vertex AI Model Registry: GCP 기반, Vertex AI 파이프라인과 통합, AutoML과 연계, 보안 및 버전 관리 기능 포함
– 비교 포인트: 클라우드 종속성, 오픈소스 여부, 통합 서비스 범위, API/SDK 지원, 보안 및 권한 관리

2. Version Control
– 데이터 버전 관리(DVC, LakeFS): 대용량 데이터 추적, Git과 유사한 워크플로, 원본 데이터 무결성 보장, 재현성 확보
– 모델 버전 관리(MLOps 파이프라인 통합): 학습된 모델 아티팩트 버전 추적, 메타데이터 관리, 재배포 및 롤백 용이
– 차이점: 데이터 버전 관리는 입력 데이터셋 추적, 모델 버전 관리는 학습 결과물 관리

3. Ensemble Management
– 배깅(Bagging): 병렬 학습, 분산 샘플링, 분산 처리로 과적합 감소, 예: 랜덤 포레스트
– 부스팅(Boosting): 순차 학습, 이전 오차를 보완, 높은 예측 성능, 예: XGBoost, LightGBM
– 스태킹(Stacking): 서로 다른 모델 조합, 메타 모델로 최종 예측, 유연성 높음
– 장단점:
배깅 – 장점: 안정성, 과적합 방지 / 단점: 성능 향상 폭 제한
부스팅 – 장점: 높은 정확도 / 단점: 과적합 위험, 학습 시간 길어짐
스태킹 – 장점: 다양한 모델 장점 결합 / 단점: 복잡성, 리소스 소모
– 운영 환경 리소스 관리: 병렬 처리 최적화, 메모리/CPU/GPU 자원 할당, 배포 시 지연 최소화 전략

4. 운영 전략
– CI/CD 파이프라인: 모델 빌드, 테스트, 배포 자동화
– 모델 모니터링: 성능 지표 추적, 예측 정확도 변화 감시
– 드리프트 감지: 데이터 분포 변화, 피처 중요도 변화 탐지
– 롤백 전략: 성능 저하 시 이전 안정 버전으로 신속 전환

[시험 대비 체크리스트]
– MLflow, SageMaker, Vertex AI Model Registry의 특징과 차이를 설명할 수 있는가?
– 데이터 버전 관리와 모델 버전 관리의 개념과 차이를 구체적으로 비교할 수 있는가?
– 배깅, 부스팅, 스태킹의 원리, 장단점, 대표 알고리즘을 구분할 수 있는가?
– Ensemble 기법 적용 시 운영 환경에서의 리소스 관리 방법을 제시할 수 있는가?
– CI/CD 파이프라인 구성 요소와 동작 흐름을 설명할 수 있는가?
– 모델 모니터링과 드리프트 감지의 필요성과 구현 방법을 알고 있는가?
– 롤백 전략의 유형과 적용 시나리오를 제시할 수 있는가?