ㅁ 운영 자동화

ㅇ 정의:
AI 모델과 관련 애플리케이션의 빌드, 테스트, 배포 과정을 자동화하여 운영 효율성과 안정성을 높이는 방법.

ㅇ 특징:
– 코드 변경 시 자동으로 빌드 및 테스트 수행.
– 모델 버전 관리와 환경 일관성 유지.
– 배포 파이프라인에서 수동 개입 최소화.
– AI 모델 특성상 데이터 버전, 모델 아티팩트 관리 포함.

ㅇ 적합한 경우:
– 모델 업데이트 주기가 짧은 MLOps 환경.
– 다수의 개발자·데이터사이언티스트가 협업하는 프로젝트.
– 운영 환경에 신속하고 안정적인 배포가 필요한 경우.

ㅇ 시험 함정:
– 일반 소프트웨어 CI/CD와 동일하다고 혼동.
– 데이터 및 모델 관리 요소를 간과.
– AI 모델 배포 시 재현성(reproducibility) 확보 필요성 누락.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 모델 배포 자동화를 위해 데이터 버전 관리와 모델 아티팩트 추적을 포함한 CI/CD 파이프라인을 구축한다.”
X: “AI 모델 CI/CD는 소스코드만 관리하면 된다.”

================================

1. Automated CI/CD for AI

ㅇ 정의:
AI 프로젝트에서 코드, 데이터, 모델 아티팩트를 포함한 전체 개발·배포 프로세스를 자동화하는 지속적 통합·지속적 배포 기법.

ㅇ 특징:
– 데이터 파이프라인과 모델 학습 파이프라인이 코드 파이프라인과 통합.
– 자동 테스트에 모델 성능 검증 포함.
– 환경별(개발/검증/운영) 배포 자동화.
– 실패 시 자동 롤백 기능.

ㅇ 적합한 경우:
– 모델 성능 모니터링 및 주기적 재학습이 필요한 서비스.
– 다중 환경에서 동일한 모델을 배포해야 하는 경우.
– 모델 업데이트로 인한 서비스 중단을 최소화해야 하는 경우.

ㅇ 시험 함정:
– 데이터셋 변경 시 파이프라인 재실행 필요성을 간과.
– 모델 성능 저하를 자동 감지·배포 중단하는 기능을 CI/CD 범위에서 제외.
– 일반 DevOps CI/CD와 동일하게 생각하고 AI 특수 요구사항을 무시.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 모델의 CI/CD에서는 데이터와 모델 버전 관리, 성능 검증 자동화를 포함해야 한다.”
X: “AI 모델 CI/CD는 코드 변경 시에만 실행된다.”

ㅁ 추가 학습 내용

학습 정리 내용:

1. 점진적 배포 기법
– Canary Release: 새로운 모델을 소수의 사용자 그룹에 먼저 배포하여 성능과 안정성을 검증한 뒤 점진적으로 전체로 확장하는 방식
– Blue-Green Deployment: 두 개의 동일한 환경(Blue, Green)을 운영하여, 새로운 모델을 Green 환경에 배포 후 전환함으로써 무중단 배포를 실현하는 방식

2. 데이터 및 개념 드리프트 대응
– 데이터 드리프트(Data Drift): 입력 데이터 분포가 시간에 따라 변하는 현상 감지
– 개념 드리프트(Concept Drift): 데이터와 레이블 간의 관계가 변하는 현상 감지
– 드리프트 감지 후 자동 재학습 트리거링: 감지 시 모델 재학습 프로세스를 자동 실행하여 성능 저하 방지

3. Feature Store와 CI/CD 통합 사례
– Feature Store를 활용해 일관된 피처 제공
– CI/CD 파이프라인에 통합하여 모델 개발, 테스트, 배포 과정의 자동화와 재현성 확보

4. 보안 관점의 모델 아티팩트 관리
– 모델 아티팩트 서명(Signing): 모델 파일에 디지털 서명을 추가하여 출처와 무결성 보장
– 무결성 검증: 배포 전후 모델 파일이 변조되지 않았음을 확인

5. 하드웨어 리소스 자동 할당 및 스케줄링
– GPU, TPU 등 고성능 연산 자원을 필요 시 자동 할당
– 작업 부하에 따라 효율적으로 스케줄링하여 자원 활용 극대화

6. 파이프라인 모니터링 및 로깅 표준화
– 모델 학습 및 배포 파이프라인의 상태와 성능을 지속적으로 모니터링
– 로그 형식과 수집 방법을 표준화하여 분석과 문제 해결을 용이하게 함