ㅁ 배포 전략

ㅇ 정의:
ML 모델이나 시스템을 실제 환경에 배포하기 위한 다양한 전략을 설계하고 실행하는 과정.

ㅇ 특징:
– 시스템 안정성을 유지하면서 새로운 변경 사항을 점진적으로 반영.
– 다양한 테스트 환경을 통해 잠재적인 문제를 사전에 발견.
– 주로 A/B 테스트, Canary Deployment, Shadow Deployment 등의 기법 활용.

ㅇ 적합한 경우:
– 지속적인 모델 업데이트가 필요한 경우.
– 사용자 경험을 해치지 않으면서 새로운 기능을 도입하고자 할 때.
– 대규모 사용자를 대상으로 안정성을 보장해야 하는 시스템.

ㅇ 시험 함정:
– 배포 전략의 종류를 혼동하거나, 특정 전략의 적합한 사용 사례를 잘못 선택하는 경우.
– Shadow Deployment와 Canary Deployment를 동일한 개념으로 착각하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
O: 배포 전략은 시스템 안정성을 유지하며 새로운 기능을 도입하기 위한 방법이다.
X: 모든 배포 전략은 동일한 방식으로 작동하며, 테스트 환경은 필요하지 않다.

================================

1. Shadow Deployment

ㅇ 정의:
기존 시스템에 영향을 주지 않으면서 새로운 변경 사항을 실제 트래픽에 적용해 테스트하는 배포 전략.

ㅇ 특징:
– 실제 사용자 트래픽을 복제하여 새로운 시스템에서 처리.
– 사용자 경험에 영향을 주지 않음.
– 성능, 오류, 로깅 등의 데이터를 수집하여 새로운 시스템의 안정성을 평가.

ㅇ 적합한 경우:
– 새로운 모델이나 시스템이 기존 시스템과 병렬로 테스트되어야 할 때.
– 실제 트래픽 기반으로 성능을 검증하고자 할 때.
– 사용자에게 영향을 주지 않는 안전한 테스트 환경이 필요한 경우.

ㅇ 시험 함정:
– Shadow Deployment가 사용자에게 직접 영향을 준다고 착각하는 경우.
– 테스트 트래픽을 실제 트래픽과 동일하게 처리하지 않는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
O: Shadow Deployment는 기존 시스템에 영향을 주지 않고 새로운 시스템을 테스트한다.
X: Shadow Deployment는 사용자 트래픽을 직접 변경하여 테스트하는 방식이다.

ㅁ 추가 학습 내용

Shadow Deployment와 관련하여 알아야 할 사항은 다음과 같습니다:

1. **트래픽 복제 시 데이터 동기화 문제**:
– Shadow Deployment에서는 실제 사용자 트래픽을 복제하여 테스트 환경으로 보내기 때문에, 실시간으로 처리되는 데이터의 동기화 문제가 발생할 수 있습니다.
– 테스트 환경에서 복제된 트래픽을 처리하는 동안 원본 시스템에서 데이터가 변경될 경우, 테스트 결과가 실제 시스템 상태와 일치하지 않을 수 있습니다.
– 데이터 동기화 문제를 해결하기 위해, 복제된 트래픽의 데이터 상태를 원본 시스템과 일치시키는 기술적 접근법이 필요합니다. 예를 들어, 데이터 스냅샷을 생성하거나, 이벤트 소싱을 활용하는 방법이 사용될 수 있습니다.

2. **Shadow Deployment와 Canary Deployment 비교**:
– Canary Deployment는 새로운 기능이나 변경 사항을 제한된 사용자 그룹에게만 제공하여, 전체 시스템에 영향을 주기 전에 안정성을 확인하는 방식입니다. 이는 점진적 배포를 통해 위험을 줄이는 데 효과적입니다.
– Shadow Deployment는 모든 사용자 트래픽을 복제하여 테스트 환경에서만 처리하며, 원본 시스템에는 영향을 주지 않습니다. 이를 통해 실제 트래픽을 기반으로 새로운 기능을 테스트할 수 있습니다.
– Canary Deployment는 사용자 경험에 직접 영향을 미치는 반면, Shadow Deployment는 사용자 경험에 영향을 주지 않고 테스트를 수행할 수 있다는 점에서 차이가 있습니다.

3. **사용 상황에 따른 선택**:
– Canary Deployment는 새로운 기능을 점진적으로 배포하여 사용자 피드백을 수집하거나 안정성을 확인하고자 할 때 적합합니다.
– Shadow Deployment는 모든 사용자 트래픽을 기반으로 새로운 기능을 테스트하면서 시스템 안정성을 유지하고자 할 때 적합합니다.
– 두 방식은 서로 배타적이지 않으며, 특정 상황에 따라 함께 사용될 수도 있습니다. 예를 들어, Shadow Deployment로 초기 테스트를 수행한 후 Canary Deployment로 제한된 사용자 그룹에 배포할 수 있습니다.

이 내용을 바탕으로 Shadow Deployment와 Canary Deployment의 차이를 명확히 이해하고, 트래픽 복제 시 발생할 수 있는 데이터 동기화 문제와 이를 해결하기 위한 기술적 접근법을 학습할 수 있습니다.