ㅁ 운영 전략

ㅇ 정의:
MLOps에서 운영 전략은 모델 배포 후 지속적인 성능 유지 및 개선을 위한 체계적인 방법론을 의미하며, 데이터 수집, 모델 업데이트, 모니터링을 포함한다.

ㅇ 특징:
– 데이터와 모델의 동기화가 중요하다.
– 운영 프로세스 자동화를 통해 효율성을 높인다.
– 지속적인 모니터링과 성능 평가가 필요하다.

ㅇ 적합한 경우:
– 데이터가 계속해서 변화하는 환경에서.
– 모델 성능이 시간이 지나면서 저하될 가능성이 있는 경우.

ㅇ 시험 함정:
– 운영 전략을 단순히 배포 후 작업으로 이해하는 경우.
– 모니터링과 성능 개선을 별도의 작업으로 분리해서 생각하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 운영 전략은 모델 배포 후 지속적인 개선을 포함한다.
– X: 운영 전략은 배포 후 모니터링만을 포함한다.

================================

1. Continuous Fine-tuning

ㅇ 정의:
모델 배포 후 새로운 데이터에 대해 지속적으로 학습하여 성능을 유지하거나 개선하는 방법.

ㅇ 특징:
– 모델 성능 저하를 방지한다.
– 새로운 데이터의 특성을 반영한다.
– 자동화된 학습 프로세스를 활용한다.

ㅇ 적합한 경우:
– 데이터 분포가 자주 변화하는 환경에서.
– 모델의 예측 정확도가 지속적으로 요구되는 경우.

ㅇ 시험 함정:
– Fine-tuning을 초기 학습 과정으로만 이해하는 경우.
– 새로운 데이터가 반드시 기존 데이터와 동일한 분포를 가져야 한다고 생각하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Continuous Fine-tuning은 새로운 데이터에 대해 모델을 지속적으로 학습시킨다.
– X: Continuous Fine-tuning은 배포 후 모델의 성능을 고정시킨다.

ㅁ 추가 학습 내용

Continuous Fine-tuning은 모델의 성능을 지속적으로 개선하고 유지하기 위한 기술로, Transfer Learning과 Incremental Learning을 활용하는 것이 일반적입니다. 또한, 데이터 드리프트와 개념 드리프트를 효과적으로 대응하는 전략이 중요합니다. 아래는 주요 내용을 정리한 학습 노트입니다.

1. **Transfer Learning**
– 기존에 학습된 모델의 지식을 새로운 작업에 적용하는 방법.
– 일반적으로 대규모 데이터셋에서 학습된 모델을 작은 데이터셋에서 미세 조정하여 사용.
– 장점: 학습 시간을 단축하고, 데이터가 부족한 상황에서도 높은 성능을 유지할 수 있음.
– 주요 단계:
1. 사전 학습(Pre-training): 대규모 데이터셋에서 일반적인 특성을 학습.
2. 미세 조정(Fine-tuning): 새로운 데이터셋에서 특정 작업에 맞게 모델을 조정.

2. **Incremental Learning**
– 새로운 데이터가 지속적으로 추가되는 환경에서 모델을 업데이트하는 방법.
– 학습된 모델을 완전히 재학습하지 않고, 추가된 데이터만으로 모델을 점진적으로 개선.
– 장점: 효율적인 학습 가능, 메모리 및 계산 자원 절약.
– 주요 기술:
1. Knowledge Distillation: 기존 모델의 지식을 유지하면서 새로운 데이터를 학습.
2. Replay Mechanism: 이전 데이터를 일부 저장하여 새로운 데이터와 함께 학습.
3. Regularization: 모델이 이전 학습 내용을 잊지 않도록 제약을 추가.

3. **데이터 드리프트(Data Drift)**
– 데이터 분포가 시간에 따라 변경되는 현상.
– 예: 고객 행동 변화, 환경 변화 등으로 인해 입력 데이터의 특성이 달라지는 경우.
– 대응 전략:
1. 주기적인 모델 업데이트: 새로운 데이터를 활용해 모델을 재학습.
2. 데이터 모니터링: 데이터 분포 변화를 실시간으로 감지.
3. Online Learning: 실시간으로 데이터를 학습하여 모델을 업데이트.

4. **개념 드리프트(Concept Drift)**
– 데이터의 분포는 동일하지만 목표(타겟) 값과의 관계가 변화하는 현상.
– 예: 동일한 입력 데이터가 다른 레이블을 가지게 되는 경우.
– 대응 전략:
1. Drift Detection: 개념 드리프트를 감지하는 알고리즘 사용.
2. Adaptive Models: 드리프트를 반영하여 모델을 동적으로 조정.
3. Ensemble Methods: 여러 모델을 사용해 드리프트에 강건한 예측 생성.

Continuous Fine-tuning은 이러한 기술과 전략을 결합하여 모델의 성능을 유지하고 개선하는 데 중요한 역할을 합니다. Transfer Learning과 Incremental Learning을 적절히 활용하고, 데이터 드리프트와 개념 드리프트에 대응하는 방법을 익히는 것이 시험 대비에 도움이 됩니다.