ㅁ 배포 방식

ㅇ 정의:
특정 머신러닝 모델을 사용자에게 제공하기 위한 기술적 방법론.

ㅇ 특징:
– 배포 방식은 모델의 활용도와 성능을 결정하는 중요한 요소.
– 서버리스, 컨테이너 기반, 온프레미스 등 다양한 방식 존재.

ㅇ 적합한 경우:
– 모델의 사용 빈도와 규모에 따라 적합한 배포 방식을 선택.

ㅇ 시험 함정:
– 배포 방식의 장단점을 혼동하거나 특정 방식이 모든 상황에 적합하다고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 서버리스를 사용하면 인프라 관리 부담이 줄어든다.
– X: 온프레미스는 항상 서버리스보다 성능이 우수하다.

================================

1. 서버리스

ㅇ 정의:
서버를 직접 관리할 필요 없이 클라우드 제공자의 인프라를 활용하여 애플리케이션을 실행하는 배포 방식.

ㅇ 특징:
– 요청이 있을 때만 리소스를 소비하며 비용 효율적.
– 확장성이 뛰어나며 초기 설정이 간단.
– 클라우드 제공자에 의존하는 특성이 있음.

ㅇ 적합한 경우:
– 요청 빈도가 낮거나 간헐적인 애플리케이션.
– 초기 투자 비용을 줄이고 빠르게 서비스를 시작하려는 경우.

ㅇ 시험 함정:
– 서버리스가 항상 비용 효율적이라고 단정짓는 경우.
– 서버리스에서 모든 작업이 자동으로 최적화된다고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 서버리스는 초기에 서버 설정 없이 빠르게 배포 가능하다.
– X: 서버리스는 모든 상황에서 컨테이너 기반 배포보다 성능이 우수하다.

ㅁ 추가 학습 내용

서버리스 배포 방식에 대한 주요 클라우드 제공자의 비교와 실제 사례, 그리고 서버리스 방식의 한계점을 보완하기 위한 전략은 다음과 같이 정리할 수 있습니다.

1. 주요 클라우드 제공자의 서버리스 배포 방식 비교:
– AWS Lambda:
– 특징: 이벤트 기반 실행, 다양한 프로그래밍 언어 지원, AWS 생태계와의 강력한 통합.
– 장점: 높은 확장성, AWS 서비스와의 쉬운 연동.
– 단점: 제한된 실행 시간(최대 15분), 콜드 스타트 문제.
– Google Cloud Functions:
– 특징: Google Cloud Platform(GCP) 서비스와 통합, HTTP 요청 및 이벤트 기반 트리거 지원.
– 장점: GCP 데이터 분석 서비스(BigQuery 등)와의 연동이 용이.
– 단점: 실행 시간 제한(최대 9분), 복잡한 워크플로우에는 부적합.
– Azure Functions:
– 특징: 이벤트 기반 실행, Azure 생태계와의 강력한 통합, 다양한 언어 지원.
– 장점: Azure Logic Apps와의 연동으로 복잡한 워크플로우 구현 가능.
– 단점: 실행 시간 제한(기본 5분, 최대 10분), Azure 서비스 외부와의 통합은 상대적으로 복잡.

2. 실제 사례:
– AWS Lambda: 전자상거래 사이트에서 주문 생성 시 Lambda를 사용해 주문 데이터를 처리하고 데이터베이스에 저장.
– Google Cloud Functions: IoT 기기에서 전송된 데이터를 실시간으로 처리하여 Google BigQuery에 저장.
– Azure Functions: 기업의 채팅봇 서비스에서 고객의 질문을 처리하고 Azure Cognitive Services와 연동해 응답 제공.

3. 서버리스 방식의 한계점과 보완 전략:
– 긴 실행 시간에 따른 비용 증가:
– 해결책: 작업을 더 작은 단위로 분할하여 실행 시간 최적화.
– 대안: 서버리스와 컨테이너 기반 서비스를 혼합하여 사용.
– 디버깅의 어려움:
– 해결책: 클라우드 제공자의 로깅 및 모니터링 도구(AWS CloudWatch, Google Stackdriver, Azure Monitor 등) 활용.
– 콜드 스타트 문제:
– 해결책: 주기적으로 함수를 호출해 콜드 스타트 발생을 줄이거나, 프로비저닝된 동시성 설정 사용.
– 제한된 실행 시간:
– 해결책: 장시간 실행이 필요한 작업은 서버리스 대신 컨테이너 또는 VM 기반 서비스로 전환.

이 내용을 바탕으로 주요 클라우드 제공자의 서버리스 서비스 특징과 한계점, 그리고 이를 보완하기 위한 전략을 이해하고 실제 사례에 적용하는 연습을 통해 시험 대비에 활용할 수 있습니다.