서빙 최적화: Distillation

ㅁ 서빙 최적화 ㅇ 정의: – 서빙 최적화는 AI 모델이 실시간 환경에서 효율적으로 작동하도록 성능과 자원을 최적화하는 과정이다. ㅇ 특징: – 고성능 모델을 경량화하여 응답 속도를 개선. – 클라우드 및 엣지 환경에서 리소스 사용량 최소화. ㅇ 적합한 경우: – 제한된 하드웨어 리소스에서 모델을 실행해야 하는 경우. – 사용자 경험을 위해 빠른 응답 시간이 필요한 경우.

시스템 최적화: GPU 최적화

ㅁ 시스템 최적화 ㅇ 정의: 시스템이 주어진 자원 내에서 최대 성능을 발휘하도록 구성 요소를 조정하는 과정. ㅇ 특징: – 성능 향상을 목표로 하며, 병목 현상을 최소화함. – 하드웨어와 소프트웨어의 조화로운 작동이 중요함. ㅇ 적합한 경우: – 대규모 데이터 처리 작업이 필요한 경우. – 실시간 처리가 중요한 애플리케이션에서 요구됨. ㅇ 시험 함정: – 최적화의 범위를 잘못

시스템 최적화: 지연 최소화

ㅁ 시스템 최적화 ㅇ 정의: 시스템 성능을 개선하고 자원을 효율적으로 활용하여 특정 목표를 달성하도록 구성 요소를 조정하는 과정. ㅇ 특징: – 자원 활용 극대화. – 성능 병목 현상 제거. – 목표에 따라 다양한 최적화 기법 적용 가능. ㅇ 적합한 경우: – 시스템의 성능이 요구 사항을 충족하지 못할 때. – 자원 사용량이 비효율적일 때. ㅇ 시험

시스템 최적화: 양자화

ㅁ 시스템 최적화 ㅇ 정의: 시스템 최적화란 AI 시스템의 성능을 극대화하고 리소스 사용을 최소화하기 위해 다양한 기술을 적용하는 과정이다. ㅇ 특징: – 모델의 효율성을 높이고 처리 속도를 향상시킴. – 하드웨어 자원 절약 및 에너지 소비 감소. ㅇ 적합한 경우: – 대규모 데이터 처리 환경에서 성능이 중요한 경우. – 제한된 하드웨어 환경에서 AI 모델을 운영해야 하는

시스템 최적화: 모델 압축

ㅁ 시스템 최적화 ㅇ 정의: 시스템 최적화는 성능을 극대화하고 리소스 사용을 최소화하기 위해 시스템의 구성 요소를 조정하는 과정입니다. ㅇ 특징: – 주로 성능 향상과 비용 절감을 목표로 합니다. – 하드웨어와 소프트웨어 양쪽에서 접근할 수 있습니다. – 데이터 처리량, 응답 시간, 에너지 소비 등을 주요 지표로 삼습니다. ㅇ 적합한 경우: – 리소스가 제한된 환경에서 성능을 최대화해야

자동화: AutoML

ㅁ 자동화 ㅇ 정의: AI 시스템 내에서 반복적이고 수작업이 필요한 프로세스를 자동으로 수행하도록 설계된 기술. ㅇ 특징: – 효율성 증대: 반복적인 작업을 줄여 시간과 비용 절감. – 신뢰성 향상: 사람의 실수를 줄이고 일관성 있는 결과 제공. – 확장성 제공: 대규모 데이터 처리 및 분석 가능. ㅇ 적합한 경우: – 대량의 데이터 전처리 및 분석이 필요한

자동화: Feature Store

ㅁ 자동화 ㅇ 정의: – AI 시스템 구축에서 자동화는 반복적인 작업을 줄이고 효율성을 높이는 기술 및 프로세스를 의미합니다. ㅇ 특징: – 작업의 일관성 유지. – 오류 감소. – 시간 절약 및 비용 효율성 증대. ㅇ 적합한 경우: – 대규모 데이터 처리 및 모델 업데이트가 빈번한 경우. – 여러 팀이 협력하며 동일한 데이터에 접근해야 하는 경우.

자동화: MLOps

ㅁ 자동화 ㅇ 정의: AI 시스템의 개발, 배포, 운영 과정에서 반복적인 작업을 자동화하여 효율성을 극대화하는 방법론. ㅇ 특징: – 반복 작업 감소와 신속한 배포 가능. – 오류를 줄이고 일관성을 유지. – 개발과 운영 팀 간의 협업을 강화. ㅇ 적합한 경우: – 대규모 데이터와 복잡한 모델을 다루는 환경. – 모델 업데이트가 빈번히 필요한 상황. ㅇ 시험

자동화: CI/CD

ㅁ 자동화 ㅇ 정의: AI 시스템 개발 및 운영 과정에서 반복적인 작업을 자동으로 수행하여 효율성과 일관성을 높이는 기술. ㅇ 특징: 작업 속도 향상, 오류 감소, 일관성 유지, 개발 및 운영 간의 원활한 협업 지원. ㅇ 적합한 경우: 대규모 시스템에서의 반복 작업, 배포 주기가 짧은 프로젝트, 사람의 개입을 최소화해야 하는 환경. ㅇ 시험 함정: 자동화의 범위와

모델 모니터링: 성능 모니터링

ㅁ 모델 모니터링 ㅇ 정의: 머신러닝 모델이 배포된 이후에도 지속적으로 성능을 평가하고, 데이터 드리프트나 모델 성능 저하를 감지하여 적절한 조치를 취하는 활동. ㅇ 특징: – 데이터 입력의 변화(데이터 드리프트)를 감지할 수 있음. – 모델의 예측 정확도, 정밀도, 재현율 등 주요 평가 지표를 실시간으로 확인 가능. – 이상 탐지와 경고 시스템을 통해 문제를 사전에 예방. ㅇ