ㅁ 인프라 및 자동화

ㅇ 정의:
– AI 모델의 배포 및 운영 과정에서 인프라와 자동화 기술을 활용하여 효율성과 안정성을 극대화하는 방법론.

ㅇ 특징:
– 다양한 클라우드 플랫폼 및 DevOps 도구와 연계하여 사용됨.
– 모델의 지속적인 학습과 배포를 지원하는 CI/CD 파이프라인 포함.

ㅇ 적합한 경우:
– 대규모 데이터 처리 및 모델 재학습이 빈번한 경우.
– 안정적이고 신속한 모델 배포가 필요한 환경.

ㅇ 시험 함정:
– 인프라의 구체적인 구성 요소를 묻는 문제에서 혼동을 유발할 수 있음.
– 자동화와 관련된 DevOps 도구의 사용 목적을 구분하지 못하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “인프라 자동화는 모델 배포 시간을 단축시킨다.”
– X: “모든 AI 모델은 자동화 환경에서만 운영 가능하다.”

================================

1. Model Explainability

ㅇ 정의:
– AI 모델의 예측 결과를 이해하고 설명할 수 있도록 하는 기술 및 접근 방식.

ㅇ 특징:
– 모델의 투명성을 높이고 신뢰성을 강화함.
– 주로 규제 준수나 의사결정 지원 목적으로 사용됨.

ㅇ 적합한 경우:
– 금융, 의료 등 규제가 엄격한 분야에서 모델을 운영할 때.
– 모델 예측 결과에 대한 신뢰와 해석이 중요한 경우.

ㅇ 시험 함정:
– Explainability와 Interpretability의 차이를 혼동할 수 있음.
– 특정 Explainability 도구의 기능을 과대평가하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “모델 설명 가능성은 AI의 신뢰성을 높이는 데 기여한다.”
– X: “Explainability는 모든 AI 모델에서 동일하게 적용된다.”

================================

2. Logging

ㅇ 정의:
– AI 모델의 배포 및 운영 중 발생하는 데이터를 기록하고 관리하는 기술.

ㅇ 특징:
– 문제 발생 시 원인 분석 및 디버깅에 활용됨.
– 데이터 및 모델의 성능 모니터링에 중요한 역할을 함.

ㅇ 적합한 경우:
– 실시간으로 모델의 성능을 모니터링해야 하는 경우.
– 모델의 운영 중 발생한 오류를 추적해야 하는 환경.

ㅇ 시험 함정:
– 로깅과 모니터링의 차이를 명확히 이해하지 못할 수 있음.
– 로그 데이터의 저장 및 분석 방법을 혼동하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “로깅은 운영 중 발생한 문제를 분석하는 데 필수적이다.”
– X: “로깅은 모델의 성능을 실시간으로 개선한다.”

ㅁ 추가 학습 내용

1. Model Explainability:
모델 설명 가능성(Model Explainability)은 머신러닝 모델이 내린 예측 결과를 이해하고 해석할 수 있도록 돕는 개념입니다. 이를 위해 LIME(Local Interpretable Model-agnostic Explanations)과 SHAP(SHapley Additive exPlanations) 같은 도구가 자주 사용됩니다. LIME은 특정 데이터 포인트에 대해 모델이 왜 특정 결과를 내렸는지 설명하는 데 초점을 맞추며, SHAP는 게임 이론의 샤플리 값을 기반으로 각 특징이 예측에 기여한 정도를 계산합니다. 두 도구 모두 모델의 투명성을 높이고 신뢰성을 확보하는 데 유용합니다.

2. Logging:
로그 데이터는 시스템의 상태와 동작을 추적하고 문제를 진단하는 데 중요한 역할을 합니다. 로그 데이터를 저장하고 분석하기 위해 사용되는 도구로는 ELK Stack(Elasticsearch, Logstash, Kibana)과 Splunk가 있습니다. ELK Stack은 오픈 소스 기반으로 로그 수집(Logstash), 저장(Elasticsearch), 시각화 및 분석(Kibana)을 통합적으로 제공합니다. Splunk는 상용 소프트웨어로, 로그 데이터를 실시간으로 분석하고 대시보드 형태로 시각화하는 데 강력한 기능을 제공합니다. 이러한 도구들은 로그 데이터를 효율적으로 처리하고 시스템 문제를 빠르게 파악하는 데 도움을 줍니다.

3. 인프라 및 자동화의 CI/CD 파이프라인:
CI/CD 파이프라인은 지속적 통합(Continuous Integration)과 지속적 배포(Continuous Deployment)를 통해 소프트웨어 개발 및 배포 과정을 자동화하는 프로세스입니다. Jenkins는 오픈 소스 자동화 서버로, 빌드, 테스트, 배포 작업을 자동화하는 데 사용됩니다. GitHub Actions는 GitHub 플랫폼 내에서 워크플로우를 자동화할 수 있는 도구로, 코드 변경사항에 따라 테스트와 배포를 실행할 수 있습니다. 이러한 도구들은 코드 품질을 유지하고 배포 속도를 높이며, 개발팀이 더 효율적으로 작업할 수 있도록 지원합니다.