ㅁ 핵심 개념 1. GPT ㅇ 정의: – Generative Pre-trained Transformer의 약자로, 대규모 텍스트 데이터로 사전 학습(Pre-training) 후 특정 작업에 맞게 미세 조정(Fine-tuning)하는 언어 모델. ㅇ 특징: – Transformer 아키텍처 기반. – 문맥 이해와 생성에 강점. – 사전 학습과 후속 미세 조정 구조. ㅇ 적합한 경우: – 자연어 생성, 요약, 번역, 질의응답 등 다양한 NLP
ㅁ 성능 추적 ㅇ 정의: AI 모델이 운영 환경에서 예측을 수행할 때, 해당 예측의 품질과 정확도를 지속적으로 측정하고 기록하는 활동. ㅇ 특징: – 실시간 또는 배치 단위로 성능 지표 수집 – 모델의 성능 저하를 조기에 발견 가능 – 다양한 데이터 소스와 연계 가능 ㅇ 적합한 경우: – 모델이 장기간 운영되는 환경 – 데이터 특성이 시간에
ㅁ 성능 개선 1. 모델 압축 ㅇ 정의: – 학습된 모델의 파라미터 수와 메모리 사용량을 줄여 추론 속도를 높이고 배포 효율성을 향상시키는 기술. ㅇ 특징: – 가중치 프루닝, 파라미터 공유, 저정밀도 연산 등을 활용. – 성능 저하를 최소화하며 모델 크기를 줄이는 것이 목표. ㅇ 적합한 경우: – 모바일, 임베디드 기기 등 메모리와 연산 자원이 제한된
ㅁ 배포 방식 ㅇ 정의: AI 모델을 실제 서비스 환경에 배포하여 외부 애플리케이션이나 사용자와 상호작용할 수 있도록 하는 방법론과 기술. ㅇ 특징: – 모델을 외부에서 호출 가능하도록 API나 서비스 형태로 제공 – 성능, 확장성, 지연시간, 유지보수 용이성에 따라 다양한 배포 방식 존재 – 클라우드, 온프레미스, 하이브리드 환경 모두 적용 가능 ㅇ 적합한 경우: – 모델
ㅁ 플랫폼 1. Weights & Biases ㅇ 정의: 머신러닝 실험을 추적, 시각화, 협업할 수 있는 클라우드 기반 MLOps 도구. ㅇ 특징: – 실험 파라미터, 메트릭, 모델 아티팩트 자동 로깅 – 대시보드 기반 실시간 시각화 – 팀 단위 협업 기능 및 프로젝트 관리 지원 – 다양한 딥러닝 프레임워크(Pytorch, TensorFlow 등)와 연동 용이 ㅇ 적합한 경우: –
ㅁ 기법 및 라이브러리 ㅇ 정의: 대규모 AI 모델 학습 시 하나의 장비로 처리하기 어려운 연산을 여러 장비나 GPU에 분산하여 처리하는 방법과 이를 지원하는 라이브러리. ㅇ 특징: – 학습 속도 향상, 메모리 한계 극복 – 통신 오버헤드와 동기화 전략이 성능에 큰 영향을 미침 – 데이터 병렬, 모델 병렬, 샤딩 등 다양한 방식 존재 ㅇ 적합한
ㅁ 도구및 프레임워크 ㅇ 정의: AI 모델 개발 시 학습, 실험, 배포를 효율적으로 지원하는 라이브러리와 툴셋. ㅇ 특징: 반복적인 코드 최소화, 분산 학습 지원, 설정 관리, 메모리 최적화, 대규모 모델 학습 지원 등 다양한 기능 제공. ㅇ 적합한 경우: 대규모 실험 관리, 복잡한 하이퍼파라미터 설정, 다중 GPU/TPU 환경 학습, 메모리 효율화가 필요한 경우. ㅇ 시험
ㅁ 도구 및 방법 ㅇ 정의: 데이터 버전관리를 위해 사용하는 다양한 도구와 접근 방법을 의미하며, 데이터셋, 모델, 실험 결과 등을 추적하고 재현성을 보장하기 위해 활용됨. ㅇ 특징: – 코드 버전관리와 유사하지만, 대용량 데이터와 모델 파일을 효율적으로 관리함. – 협업 환경에서 데이터 변경 이력을 추적 가능. – 재현 가능한 ML 파이프라인 구축에 필수적. ㅇ 적합한 경우:
ㅁ 워크플로우 관리 ㅇ 정의: 데이터 수집, 처리, 적재 등의 전처리 과정을 자동화하고 순서를 제어하는 시스템을 관리하는 활동. ㅇ 특징: – DAG(Directed Acyclic Graph) 기반으로 작업 순서 정의 – 스케줄링, 모니터링, 재시도 로직 제공 – 다양한 데이터 소스 및 처리 엔진과 연동 가능 ㅇ 적합한 경우: – 반복적이고 의존성이 있는 데이터 처리 작업이 많은 경우
ㅁ AI 윤리 ㅇ 정의: 인공지능 기술의 개발, 배포, 활용 과정에서 인간의 가치와 사회적 책임을 고려하여 부작용과 위험을 최소화하는 원칙과 실천 방법. ㅇ 특징: – 기술적 성능뿐만 아니라 사회적 영향과 가치 판단을 포함 – 법적 규제, 산업 표준, 사회적 합의가 복합적으로 작용 – 지속적인 모니터링과 피드백 필요 ㅇ 적합한 경우: – AI 시스템이 사회 전반에