ㅁ 도구및 프레임워크

ㅇ 정의:
AI 모델 개발 시 학습, 실험, 배포를 효율적으로 지원하는 라이브러리와 툴셋.

ㅇ 특징:
반복적인 코드 최소화, 분산 학습 지원, 설정 관리, 메모리 최적화, 대규모 모델 학습 지원 등 다양한 기능 제공.

ㅇ 적합한 경우:
대규모 실험 관리, 복잡한 하이퍼파라미터 설정, 다중 GPU/TPU 환경 학습, 메모리 효율화가 필요한 경우.

ㅇ 시험 함정:
각 도구의 주된 목적과 기능 차이를 혼동하는 문제, 특정 기능이 어느 프레임워크에 속하는지 구분하는 문제.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 분산 학습과 코드 구조화 지원을 위해 PyTorch Lightning을 사용할 수 있다.
– X: Hydra는 분산 학습을 위한 GPU 최적화 라이브러리이다.

================================

1. PyTorch Lightning

ㅇ 정의:
PyTorch 기반의 경량화된 고수준 프레임워크로, 모델 학습 코드를 구조화하고 반복 코드를 줄여주는 라이브러리.

ㅇ 특징:
모델, 데이터, 학습 루프를 모듈화, 분산 학습 및 mixed precision 지원, 코드 재사용성 향상.

ㅇ 적합한 경우:
실험 재현성 확보, 분산 학습 환경에서 빠른 프로토타이핑, 복잡한 학습 루프 단순화.

ㅇ 시험 함정:
PyTorch 자체 기능과 혼동, Lightning이 새로운 딥러닝 프레임워크라고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: PyTorch Lightning은 학습 루프를 자동화하여 코드량을 줄인다.
– X: PyTorch Lightning은 TensorFlow 기반 프레임워크이다.

================================

2. Hydra

ㅇ 정의:
복잡한 애플리케이션의 설정 관리를 위한 Python 기반 설정 프레임워크.

ㅇ 특징:
YAML 기반 설정 파일 계층화, 명령줄에서 설정 오버라이드 가능, 실험 파라미터 조합 자동화.

ㅇ 적합한 경우:
다양한 하이퍼파라미터 실험, 설정 파일 재사용, 여러 환경에서의 설정 관리.

ㅇ 시험 함정:
Hydra를 모델 학습 프레임워크로 착각, 설정 관리 기능과 데이터 전처리 기능 혼동.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Hydra는 YAML 기반 설정을 계층적으로 관리한다.
– X: Hydra는 GPU 메모리 최적화를 위한 라이브러리이다.

================================

3. FairScale

ㅇ 정의:
PyTorch용 분산 학습 및 메모리 최적화 라이브러리.

ㅇ 특징:
모델 병렬화, ZeRO 메모리 최적화, mixed precision, 대규모 모델 학습 지원.

ㅇ 적합한 경우:
GPU 메모리 한계 극복, 대규모 모델 학습, 분산 환경 효율화.

ㅇ 시험 함정:
DeepSpeed와 기능 혼동, FairScale이 독립적인 딥러닝 프레임워크라고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: FairScale은 PyTorch에서 ZeRO 메모리 최적화를 지원한다.
– X: FairScale은 TensorFlow 전용 분산 학습 라이브러리이다.

================================

4. DeepSpeed

ㅇ 정의:
Microsoft에서 개발한 대규모 모델 학습 최적화 라이브러리.

ㅇ 특징:
ZeRO 메모리 최적화, 3D 병렬화, sparse attention, 대규모 언어 모델 학습 지원.

ㅇ 적합한 경우:
수십억 파라미터 모델 학습, 메모리 효율화, 학습 속도 향상.

ㅇ 시험 함정:
FairScale과 ZeRO 기능 혼동, DeepSpeed를 단순 하이퍼파라미터 튜닝 도구로 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: DeepSpeed는 ZeRO를 통해 대규모 모델 학습 시 메모리 사용을 최적화한다.
– X: DeepSpeed는 설정 파일 관리에 특화된 라이브러리이다.

ㅁ 추가 학습 내용

[학습 정리]
1. 주요 도구별 특성
– PyTorch Lightning: 코드 구조화, 학습 루프 단순화에 강점. 메모리 최적화 기능은 제한적.
– FairScale: 메모리 최적화, ZeRO 구현 지원, 다양한 분산 학습 전략 제공.
– DeepSpeed: 대규모 모델 학습 최적화, ZeRO 고도화, 통합된 메모리/속도 최적화 기능 제공.
– Hydra: 설정(config) 관리에 특화. 학습 최적화와 직접적 연관은 없음.

2. ZeRO(Zero Redundancy Optimizer) 단계별 차이
– ZeRO-1: 옵티마이저 상태 분산 저장.
– ZeRO-2: 옵티마이저 상태 + 그래디언트 분산 저장.
– ZeRO-3: 옵티마이저 상태 + 그래디언트 + 모델 파라미터까지 분산 저장.
– DeepSpeed vs FairScale: 두 프레임워크 모두 ZeRO 지원하지만 구현 세부 방식과 최적화 수준에 차이 존재.

3. 분산 학습 방식
– Data Parallel: 데이터 배치를 나누어 여러 장치에서 병렬 처리.
– Model Parallel: 모델의 파라미터를 나누어 여러 장치에서 병렬 처리.
– Pipeline Parallel: 모델을 여러 단계로 나누어 순차적으로 처리하면서 병렬화.
– 각 도구 지원 여부를 표로 정리해두면 유용.

[시험 대비 체크리스트]
– PyTorch Lightning, FairScale, DeepSpeed, Hydra의 주요 목적과 강점/약점 구분 가능 여부
– Hydra가 학습 최적화와 무관하다는 점 숙지
– ZeRO-1, ZeRO-2, ZeRO-3의 차이점 명확히 설명 가능 여부
– DeepSpeed와 FairScale의 ZeRO 구현 차이 이해
– Data Parallel / Model Parallel / Pipeline Parallel 개념과 차이 설명 가능 여부
– 각 분산 학습 방식별로 어떤 도구가 지원하는지 기억
– 메모리 최적화 관련 기능이 어느 도구에 있는지 구분 가능 여부