ㅁ 최적화

1. 탄소중립AI

ㅇ 정의:
AI 모델 개발 및 운영 과정에서 발생하는 탄소 배출을 최소화하거나 상쇄하여 환경에 미치는 영향을 줄이는 접근 방식.

ㅇ 특징:
– 데이터센터 전력 사용량 측정 및 재생에너지 사용 비율 증가.
– 모델 경량화, 효율적 알고리즘 채택.
– 탄소배출량 모니터링 및 보고 체계 구축.

ㅇ 적합한 경우:
– 친환경 정책을 준수해야 하는 공공기관 또는 ESG 경영을 강조하는 기업.
– 대규모 AI 서비스 운영 시 환경 영향을 줄이고자 하는 경우.

ㅇ 시험 함정:
– 탄소중립AI는 단순히 전기 절약이 아니라, 전 과정(데이터 수집, 학습, 배포)에서의 탄소 영향 관리까지 포함.
– 재생에너지 사용만으로는 탄소중립 달성 불가.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 학습 과정에서 탄소 배출량을 측정하고 상쇄하는 것은 탄소중립AI의 핵심이다.”
X: “탄소중립AI는 데이터센터 전력 사용량만 줄이면 달성된다.”

2. 효율적 인프라

ㅇ 정의:
AI 모델 학습 및 추론을 위한 하드웨어, 네트워크, 스토리지 자원을 효율적으로 구성하여 에너지 소비와 비용을 절감하는 방식.

ㅇ 특징:
– GPU/TPU 자원 활용 최적화.
– 고효율 냉각 시스템과 서버 가상화 기술 도입.
– 클라우드 기반 자원 탄력적 할당.

ㅇ 적합한 경우:
– 자원 사용량이 큰 대규모 AI 프로젝트.
– 클라우드 및 온프레미스 혼합 환경에서 비용과 에너지 절감 필요 시.

ㅇ 시험 함정:
– 효율적 인프라는 단순 하드웨어 성능 향상이 아니라 자원 활용률을 높이는 전략.
– 고성능 장비 도입이 항상 효율적이지 않을 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “GPU 자원 활용률을 높이는 것은 효율적 인프라 구축의 한 방법이다.”
X: “효율적 인프라는 하드웨어 성능을 무조건 높이는 것을 의미한다.”

3. 에너지 절약형훈련

ㅇ 정의:
AI 모델 학습 과정에서 에너지 소비를 최소화하기 위한 알고리즘 및 하드웨어 최적화 기법.

ㅇ 특징:
– 소규모 데이터셋 활용, 전이학습(Transfer Learning) 적용.
– 저정밀 연산(Quantization), 지연 업데이트(Delayed Update) 기법.
– 학습 스케줄 최적화로 불필요한 연산 감소.

ㅇ 적합한 경우:
– 제한된 전력 환경(모바일, IoT 장치)에서 AI 학습 수행.
– 비용 절감과 친환경 목표를 동시에 달성하려는 경우.

ㅇ 시험 함정:
– 에너지 절약형훈련은 성능 저하 없이 효율성을 높이는 것이 핵심.
– 데이터 양을 무조건 줄이는 것이 아니라, 정보 손실 최소화가 중요.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “전이학습을 통해 학습 시간을 단축하는 것은 에너지 절약형훈련의 한 예이다.”
X: “에너지 절약형훈련은 모델 성능을 희생하면서 에너지를 줄이는 방식이다.”

ㅁ 추가 학습 내용

탄소중립AI
– 국제 표준에서 제시하는 탄소 배출량 산정 방식 숙지
• ISO 14064: 조직과 제품의 온실가스 배출량 산정 및 보고 방법
• GHG Protocol: 범위(Scope 1, 2, 3)에 따른 배출량 구분과 산정 절차
– 탄소 상쇄 방법 이해: 재생에너지 사용, 탄소배출권 구매, 탄소 흡수 프로젝트 참여 등

효율적 인프라
– 컨테이너 기반 오케스트레이션(Kubernetes)의 에너지 효율성 영향: 자원 활용 최적화, 자동 스케일링, 불필요한 인스턴스 최소화
– 서버리스 아키텍처의 에너지 효율성 영향: 요청 기반 실행으로 유휴 자원 최소화, 비용 및 에너지 절감
– 데이터센터 PUE(Power Usage Effectiveness) 지표 해석: PUE = 데이터센터 전체 소비전력 / IT 장비 소비전력, 1.0에 가까울수록 효율 높음

에너지 절약형 훈련
– Mixed Precision Training: 부동소수점 연산 정밀도를 혼합하여 메모리 사용량과 연산량 감소, 학습 속도 향상
– Early Stopping: 검증 성능이 개선되지 않을 때 학습을 조기 종료하여 연산 낭비 방지, 과적합 예방
– Neural Architecture Search(NAS) 기반 경량화: 자동화된 모델 구조 탐색으로 효율적이고 경량화된 모델 설계 가능
– 알고리즘별 장단점과 적용 사례 숙지: 성능, 자원 소모, 적용 가능 분야 비교