ㅁ 최적화

ㅇ 정의:
AI 시스템의 개발·운영 과정에서 자원 사용을 최소화하고 성능을 극대화하는 기법을 적용하는 것.

ㅇ 특징:
– 연산 효율성, 에너지 효율성, 비용 절감을 동시에 고려.
– 하드웨어·소프트웨어·알고리즘 전반에 걸친 개선 가능.

ㅇ 적합한 경우:
– 대규모 AI 모델 운영 시 전력비용과 탄소배출을 줄이고자 할 때.

ㅇ 시험 함정:
– 단순 성능 향상만을 목적으로 하는 튜닝과 혼동.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “AI 모델의 에너지 사용량을 줄이기 위해 연산 효율을 높이는 것은 최적화에 해당한다.”
X: “최적화는 모델 정확도를 높이는 것만을 의미한다.”

================================

1. 탄소중립AI

ㅇ 정의:
AI 개발·운영 전 과정에서 발생하는 탄소배출을 측정·감축·상쇄하여 순배출을 0으로 만드는 접근.

ㅇ 특징:
– 데이터센터 전력 사용량 최적화.
– 재생에너지 사용 비율 확대.
– 탄소배출 상쇄 프로그램 참여.

ㅇ 적합한 경우:
– ESG 경영 목표를 가진 기업의 AI 서비스 운영.

ㅇ 시험 함정:
– 탄소중립AI = 무조건 AI 사용량 축소라고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “탄소중립AI는 재생에너지 사용과 탄소배출 상쇄를 포함한다.”
X: “탄소중립AI는 AI 모델을 사용하지 않는 것을 의미한다.”

================================

2. 효율적 인프라

ㅇ 정의:
AI 운영을 위한 하드웨어·네트워크·저장장치 등의 자원 배치를 최적화하여 성능 대비 에너지 사용을 최소화하는 것.

ㅇ 특징:
– 고효율 서버, 냉각 시스템 최적화.
– 클라우드 리소스 자동 스케일링.
– 데이터 전송 경로 최적화.

ㅇ 적합한 경우:
– 24시간 가동되는 AI 서비스의 전력비 절감.

ㅇ 시험 함정:
– 효율적 인프라 = 고성능 장비만을 의미한다고 착각.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “효율적 인프라는 자원 사용량 대비 성능을 극대화하는 인프라 설계를 의미한다.”
X: “효율적 인프라는 무조건 최고 사양 장비를 도입하는 것이다.”

================================

3. 에너지 절약형훈련

ㅇ 정의:
AI 모델 학습 시 연산량과 전력 소모를 줄이는 알고리즘·하드웨어 최적화 기법을 적용하는 것.

ㅇ 특징:
– Mixed precision training, batch size 최적화.
– 데이터 전처리 효율화.
– 저전력 GPU/TPU 활용.

ㅇ 적합한 경우:
– 대규모 딥러닝 모델 학습 시 전력비 절감과 탄소배출 저감 필요할 때.

ㅇ 시험 함정:
– 에너지 절약형훈련 = 모델 정확도 저하를 반드시 수반한다고 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Mixed precision training은 에너지 절약형훈련 기법 중 하나이다.”
X: “에너지 절약형훈련은 모델 성능을 포기하는 것을 의미한다.”

ㅁ 추가 학습 내용

추가 학습 정리

1. 탄소중립 AI
– Scope 1, 2, 3 배출량 개념
• Scope 1: 기업이 직접 배출하는 온실가스(예: 자체 보일러, 차량 연료 연소)
• Scope 2: 외부에서 구매한 전력, 열, 증기 사용으로 인한 간접 배출
• Scope 3: 공급망 전반에서 발생하는 기타 간접 배출(원자재 생산, 물류, 제품 사용·폐기 등)
– 배출량 측정 방법: 활동 데이터 수집 → 배출계수 적용 → 총량 산출
– GHG Protocol과의 연계: Scope 1~3 정의 및 보고 지침 제공, 국제적으로 통용되는 표준

2. 효율적 인프라
– PUE(Power Usage Effectiveness) 지표
• 계산식: PUE = 데이터센터 총 전력 사용량 ÷ IT 장비 전력 사용량
• PUE 값이 1에 가까울수록 효율적
– PUE 낮추는 방법: 냉각 효율 개선, 전력 분배 최적화, 고효율 장비 사용, 재생에너지 활용

3. 에너지 절약형 훈련 기법
– 지연 학습(Delayed Gradient Update): 일정 스텝 동안 기울기 누적 후 업데이트, 통신·연산 비용 절감
– 모델 경량화
• Pruning: 불필요한 가중치나 뉴런 제거
• Quantization: 가중치·연산 정밀도를 낮춰 계산량 감소
– 학습 데이터 샘플링 전략
• Importance Sampling: 손실에 기여도가 높은 샘플을 우선 학습하여 효율 향상

4. 비교·분석 포인트
– 각 기법·지표·개념의 정의, 차이점, 장단점
– 상호 보완 관계: 예를 들어, 모델 경량화와 PUE 개선이 함께 에너지 절감에 기여

시험 대비 체크리스트

[ ] Scope 1, 2, 3의 정의와 구체적 예시를 설명할 수 있는가
[ ] 배출량 측정 절차를 순서대로 말할 수 있는가
[ ] GHG Protocol의 역할과 Scope 구분 기준을 이해하고 있는가
[ ] PUE 계산식을 정확히 쓰고, 수치 해석이 가능한가
[ ] PUE를 낮추는 구체적 방법을 3가지 이상 제시할 수 있는가
[ ] 지연 학습의 원리와 장점을 설명할 수 있는가
[ ] Pruning과 Quantization의 차이와 적용 효과를 구분할 수 있는가
[ ] Importance Sampling의 개념과 장점을 설명할 수 있는가
[ ] 각 개념 간 상호 보완 관계를 사례와 함께 설명할 수 있는가