ㅁ 환경/지속가능

1. Green LLM

ㅇ 정의:
대규모 언어 모델(LLM)의 학습·추론 과정에서 발생하는 에너지 소비와 탄소 배출을 최소화하기 위해 설계·운영되는 친환경 AI 모델.

ㅇ 특징:
– 모델 경량화(파라미터 수 축소, 양자화, 프루닝 등)와 효율적 아키텍처 적용.
– 재생에너지 기반 데이터센터 사용, 저전력 하드웨어 활용.
– 학습 데이터와 연산 자원의 최적화로 동일 성능 대비 에너지 효율 극대화.
– 탄소 발자국 측정 및 공개를 통한 투명성 확보.

ㅇ 적합한 경우:
– 환경 규제가 강화된 국가나 기업에서 AI 서비스 운영 시.
– 장기간 운영되는 AI 서비스의 전력 비용 절감이 중요한 경우.
– ESG 경영 및 지속가능성 보고서에 AI 부문의 친환경 성과를 포함해야 하는 경우.

ㅇ 시험 함정:
– Green LLM은 성능을 무조건 낮추는 방식이 아님. 효율성을 높이면서 성능을 유지하거나 개선 가능.
– 단순히 재생에너지 사용만으로 Green LLM이라 할 수 없음. 모델 및 운영 전반의 최적화 필요.
– Green LLM은 모든 LLM의 하위 개념이 아니라, 특정 설계·운영 철학을 반영한 범주.

ㅇ 시험 대비 “패턴 보기” 예시:
– (O) Green LLM은 모델 경량화와 재생에너지 활용을 통해 탄소 배출을 줄인다.
– (O) Green LLM은 동일 성능을 유지하면서 에너지 효율을 높일 수 있다.
– (X) Green LLM은 모든 LLM보다 성능이 낮다.
– (X) Green LLM은 데이터센터 위치와는 무관하다.

ㅁ 추가 학습 내용

Green LLM 시험 대비 정리

1. 에너지 효율 지표
– FLOPs/Watt: 초당 부동소수점 연산 수(FLOPs)를 소비 전력(Watt)으로 나눈 값. 연산 효율 측정.
– Carbon Emission per Query: 질의 1건 처리 시 발생하는 탄소 배출량. 단위는 gCO₂e(이산화탄소 환산 그램) 등 사용.

2. 구체적 최적화 기법
– 지식 증류(Knowledge Distillation): 성능이 높은 대형 모델의 지식을 작은 모델에 전달하여 경량화 및 효율 향상.
– 혼합 정밀도 연산(Mixed Precision): 연산 시 일부를 FP16 등 저정밀도로 처리하여 연산 속도와 전력 효율 개선.
– 스파스 모델(Sparse Model): 파라미터 일부를 0으로 만들어 연산량과 메모리 사용량 절감.

3. 데이터센터 친환경 인증 및 지표
– LEED: 건축물 친환경 인증 제도.
– ISO 50001: 에너지 관리 시스템 국제 표준.
– PUE(Power Usage Effectiveness): 데이터센터 전체 전력 대비 IT 장비 전력 비율. 1.0에 가까울수록 효율적.

4. 실제 사례
– Google TPU v4: 에너지 효율과 성능을 높인 AI 가속기.
– Meta: 효율적 LLM 학습 및 추론을 위한 연구 진행.
– Hugging Face 탄소 배출 대시보드: 모델 사용 시 탄소 배출량 추적 및 공개.

5. 규제 및 표준
– EU AI Act: 인공지능의 안전성, 투명성, 환경 영향 등을 포함한 규제 법안.
– 탄소중립 법안: 국가 및 산업의 탄소 배출 감축 목표와 의무 규정.

6. LCA(Life Cycle Assessment)
– AI 모델의 개발, 학습, 배포, 폐기까지 전 과정에서의 환경 영향 평가 방법.
– 에너지 사용, 자원 소비, 탄소 배출 등을 종합적으로 분석.