ㅁ 지속가능성

ㅇ 정의:
인공지능 기술 개발과 활용 과정에서 에너지 소비와 탄소 배출을 최소화하여 환경에 미치는 부정적 영향을 줄이는 개념.

ㅇ 특징:
– 모델 학습 및 추론 시 전력 소모를 줄이는 알고리즘과 하드웨어 최적화 기술 사용
– 재생 에너지 기반 데이터센터 운영과 결합 가능
– AI 수명주기 전반(데이터 수집, 학습, 배포)에서 친환경성을 고려

ㅇ 적합한 경우:
– 전력 자원이 제한된 환경(모바일, IoT 기기)
– 장기간 지속적 운영이 필요한 엣지 디바이스
– ESG 경영을 강조하는 기업의 AI 프로젝트

ㅇ 시험 함정:
– ‘Low-power AI’를 단순히 저성능 AI로 오해하는 경우
– 에너지 효율성만 강조하고 전체 환경 영향(탄소 발자국, 자원 사용)을 간과하는 경우

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Low-power AI는 에너지 효율을 높여 탄소 배출을 줄이는 AI 설계 방식이다.”
X: “Low-power AI는 성능을 낮춰서 환경 영향을 줄이는 것을 의미한다.”

================================

1. Low-power AI

ㅇ 정의:
AI 모델의 학습과 추론 과정에서 전력 소모를 최소화하도록 설계된 인공지능 기술.

ㅇ 특징:
– 경량화된 모델 아키텍처(MobileNet, SqueezeNet 등) 사용
– 연산 효율성을 높이는 알고리즘(양자화, 지연 계산) 적용
– 저전력 하드웨어(NPU, TPU Lite)와 결합

ㅇ 적합한 경우:
– 웨어러블, 스마트폰, IoT 센서 등 배터리 기반 기기
– 네트워크 연결이 제한적인 현장 장비
– 에너지 비용 절감이 중요한 대규모 배포 환경

ㅇ 시험 함정:
– Low-power AI를 단순히 하드웨어 스펙 낮추는 것으로 오해
– 고성능 AI는 반드시 고전력 소비라는 고정관념

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Low-power AI 구현을 위해 모델 경량화와 연산 최적화를 병행한다.”
X: “Low-power AI는 성능 저하를 전제로 한다.”

ㅁ 추가 학습 내용

Low-power AI 시험 대비 정리

1. 모델 경량화 기법과 차이점
– 프루닝(Pruning): 신경망의 불필요한 가중치나 뉴런 연결을 제거하여 모델 크기와 연산량을 줄이는 방법. 구조적 프루닝과 비구조적 프루닝으로 나뉨.
– 양자화(Quantization): 가중치와 활성값을 기존의 고정밀(예: 32비트 부동소수점)에서 저정밀(예: 8비트 정수)로 변환하여 메모리 사용량과 연산량을 감소시키는 방법.
– 지식 증류(Knowledge Distillation): 성능이 높은 대규모 모델(교사 모델)의 지식을 작은 모델(학생 모델)에 전달하여 경량화하면서도 정확도를 유지하는 방법.

2. 하드웨어 가속기 종류와 특징 및 저전력 설계
– NPU(Neural Processing Unit): 신경망 연산에 특화된 전용 프로세서로, 병렬 연산 능력이 뛰어나며 AI 연산 효율이 높음.
– FPGA(Field Programmable Gate Array): 하드웨어 구성을 프로그래밍으로 변경할 수 있는 칩으로, 유연성과 맞춤형 최적화 가능.
– ASIC(Application Specific Integrated Circuit): 특정 목적에 최적화된 전용 칩으로, 성능과 전력 효율이 매우 높으나 설계 변경이 어려움.
– 저전력 설계 방식: 클럭 게이팅, 전압 스케일링, 전력 도메인 분리, 메모리 접근 최소화 등으로 전력 소모를 줄임.

3. 에너지 효율 측정 지표와 성능 평가
– Energy per Inference: 한 번의 추론에 소모되는 에너지 양을 나타내는 지표.
– TOPS/W(Tera Operations Per Second per Watt): 와트당 처리 가능한 연산량을 나타내는 효율 지표.
– 성능 평가 방법: 정확도, 처리 속도, 전력 소모, 에너지 효율 지표를 종합적으로 고려하여 평가.

4. 친환경 AI 관련 국제 표준과 규제
– 예: EU의 Green AI 정책은 AI 개발과 운용 과정에서 에너지 절감과 탄소 배출 감소를 목표로 하며, 관련 지침과 규제를 통해 지속가능한 AI를 촉진.