ㅁ AI+Edge

ㅇ 정의:
AI+Edge는 인공지능 모델을 클라우드가 아닌 엣지 디바이스(스마트폰, IoT 기기, 임베디드 시스템 등)에서 직접 실행하는 기술로, 네트워크 지연 최소화와 실시간 처리에 강점이 있다.

ㅇ 특징:
– 네트워크 연결이 불안정하거나 지연이 큰 환경에서도 동작 가능
– 데이터가 로컬에서 처리되므로 개인정보 보호 강화
– 전력 및 하드웨어 제약이 있어 경량화 모델 필요

ㅇ 적합한 경우:
– 실시간 반응이 중요한 자율주행, 로봇 제어
– 네트워크 연결이 제한된 산업 현장 모니터링
– 민감 데이터가 외부로 나가지 않아야 하는 의료 기기

ㅇ 시험 함정:
– AI+Edge는 반드시 인터넷 연결이 필요하다고 오해하기 쉬움 (X)
– 모든 AI 모델이 엣지에서 동일 성능을 낸다고 착각 (X)

ㅇ 시험 대비 “패턴 보기” 예시:
– “AI+Edge는 데이터 전송 지연을 줄이기 위해 로컬에서 AI 연산을 수행한다” (O)
– “AI+Edge는 항상 클라우드 서버에서 연산을 수행한다” (X)

================================

1. ARM ML

ㅇ 정의:
ARM ML은 ARM 아키텍처 기반의 프로세서에서 머신러닝 연산을 최적화하여 수행하기 위한 하드웨어 및 소프트웨어 기술을 의미한다.

ㅇ 특징:
– 저전력, 저발열 특성으로 모바일·IoT 디바이스에 적합
– ARM Compute Library, Ethos NPU 등 전용 ML 가속기 지원
– CNN, RNN 등 다양한 모델의 경량화 및 하드웨어 가속 가능

ㅇ 적합한 경우:
– 배터리 기반의 엣지 디바이스에서 AI 기능 구현
– 실시간 영상 분석, 음성 인식 등 경량 AI 서비스

ㅇ 시험 함정:
– ARM ML은 GPU 기반 연산만 지원한다고 착각 (X)
– ARM ML은 클라우드 전용 기술이라고 오해 (X)

ㅇ 시험 대비 “패턴 보기” 예시:
– “ARM ML은 ARM 기반 프로세서에서 머신러닝 연산을 최적화하는 기술이다” (O)
– “ARM ML은 반드시 대규모 데이터센터에서만 사용된다” (X)

ㅁ 추가 학습 내용

ARM ML 학습 시에는 다음 내용을 함께 이해하는 것이 중요하다.
ARM Compute Library, CMSIS-NN, Ethos-U/N 시리즈 NPU의 특성과 차이를 비교하여 파악한다.
ARM ML이 TensorFlow Lite, PyTorch Mobile 등과 어떻게 연동되는지 학습한다.
모델 경량화 기법인 양자화(Quantization)와 프루닝(Pruning)의 개념과 ARM ML 적용 시의 관계를 이해한다.
엣지 AI 성능 평가를 위해 TOPS(Tera Operations Per Second), FPS(Frame Per Second) 등의 성능 지표와 전력 효율성(와트당 연산량)의 개념을 숙지한다.