ㅁ AI+Edge

ㅇ 정의:
인공지능 모델을 초소형·저전력 장치(마이크로컨트롤러, 센서 등)에 탑재하여 현장에서 실시간 추론을 수행하는 기술.

ㅇ 특징:
– 초저전력 소비(수 mW 수준)로 배터리 기반 장치에서도 장기간 동작 가능
– 클라우드 연결 없이 로컬에서 데이터 처리 → 지연 시간 최소화 및 개인정보 보호 강화
– 모델 크기 수십~수백 KB 수준으로 경량화 필요

ㅇ 적합한 경우:
– 네트워크 연결이 불안정하거나 불가능한 환경
– 실시간 응답이 필수적인 IoT 센서, 웨어러블 기기, 산업용 장비 모니터링
– 개인정보 유출 위험이 큰 의료·보안 분야

ㅇ 시험 함정:
– TinyML은 ‘모델 학습’이 아닌 ‘추론’ 중심이라는 점을 혼동
– Edge AI와 TinyML을 동일시하는 오류 (TinyML은 극저전력·초소형 환경에 특화)
– GPU 기반 고성능 AI와 비교하는 함정 (TinyML은 CPU/MCU 기반)

ㅇ 시험 대비 “패턴 보기” 예시:
O: “TinyML은 수십 KB 크기의 모델을 MCU에서 실행하는 기술이다.”
X: “TinyML은 대규모 GPU 클러스터에서 학습을 수행하는 기술이다.”

================================

1. TinyML

ㅇ 정의:
초소형 마이크로컨트롤러(MCU)나 임베디드 장치에서 동작하도록 경량화된 머신러닝 모델을 개발·배포하는 기술.

ㅇ 특징:
– 모델 크기와 연산량을 극도로 줄여 수 mW 이하 전력소모
– TensorFlow Lite Micro, Edge Impulse 등 경량화 프레임워크 활용
– 클라우드 의존도 최소화, 오프라인 환경에서도 동작

ㅇ 적합한 경우:
– 스마트워치, 피트니스 밴드 등 웨어러블 기기
– 산업 IoT 센서의 이상 감지
– 농업·환경 모니터링 등 원격지 센서 네트워크

ㅇ 시험 함정:
– TinyML이 모든 AI 모델을 축소 가능하다고 착각 (복잡한 딥러닝 모델은 불가능)
– TinyML이 반드시 인터넷 연결을 필요로 한다는 오해
– TinyML과 Mobile AI를 혼동 (Mobile AI는 스마트폰급 성능 전제)

ㅇ 시험 대비 “패턴 보기” 예시:
O: “TinyML은 MCU에서 수 mW 이하로 동작하는 경량 ML 기술이다.”
X: “TinyML은 GPU 서버에서 대규모 딥러닝 학습을 수행한다.”

ㅁ 추가 학습 내용

TinyML은 주로 추론(inference)에 초점을 두며, 모델 학습(training)은 일반적으로 클라우드나 고성능 서버에서 수행한 후 경량화하여 배포한다.
모델 경량화 기법에는 양자화(quantization), 프루닝(pruning), 지식 증류(knowledge distillation)가 있으며, 각 기법의 특징과 차이를 이해해야 한다.
주요 프레임워크로는 TensorFlow Lite Micro, uTensor, MicroTVM이 있으며, MCU 환경에 최적화된 프레임워크를 구분할 수 있어야 한다.
TinyML의 한계로는 복잡한 모델 적용 불가, 메모리 및 연산 제약, 실시간 학습 불가가 있으며, 이러한 특성을 Edge AI와 비교할 수 있어야 한다.
적용 사례로는 스마트 농업, 환경 센서, 착용형 헬스케어, 보안 카메라 등이 있다.