ㅁ 하드웨어/응용

1. Edge TPU

ㅇ 정의:
– 구글이 개발한 저전력 고속 머신러닝 추론 전용 ASIC으로, 엣지 디바이스에서 TensorFlow Lite 모델을 효율적으로 실행하기 위해 설계됨.

ㅇ 특징:
– 초당 수십억 번의 연산 가능 (TOPS 단위)
– 전력 소모가 수백 mW 수준으로 낮음
– 클라우드 의존도를 줄이고 지연 시간 최소화

ㅇ 적합한 경우:
– 실시간 이미지 분류, 객체 탐지 등 저지연 응답이 필요한 IoT/임베디드 환경

ㅇ 시험 함정:
– Edge TPU는 모델 학습이 아닌 추론 전용임 → 학습은 클라우드/서버에서 수행

ㅇ 시험 대비 “패턴 보기” 예시:
– O: Edge TPU는 엣지 디바이스에서 머신러닝 추론을 가속화한다.
– X: Edge TPU는 대규모 모델 학습에 최적화되어 있다.

2. TinyML

ㅇ 정의:
– 수 mW 이하 초저전력 환경에서 머신러닝 모델을 실행하는 기술 분야

ㅇ 특징:
– 마이크로컨트롤러(MCU) 기반에서 동작
– 메모리 수십 KB~수 MB 제한
– 모델 경량화(양자화, 프루닝) 필수

ㅇ 적합한 경우:
– 웨어러블, 스마트 센서, 배터리 기반 장치에서의 지속적 데이터 분석

ㅇ 시험 함정:
– TinyML은 항상 인터넷 연결이 필요하다는 오해 → 오프라인 동작 가능

ㅇ 시험 대비 “패턴 보기” 예시:
– O: TinyML은 초저전력 MCU에서 동작할 수 있도록 모델을 경량화한다.
– X: TinyML은 GPU 기반 서버에서만 실행된다.

3. 지능형 엣지

ㅇ 정의:
– 데이터 생성 지점 근처(엣지)에서 AI 모델을 통해 실시간 분석·의사결정을 수행하는 시스템

ㅇ 특징:
– 네트워크 지연 최소화
– 데이터 프라이버시 강화
– 클라우드 트래픽 절감

ㅇ 적합한 경우:
– 자율주행차, 스마트 공장, 원격 모니터링 등 즉각적 대응이 필요한 서비스

ㅇ 시험 함정:
– 지능형 엣지는 항상 인터넷 연결이 필수라는 오해 → 로컬 처리 가능

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 지능형 엣지는 데이터 생성 지점에서 즉시 분석을 수행한다.
– X: 지능형 엣지는 모든 데이터를 클라우드로 전송 후 분석한다.

4. ARM ML

ㅇ 정의:
– ARM 아키텍처 기반 프로세서에서 머신러닝 연산을 최적화하기 위한 기술 및 라이브러리(예: ARM Compute Library, Ethos NPU)

ㅇ 특징:
– 저전력·고효율 연산
– 모바일·임베디드 환경에 최적화
– 다양한 ML 프레임워크와 연동 지원

ㅇ 적합한 경우:
– 스마트폰, IoT 기기, 차량용 인포테인먼트 시스템의 온디바이스 AI 처리

ㅇ 시험 함정:
– ARM ML은 특정 OS에서만 동작한다는 오해 → 다양한 OS/RTOS 지원

ㅇ 시험 대비 “패턴 보기” 예시:
– O: ARM ML은 ARM 기반 칩에서 ML 연산을 최적화한다.
– X: ARM ML은 x86 서버에서만 실행된다.

ㅁ 추가 학습 내용

Edge TPU와 TinyML은 전력 소모, 하드웨어 구조뿐 아니라 지원 가능한 모델 크기와 응용 분야에서 차이가 있다.
Edge TPU는 비교적 큰 모델도 실행할 수 있으며, TinyML은 수십 KB에서 수 MB 수준의 메모리 제한이 핵심 특징이다.
지능형 엣지는 클라우드와 엣지를 결합한 하이브리드 구조로 구현할 수 있다.
ARM ML은 CPU, GPU, NPU를 조합해 성능과 전력 효율을 최적화하는 것이 특징이다.

시험 대비 핵심 포인트는 다음과 같다.
– 학습과 추론의 구분
– 로컬 처리 가능 여부
– 저전력 환경에서의 동작

또한 각 기술의 대표적인 적용 사례와 지원하는 프레임워크(TensorFlow Lite, PyTorch Mobile 등)를 함께 숙지하면 실전 문제에 유리하다.