ㅁ AI+Edge

1. Edge TPU

ㅇ 정의:
구글이 개발한 저전력 고속 추론 전용 ASIC(응용 특화 집적 회로)으로, 엣지 디바이스에서 머신러닝 모델을 효율적으로 실행하기 위해 설계된 하드웨어 가속기.

ㅇ 특징:
– 클라우드 연결 없이 로컬에서 실시간 추론 가능
– 전력 소모가 매우 낮아 IoT, 모바일, 임베디드 환경에 적합
– TensorFlow Lite 모델에 최적화되어 있음
– CPU 대비 수십 배 빠른 추론 속도 제공

ㅇ 적합한 경우:
– 네트워크 지연이 허용되지 않는 실시간 영상/음성 인식
– 개인정보 보호를 위해 로컬에서 데이터 처리 필요할 때
– 배터리 기반 장치에서 장기간 동작이 필요한 경우

ㅇ 시험 함정:
– Edge TPU는 학습(Training)이 아닌 추론(Inference)에 특화되어 있음 → 학습용으로 오인 유도하는 문제 출제 가능
– GPU와 혼동하는 문제 출제 가능 (GPU는 범용 병렬 연산, TPU는 특정 ML 연산 최적화)
– TensorFlow Lite 전용이라는 점을 간과하는 문제

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Edge TPU는 저전력 환경에서 TensorFlow Lite 모델 추론에 최적화된 하드웨어 가속기이다.”
X: “Edge TPU는 대규모 딥러닝 모델 학습에 최적화되어 있다.”

ㅁ 추가 학습 내용

Edge TPU는 Google Coral 시리즈(USB Accelerator, Dev Board 등) 형태로 제공되며, 주로 MobileNet, EfficientDet 같은 경량화 모델과 함께 사용된다. 8비트 양자화 모델을 필요로 하므로 학습 후 양자화(Post-training quantization) 또는 양자화 인식 학습(Quantization-aware training)이 필요하다. 시험에서는 ‘Edge TPU는 클라우드 TPU와 동일하다’라는 함정 문장이 자주 나오므로, 클라우드 TPU는 대규모 학습용, Edge TPU는 엣지 추론용이라는 차이를 반드시 구분해야 한다. Edge TPU는 PCIe, USB, M.2 등 다양한 인터페이스로 제공되며, 추론 속도는 모델 구조와 양자화 여부에 따라 크게 달라질 수 있다.