ㅁ 응용 분야

1. Edge TPU

ㅇ 정의:
– 구글이 개발한 초소형 AI 가속 칩으로, 엣지 디바이스에서 머신러닝 모델을 빠르게 실행하기 위해 설계됨.
ㅇ 특징:
– 저전력, 고속 추론, 클라우드 연결 없이 로컬에서 ML 처리 가능.
– TensorFlow Lite 모델 최적화 지원.
ㅇ 적합한 경우:
– 네트워크 지연이 허용되지 않는 IoT 환경, 실시간 영상 분석, 오프라인 환경.
ㅇ 시험 함정:
– Edge TPU는 학습(training)이 아닌 추론(inference)에 최적화됨.
– GPU와 혼동하는 문제 출제 가능.
ㅇ 시험 대비 “패턴 보기” 예시:
– O: Edge TPU는 저전력 환경에서 고속 추론을 지원한다.
– X: Edge TPU는 대규모 딥러닝 학습에 최적화되어 있다.

2. TinyML

ㅇ 정의:
– 마이크로컨트롤러(MCU)와 같은 초저전력 장치에서 머신러닝 모델을 실행하는 기술.
ㅇ 특징:
– 수 mW 이하의 전력 소모, 메모리 수백 KB 수준에서도 동작.
– 사물인터넷 기기와 결합하여 센서 데이터 실시간 처리 가능.
ㅇ 적합한 경우:
– 배터리 기반 센서 장치, 착용형 기기, 원격 모니터링.
ㅇ 시험 함정:
– TinyML은 클라우드에서만 동작한다고 오해하는 경우.
– GPU나 TPU 없이도 동작 가능함.
ㅇ 시험 대비 “패턴 보기” 예시:
– O: TinyML은 MCU 환경에서도 머신러닝 모델을 실행할 수 있다.
– X: TinyML은 반드시 GPU가 있어야 한다.

3. 지능형 센서

ㅇ 정의:
– 센서 자체에 데이터 처리 및 의사결정 기능을 내장한 센서.
ㅇ 특징:
– 데이터 전송 전 사전 처리 가능, 네트워크 부하 감소.
– 엣지 AI와 결합하여 현장에서 즉시 판단.
ㅇ 적합한 경우:
– 산업 자동화, 스마트 팩토리, 무인 점포.
ㅇ 시험 함정:
– 단순 데이터 수집만 하는 센서와 구분 필요.
– 지능형 센서는 추론 기능을 포함할 수 있음.
ㅇ 시험 대비 “패턴 보기” 예시:
– O: 지능형 센서는 현장에서 데이터를 분석하고 결과를 제공할 수 있다.
– X: 지능형 센서는 반드시 클라우드 연산을 거쳐야 한다.

4. 실시간 추론

ㅇ 정의:
– 입력 데이터가 도착하는 즉시 지연 없이 AI 모델이 결과를 도출하는 방식.
ㅇ 특징:
– 밀리초(ms) 단위 응답, 스트리밍 데이터 처리.
– 지연 허용 범위가 극히 낮은 애플리케이션에 필수.
ㅇ 적합한 경우:
– 자율주행, 실시간 영상 분석, 로봇 제어.
ㅇ 시험 함정:
– 실시간 추론과 배치 추론(batch inference) 혼동.
– 실시간 추론은 항상 클라우드에서 수행된다고 착각.
ㅇ 시험 대비 “패턴 보기” 예시:
– O: 실시간 추론은 입력 데이터에 대해 즉시 결과를 제공한다.
– X: 실시간 추론은 항상 대규모 데이터셋을 모아 처리한다.

ㅁ 추가 학습 내용

Edge TPU
– 실제 제품 형태: Coral Dev Board, USB Accelerator 등
– 지원 연산량: TOPS(Tera Operations Per Second) 수치 확인 필요

TinyML
– 주요 프레임워크: TensorFlow Lite for Microcontrollers, CMSIS-NN

지능형 센서
– 종류와 예시:
• MEMS 센서
• 이미지 센서
• 환경 센서

실시간 추론
– 지연 시간(latency)과 처리량(throughput)의 차이 이해
– 스트리밍 데이터 처리 프레임워크 예: Kafka, Flink

엣지 AI 비교 포인트
– 전력 소모
– 네트워크 의존성
– 보안성: 데이터 로컬 처리로 개인정보 보호 강화