ㅁ 응용 분야

ㅇ 정의:
엣지 AI 기술이 실제 산업 및 생활 환경에서 적용되는 구체적인 영역을 의미하며, ARM 기반 장치나 경량 AI 칩셋을 활용해 현장에서 데이터를 처리하는 방식.

ㅇ 특징:
– 중앙 서버 의존도 감소
– 저지연, 실시간 반응 가능
– 네트워크 불안정 환경에서도 동작

ㅇ 적합한 경우:
– 네트워크 지연이 치명적인 환경
– 개인정보 보호가 중요한 경우

ㅇ 시험 함정:
– 엣지 AI와 클라우드 AI의 처리 위치 혼동
– 응용 분야를 기술이 아닌 하드웨어로 오인

ㅇ 시험 대비 “패턴 보기” 예시:
O: “네트워크 연결이 불안정한 환경에서 즉시 반응이 필요한 경우 엣지 AI가 효과적이다.”
X: “엣지 AI는 반드시 인터넷 연결이 있어야만 동작한다.”

================================

1. Edge TPU

ㅇ 정의:
구글이 개발한 저전력 고속 AI 추론 전용 ASIC으로, 엣지 장치에서 TensorFlow Lite 모델을 가속 실행.

ㅇ 특징:
– 초저전력, 고속 추론
– CNN 기반 모델에 최적화
– 온디바이스 처리로 개인정보 보호 강화

ㅇ 적합한 경우:
– 소형 IoT 기기에서 이미지 분류, 객체 감지
– 대규모 데이터 전송 없이 현장 분석 필요 시

ㅇ 시험 함정:
– 학습(Training)보다 추론(Inference)에 특화됨을 혼동
– GPU와 같은 범용 연산 장치로 오인

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Edge TPU는 추론 전용 하드웨어로, 모델 학습보다는 실행 속도를 높인다.”
X: “Edge TPU는 대규모 딥러닝 모델 학습에 최적화되어 있다.”

================================

2. TinyML

ㅇ 정의:
마이크로컨트롤러(MCU) 수준의 초저전력 하드웨어에서 머신러닝 모델을 실행하는 기술.

ㅇ 특징:
– 수 mW 이하 전력 소모
– 제한된 메모리(수십~수백 KB) 환경
– 모델 경량화 필수(양자화, 프루닝)

ㅇ 적합한 경우:
– 배터리로 장기간 동작하는 웨어러블, 센서
– 네트워크 연결이 제한된 현장 장비

ㅇ 시험 함정:
– TinyML이 모든 딥러닝 모델을 실행 가능하다고 착각
– 고성능 GPU 환경과 혼동

ㅇ 시험 대비 “패턴 보기” 예시:
O: “TinyML은 수십 KB 메모리에서도 동작하도록 모델을 경량화한다.”
X: “TinyML은 GPU 기반 서버에서만 동작한다.”

================================

3. 지능형 센서

ㅇ 정의:
데이터 수집과 함께 1차 분석·판단을 수행하는 센서로, 엣지 AI 기능을 내장.

ㅇ 특징:
– 센서 내부에서 데이터 전처리 및 이벤트 감지
– 전송 데이터량 감소
– 응답 속도 향상

ㅇ 적합한 경우:
– 산업 IoT에서 이상 감지
– 스마트 홈에서 환경 변화 즉시 대응

ㅇ 시험 함정:
– 단순 센서와 지능형 센서의 차이를 간과
– 모든 분석을 클라우드에서 수행한다고 오해

ㅇ 시험 대비 “패턴 보기” 예시:
O: “지능형 센서는 현장에서 데이터 분석 후 필요한 경우만 전송한다.”
X: “지능형 센서는 모든 데이터를 원본 그대로 전송한다.”

================================

4. 실시간 추론

ㅇ 정의:
입력 데이터를 즉시 처리하여 결과를 제공하는 AI 추론 방식.

ㅇ 특징:
– 지연 시간 최소화
– 스트리밍 데이터 처리 가능
– 하드웨어 및 모델 최적화 필요

ㅇ 적합한 경우:
– 자율주행, 로봇 제어
– 실시간 영상 분석, 음성 인식

ㅇ 시험 함정:
– 실시간 추론과 배치 추론의 차이를 혼동
– 데이터 전송 후 서버에서 처리하는 경우를 실시간 추론으로 오인

ㅇ 시험 대비 “패턴 보기” 예시:
O: “실시간 추론은 입력과 동시에 결과를 제공하는 것을 목표로 한다.”
X: “실시간 추론은 하루 단위로 데이터를 모아 처리한다.”

ㅁ 추가 학습 내용

학습 정리

1. Edge TPU, Coral 보드, TensorFlow Lite의 관계
– Edge TPU: 구글이 개발한 초저전력·고속 AI 추론 전용 ASIC
– Coral 보드: Edge TPU가 탑재된 하드웨어 플랫폼(개발 보드, USB 가속기 등)
– TensorFlow Lite: 경량화된 모델을 모바일·엣지 디바이스에서 구동하기 위한 프레임워크
– 관계: TensorFlow Lite 모델을 Edge TPU에 최적화하여 Coral 보드에서 고속 추론 수행

2. TinyML 모델 경량화 기법
– 양자화(Quantization): 모델 파라미터를 8비트 정수 등으로 변환하여 메모리·연산량 절감
– 프루닝(Pruning): 중요도가 낮은 가중치를 제거하여 모델 크기 축소
– 지연 로딩(Lazy Loading): 필요한 시점에만 데이터나 모델 일부를 로드하여 메모리 사용 최소화

3. TinyML 대표 프레임워크
– TensorFlow Lite for Microcontrollers: MCU 환경에서 TensorFlow Lite 모델 실행 가능
– Edge Impulse: 센서 데이터 수집, 학습, 배포까지 지원하는 TinyML 개발 플랫폼

4. 지능형 센서 관련 개념
– 이벤트 기반 통신(Event-driven communication): 변화나 이벤트 발생 시에만 데이터 전송하여 전력·대역폭 절감
– 전력 관리 기법: 슬립 모드, 웨이크업 트리거, 전력 스케일링 등

5. 실시간 추론 관련 개념
– 지연(Latency): 입력부터 출력까지 걸리는 시간
– 처리량(Throughput): 단위 시간당 처리 가능한 작업 수
– 하드웨어 가속기 연계: GPU, NPU, DSP를 활용하여 추론 속도 향상 및 전력 효율 개선

6. 엣지 AI 보안 개념
– 온디바이스 암호화: 데이터와 모델을 디바이스 내부에서 암호화하여 전송·저장 시 보호
– 안전한 모델 업데이트: 무결성 검증, 서명 기반 업데이트, OTA 보안

시험 대비 체크리스트

[ ] Edge TPU, Coral 보드, TensorFlow Lite의 정의와 관계를 설명할 수 있는가
[ ] 양자화, 프루닝, 지연 로딩의 목적과 효과를 구분할 수 있는가
[ ] TensorFlow Lite for Microcontrollers와 Edge Impulse의 특징과 차이를 이해했는가
[ ] 이벤트 기반 통신의 장점과 적용 예시를 말할 수 있는가
[ ] 전력 관리 기법의 종류와 적용 원리를 이해했는가
[ ] 지연(latency)과 처리량(throughput)의 차이를 정확히 설명할 수 있는가
[ ] GPU, NPU, DSP의 역할과 차이, 그리고 추론 가속 방식에 대해 알고 있는가
[ ] 온디바이스 암호화와 안전한 모델 업데이트 방법을 구체적으로 설명할 수 있는가