하드웨어: 고성능 컴퓨팅 – Edge AI

ㅁ 고성능 컴퓨팅

ㅇ 정의:
고성능 컴퓨팅(HPC)은 대규모 연산을 빠르게 처리하기 위해 슈퍼컴퓨터, 클러스터, GPU 등 고성능 하드웨어와 병렬 처리 기법을 활용하는 컴퓨팅 방식이다.

ㅇ 특징:
대규모 데이터 처리, 병렬 연산, 고속 네트워크, 분산 스토리지, 최적화된 알고리즘을 활용하며, 과학연구, 시뮬레이션, AI 학습 등에 활용된다.

ㅇ 적합한 경우:
날씨 예측, 유전자 분석, AI 모델 학습, 대규모 시뮬레이션 등 대량의 연산이 필요한 경우.

ㅇ 시험 함정:
HPC는 단순히 CPU 속도만 빠른 컴퓨터를 의미하는 것이 아님. 병렬 처리와 네트워크 성능, 스토리지 성능을 종합적으로 고려해야 함.

ㅇ 시험 대비 “패턴 보기” 예시:
O: “HPC는 병렬 처리와 고속 네트워크를 활용하여 대규모 연산을 수행한다.”
X: “HPC는 단일 CPU 성능만으로 연산 속도를 높인다.”

================================

1. Edge AI

ㅇ 정의:
Edge AI는 인공지능 모델을 클라우드가 아닌 엣지 디바이스(스마트폰, IoT 기기, 산업용 센서 등)에서 직접 실행하는 기술로, 데이터 수집 지점에서 실시간 분석과 의사결정을 가능하게 한다.

ㅇ 특징:
– 지연 시간(Latency) 감소: 네트워크 전송 없이 로컬에서 처리
– 개인정보 보호 강화: 데이터가 외부로 전송되지 않음
– 네트워크 의존도 감소: 오프라인 환경에서도 동작 가능
– 경량화된 AI 모델 필요: 엣지 디바이스의 제한된 자원(CPU, 메모리, 전력)에 맞춘 최적화 필수

ㅇ 적합한 경우:
– 실시간 반응이 중요한 자율주행, 산업 자동화, 스마트 팩토리
– 네트워크 연결이 불안정하거나 데이터 전송 비용이 높은 환경
– 개인정보 보호가 중요한 헬스케어, 금융 분야

ㅇ 시험 함정:
– Edge AI는 항상 클라우드 AI보다 정확도가 높다는 것은 아님
– 모든 AI 모델이 엣지 환경에 적합한 것은 아님(모델 경량화 필요)
– 단순히 엣지 디바이스에서 데이터를 수집하는 것만으로 Edge AI라고 부르지 않음

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Edge AI는 데이터가 발생하는 현장에서 실시간으로 AI 연산을 수행한다.”
X: “Edge AI는 반드시 클라우드 서버에서 연산을 수행한다.”

ㅁ 추가 학습 내용

Edge AI 시험 대비 정리

1. 대표적인 하드웨어 플랫폼
– NVIDIA Jetson: 고성능 GPU 기반, 딥러닝 추론에 강점
– Google Coral: TPU 기반, 저전력·고속 추론
– Intel Movidius: VPU 기반, 저전력 영상 처리 및 추론

2. 모델 경량화 기법
– 양자화(Quantization): 모델 파라미터를 정수 형태 등 저정밀도로 변환해 메모리 사용과 연산량 감소
– 지연 계산(Lazy Evaluation): 필요할 때만 연산 수행하여 자원 절약
– 프루닝(Pruning): 불필요한 가중치나 뉴런을 제거해 모델 크기 축소
– 지식 증류(Knowledge Distillation): 큰 모델의 지식을 작은 모델로 전이해 경량화와 성능 유지

3. Edge AI와 Fog Computing 차이
– Fog Computing: 엣지와 클라우드 사이의 중간 계층에서 데이터 처리
– Edge AI: 데이터 발생 지점(센서, 디바이스)에서 직접 연산 및 추론 수행

4. 보안 이슈
– 물리적 접근에 의한 해킹 위험
– 모델 역공학 공격 가능성(모델 파라미터나 구조 유출 위험)

5. 주요 응용 사례
– 스마트 시티: 교통 흐름 분석, 혼잡 제어
– 헬스케어 웨어러블: 심박수 이상 감지, 실시간 건강 모니터링
– 제조업: 설비 이상 예측, 예방 정비

6. 시험 출제 경향
– Edge AI의 장점: 저지연, 네트워크 의존도 감소, 실시간 처리 가능
– Edge AI의 한계: 하드웨어 자원 제한, 전력 제약, 모델 크기 제한
– 클라우드 AI 대비 차이점: 처리 위치, 지연 시간, 데이터 전송 필요성, 보안 측면 비교

답글 남기기

Your email address will not be published. Required fields are marked *.

*
*