ㅁ 네트워크 구조

ㅇ 정의:
신경망의 구조를 설계하거나 최적화하여 모델의 성능과 효율성을 개선하는 방법론.

ㅇ 특징:
– 모델의 계산량을 줄이고 메모리 사용량을 감소시킴.
– 다양한 신경망 설계 기법이 존재하며, 특정 문제에 적합한 구조를 선택해야 함.
– 경량화된 구조는 모바일 및 임베디드 환경에 적합.

ㅇ 적합한 경우:
– 계산 자원이 제한된 환경에서의 인공지능 모델 배포.
– 실시간 응답이 중요한 애플리케이션.
– 대규모 데이터셋에서의 학습 및 추론 시간 단축.

ㅇ 시험 함정:
– 네트워크 구조 최적화를 단순히 파라미터 수를 줄이는 것으로 오해할 수 있음.
– 경량화와 성능 간의 균형을 고려하지 않고 설계하면 성능 저하가 발생할 수 있음.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “네트워크 구조 최적화는 계산량과 메모리 사용량을 줄이는 데 중점을 둔다.”
– X: “네트워크 구조 최적화는 항상 성능을 희생하지 않고 계산량만 줄인다.”

================================

1. Depthwise Separable Convolution

ㅇ 정의:
합성곱 연산을 Depthwise Convolution과 Pointwise Convolution으로 분리하여 계산 효율성을 높이는 기법.

ㅇ 특징:
– 일반적인 합성곱 연산에 비해 계산량이 크게 감소.
– 모델의 파라미터 수를 줄이고 경량화를 가능하게 함.
– MobileNet과 같은 경량 신경망에서 주로 사용됨.

ㅇ 적합한 경우:
– 모바일 기기와 같이 제한된 자원 환경에서의 딥러닝 모델 구현.
– 실시간 처리가 요구되는 애플리케이션.

ㅇ 시험 함정:
– Depthwise Separable Convolution을 항상 성능 향상으로 연결짓는 오류.
– 일반 합성곱과 동일한 계산량으로 오해.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “Depthwise Separable Convolution은 계산량 감소를 위해 합성곱 연산을 두 단계로 나눈다.”
– X: “Depthwise Separable Convolution은 항상 일반 합성곱보다 정확도가 높다.”

================================

ㅁ 추가 학습 내용

Depthwise Separable Convolution은 MobileNet 외에도 EfficientNet, ShuffleNet 등 다양한 경량화 네트워크에서 활용되는 기법으로, 네트워크의 계산량과 메모리 사용량을 줄이는 데 중요한 역할을 한다. 이를 통해 경량화 모델이 높은 효율성을 유지하면서도 성능을 확보할 수 있다.

이 기법은 두 가지 단계로 이루어진다:
1. Depthwise Convolution: 각 채널별로 독립적으로 필터를 적용하여 공간 정보를 추출한다. 따라서 입력 채널 간의 상호작용은 이루어지지 않는다.
2. Pointwise Convolution: 1×1 크기의 필터를 사용하여 채널 간의 상호작용을 생성하고, 채널 정보를 합친다.

계산 복잡도 차이는 다음과 같이 설명할 수 있다:
– 일반적인 Convolution의 계산 복잡도는 필터 크기(k x k), 입력 채널 수(C_in), 출력 채널 수(C_out), 출력 크기(W x H)에 따라 k² * C_in * C_out * W * H로 계산된다.
– Depthwise Separable Convolution의 계산 복잡도는 두 단계로 나뉜다:
a. Depthwise Convolution: k² * C_in * W * H
b. Pointwise Convolution: C_in * C_out * W * H
– 따라서 전체 계산 복잡도는 (k² + C_out) * C_in * W * H로 줄어든다.

이를 통해 얻는 효율성의 구체적인 수치를 살펴보면, 일반적으로 Depthwise Separable Convolution은 계산량을 약 1/k²로 줄일 수 있다. 예를 들어, k=3인 경우 계산량은 약 1/9 수준으로 감소하게 된다. 이러한 효율성 덕분에 경량화 네트워크에서 널리 사용되며, 모바일 및 임베디드 환경에서도 실시간 처리가 가능해진다.