ㅁ 신경망 구조

ㅇ 정의:
그래프 형태의 데이터를 처리하기 위해 고안된 신경망 구조로, 노드와 엣지의 관계를 학습하여 구조적 패턴을 파악하는 모델.

ㅇ 특징:
– 노드 간의 연결 관계를 반영하여 학습 가능
– 인접 행렬 또는 인접 리스트를 활용한 연산 구조
– 지역적 이웃 정보 집계(Aggregation)와 갱신(Update) 단계를 반복

ㅇ 적합한 경우:
– 소셜 네트워크 분석(사용자 관계 예측)
– 화학 분자 구조 분석(분자 특성 예측)
– 지식 그래프 완성 및 추천 시스템

ㅇ 시험 함정:
– CNN, RNN과 달리 입력 데이터의 순서가 아닌 연결 관계가 핵심
– Fully Connected Layer처럼 모든 노드가 연결된 구조로 오해하기 쉬움
– GNN은 노드 특징과 구조 모두를 학습한다는 점을 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “그래프 데이터에서 노드 간 관계를 학습하는 데 효과적이다.”
X: “GNN은 시계열 데이터의 시간적 순서를 학습하는 데 최적화되어 있다.”

================================

1. GNN

ㅇ 정의:
그래프 데이터의 노드, 엣지, 전체 그래프 수준의 표현을 학습하기 위한 신경망 모델.

ㅇ 특징:
– 메시지 패싱(Message Passing) 메커니즘 기반
– 다양한 그래프 구조(정규/비정규, 유향/무향) 처리 가능
– 레이어가 깊어질수록 과도한 스무딩(Over-smoothing) 발생 가능

ㅇ 적합한 경우:
– 네트워크 상에서의 연결 패턴 분석
– 추천 시스템에서 사용자-아이템 관계 모델링
– 화학/생물학 분야의 구조 분석

ㅇ 시험 함정:
– GNN은 CNN처럼 고정된 격자 데이터에 특화된 것이 아님
– 단순 인접 행렬 곱셈만으로 학습이 끝난다고 오해
– Over-smoothing을 방지하기 위한 기법이 존재함을 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “GNN은 노드의 이웃 정보와 구조를 함께 반영하여 학습한다.”
X: “GNN은 입력 데이터의 순서 정보를 기반으로 학습한다.”

ㅁ 추가 학습 내용

GNN 시험 대비 핵심 정리

1. 주요 변형 모델 비교
– GCN(Graph Convolutional Network): 인접 행렬과 특징 행렬을 활용한 스펙트럴 기반 컨볼루션. 평균 연산 기반의 집계.
– GraphSAGE: 샘플링 기반의 인접 노드 선택 후 집계. 평균, 최대, LSTM 등 다양한 Aggregation Function 사용 가능.
– GAT(Graph Attention Network): Attention 메커니즘을 사용하여 이웃 노드별 가중치를 다르게 부여. 중요도가 높은 이웃의 정보에 더 큰 비중.

2. 메시지 패싱 및 집계 함수 특징
– 메시지 패싱: 각 노드가 이웃 노드로부터 정보를 받아 자신의 표현을 갱신하는 과정.
– 집계 함수(Aggregation Function): 평균(Mean), 합(Sum), 최대(Max) 등으로 이웃의 특징을 통합.
– GCN: 평균 기반, GraphSAGE: 다양한 집계 가능, GAT: 가중합 기반.

3. Over-smoothing 문제와 완화 기법
– Over-smoothing: GNN의 레이어가 깊어질수록 노드 표현이 유사해져 구분이 어려워지는 현상.
– 완화 기법: Residual Connection(입력 특징을 출력에 더해 정보 손실 방지), Jumping Knowledge Networks(여러 레이어의 출력을 선택적으로 결합).

4. GNN과 CNN, RNN 비교
– 연결 구조: GNN은 그래프 구조, CNN은 격자 구조(이미지), RNN은 순차 구조(시계열).
– 입력 데이터 형태: GNN은 노드·엣지·그래프, CNN은 2D/3D 텐서, RNN은 시퀀스.
– 학습 방식: GNN은 이웃 노드 집계 기반, CNN은 지역 필터 기반 합성곱, RNN은 순차적 상태 갱신.

5. GNN 응용 분야
– 소셜 네트워크 분석: 사용자 관계, 커뮤니티 탐지.
– 화학 구조 분석: 분자 구조 예측, 약물 발견.
– 지식 그래프: 엔티티 관계 추론, 추천 시스템.