ㅁ 학습 구조

ㅇ 정의:
주어진 새로운 작업에 대해 소량의 학습 데이터(Few-shot)만으로도 빠르게 적응할 수 있도록 설계된 메타러닝 구조.
기존에 다양한 작업(Task)에서 학습한 경험을 바탕으로 새로운 작업에 필요한 파라미터나 표현을 빠르게 조정함.

ㅇ 특징:
– 데이터 효율성이 높음: 적은 데이터로도 높은 성능 달성 가능
– 사전 학습된 메타모델이 존재하며, 새로운 작업에 맞게 빠른 Fine-tuning 수행
– 다양한 태스크에서 공통된 표현(Representation)을 학습함
– 학습 속도가 빠르고, 연산 자원 소모가 적음

ㅇ 적합한 경우:
– 데이터 수집이 어려운 도메인(의료 영상, 희귀 언어 처리 등)
– 빠른 모델 배포가 필요한 환경
– 다양한 태스크에 순차적으로 대응해야 하는 상황

ㅇ 시험 함정:
– Few-shot은 Zero-shot과 혼동하기 쉬움 (Zero-shot은 학습 데이터 없이 추론)
– Few-shot Meta Learning은 단순한 Transfer Learning과 다름 (Transfer Learning은 주로 하나의 대규모 데이터셋에서 학습 후 다른 유사 작업에 적용)
– 메타러닝의 목표는 ‘학습 방법을 학습’하는 것이며, 단순히 모델 파라미터를 재사용하는 것과 구분해야 함

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Few-shot Meta Learning은 새로운 작업에 대해 소량의 데이터로 빠르게 적응하는 메타러닝 기법이다.”
X: “Few-shot Meta Learning은 학습 데이터 없이 새로운 작업을 수행한다.”
X: “Few-shot Meta Learning은 하나의 작업에서 학습한 가중치를 그대로 다른 작업에 적용하는 것이다.”

ㅁ 추가 학습 내용

Few-shot Meta Learning의 대표적인 알고리즘에는 MAML(Model-Agnostic Meta-Learning), Prototypical Networks(ProtoNet), Matching Networks가 있다.
학습 구조는 메타-트레이닝(Meta-training)과 메타-테스팅(Meta-testing) 단계로 나뉘며, 메타-트레이닝 단계에서 다양한 태스크를 경험하고, 메타-테스팅 단계에서 새로운 태스크에 빠르게 적응한다.
성능 평가는 평균 정확도(Accuracy)뿐 아니라 태스크 적응 속도, 데이터 효율성 등의 지표를 활용한다.
응용 사례로는 음성 인식, 이미지 분류, 자연어 처리(NLP)에서 소량 데이터 환경에 적용되는 경우가 많다.
시험에서는 Few-shot, One-shot, Zero-shot의 정의와 차이를 비교하는 문제가 자주 출제된다.
메타러닝과 전이학습(Transfer Learning)의 차이점은, 메타러닝은 학습 알고리즘 자체를 최적화하는 데 초점을 두는 반면, 전이학습은 사전 학습된 모델의 가중치를 재활용하는 데 초점을 둔다.