ㅁ 지속학습/재학습

ㅇ 정의:
기존에 학습된 모델에 새로운 데이터를 추가적으로 학습시키는 방법으로, 모델을 처음부터 다시 학습시키지 않고도 업데이트가 가능한 기법.

ㅇ 특징:
– 기존 데이터를 모두 저장하지 않아도 학습 가능.
– 새로운 데이터에 대해 빠르게 적응할 수 있음.
– 모델이 점진적으로 발전하며, 데이터가 지속적으로 유입되는 환경에서 적합.

ㅇ 적합한 경우:
– 데이터가 점진적으로 추가되는 상황(예: 실시간 센서 데이터).
– 저장 공간이 제한적이어서 전체 데이터를 저장할 수 없는 경우.
– 모델 업데이트가 빈번히 필요한 경우.

ㅇ 시험 함정:
– Incremental Learning과 Online Learning을 혼동하게 하는 문제 출제 가능.
– 기존 데이터 손실로 인한 Catastrophic Forgetting 문제를 간과하는 질문.

ㅇ 시험 대비 “패턴 보기” 예시:
1. Incremental Learning은 기존 데이터를 모두 저장해야 한다. (X)
2. Incremental Learning은 새로운 데이터에 대해 모델을 처음부터 다시 학습시킨다. (X)
3. Incremental Learning은 Catastrophic Forgetting 문제를 완전히 해결한다. (X)
4. Incremental Learning은 데이터가 점진적으로 유입되는 환경에서 적합하다. (O)

ㅁ 추가 학습 내용

지속학습/재학습에서 Catastrophic Forgetting 문제를 완화하기 위한 방법론과 Incremental Learning과 Online Learning의 차이점을 다음과 같이 정리하면 학습에 유용합니다.

1. Catastrophic Forgetting 문제 완화 방법론:
– Elastic Weight Consolidation (EWC): 이전에 학습한 중요한 가중치에 대해 페널티를 부여하는 방식으로, 새로운 데이터를 학습하더라도 기존 지식이 손실되지 않도록 가중치 업데이트를 제한합니다. 이를 위해 손실 함수에 정규화 항을 추가하여 중요한 가중치가 크게 변경되지 않도록 합니다.
– Replay Buffer: 이전 데이터를 저장하고, 새로운 데이터를 학습할 때 이 저장된 데이터를 함께 사용하여 모델이 이전 지식을 유지하도록 합니다. 이를 통해 새로운 데이터 학습 중에도 과거 데이터를 반복적으로 학습할 수 있습니다.
– Progressive Neural Networks: 새로운 작업을 학습할 때 기존 모델의 가중치를 고정하고, 새로운 작업에 대해 별도의 네트워크를 추가로 학습시키는 방식입니다. 기존 네트워크의 가중치를 참조만 하므로 이전 지식의 손실이 방지됩니다.
– Regularization-based Methods: EWC 외에도 L2 정규화와 같은 방법을 사용하여 가중치의 변화를 제한하거나, 특정 가중치에 대한 중요도를 평가하여 학습 과정에서 이를 반영하는 방식입니다.
– Generative Replay: 이전 데이터를 저장하지 않고, 생성 모델을 통해 과거 데이터를 생성하여 Replay Buffer의 역할을 대신합니다.

2. Incremental Learning과 Online Learning의 차이점:
– Incremental Learning:
– 주로 모델이 점진적으로 새로운 데이터를 학습하는 방식입니다.
– 데이터가 배치(batch) 단위로 주어지고, 각 배치에서 학습한 후 모델이 업데이트됩니다.
– 이전 데이터를 모두 사용할 수 없는 상황에서 새로운 데이터와 기존 지식을 통합하여 학습합니다.
– Catastrophic Forgetting 문제를 해결하기 위한 다양한 기법이 사용됩니다.
– Online Learning:
– 데이터가 연속적으로 한 번에 하나씩 주어지는 상황에서 학습이 이루어집니다.
– 모델이 데이터를 순차적으로 처리하며, 각 데이터 포인트가 학습된 후 즉시 업데이트됩니다.
– 실시간 데이터 처리 및 학습이 중요한 응용 분야에서 주로 사용됩니다.
– 주요 차이점:
– Incremental Learning은 배치 단위로 데이터를 처리하며, Online Learning은 데이터가 순차적으로 주어질 때 즉각적으로 학습합니다.
– Incremental Learning은 Catastrophic Forgetting 문제를 해결하기 위한 다양한 전략을 포함할 수 있지만, Online Learning은 주로 실시간 학습에 초점이 맞춰져 있습니다.

이 내용을 바탕으로 시험 대비 복습을 진행하면 Catastrophic Forgetting 문제와 학습 방법론의 차이를 명확히 이해할 수 있을 것입니다.