ㅁ 시스템 구축

ㅇ 정의:
– AI 모델이 새로운 데이터를 지속적으로 학습하여 성능을 유지하거나 향상시키는 시스템을 구성하는 과정.

ㅇ 특징:
– 데이터의 지속적인 유입 및 관리 필요.
– 모델의 성능 저하 방지를 위한 주기적 업데이트.
– 데이터 편향 및 노후화 문제 해결.

ㅇ 적합한 경우:
– 변화가 빠른 환경에서 운영되는 AI 시스템.
– 사용자 요구사항이 지속적으로 변하는 애플리케이션.

ㅇ 시험 함정:
– 컨티뉴얼 러닝과 전통적 배치 학습의 차이를 혼동.
– 데이터 편향 문제와 노후화 문제를 구분하지 못함.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 컨티뉴얼 러닝은 새로운 데이터가 지속적으로 유입될 때 모델의 성능을 유지하기 위한 학습 방식이다.
– X: 컨티뉴얼 러닝은 과거 데이터를 삭제하고 새로운 데이터만 학습하는 방식이다.

================================

1. 컨티뉴얼 러닝

ㅇ 정의:
– AI 모델이 과거 데이터를 잊지 않으면서 새로운 데이터를 학습하여 성능을 유지하거나 향상시키는 학습 방법.

ㅇ 특징:
– 데이터 누적 학습 가능.
– 모델의 ‘망각 문제'(Catastrophic Forgetting) 방지 필요.
– 효율적인 메모리 및 컴퓨팅 자원 관리 요구.

ㅇ 적합한 경우:
– 사용자 행동 패턴이 자주 바뀌는 서비스.
– 환경 변화가 빈번한 자율주행 시스템.

ㅇ 시험 함정:
– 컨티뉴얼 러닝과 온라인 학습을 동일시함.
– 망각 문제를 잘못 이해하거나 간과함.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: 컨티뉴얼 러닝은 새로운 데이터 학습 시 기존 지식을 유지하는 것을 목표로 한다.
– X: 컨티뉴얼 러닝에서는 모든 과거 데이터를 삭제하고 새로운 데이터로만 학습한다.

ㅁ 추가 학습 내용

컨티뉴얼 러닝의 주요 기술적 접근 방식과 실제 사례, 그리고 윤리적 문제를 다음과 같이 정리하면 학습에 도움이 됩니다.

1. 주요 기술적 접근 방식:
– **가중치 고정**: 이전에 학습한 지식을 보존하기 위해 특정 신경망 가중치를 고정하거나 업데이트를 제한하는 방식.
– **정규화 기법**: 파라미터의 가중치 업데이트를 제어하여 과거 학습 내용을 유지하는 방법. 예로는 가중치의 변화에 패널티를 부여하는 방식이 있음.
– **메모리 기반 학습**: 중요 데이터나 샘플을 저장하고, 이를 학습 과정에서 반복적으로 참조하여 이전 지식을 유지하는 방법. 대표적으로 리플레이 버퍼나 경험 재생 기법이 있음.

2. 실제 사례:
– **자율주행차**: 새로운 도로 환경이나 교통 상황을 학습하면서도 이전에 학습한 주행 규칙과 지식을 유지해야 함.
– **개인화 추천 시스템**: 사용자 선호도가 시간에 따라 변화하더라도 이전의 사용자 데이터를 기반으로 지속적으로 적응하고 개선된 추천을 제공.

3. 윤리적 문제:
– **데이터 편향**: 컨티뉴얼 러닝 시스템이 데이터 편향에 영향을 받을 경우, 부정확하거나 불공정한 결과를 초래할 수 있음.
– **개인정보 보호**: 지속적인 학습 과정에서 사용자 데이터가 저장되고 활용되기 때문에, 데이터 보안과 프라이버시 보호가 중요한 문제로 대두됨.