ㅁ 지능형 캐싱

ㅇ 정의:
자주 사용되는 데이터나 연산 결과를 메모리나 고속 저장소에 저장하여 재사용함으로써 시스템 응답 속도를 향상시키는 기술. 데이터 접근 패턴과 사용 빈도를 분석하여 캐싱 전략을 자동으로 최적화함.

ㅇ 특징:
– 데이터 접근 패턴 기반 자동 캐싱 정책 적용
– 메모리, SSD, 분산 캐시 서버 등 다양한 저장 매체 활용
– 최신 데이터와의 일관성 유지 메커니즘 필요
– 캐시 적중률(Cache Hit Ratio) 관리가 성능 핵심

ㅇ 적합한 경우:
– 반복적으로 동일한 데이터 조회가 많은 경우
– 모델 학습/서빙 시 동일 Feature를 여러 요청에서 재사용하는 경우
– 데이터베이스 부하를 줄여야 하는 실시간 응답 시스템

ㅇ 시험 함정:
– 캐싱은 항상 성능 향상을 보장하지 않음 (데이터 변동이 잦거나 캐시 적중률이 낮으면 오히려 성능 저하)
– 캐시 무효화(Invalidation) 전략 미비 시 데이터 최신성 문제 발생
– 캐시 저장소와 원본 저장소 간의 동기화 비용 간과

ㅇ 시험 대비 “패턴 보기” 예시:
O: “자주 조회되는 Feature 값을 메모리에 저장하여 재사용하는 방식은 Feature Store Caching의 예이다.”
X: “Feature Store Caching은 모든 데이터 요청에 대해 항상 속도를 향상시킨다.”

================================

1. Feature Store Caching

ㅇ 정의:
머신러닝 파이프라인에서 Feature Store에 저장된 Feature 데이터 중 자주 사용되는 것을 캐시에 보관하여, 모델 서빙과 학습 시 데이터 접근 속도를 향상시키는 기법.

ㅇ 특징:
– Feature 조회 시 네트워크/스토리지 I/O를 줄여 지연 시간 감소
– 온라인 서빙 환경에서는 밀리초 단위 응답을 가능하게 함
– 오프라인 학습 환경에서도 반복 Feature 로딩 시간 절감
– TTL(Time To Live), LRU(Least Recently Used) 등의 캐시 관리 정책 적용 가능

ㅇ 적합한 경우:
– 동일 Feature를 여러 모델/요청에서 반복적으로 사용하는 경우
– 대규모 실시간 추천, 광고, 개인화 서비스
– 학습 파이프라인에서 동일 Feature를 여러 배치 작업에서 재활용하는 경우

ㅇ 시험 함정:
– Feature Store Caching은 원본 데이터 변경 시 자동으로 반영되지 않을 수 있음
– 캐시 적중률이 낮으면 오히려 메모리 낭비 및 관리 오버헤드 발생
– 캐시와 원본 Feature Store 간의 데이터 일관성 문제를 무시하면 오답

ㅇ 시험 대비 “패턴 보기” 예시:
O: “Feature Store Caching은 모델 서빙 시 지연 시간을 줄이기 위해 사용된다.”
X: “Feature Store Caching은 원본 Feature Store의 모든 데이터를 항상 캐시에 저장한다.”

ㅁ 추가 학습 내용

Feature Store Caching 학습 정리

1. 캐시 계층 구조
– 로컬 메모리 캐시: 애플리케이션 프로세스 내부 메모리에 저장, 접근 속도 매우 빠름, 단일 노드 한정, 확장성 제한.
– 분산 캐시: 여러 노드에서 공유 가능, 데이터 일관성 관리 필요, 네트워크 지연 발생 가능.
– CDN 캐시: 전 세계 분산된 엣지 서버를 통한 콘텐츠 제공, 지리적 지연 감소, 주로 정적 데이터에 적합.

2. 캐시 무효화 전략
– Write-through: 쓰기 시 캐시와 저장소 모두 갱신, 데이터 일관성 높음, 쓰기 지연 발생 가능.
– Write-back: 먼저 캐시에만 쓰고 나중에 저장소에 반영, 쓰기 성능 높음, 장애 시 데이터 유실 위험.
– Write-around: 저장소에만 쓰고 읽기 시 캐시에 로드, 쓰기 부하 감소, 초기 읽기 성능 저하 가능.

3. 캐시 일관성 유지 기법
– Event-driven 업데이트: 데이터 변경 이벤트 발생 시 캐시 갱신, 실시간성 높음.
– TTL(Time To Live) 기반 자동 만료: 일정 시간이 지나면 캐시 삭제, 오래된 데이터 자동 제거.
– 버전 관리: 데이터 버전을 비교해 최신 데이터만 유지, 불필요한 갱신 방지.

4. 분산 환경에서의 캐시 동기화 문제와 해결책
– 문제: 여러 노드 간 캐시 불일치, 네트워크 지연, 장애 시 데이터 불일치 발생 가능.
– 해결책: Redis Cluster, Hazelcast 등 분산 캐시 솔루션 사용, Pub/Sub 또는 Gossip 프로토콜로 변경 사항 전파.

5. 비용-효과 분석 및 모니터링 지표
– 분석 방법: 캐시 도입 전후 성능 비교, 인프라 비용과 성능 향상 효과 평가.
– 주요 지표: Cache Hit Ratio(캐시 적중률), Latency Reduction(지연 시간 감소율), Eviction Rate(캐시에서 데이터 제거 비율).

6. 캐싱과 데이터 프라이버시
– 민감 데이터 캐싱 시 접근 제어 필수, 권한 있는 사용자만 접근 가능하도록 설정.
– 데이터 암호화 적용, 전송 및 저장 시 보안 강화.