ㅁ 동기화 기법 ㅇ 정의: ㅇ 특징: ㅇ 적합한 경우: ㅇ 시험 함정: ㅇ 시험 대비 “패턴 보기” 예시: ================================ 1. 실시간 동기화 ㅇ 정의: 두 개 이상의 시스템 간 데이터를 거의 지연 없이 동일하게 유지하는 방식으로, 변경 사항이 발생 즉시 전송·반영되는 동기화 기법. ㅇ 특징: – 네트워크 지연 최소화, 밀리초~초 단위 반영 – 지속적인
ㅁ 라벨링 기술 1. 수동 레이블링 ㅇ 정의: 사람이 직접 데이터를 보고 라벨을 부여하는 방식. ㅇ 특징: 정확도가 높지만 시간과 비용이 많이 소요됨. 대규모 데이터셋에는 비효율적. ㅇ 적합한 경우: 데이터 양이 적거나 고도의 전문 지식이 필요한 경우. ㅇ 시험 함정: ‘수동 레이블링은 항상 대규모 데이터에 적합하다’ → X, ‘전문가가 참여하면 정확도가 높아진다’ → O ㅇ
ㅁ 최신 연구 주제 1. Foundation Models ㅇ 정의: 대규모 데이터셋으로 사전 학습(pretraining)되어 다양한 다운스트림 작업에 적응(finetuning)할 수 있는 범용 인공지능 모델. ㅇ 특징: – 수십억~수천억 개 파라미터 규모 – 다양한 모달리티(텍스트, 이미지, 오디오 등) 처리 가능 – 전이학습(Transfer Learning) 효율 극대화 ㅇ 적합한 경우: – 데이터 라벨링이 제한된 환경에서 다양한 태스크 수행 – 범용
ㅁ 대표 방법 ㅇ 정의: 자기지도학습에서 널리 사용되는 대표적인 학습 기법들을 의미하며, 라벨 없이 데이터의 내재적 구조를 학습하는데 활용됨. ㅇ 특징: 데이터 증강, 인코더 구조, 사전학습-미세조정 패턴 등에서 차이를 보이며, 이미지·음성·텍스트 등 다양한 도메인에 적용 가능. ㅇ 적합한 경우: 대규모 비라벨 데이터가 있고, 다운스트림 태스크에 맞춘 사전학습이 필요한 경우. ㅇ 시험 함정: 각 방법의 차이를
ㅁ 최신 모델 1. Diffusion Models ㅇ 정의: 데이터에 점진적으로 노이즈를 추가한 뒤 이를 역으로 제거하는 과정을 학습하여 새로운 데이터를 생성하는 확률적 생성 모델. ㅇ 특징: – 학습 안정성이 높고 모드 붕괴가 적음 – 생성 품질이 우수하지만 샘플링 속도가 느림 – 다양한 조건부 생성(이미지-텍스트, 이미지-이미지 변환)에 활용 가능 ㅇ 적합한 경우: – 고해상도 이미지 생성
ㅁ 효율적 학습 ㅇ 정의: – 모델 학습 과정에서 계산 효율성을 높이고, 메모리 사용량을 줄이며, 학습 속도와 성능을 동시에 최적화하는 기법들의 집합. ㅇ 특징: – 하드웨어 리소스 제약 환경에서도 고성능 모델 학습 가능 – 다양한 최적화 알고리즘과 학습 스케줄링, 정밀도 조정 기법 포함 ㅇ 적합한 경우: – 대규모 데이터셋과 모델을 제한된 GPU/TPU 환경에서 학습할 때
ㅁ 최신 기법 1. Prompt Tuning ㅇ 정의: 사전 학습된 대규모 언어 모델(LLM)의 파라미터를 고정하고, 입력 프롬프트에 최적화된 벡터를 학습하여 원하는 태스크 성능을 높이는 기법. ㅇ 특징: – 모델 전체를 재학습하지 않고 일부 프롬프트 임베딩만 학습 – 메모리와 연산량 절감 – 태스크별 맞춤 프롬프트 생성 가능 ㅇ 적합한 경우: – 리소스가 제한된 환경에서 특정 태스크에
ㅁ 최신 알고리즘 1. PPO ㅇ 정의: Proximal Policy Optimization으로, 정책 기반 강화학습 알고리즘의 한 종류로 정책 업데이트 시 큰 변화가 생기지 않도록 클리핑 기법을 사용하는 방법. ㅇ 특징: – Actor-Critic 구조 기반 – 정책 업데이트 시 KL divergence 제약 대신 클리핑 손실 사용 – 안정적 수렴과 비교적 단순한 구현 ㅇ 적합한 경우: – 연속/이산
ㅁ 모델 혁신 1. Transformers ㅇ 정의: – 시퀀스 데이터를 병렬로 처리하기 위해 Self-Attention 메커니즘을 사용하는 딥러닝 모델 구조. – RNN, LSTM의 순차적 처리 한계를 극복. ㅇ 특징: – 병렬 처리 가능, 긴 문맥 학습에 유리. – Encoder-Decoder 구조 또는 Encoder-only, Decoder-only 변형 가능. – 파라미터 수가 많아 대규모 데이터에서 성능 우수. ㅇ 적합한 경우:
ㅁ 하드웨어 혁신 ㅇ 정의: AI 모델 학습과 추론 성능을 극대화하기 위해 설계된 차세대 하드웨어 기술들을 총칭. ㅇ 특징: 고성능 연산, 저전력 설계, 병렬 처리 최적화, 특수 목적 아키텍처 적용. ㅇ 적합한 경우: 대규모 AI 학습, 실시간 추론, 에너지 효율이 중요한 환경. ㅇ 시험 함정: GPU, TPU, NPU 등 가속기 종류와 적용 사례를 혼동하거나, 엣지