ㅁ 효율적 학습 ㅇ 정의: – 모델 학습 과정에서 계산 효율성을 높이고, 메모리 사용량을 줄이며, 학습 속도와 성능을 동시에 최적화하는 기법들의 집합. ㅇ 특징: – 하드웨어 리소스 제약 환경에서도 고성능 모델 학습 가능 – 다양한 최적화 알고리즘과 학습 스케줄링, 정밀도 조정 기법 포함 ㅇ 적합한 경우: – 대규모 데이터셋과 모델을 제한된 GPU/TPU 환경에서 학습할 때
ㅁ 최신 기법 1. Prompt Tuning ㅇ 정의: 사전 학습된 대규모 언어 모델(LLM)의 파라미터를 고정하고, 입력 프롬프트에 최적화된 벡터를 학습하여 원하는 태스크 성능을 높이는 기법. ㅇ 특징: – 모델 전체를 재학습하지 않고 일부 프롬프트 임베딩만 학습 – 메모리와 연산량 절감 – 태스크별 맞춤 프롬프트 생성 가능 ㅇ 적합한 경우: – 리소스가 제한된 환경에서 특정 태스크에
ㅁ 최신 알고리즘 1. PPO ㅇ 정의: Proximal Policy Optimization으로, 정책 기반 강화학습 알고리즘의 한 종류로 정책 업데이트 시 큰 변화가 생기지 않도록 클리핑 기법을 사용하는 방법. ㅇ 특징: – Actor-Critic 구조 기반 – 정책 업데이트 시 KL divergence 제약 대신 클리핑 손실 사용 – 안정적 수렴과 비교적 단순한 구현 ㅇ 적합한 경우: – 연속/이산
ㅁ 모델 혁신 1. Transformers ㅇ 정의: – 시퀀스 데이터를 병렬로 처리하기 위해 Self-Attention 메커니즘을 사용하는 딥러닝 모델 구조. – RNN, LSTM의 순차적 처리 한계를 극복. ㅇ 특징: – 병렬 처리 가능, 긴 문맥 학습에 유리. – Encoder-Decoder 구조 또는 Encoder-only, Decoder-only 변형 가능. – 파라미터 수가 많아 대규모 데이터에서 성능 우수. ㅇ 적합한 경우:
ㅁ 하드웨어 혁신 ㅇ 정의: AI 모델 학습과 추론 성능을 극대화하기 위해 설계된 차세대 하드웨어 기술들을 총칭. ㅇ 특징: 고성능 연산, 저전력 설계, 병렬 처리 최적화, 특수 목적 아키텍처 적용. ㅇ 적합한 경우: 대규모 AI 학습, 실시간 추론, 에너지 효율이 중요한 환경. ㅇ 시험 함정: GPU, TPU, NPU 등 가속기 종류와 적용 사례를 혼동하거나, 엣지
ㅁ 데이터 활용 ㅇ 정의: 데이터 활용은 AI 모델 개발 과정에서 데이터의 품질, 다양성, 적합성을 확보하여 성능을 극대화하는 전략을 의미함. ㅇ 특징: – 데이터 수집, 전처리, 품질 관리, 증강, 생성 등 전반적인 데이터 라이프사이클을 포함 – 모델 중심 접근이 아닌 데이터 중심 접근 강조 ㅇ 적합한 경우: – 데이터 품질이 모델 성능에 직접적인 영향을 미치는
ㅁ 책임 있는 AI ㅇ 정의: 인공지능 기술의 개발과 활용 과정에서 사회적, 법적, 윤리적 책임을 준수하며 인권과 공정성을 보장하는 접근 방식. ㅇ 특징: – 공정성, 투명성, 설명 가능성, 편향 감지, 거버넌스 등을 포함 – 규제 및 표준 준수 강조 – 이해관계자 참여와 지속적인 모니터링 필요 ㅇ 적합한 경우: – 사회적 영향이 큰 AI 서비스 개발
ㅁ 지속가능성 ㅇ 정의: AI 기술 개발과 운영 과정에서 에너지 효율성과 환경 영향을 최소화하여 지속 가능한 발전을 추구하는 접근 방식. ㅇ 특징: – 전력 소비 절감 및 탄소 배출 저감 – 재생 에너지 사용 장려 – 모델 경량화 및 효율적 학습 기법 활용 ㅇ 적합한 경우: – 대규모 AI 모델 운영 시 전력 비용과 환경
ㅁ 개인 맞춤 서비스 ㅇ 정의: 개인 맞춤 서비스는 사용자의 행동, 선호, 상황 데이터를 활용하여 개별 사용자에게 최적화된 콘텐츠, 제품, 서비스를 제공하는 기술 및 접근 방식. ㅇ 특징: – 대규모 데이터 분석과 AI 알고리즘을 활용해 사용자별 차별화된 경험 제공 – 실시간 데이터 반영 가능 – 추천 시스템, 개인화 마케팅, 맞춤형 UI/UX 등에 적용 ㅇ 적합한
ㅁ 기술 및 응용 1. Multimodal Models ㅇ 정의: – 텍스트, 이미지, 오디오, 비디오 등 서로 다른 형태의 데이터를 동시에 처리하고 이해하는 AI 모델. ㅇ 특징: – 서로 다른 모달리티 간의 상호 연관성을 학습. – 복합 입력을 기반으로 더 정교한 추론 가능. – 대규모 데이터와 연산 자원 필요. ㅇ 적합한 경우: – 이미지 캡션 생성,