[카테고리:] AI 이론

ㅁ 멀티태스크 학습 ㅇ 정의: – 하나의 모델이 여러 개의 관련된 작업(Task)을 동시에 학습하여 성능과 일반화 능력을 향상시키는 기법. ㅇ 특징: – 공유된 표현(Shared Representation)을 통해 데이터 효율성을 높임. – 특정 작업의 데이터 부족 문제를 다른 작업의 데이터로 보완 가능. – 작업 간 상호 간섭(Interference) 문제 발생 가능. ㅇ 적합한 경우: – 서로 관련성이 있는

ㅁ 멀티태스크 학습 ㅇ 정의: 여러 개의 관련된 작업(Task)을 하나의 모델이 동시에 학습하도록 하여, 각 작업 간의 정보 공유를 통해 성능을 향상시키는 학습 방법. ㅇ 특징: – 파라미터 공유를 통해 데이터 효율성을 높임 – 작업 간의 상관관계 활용 – 특정 작업의 데이터가 부족해도 다른 작업의 데이터로 보완 가능 ㅇ 적합한 경우: – 유사한 입력 구조를

ㅁ 멀티태스크 학습 ㅇ 정의: – 하나의 모델이 동시에 여러 관련 작업(Task)을 학습하도록 하는 머신러닝 접근 방식. – 각 작업 간의 공통 표현을 학습하여 일반화 성능을 향상시킴. ㅇ 특징: – 파라미터 공유(Parameter Sharing)를 통해 모델 크기와 학습 시간을 절약. – 데이터가 적은 작업에서도 다른 작업의 정보로 보완 가능. – 작업 간 상관관계가 높을수록 성능 향상

ㅁ 대체 모델 및 접근법 ㅇ 정의: Hypernetworks는 하나의 신경망이 다른 신경망의 가중치를 생성하거나 조정하는 메타 학습 구조로, 주 네트워크(Main Network)의 파라미터를 직접 학습하는 대신 보조 네트워크(Hypernetwork)가 이를 예측하여 효율성을 높이는 방식이다. ㅇ 특징: – 파라미터 공유 및 생성으로 모델 크기와 학습 시간을 절감 가능 – 다양한 입력 조건에 따라 동적으로 가중치를 생성하여 유연성 확보

ㅁ 대체 모델 및 접근법 ㅇ 정의: 전통적인 CNN의 한계를 극복하기 위해 제프리 힌튼이 제안한 신경망 구조로, 개별 뉴런 대신 ‘캡슐’이라는 벡터 단위를 사용하여 객체의 위치, 방향, 크기 등 다양한 속성을 함께 학습하는 모델. ㅇ 특징: – 캡슐은 활성화 값과 함께 포즈 정보를 포함한 벡터를 출력. – 동적 라우팅(Dynamic Routing)을 통해 하위 캡슐의 출력을 상위

ㅁ 대체 모델 및 접근법 ㅇ 정의: 인간 뇌의 뉴런 발화(spike) 메커니즘을 모방하여, 연속적인 값이 아닌 이벤트 기반의 이산적인 신호를 처리하는 신경망 모델. ㅇ 특징: – 뉴런은 특정 임계값에 도달할 때만 스파이크를 발생시킴. – 전력 소모가 적고, 이벤트 중심 처리로 효율적. – 시간 정보를 자연스럽게 인코딩 가능. – 하드웨어적으로 Neuromorphic 칩과 결합 시 장점 극대화.

ㅁ 인프라 및 자동화 ㅇ 정의: – Model Explainability Logging은 AI/ML 모델의 예측 결과에 대한 설명 가능성(Explainability) 정보를 로그 형태로 기록하여, 모델의 의사결정 근거를 추적할 수 있도록 하는 기능. – 주로 SHAP, LIME 등의 설명 기법을 활용한 결과를 로그에 포함. ㅇ 특징: – 예측값뿐만 아니라 각 입력 특성(feature)이 결과에 미친 영향도 함께 기록. – 운영

ㅁ 인프라 및 자동화 ㅇ 정의: 머신러닝 모델 학습과 예측에 필요한 피처(Feature)를 중앙에서 관리·저장·제공하는 시스템을 구현하는 과정. 데이터 엔지니어링, 데이터 파이프라인, API 제공, 버전 관리 등을 포함. ㅇ 특징: – 학습 데이터와 실시간 예측 데이터의 피처 일관성 보장 – 피처 재사용을 통한 개발 효율성 향상 – 데이터 품질 관리 및 모니터링 기능 포함 – 온라인(저지연)

ㅁ 인프라 및 자동화 ㅇ 정의: Kubernetes Operators for ML은 머신러닝 워크로드를 Kubernetes 환경에서 자동으로 배포, 운영, 관리하기 위해 Custom Resource Definition(CRD)과 Operator 패턴을 활용하는 기술이다. Kubeflow, MLflow Operator 등이 대표적이다. ㅇ 특징: – ML 모델 학습, 배포, 모니터링을 Kubernetes 네이티브 방식으로 처리 – 반복적인 ML 파이프라인 작업을 코드로 정의하여 자동화 – 확장성 및 재현성

ㅁ 성능 모니터링 ㅇ 정의: AI 모델 운영 중 비정상적인 성능 저하나 이상 패턴을 자동으로 탐지하고, 그 원인을 설명 가능하게 제공하는 기법. ㅇ 특징: – 실시간 또는 배치 방식으로 모델 입력/출력, 시스템 지표를 분석. – 이상 탐지와 함께 SHAP, LIME 등의 설명 가능 AI(XAI) 기법을 결합하여 원인 파악 지원. – 단순 알림이 아니라 원인 분석