ㅁ 성능 개선 복합 처리 ㅇ 정의: – 여러 모델 경량화 기법을 동시에 적용하여 성능 저하를 최소화하면서 연산량과 메모리 사용량을 줄이는 방법. ㅇ 특징: – 단일 기법 대비 더 높은 경량화 효과. – 기법 간 상호작용에 따른 성능 변화가 복잡함. – 적용 순서와 비율 조절이 중요. ㅇ 적합한 경우: – 모바일·엣지 디바이스에서 실시간 추론이 필요한
ㅁ 학습 곡선 최적화 기법 ㅇ 정의: – 모델 학습 과정에서 손실과 정확도의 변화를 분석하여 학습 효율을 높이고 일반화 성능을 향상시키는 방법. ㅇ 특징: – 학습 곡선을 기반으로 조기 종료, 정규화, 하이퍼파라미터 조정 등을 수행. – 훈련 데이터와 검증 데이터의 성능 차이를 통해 과적합/과소적합을 판단. ㅇ 적합한 경우: – 모델 성능이 일정 시점 이후 개선되지
ㅁ 자동 설계 검색 및 평가 ㅇ 정의: 신경망 구조를 사람이 직접 설계하지 않고, 알고리즘이 자동으로 탐색(Search) 및 평가(Evaluation)하여 최적의 모델 구조를 찾는 기술. ㅇ 특징: – 인공지능 모델 성능을 향상시키기 위해 구조 설계 과정을 자동화. – 탐색(Search)과 평가(Evaluation) 단계로 구성. – 연산량이 많고 자원 소모가 크지만, 최근에는 효율적인 탐색 기법이 개발됨. ㅇ 적합한 경우:
ㅁ 자동화 수준 관리 및 모니터링 ㅇ 정의: MLOps 환경에서 모델 개발·배포·운영의 자동화 수준을 단계별로 구분하고, 각 단계에 맞는 모니터링 체계를 구축하는 활동. ㅇ 특징: – 자동화 수준(Level)에 따라 수동 작업 비중과 자동화 범위가 달라짐 – 모델 품질, 데이터 품질, 시스템 안정성을 지속적으로 감시 – CI/CD, Feature Store 등 다양한 도구와 연계됨 ㅇ 적합한 경우:
ㅁ 배포 전략 특징 및 고려사항 1. Model-in-service vs Model-as-service ㅇ 정의: – Model-in-service: 모델이 애플리케이션 서비스 내부에 포함되어 함께 배포되는 방식 – Model-as-service: 모델이 독립된 서비스로 배포되어 API 형태로 호출되는 방식 ㅇ 특징: – Model-in-service: 배포 단순, 네트워크 지연 적음, 서비스와 모델 버전 동기화 필요 – Model-as-service: 모델 독립 배포 가능, 확장성 용이, 네트워크
ㅁ 최적화 기술 효과 및 방법 1. Pruning 기준 ㅇ 정의: – 신경망의 불필요한 가중치나 뉴런을 제거하여 모델 크기와 연산량을 줄이는 기법에서, 어떤 요소를 제거할지 결정하는 평가 기준. ㅇ 특징: – 가중치 크기 기반(L1/L2 norm), 중요도 기반(gradient, saliency), 구조적 기준(필터 단위, 채널 단위) 등 다양함. – 기준 설정에 따라 모델 성능 저하 정도와 경량화 효과가
ㅁ 탐색 및 자동화 최신 추세 ㅇ 정의: 하이퍼파라미터 최적화에서 최신 알고리즘과 자동화 기법을 활용하여 모델 성능을 극대화하는 방법론. ㅇ 특징: – 단순 수동 조정이 아닌, 통계적 모델링·탐색 전략·자동화 도구를 활용 – 연산 자원 절약과 최적값 탐색 속도 향상 ㅇ 적합한 경우: – 모델 학습 시간이 길고 하이퍼파라미터 조합이 많을 때 – 자동화된 ML 파이프라인
ㅁ 불균형 데이터 적용 및 해석 ㅇ 정의: 불균형 데이터 적용 및 해석은 데이터 내 클래스 비율이 극단적으로 차이나는 상황에서 모델 성능을 공정하게 평가하고 개선하기 위한 기법과 이를 해석하는 방법을 의미함. ㅇ 특징: – 소수 클래스의 예측 성능 저하를 방지하기 위한 기법 필요 – 단순 정확도(Accuracy) 지표는 신뢰성이 떨어짐 – Precision, Recall, F1-score, AUC-ROC 등
ㅁ 조기 종료 및 정규화 ㅇ 정의: – 모델 학습 시 과적합을 방지하고 일반화 성능을 높이기 위해 학습을 조기에 중단하거나 가중치에 제약을 주는 기법. ㅇ 특징: – 검증 데이터 성능이 더 이상 향상되지 않을 때 학습을 중단. – 가중치 크기를 제한하거나 랜덤하게 뉴런을 비활성화해 모델 복잡도를 조절. ㅇ 적합한 경우: – 데이터셋이 작거나 노이즈가 많은
ㅁ 블랙박스 해법 ㅇ 정의: 인공지능 모델의 내부 구조가 복잡하거나 해석이 어려운 경우, 외부에서 동작을 관찰하여 설명 가능한 형태로 변환하는 기법. ㅇ 특징: – 원래 모델의 파라미터나 구조를 직접 해석하지 않고, 입력-출력 관계를 기반으로 설명. – 모델 불투명성을 보완하기 위해 별도의 해석 모델이나 시각화 기법 활용. ㅇ 적합한 경우: – 딥러닝, 앙상블 등 복잡한 모델의