ㅁ 주요 구조 1. A2A Protocol ㅇ 정의: 에이전트(Agent) 간에 직접 통신하여 데이터를 교환하고 작업을 조율하는 통신 규약으로, 중앙 서버 없이 P2P 형태로 메시지를 주고받는 프로토콜. ㅇ 특징: – 중앙 집중형 아키텍처 없이 에이전트 간 직접 연결 – 메시지 포맷, 전송 규칙, 오류 처리 방식이 표준화됨 – 실시간 협업과 분산 환경에서 유리 – 네트워크 지연이나
ㅁ 주요 구조 1. Multi-Agent System ㅇ 정의: 여러 개의 독립적인 에이전트들이 상호작용하며 공동의 목표를 달성하거나 개별 목표를 추구하는 시스템. 각 에이전트는 자율적으로 의사결정을 내리고 환경과 상호작용함. ㅇ 특징: – 분산 처리 구조로 확장성과 유연성이 높음 – 에이전트 간 협력(Cooperative) 또는 경쟁(Competitive) 가능 – 환경 변화에 대한 적응력 보유 – 통신 프로토콜과 조율 메커니즘 필요
ㅁ 주요 구조 ㅇ 정의: 사용자의 목표를 이해하고 스스로 계획을 세워 외부 도구나 환경과 상호작용하며 작업을 수행하는 자율형 AI 구조. ㅇ 특징: – 단순 질의응답을 넘어, 단계별 reasoning과 의사결정을 수행. – API 호출, 데이터 검색, 코드 실행 등 외부 자원 활용 가능. – 환경 변화에 따라 계획을 수정하며 지속적으로 동작. ㅇ 적합한 경우: – 복잡한
ㅁ 운영 전략 ㅇ 정의: 여러 개의 개별 모델을 조합하여 예측 성능을 향상시키고, 운영 환경에서 안정적인 결과를 제공하기 위한 관리 방법. ㅇ 특징: – 단일 모델보다 예측 정확도와 안정성이 높음 – 모델 간 상호 보완 효과를 활용 – 배깅, 부스팅, 스태킹 등 다양한 앙상블 기법 적용 가능 – 운영 환경에서 모델 버전 관리 및 성능
ㅁ 운영 전략 ㅇ 정의: 모델 개발 및 운영 과정에서 모델의 변경 이력, 버전별 성능, 배포 상태 등을 체계적으로 관리하는 방법론. ㅇ 특징: – 코드 버전 관리(Git 등)와 유사하나, 모델 가중치, 학습 데이터셋, 하이퍼파라미터, 환경 설정까지 포함. – 모델 재현성 확보와 롤백 가능성을 보장. – 협업 시 모델 변경 사항 추적이 용이. ㅇ 적합한 경우:
ㅁ 운영 전략 ㅇ 정의: 모델 레지스트리(Model Registry)는 머신러닝 및 딥러닝 모델의 버전, 메타데이터, 배포 상태 등을 중앙에서 관리하는 시스템으로, 모델의 라이프사이클 전반을 추적하고 관리할 수 있게 해준다. ㅇ 특징: – 모델 버전 관리: 동일 모델의 여러 버전을 기록 및 비교 가능 – 메타데이터 저장: 학습 데이터셋, 하이퍼파라미터, 성능 지표 등 저장 – 배포 단계
ㅁ 불확실성 추정 ㅇ 정의: 확률 모델에서 복잡한 사후분포(posterior distribution)를 근사적으로 계산하기 위해, 최적화 기반으로 단순한 분포를 찾아내는 방법. ㅇ 특징: – 베이지안 추론의 근사 기법 중 하나로, 샘플링 기반 MCMC보다 계산 속도가 빠름. – 사후분포를 닫힌 형태로 계산하기 어려울 때 사용. – 변분분포(q)를 설정하고, KL divergence를 최소화하는 방향으로 최적화. – 딥러닝과 결합하여 Variational Autoencoder(VAE)
ㅁ 불확실성 추정 1. Monte Carlo Dropout ㅇ 정의: 신경망 학습 및 추론 시 Dropout을 적용하여 여러 번 예측을 수행하고, 그 결과의 분산을 통해 모델의 불확실성을 추정하는 방법. ㅇ 특징: – 학습과 추론 모두에서 Dropout을 활성화하여 확률적 예측을 생성. – 추가적인 모델 학습 없이 불확실성을 계산할 수 있음. – Bayesian Approximation으로 해석 가능. – 구현이
ㅁ 불확실성 추정 1. Bayesian Learning ㅇ 정의: – 데이터와 사전 지식(prior)을 결합하여 사후 확률(posterior)을 계산하고, 이를 기반으로 모델 파라미터나 예측의 불확실성을 추정하는 학습 방법. – 베이즈 정리(P(B|A) = P(A|B)P(B)/P(A))를 기반으로 함. ㅇ 특징: – 모델 파라미터를 고정값이 아닌 확률분포로 취급함. – 데이터가 적을 때 사전 지식이 강하게 반영됨. – 예측 결과에 불확실성 정보를 함께
ㅁ 세부 이슈 ㅇ 정의: LLM이 실제 사실과 다른 내용을 자신있게 생성하는 현상(Hallucination)을 식별하고 판별하는 기법. ㅇ 특징: – 생성된 응답의 사실성 검증이 핵심 – 외부 지식베이스나 검색 시스템과 연계하여 진위 여부 확인 가능 – 자동화된 평가 지표(FactScore, TruthfulQA 등)와 휴먼 평가 병행 – 문맥 상 그럴듯하지만 실제로는 틀린 정보가 많아 탐지 난이도가 높음 ㅇ