ㅁ 신뢰/위험 1. Prompt Injection Detection ㅇ 정의: – 사용자가 의도적으로 악성 프롬프트를 입력하여 AI 모델의 동작을 왜곡하거나 보안 정책을 우회하려는 시도를 탐지하는 기술. ㅇ 특징: – 자연어 입력 분석 기반 필터링. – 의도 분석 및 맥락 기반 위험 점수 부여. – 실시간 모니터링 및 차단 기능 포함. ㅇ 적합한 경우: – 공개된 챗봇 서비스나
ㅁ 서비스 플랫폼 ㅇ 정의: AI 모델, 애플리케이션, 데이터, API 등을 유통·제공하는 온라인 기반 플랫폼. ㅇ 특징: 다양한 AI 서비스와 자원을 통합 제공, 거래·배포·운영을 지원하며, 개발자·기업·사용자 간 연결 허브 역할. ㅇ 적합한 경우: AI 서비스 생태계 확장, 빠른 시장 진입, 다양한 기술·데이터 접근이 필요한 경우. ㅇ 시험 함정: 단순 다운로드 사이트와 구분, API 제공 여부,
ㅁ 멀티에이전트 협업 ㅇ 정의: 다수의 AI 에이전트가 서로 다른 역할을 분담하여 공동의 목표를 달성하는 구조. ㅇ 특징: – 각 에이전트는 독립적으로 동작하면서도 메시지나 공유 메모리를 통해 협력 – 병렬 처리와 역할 분담으로 효율성 향상 – Orchestrator 또는 리더 역할의 에이전트가 전체 흐름을 조율할 수 있음 ㅇ 적합한 경우: – 복잡한 문제를 여러 영역으로 나누어
ㅁ 검색/추천 1. Dense Embedding ㅇ 정의: – 고차원 연속 벡터 공간에 데이터를 임베딩하여 의미적 유사성을 기반으로 검색하는 방식. ㅇ 특징: – 단어, 문장, 이미지 등의 의미를 벡터로 표현. – 코사인 유사도, 유클리드 거리 등을 활용. – 의미 기반 검색에 강점. ㅇ 적합한 경우: – 동의어나 문맥이 중요한 검색. – 추천 시스템에서 유사 취향 사용자/아이템
ㅁ 토큰 관리 ㅇ 정의: 대규모 언어 모델(LLM)에서 입력과 출력에 사용할 수 있는 최대 토큰 수를 효율적으로 관리하는 기법으로, 모델의 컨텍스트 윈도우 제약을 극복하거나 최적화하기 위해 사용됨. ㅇ 특징: – 모델별로 최대 토큰 제한이 존재하며 이를 초과하면 입력이 잘리거나 오류 발생 – 긴 문서 처리 시 토큰 절약, 중요 정보 유지, 불필요한 정보 제거 필요
ㅁ 대형 모델 환경 ㅇ 정의: 여러 언어, 다양한 모달리티, 다양한 접근 방식에서 동작하는 초대규모 AI 모델이 개발·활용되는 기술적·운영적 환경. ㅇ 특징: – 초대규모 파라미터(수십억~수천억) 기반 – 대규모 데이터셋과 고성능 연산 자원 필요 – 언어, 이미지, 음성 등 멀티모달 지원 가능 ㅇ 적합한 경우: – 글로벌 서비스, 멀티모달 분석, 범용 AI 플랫폼 구축 ㅇ 시험
ㅁ 도메인 특화 ㅇ 정의: 특정 산업이나 분야(도메인)에 특화된 AI 모델로, 해당 분야의 데이터와 지식을 활용하여 높은 정확도와 효율성을 제공하는 AI. ㅇ 특징: – 범용 AI보다 해당 분야의 전문 용어, 규제, 업무 프로세스에 최적화됨 – 학습 데이터가 도메인 한정으로 구성되어 있어 오탐률 감소 – 법률, 의료, 금융 등 규제와 정확성이 중요한 분야에서 주로 활용 ㅇ
ㅁ 검색 생성 융합 ㅇ 정의: 검색과 생성 모델을 결합하여, 외부 지식 검색 결과를 기반으로 생성 모델이 더 정확하고 풍부한 응답을 생성하는 방식. ㅇ 특징: – 검색 단계에서 최신 정보나 도메인 특화 데이터를 확보. – 생성 모델이 검색 결과를 참고하여 환각(hallucination) 감소. – 구조적으로 검색 모듈과 생성 모듈이 분리되어 유지보수 용이. ㅇ 적합한 경우: –
ㅁ 구조/방법 ㅇ 정의: ㅇ 특징: ㅇ 적합한 경우: ㅇ 시험 함정: ㅇ 시험 대비 “패턴 보기” 예시: ================================ 1. Mixture of Experts ㅇ 정의: 여러 개의 전문가(서브모델) 중 입력 데이터에 따라 일부만 활성화하여 계산하는 신경망 아키텍처. 각 전문가의 출력은 게이트 네트워크가 가중합하여 최종 출력 생성. ㅇ 특징: – 전체 모델 파라미터 수는 크지만, 한
ㅁ 스마트 증강 ㅇ 정의: 데이터 증강을 자동화하거나 고도화하여 모델 성능을 극대화하는 기법들의 집합. ㅇ 특징: – 기존 수작업 증강보다 효율적이며, 데이터 다양성을 극대화. – 하이퍼파라미터 탐색, 확률 기반 조합, 이미지 혼합 등 다양한 방식 포함. ㅇ 적합한 경우: – 데이터셋이 제한적이며 일반화 성능 향상이 필요한 경우. – 이미지 분류, 객체 탐지, 음성 인식 등