ㅁ 신뢰/위험 ㅇ 정의: 인공지능 모델에 대한 적대적 공격(Adversarial Attack)을 사전에 방지하거나 완화하기 위한 기술과 절차를 의미함. 이는 입력 데이터에 미세한 변화를 주어 모델의 오작동을 유도하는 공격을 차단하는 것을 목표로 함. ㅇ 특징: – 모델의 학습 단계, 추론 단계 모두에서 적용 가능 – 데이터 변조 탐지, 강건성(Robustness) 강화, 입력 검증(Input Validation) 등을 포함 – 보안,
ㅁ 신뢰/위험 ㅇ 정의: AI Red-Teaming은 AI 시스템의 보안, 안전성, 신뢰성을 검증하기 위해 의도적으로 취약점, 편향, 악용 가능성을 찾아내는 모의 공격 및 평가 활동을 의미한다. ㅇ 특징: – 보안 전문가, 도메인 전문가, 윤리 전문가 등이 팀을 구성하여 다양한 위협 시나리오를 설계 – 모델 입력 조작, 데이터 변조, 프롬프트 인젝션 등 실제 악용 사례를 재현 –
ㅁ 신뢰/위험 ㅇ 정의: 모델 워터마킹(Model Watermarking)은 AI 모델에 고유한 식별 정보를 은닉하여, 해당 모델의 소유권을 증명하거나 무단 사용을 탐지할 수 있도록 하는 기술. ㅇ 특징: – 모델의 동작에 영향을 주지 않으면서 은밀하게 식별 정보 삽입 – 주로 모델의 가중치나 출력 패턴에 특정 시그니처를 포함 – 디지털 저작권 보호와 유사한 개념이지만 AI 모델에 특화 –
ㅁ 신뢰/위험 ㅇ 정의: Prompt Injection Detection은 대규모 언어 모델(LLM)이나 AI 시스템이 입력 프롬프트를 통해 악의적인 명령이나 의도치 않은 행동을 수행하도록 유도되는 공격을 탐지하는 기술이다. ㅇ 특징: – 사용자가 입력한 프롬프트를 분석하여 악성 패턴, 의도 변경, 데이터 유출 시도 등을 식별 – 정규식, 키워드 매칭, ML 기반 분류기 등 다양한 탐지 방식 활용 – 실시간
ㅁ 서비스 플랫폼 ㅇ 정의: 서비스 플랫폼은 다양한 서비스와 애플리케이션을 유기적으로 연결하여 사용자와 개발자, 비즈니스 파트너가 상호작용할 수 있도록 하는 기반 환경을 의미함. ㅇ 특징: – 다수의 서비스 제공자와 소비자가 참여 가능 – 표준화된 인터페이스를 통해 확장성과 호환성 제공 – 클라우드, 모바일, IoT 등 다양한 환경과 연계 가능 ㅇ 적합한 경우: – 여러 외부 서비스와의
ㅁ 서비스 플랫폼 ㅇ 정의: AI 모델이나 기능을 사용자에게 제공하기 위해 필요한 인프라, API, UI, 데이터 관리, 배포 체계 등을 포함하는 운영 환경. ㅇ 특징: – 다양한 AI 기능을 모듈화하여 제공 – 사용자 친화적인 인터페이스와 API 지원 – 확장성과 보안성 고려 ㅇ 적합한 경우: – 여러 AI 기능을 통합 제공해야 하는 경우 – 다양한 사용자
ㅁ 서비스 플랫폼 ㅇ 정의: AI 서비스를 제공·거래할 수 있는 온라인 플랫폼으로, 모델, 데이터셋, API 등을 판매하거나 구독하는 환경을 제공함. ㅇ 특징: – 다양한 AI 제공자와 수요자가 연결됨 – API 기반 접근과 결제·정산 시스템 내장 – 모델 테스트·평가 기능 제공 – 클라우드 인프라와 연계 가능 ㅇ 적합한 경우: – AI 모델을 상용화하려는 스타트업 – 외부
ㅁ 서비스 플랫폼 ㅇ 정의: 인공지능 모델, 애플리케이션, API 등을 통합 제공하여 사용자가 손쉽게 검색, 구매, 배포할 수 있는 온라인 기반 유통 플랫폼. ㅇ 특징: – 다양한 AI 솔루션을 한 곳에서 제공 – API 마켓플레이스, 모델 마켓, 데이터셋 판매 기능 포함 가능 – 결제, 라이선스 관리, 사용량 모니터링 기능 내장 – 클라우드 기반으로 확장성과 접근성이
ㅁ 멀티에이전트 협업 ㅇ 정의: 여러 개의 인공지능 에이전트가 동일한 목표를 위해 역할을 분담하고 상호작용하며 문제를 해결하는 방식. ㅇ 특징: – 각 에이전트가 독립적인 판단과 실행 능력을 가짐 – 협업을 위해 통신 프로토콜이나 공유 메모리 등을 사용 – 작업 부하 분산 및 병렬 처리 가능 – 에이전트 간 충돌 해결 및 의사결정 조율 필요 ㅇ
ㅁ 멀티에이전트 협업 ㅇ 정의: 여러 개의 독립적인 에이전트가 상호작용하며 공동의 목표를 달성하기 위해 협력하는 방식. 각 에이전트는 자율적으로 의사결정을 내리지만, 전체 시스템의 성능을 극대화하기 위해 정보와 자원을 공유함. ㅇ 특징: – 분산형 구조로 중앙 통제 없이 동작 가능 – 환경 변화에 대한 높은 적응력 – 개별 에이전트의 고장에도 전체 시스템이 유지되는 내결함성 – 통신