ㅁ 대규모 언어모델

1. Claude

ㅇ 정의:
Anthropic에서 개발한 차세대 대규모 언어모델(LLM)로, 안전성(safety)과 인공지능의 윤리적 사용을 강조하며 설계된 AI 언어모델.

ㅇ 특징:
– Constitutional AI 접근 방식을 적용하여 모델의 응답을 사전에 정의된 윤리 헌법에 맞게 조정.
– 긴 문맥 처리 능력이 뛰어나 수십만 토큰까지 처리 가능.
– 사용자 프롬프트에 대한 해석과 응답에서 안전성과 일관성을 유지.
– 경쟁 모델(GPT, Gemini 등)에 비해 해석의 투명성과 거부 응답 처리에서 차별화.

ㅇ 적합한 경우:
– 장문 분석, 법률 문서 요약, 정책 검토 등 안전성과 정확성이 중요한 업무.
– 민감한 주제에 대한 대화나 교육 자료 생성.
– 기업 내부 지식베이스와 연계한 상담/지원 챗봇 구축.

ㅇ 시험 함정:
– Claude가 오픈소스라고 착각하는 경우가 있음(실제로는 상용 API 기반 제공).
– GPT 시리즈와 동일하게 훈련된다고 오해할 수 있으나, 학습 데이터와 안전성 튜닝 방식이 다름.
– 모든 경우에 GPT보다 성능이 우수하다고 단정할 수 없음(도메인별 차이 존재).

ㅇ 시험 대비 “패턴 보기” 예시:
O: Claude는 Constitutional AI 접근 방식을 적용하여 안전성을 강화한 LLM이다.
X: Claude는 오픈소스 기반으로 누구나 무료로 수정/배포할 수 있다.

ㅁ 추가 학습 내용

Claude 학습 정리

1. Constitutional AI 핵심 원리
– 사전 정의된 윤리 규칙에 따라 모델의 응답을 재작성하는 단계 포함
– 모델이 생성한 초안을 검토하고, 규칙에 맞게 수정하여 안전성과 일관성을 확보

2. 토큰 처리 한계
– Claude 2의 경우 약 100k 토큰 지원
– 토큰 한도는 입력과 출력의 총합 기준

3. 주요 버전별 차이
– Claude 1: 초기 모델, 기본 대화 및 생성 기능 제공
– Claude 2: 성능 향상, 긴 문맥 처리 가능, 약 100k 토큰 지원
– Claude 3: 이해력, 추론 능력, 창의성 및 안전성 강화

4. 경쟁 모델과의 비교 포인트
– 문맥 길이: Claude는 긴 문맥 처리에 강점
– 안전성: Constitutional AI 기반으로 높은 안전성 확보
– 창의성: 버전업에 따라 향상, 일부 경쟁 모델과 비교 시 장단점 존재

5. API 호출 시 주요 파라미터
– temperature: 출력의 창의성/무작위성 조절
– max_tokens: 생성할 최대 토큰 수 설정

6. 시험 대비 주요 구분 포인트
– 안전성 강화 vs 검열: 안전성 강화는 유해하거나 부적절한 내용을 방지하는 방향으로 모델을 조정하는 것, 검열은 특정 정보 자체를 차단하거나 제한하는 것
– Constitutional AI 단계별 프로세스: 초안 생성 → 규칙 검토 → 규칙에 맞게 재작성
– 상용/비상용 여부 구분: 모델 또는 API의 사용 목적과 라이선스 조건에 따라 판단