ㅁ 프롬프트 설계

ㅇ 정의:

ㅇ 특징:

ㅇ 적합한 경우:

ㅇ 시험 함정:

ㅇ 시험 대비 “패턴 보기” 예시:

================================

1. Zero-shot

ㅇ 정의: 사전 예시 없이 모델에 직접 질의를 던져 답변을 생성하게 하는 프롬프트 기법.

ㅇ 특징: 학습 데이터 기반 일반화 능력에 의존, 빠른 응답 가능, 설계가 단순함.

ㅇ 적합한 경우: 질문이 명확하고 맥락 설명이 필요 없는 경우, 대규모 사전학습 모델 사용 시.

ㅇ 시험 함정: ‘예시를 주지 않는다’를 ‘모델이 아무것도 모른다’로 혼동하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “Zero-shot은 예시 없이도 답변 가능하다.”
– X: “Zero-shot은 반드시 예시를 최소 1개 제공해야 한다.”

================================

2. Few-shot

ㅇ 정의: 모델에 몇 개의 예시를 함께 제공하여 답변을 유도하는 프롬프트 기법.

ㅇ 특징: 소량의 예시로 모델의 출력 형식을 제어, 예시 품질에 민감함.

ㅇ 적합한 경우: 출력 형식이나 답변 톤을 맞춰야 하는 경우, 데이터 패턴이 명확한 경우.

ㅇ 시험 함정: ‘Few-shot’이 반드시 2~3개의 예시만 의미한다고 오해하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “Few-shot은 적은 수의 예시로 모델의 응답을 유도한다.”
– X: “Few-shot은 반드시 5개 이상의 예시를 제공해야 한다.”

================================

3. Chain-of-Thought

ㅇ 정의: 모델이 답을 내기 전 중간 사고 과정을 단계별로 서술하도록 유도하는 프롬프트 기법.

ㅇ 특징: 복잡한 추론 문제 해결에 유리, 연산/논리 단계를 명시함으로써 정확도 향상.

ㅇ 적합한 경우: 수학 문제, 논리 퍼즐, 다단계 추론이 필요한 질의.

ㅇ 시험 함정: ‘Chain-of-Thought’를 반드시 사용자에게 중간 과정을 보여주는 것으로만 이해하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “Chain-of-Thought는 모델이 단계별 reasoning을 수행하도록 한다.”
– X: “Chain-of-Thought는 단답형 문제에만 사용된다.”

================================

4. Prompt Injection

ㅇ 정의: 악의적 또는 의도치 않은 프롬프트를 주입하여 모델의 원래 의도를 변경하거나 정보 유출을 유도하는 공격 기법.

ㅇ 특징: 보안 취약점 이용, 모델의 맥락 이해를 교란, 데이터 유출 가능성.

ㅇ 적합한 경우: (공격 관점) 보안 취약성 테스트, (방어 관점) 프롬프트 필터링 및 안전성 검증.

ㅇ 시험 함정: ‘Prompt Injection’을 합법적인 성능 향상 기법으로 오해하는 경우.

ㅇ 시험 대비 “패턴 보기” 예시:
– O: “Prompt Injection은 모델의 의도와 다른 행동을 유발할 수 있다.”
– X: “Prompt Injection은 모델의 정확성을 높이는 정규화 기법이다.”

ㅁ 추가 학습 내용

학습 정리

1. Zero-shot과 Few-shot의 차이
– Zero-shot: 사전 예시 없이 작업 지시만으로 모델이 답변 수행
– Few-shot: 작업 지시와 함께 몇 개의 예시를 제공하여 모델이 패턴을 학습 후 답변
– 오해 방지: 예시 제공 여부가 핵심 차이이며, 예시 개수 제한은 명확히 정의된 기준이 아님

2. Chain-of-Thought(CoT)
– 내부 reasoning 유도: 모델이 중간 사고 과정을 내부적으로 생성
– 외부 출력 공개 여부: 내부 reasoning을 그대로 출력할 수도 있고, 최종 답만 출력할 수도 있음
– 변형 기법: Self-Consistency 등 다양한 변형이 존재하며, 성능 비교 필요

3. Prompt Injection
– 정의: 악의적 입력을 통해 모델의 의도된 동작을 변경하거나 민감한 정보 유출을 유도하는 기법
– 보안 위협 관점에서 사례 숙지 필요

4. 추가 학습 영역
– Zero-shot과 Few-shot 혼합 사용 사례
– Self-Consistency 등 CoT 변형 기법과 성능 비교
– Prompt Injection 방어 기법: 입력 검증, 안전 필터링, 맥락 제한
– 프롬프트 설계 시 모델 버전에 따른 성능 차이와 최적화 전략

시험 대비 체크리스트

[ ] Zero-shot과 Few-shot의 정의와 차이를 정확히 설명할 수 있는가?
[ ] 예시 제공 여부가 차이의 핵심임을 이해하고 있는가?
[ ] Zero-shot과 Few-shot 혼합 사용 사례를 알고 있는가?
[ ] Chain-of-Thought의 개념과 내부 reasoning/출력 공개 여부 차이를 구분할 수 있는가?
[ ] Self-Consistency 등 CoT 변형 기법의 특징과 장단점을 설명할 수 있는가?
[ ] Prompt Injection의 정의와 사례를 알고 있는가?
[ ] Prompt Injection 방어 기법(입력 검증, 안전 필터링, 맥락 제한)을 설명할 수 있는가?
[ ] 모델 버전에 따른 프롬프트 설계 최적화 전략을 알고 있는가?