ㅁ 프롬프트 설계

ㅇ 정의:
모델이 복잡한 문제를 단계별로 추론하도록 유도하는 프롬프트 작성 기법으로, 중간 사고 과정을 명시적으로 표현하게 함.

ㅇ 특징:
– 단일 응답이 아닌, 문제 해결 과정을 단계별로 기술
– 수학, 논리, 프로그래밍 문제 등 복합적 사고가 필요한 분야에서 정확도 향상
– 모델이 중간 추론을 수행하므로 오류 원인 분석이 용이

ㅇ 적합한 경우:
– 복잡한 수리/논리 문제 해결
– 다단계 의사결정이 필요한 시나리오
– 데이터 분석, 코드 생성 등 중간 단계 결과가 중요한 경우

ㅇ 시험 함정:
– Chain-of-Thought를 단순히 ‘긴 답변’으로 오해
– 모든 문제에 적용하면 오히려 성능 저하 가능성 간과
– 프롬프트에 사고 과정을 강제로 작성시키면 보안/프라이버시 문제 발생 가능성 무시

ㅇ 시험 대비 “패턴 보기” 예시:
O: “모델이 단계별로 사고 과정을 서술하도록 유도하는 기법”
X: “모델이 짧게 정답만 출력하는 기법”

ㅁ 추가 학습 내용

Chain-of-Thought(CoT)는 Few-shot prompting과 함께 자주 출제되며, Zero-shot CoT와의 차이를 이해하는 것이 중요하다. Zero-shot CoT는 단일 예시 없이 “Let’s think step by step”과 같은 문구를 넣어 모델이 사고 과정을 단계적으로 전개하도록 유도하는 방식이다. CoT는 연산량과 응답 지연(latency)을 증가시키므로, 실제 서비스 적용 시에는 효율성과 정확도의 균형을 고려해야 한다. CoT를 활용하면 환각(hallucination) 가능성이 줄어드는 경우가 있으나, 잘못된 중간 추론이 누적되어 최종 답이 틀릴 수 있다는 한계도 있다.