07. 추론 모델 실습 (GPT-5 등)

추론 모델

• Chain of Thought (CoT)가 내장된 모델 계열
• 추론 계열 모델: o시리즈(o1, o3, o4) 및 gpt-5

추론 모델의 메세지 구성

추론 모델의 메세지는 크게 아래와 같이 세 종류로 나뉜다

1. developer 메세지: 대화 전반에 대한 정의

2. user 메세지: 사용자 대화

3. assistant 메세지: 챗봇 대화

Tip

비추론 모델 (gpt-3, gpt-4, gpt-4o 등)에서는 developer 메세지 대신 system 메세지를 사용한다.

추론 모델의 파라미터 옵션

Reasoning effort

• 생각의 정도를 설정하는 값
• 높을수록 많은 output 토큰을 생성함

Verbosity

• 최종 답변의 길이를 조절하는 값
• 높을수록 많은 output 토큰을 생성함

Summary

• 생각하는 과정의 텍스트 요약본을 제공 받을지 여부