로드 중
로드 중

Temperature는 Claude의 응답이 얼마나 창의적이거나 결정적일지를 제어하는 강력한 매개변수입니다. 이를 효과적으로 사용하는 방법을 이해하면 AI 애플리케이션을 크게 개선할 수 있습니다.

Claude가 텍스트를 생성하는 방법

temperature를 자세히 알아보기 전에, Claude의 텍스트 생성 과정을 이해하는 것이 도움이 됩니다. "어떻게 생각하세요?"와 같은 프롬프트를 Claude에 보내면, 다음 세 단계를 거칩니다:

  • 토큰화(Tokenization): 입력을 더 작은 조각으로 나눕니다
  • 예측(Prediction): 가능한 다음 토큰들에 대한 확률을 계산합니다
  • 샘플링(Sampling): 해당 확률을 기반으로 토큰을 선택합니다

다음 토큰 확률을 보여주는 다이어그램: "about" 0.3, "would" 0.2, "of", "is", "when" 각각 0.1, "makes", "we" 각각 0.05.

위 다이어그램에서 Claude가 잠재적인 다음 토큰들에 서로 다른 확률을 어떻게 부여하는지 확인할 수 있습니다. "about"이라는 단어는 30%의 확률을, "would"는 20%의 확률을 가지는 식입니다. 이 과정은 응답이 완료될 때까지 각 토큰마다 반복됩니다.

토큰 목록을 막대 그래프로 나타낸 것: "about" 30%, "would" 20%, "of", "is", "when" 각각 10%, "makes", "we" 각각 5%.

Temperature의 역할

Temperature는 0과 1 사이의 소수 값으로, 이러한 토큰 선택 확률에 직접적인 영향을 미칩니다. 이를 창의성을 조절하는 다이얼이라고 생각하세요:

  • 낮은 temperature (0에 가까움): 확률이 가장 높은 토큰이 선택될 가능성을 훨씬 더 높입니다
  • 높은 temperature (1에 가까움): 가능한 모든 토큰에 걸쳐 확률을 더 균등하게 분배합니다

낮은 temperature에서는 "about"이 100%이고 나머지는 0%이며, 높은 temperature에서는 일곱 개의 토큰이 각각 23%, 18%, 15%, 12%, 12%, 11%, 9%를 가집니다.

temperature가 0이면 Claude는 결정적으로 동작하며, 항상 확률이 가장 높은 토큰을 선택합니다. temperature가 1이면 확률이 낮은 토큰도 선택될 가능성이 훨씬 높아져, 더 창의적이고 다양한 출력으로 이어집니다.

Temperature 범위와 사용 사례

작업에 따라 서로 다른 temperature 설정이 필요합니다:

아래에 나열된 세 가지 temperature 범위와 그 사용 사례를, 창의성이 낮은 쪽에서 높은 쪽으로 향하는 화살표 위에 표시한 그림.

낮은 Temperature (0.0 - 0.3)

  • 사실에 기반한 응답
  • 코딩 지원
  • 데이터 추출
  • 콘텐츠 검토

중간 Temperature (0.4 - 0.7)

  • 요약
  • 교육 콘텐츠
  • 문제 해결
  • 제약이 있는 창의적 글쓰기

높은 Temperature (0.8 - 1.0)

  • 브레인스토밍
  • 창의적 글쓰기
  • 마케팅 콘텐츠
  • 농담 생성

코드에서 Temperature 설정하기

기본적으로 Claude의 temperature는 1.0으로 설정되어 있으며, 이는 최대 창의성을 의미합니다. 추론 설정에 temperature를 추가하여 이 값을 재정의할 수 있습니다:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {"temperature": temperature}
    }
    
    if system:
        params["system"] = [{"text": system}]
    
    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

실제 사례에서의 Temperature

영화 아이디어 생성을 예로 들어보겠습니다. temperature가 기본값(1.0)으로 설정되면 다음과 같은 창의적인 응답을 얻을 수 있습니다:

"은둔 생활을 하는 종이접기 명인은 자신이 만든 정교한 종이 작품들이 밤마다 살아난다는 사실을 알게 되고, 그들의 존재를 풀어헤치려는 수수께끼의 그림자 생명체로부터 미니어처 세계를 구하기 위한 마법 같은 여정에 나선다."

하지만 동일한 프롬프트에 대해 temperature를 0.0으로 설정하면, 일관되게 더 예측 가능한 응답을 얻게 됩니다:

"시간을 여행하는 고고학자는 고대 유물들이 잊혀진 힘을 이용해 종말의 장치를 만들려는 한 테크 억만장자에게 도난당하는 것을 막아야 한다."

낮은 temperature 버전을 여러 번 실행하면 매우 유사한 응답이 생성되며, "시간을 여행하는 역사학자"나 "시간을 여행하는 고고학자"와 같이 반복되는 주제가 자주 등장합니다.

핵심 요약

Temperature를 사용하면 Claude의 창의성 수준을 직접 제어할 수 있습니다. 일관되고 사실에 기반한 응답이 필요할 때는 낮은 temperature를 사용하고, 창의적이고 다양한 출력을 원할 때는 높은 temperature를 사용하세요. 기본 temperature 값인 1.0은 창의성을 최대화하므로, 정확성과 일관성이 필요한 작업에서는 이를 낮추는 것을 고려하세요.