로드 중
로드 중

지금까지 작성한 코드는 Claude와의 매우 단순한 주고받기를 시뮬레이션합니다. 하지만 대화를 계속 이어가고 싶을 때는 어떻게 될까요? "1+1은 뭐야?"라고 물어본 후 "거기에 3을 더하면?"과 같은 후속 질문을 하면, Claude가 이전 결과인 2에 3을 더하는 것을 이해할 것이라고 기대할 수 있습니다.

AI가 "답은 2입니다."라고 응답한 뒤, 후속 질문에 "2에 3을 더하면 5가 됩니다."라고 응답하는 채팅 앱.

하지만 Bedrock API와 Claude 자체에 대해 이해해야 할 중요한 사실이 하나 있습니다.

메시지 저장 없음

Bedrock과 Claude는 어떠한 메시지도 저장하지 않습니다. 여러분이 보낸 메시지도, 받은 응답도 저장되지 않습니다. 각 API 호출은 완전히 독립적입니다.

Bedrock과 Claude는 메시지를 저장하지 않으므로, 대화를 이어가려면 아래의 두 단계가 필요합니다.

맥락을 유지하는 여러 메시지로 대화를 나누려면 다음이 필요합니다:

  • 코드에서 모든 메시지 목록을 수동으로 관리하기
  • 후속 요청마다 해당 전체 메시지 목록을 함께 제공하기

맥락이 중요한 이유

적절한 맥락 없이 어떤 일이 일어나는지 살펴보겠습니다. "거기에 3을 더하면?"을 단독 메시지로만 보낸다면, Claude는 여러분이 무엇을 말하는지 전혀 알 수 없습니다. Claude는 최선을 다해 응답하려 하지만, 이전 대화의 맥락이 없기 때문에 그 답변은 말이 되지 않을 것입니다.

사용자 메시지 "거기에 3을 더하면?"만 포함된 요청이 AWS로 전송되고, 물음표 여섯 개로 이루어진 어시스턴트 메시지로 응답합니다.

후속 질문만 보내면 Claude는 그 고립된 메시지만을 보고 이전의 "1+1은 뭐야?" 주고받기에 대해 전혀 모른 채 응답하려고 합니다.

AWS로 보낸 요청에 사용자 메시지 "1 + 1은 뭐야?" 하나가 있고, 어시스턴트 응답으로 "1 + 1은 2입니다."가 돌아옵니다.

대화 맥락 구축하기

맥락을 유지하려면 각 요청에 전체 대화 기록을 포함해야 합니다. 작동 방식은 다음과 같습니다:

AWS로 전송된 메시지: 사용자 "1 + 1은 뭐야?", 어시스턴트 "1 + 1은 2입니다.", 사용자 "거기에 3을 더하면?"; 응답은 "3 + 2는 5입니다"입니다.

메시지 목록에는 이전의 모든 주고받기(사용자 메시지와 어시스턴트 응답 모두)가 포함되어야 합니다. 이러한 전체 맥락을 보내면, Claude는 "거기에 3을 더하면?"이 이전 결과인 2에 3을 더하는 것을 의미한다는 것을 이해할 수 있습니다.

메시지 관리를 위한 헬퍼 함수

대화 관리를 더 쉽게 하기 위해 헬퍼 함수를 만들 수 있습니다:

python
def add_user_message(messages, text):
    user_message = {
        "role": "user",
        "content": [
            {"text": text}
        ]
    }
    messages.append(user_message)

def add_assistant_message(messages, text):
    assistant_message = {
        "role": "assistant", 
        "content": [
            {"text": text}
        ]
    }
    messages.append(assistant_message)

def chat(messages):
    response = client.converse(
        modelId=model_id,
        messages=messages
    )
    return response["output"]["message"]["content"][0]["text"]

멀티턴 대화 구현하기

대화를 단계별로 구축하는 방법은 다음과 같습니다:

python
# 시작 메시지 목록 만들기
messages = []

# "1+1은 무엇인가요?"라는 초기 사용자 질문 추가
add_user_message(messages, "What's 1+1?")

# 답변을 얻기 위해 메시지 목록을 chat에 전달
answer = chat(messages)

# 답변을 받아 assistant 메시지로 목록에 추가
add_assistant_message(messages, answer)

# 사용자의 후속 질문 추가
add_user_message(messages, "And 3 more added to that?")

# 최종 답변을 얻기 위해 메시지 목록으로 chat을 다시 호출
answer = chat(messages)
print(answer)

이 접근 방식을 사용하면 Claude가 전체 맥락을 갖게 되어 적절하게 응답할 수 있습니다: "1+1 = 2라는 결과에서 시작해서, 여기에 3을 더하면: 2 + 3 = 5가 됩니다"

메시지 역할 교대

메시지 목록을 구성할 때는 항상 메시지 역할이 올바르게 교대되도록 해야 합니다:

네 개의 교대하는 메시지: 사용자 "1 + 1은 뭐야?", 어시스턴트 "1 + 1은 2입니다.", 사용자 "거기에 3을 더하면?", 어시스턴트 "3 + 2는 5입니다."

대화는 사용자 → 어시스턴트 → 사용자 → 어시스턴트 패턴을 따라야 합니다. 사용자 메시지 두 개가 연속으로 오거나 어시스턴트 메시지 두 개가 연속으로 오는 일은 절대 없어야 합니다. 이러한 교대 패턴은 API에서 요구되며 자연스러운 대화 흐름을 반영합니다.

이러한 수동 메시지 관리가 처음에는 번거롭게 느껴질 수 있지만, 곧 익숙해질 것입니다. 이 패턴은 Claude와 대화 맥락을 유지해야 하는 모든 애플리케이션을 구축하는 데 있어 기본이 됩니다.