로드 중
로드 중

Claude로 애플리케이션을 구축할 때, 전체 요청 생명주기를 이해하면 더 나은 아키텍처 결정을 내리고 문제를 더 효과적으로 디버깅하는 데 도움이 됩니다. 사용자가 채팅 인터페이스에서 "보내기"를 클릭한 순간부터 Claude의 응답이 화면에 나타날 때까지 무슨 일이 일어나는지 살펴보겠습니다.

"You"가 보낸 "What is quantum computing?" 메시지, 빈 입력 상자, 보내기 버튼이 있는 채팅 창.

5단계 요청 흐름

Claude와의 모든 상호작용은 서버로의 요청, Anthropic API로의 요청, 모델 처리, 서버로의 응답, 클라이언트로의 응답이라는 다섯 가지 뚜렷한 단계를 가진 예측 가능한 패턴을 따릅니다.

1단계, 서버로의 요청: 웹 또는 모바일 앱이 "What is quantum computing?"을 요청으로 서버에 보냅니다.

서버가 필요한 이유

클라이언트 측 코드에서 Anthropic API로 직접 요청을 보내면 안 됩니다. 그 이유는 다음과 같습니다:

  • API 요청은 인증을 위해 비밀 API 키가 필요합니다
  • 클라이언트 코드에 이 키를 노출하면 심각한 보안 취약점이 생깁니다
  • 누구든 키를 추출해서 무단 요청을 할 수 있습니다

대신, 웹 또는 모바일 앱은 자체 서버로 요청을 보내고, 서버가 안전하게 저장된 키를 사용해 Anthropic API와 통신합니다.

API 요청하기

서버가 Anthropic API에 접속할 때, 공식 SDK를 사용하거나 일반 HTTP 요청을 보낼 수 있습니다. Anthropic은 Python, TypeScript, JavaScript, Go, Ruby용 SDK를 제공합니다.

Anthropic API로의 요청 단계: 입력 텍스트가 "user" 메시지 안에 담기고, 이 메시지가 다시 메시지 목록에 담깁니다.

모든 요청에는 다음과 같은 필수 필드가 포함되어야 합니다:

  • API 키 - Anthropic에 요청을 식별합니다
  • 모델 - 사용할 모델의 이름(예: "claude-haiku-4-5")
  • 메시지 - 사용자의 입력 텍스트를 담은 목록
  • 최대 토큰 수 - Claude가 생성할 수 있는 토큰 수의 제한

Claude의 처리 과정 내부

Anthropic이 요청을 받으면, Claude는 토큰화, 임베딩, 맥락화, 생성이라는 네 가지 주요 단계를 거쳐 처리합니다.

토큰화: 사용자 입력 "What is quantum computing?"이 "What", "is", "quantum", "computing", "?" 토큰으로 나뉩니다.

토큰화

Claude는 먼저 입력 텍스트를 토큰이라는 더 작은 단위로 나눕니다. 이것들은 전체 단어, 단어의 일부, 공백, 또는 기호일 수 있습니다. 간단히 말해, 각 단어를 하나의 토큰으로 생각하면 됩니다.

임베딩

각 토큰은 임베딩으로 변환됩니다 - 이는 해당 단어의 모든 가능한 의미를 나타내는 긴 숫자 목록입니다. 임베딩을 의미론적 관계를 포착하는 수치적 정의라고 생각하세요.

"quantum"에서 아래에 나열된 네 가지 의미와 '얼마나 많은'을 뜻하는 라틴어 어원 "quantus"로 갈라지는 다이어그램.

단어는 종종 여러 의미를 가집니다. 예를 들어, "quantum"은 다음을 가리킬 수 있습니다:

  • 물리량의 이산 단위(물리학)
  • 양자역학 또는 양자물리학 개념
  • 매우 작거나 아원자적인 것
  • 양자 컴퓨팅 응용 분야

맥락화

Claude는 문맥에서 가장 가능성 있는 의미를 결정하기 위해 주변 단어를 기반으로 각 임베딩을 정제합니다. 이 과정은 적절한 정의를 강조하도록 수치적 표현을 조정합니다.

Anthropic API의 맥락화 단계가 -0.34, 0.87 같은 소수로 이루어진 다섯 개의 열과 연결되어 있고, 열들은 호로 이어져 있습니다.

생성

맥락화된 임베딩은 각각의 가능한 다음 단어에 대한 확률을 계산하는 출력 레이어를 거칩니다. Claude는 항상 가장 높은 확률의 단어를 선택하는 것은 아닙니다 - 자연스럽고 다양한 응답을 만들기 위해 확률과 제어된 무작위성을 혼합하여 사용합니다.

출력 레이어의 다음 단어 확률: "Quantum" 30%, "Great" 23%, "Are" 19%, "What" 10%, "This" 10%, "To" 8%.

각 단어를 선택한 후, Claude는 그것을 시퀀스에 추가하고 다음 단어를 위해 전체 과정을 반복합니다.

Claude가 생성을 멈추는 시점

각 토큰 이후, Claude는 계속할지 여부를 결정하기 위해 몇 가지 조건을 확인합니다:

출력 토큰 "Quantum mechanics is a form of computing."이 시퀀스 종료 토큰으로 끝나며, 아래에 세 가지 정지 조건 확인이 표시되어 있습니다.

  • 최대 토큰 수 도달 - 지정한 제한에 도달했습니까?
  • 자연스러운 종료 - 시퀀스 종료 토큰을 생성했습니까?
  • 정지 시퀀스 - 미리 정의된 정지 구문을 만났습니까?

API 응답

생성이 완료되면, API는 다음을 포함하는 구조화된 응답을 반환합니다:

  • 메시지 - 생성된 텍스트
  • 사용량 - 입력 및 출력 토큰 수
  • 정지 이유 - 생성이 종료된 이유

응답이 Anthropic API에서 서버의 Anthropic SDK로 돌아오며, 출력 텍스트는 "assistant" 메시지에 담겨 있습니다.

서버는 이 응답을 받아 생성된 텍스트를 클라이언트 애플리케이션으로 다시 전달하며, 거기서 사용자 인터페이스에 표시됩니다.

채팅 앱의 질문 "What is quantum computing?"이 서버의 Anthropic SDK를 거쳐 Anthropic API로 갔다가 다시 돌아옵니다.

핵심 요약

이 흐름을 이해하면 다음에 도움이 됩니다:

  • API 키를 보호하는 안전한 아키텍처 설계하기
  • 사용 사례에 적합한 토큰 제한 설정하기
  • 애플리케이션 로직에서 다양한 정지 이유 처리하기
  • 파이프라인의 어느 부분에서 문제가 발생할 수 있는지 이해하여 디버깅하기

모든 세부 사항을 외우려고 걱정할 필요는 없습니다 - 목표는 Claude의 API로 작업할 때 접하게 될 용어와 전체 프로세스에 익숙해지는 것입니다.