라우팅 워크플로우는 AI 애플리케이션에서 흔히 발생하는 문제를 해결합니다. 즉, 서로 다른 유형의 사용자 요청에는 서로 다른 처리 방식이 필요하다는 점입니다. 모든 상황에 맞는 하나의 프롬프트를 사용하는 대신, 들어오는 요청을 분류하고 전문화된 처리 파이프라인으로 라우팅할 수 있습니다.
범용 프롬프트의 문제점
사용자가 입력한 주제로 영상 대본을 생성하는 소셜 미디어 마케팅 도구를 생각해 보겠습니다. 사용자는 주제로 "프로그래밍" 또는 "서핑"을 입력할 수 있지만, 이 둘은 매우 다른 유형의 콘텐츠를 생성해야 합니다.

프로그래밍 주제는 명확한 설명과 정의를 갖춘 교육용 콘텐츠가 필요합니다. 서핑 주제는 흥미와 시각적 매력을 강조하는 엔터테인먼트 중심의 대본이 더 효과적입니다. 하나의 범용 프롬프트로는 두 경우 모두를 효과적으로 처리할 수 없습니다.
콘텐츠 카테고리 설정하기
첫 번째 단계는 애플리케이션이 생성해야 할 수 있는 다양한 콘텐츠 유형을 정의하는 것입니다. 요청을 다음과 같은 장르로 분류할 수 있습니다:
- 엔터테인먼트 - 트렌디한 표현을 사용하는 고에너지의 시의적절한 콘텐츠
- 교육 - 공감할 수 있는 예시를 활용한 명확하고 몰입감 있는 설명
- 코미디 - 예상치 못한 전개와 재치 있는 관찰, 타이밍이 돋보이는 날카로운 콘텐츠
- 개인 브이로그 - 대화체의 스토리텔링을 통한 진솔하고 친밀한 콘텐츠
- 리뷰 - 경험에 기반해 장단점을 명확히 짚어주는 단호한 콘텐츠
- 스토리텔링 - 생생한 디테일과 감정적 연결을 활용한 몰입형 콘텐츠

각 카테고리는 고유의 전문화된 프롬프트 템플릿을 갖습니다. 예를 들어 교육용 프롬프트는 Claude에게 "공감할 수 있는 예시와 생각을 자극하는 질문을 활용해 복잡한 정보를 이해하기 쉬운 통찰로 바꾸는, 명확하고 몰입감 있는 대본을 만들어 달라"고 요청할 수 있습니다.
실제 라우팅 작동 방식
라우팅 프로세스는 두 단계로 이루어집니다:
- 분류 - 사용자의 주제를 Claude에게 전달하고, 미리 정의한 장르 중 하나로 분류해 달라고 요청합니다
- 전문화된 처리 - 분류 결과를 사용해 적합한 프롬프트 템플릿을 선택하고 콘텐츠를 생성합니다

예를 들어 사용자가 주제로 "Python 함수"를 입력했다면, 먼저 Claude에게 이를 분류해 달라고 요청합니다:
Categorize the topic of a video into one of the listed categories:
<topic>Python functions</topic>
<categories>
- Educational
- Entertainment
- Comedy
- Personal vlog
- Reviews
- Storytelling
</categories>Claude는 "Educational"이라고 응답하고, 이후 교육용 프롬프트 템플릿을 사용해 실제 대본 콘텐츠를 생성합니다.

라우팅 워크플로우 아키텍처
라우팅 워크플로우는 다음과 같은 패턴을 따릅니다:

- 사용자 입력은 먼저 라우터 컴포넌트로 전달됩니다
- 라우터는 초기 Claude 호출을 사용해 요청을 분류합니다
- 카테고리에 따라 입력은 하나의 특정 처리 파이프라인으로 전달됩니다
- 각 파이프라인은 해당 카테고리에 맞게 최적화된 고유의 워크플로우, 프롬프트 또는 도구를 가질 수 있습니다
핵심은 사용자 입력이 전문화된 파이프라인 전체가 아니라 단 하나의 파이프라인으로만 전달된다는 점입니다. 이를 통해 각 파이프라인을 특정 사용 사례에 맞게 고도로 최적화할 수 있습니다.
라우팅을 사용해야 할 때
라우팅 워크플로우는 다음과 같은 경우에 효과적으로 작동합니다:
- 애플리케이션이 서로 다른 접근 방식이 필요한 다양한 유형의 요청을 처리하는 경우
- 사용 사례를 포괄하는 카테고리를 명확하게 정의할 수 있는 경우
- 분류 단계를 Claude가 안정적으로 처리할 수 있는 경우
- 전문화된 처리의 성능 이점이 라우팅 단계의 오버헤드를 능가하는 경우
이 패턴은 고객 서비스 봇, 콘텐츠 생성 도구, 그리고 "올바른" 응답이 요청 유형을 정확히 파악하는 데 크게 좌우되는 모든 애플리케이션에 특히 유용합니다.