載入中
載入中

在建構 AI 應用程式時,您經常需要針對不同類型的使用者請求採取不同的方法。路由工作流程透過先對使用者輸入進行分類,然後將其導向專門的處理管線,來解決這個問題。

一體適用提示的問題

請考慮一個根據使用者主題生成影片腳本的社群媒體行銷工具。如果有人輸入「程式設計」與「衝浪」,您會希望得到非常不同的輸出:

  • 程式設計主題 - 教育性腳本,具有清晰的定義、範例和結構化的解釋
  • 衝浪主題 - 著重娛樂性的腳本,具有吸引人的開場白和流行的語言,而非技術性定義

程式設計與衝浪這兩個主題的影片腳本,每個都分成五個從 0-3 秒到 25-35 秒的計時片段。

對兩個主題使用相同的通用提示會產生平庸的結果,無法與內容的自然風格相符。

設定內容類別

首先定義您的應用程式可能需要處理的不同內容類型。對於影片腳本,您可能會使用以下類別:

  • 娛樂
  • 教育
  • 喜劇
  • 個人 vlog
  • 評論
  • 說故事

表格列出六種影片類型各自的腳本生成提示,包括喜劇、評論和說故事。

建立專門化的提示

針對每個類別,撰寫能掌握正確語氣與方法的特定提示。以下是教育類提示可能的樣子:

Develop a clear, engaging script about [TOPIC] that transforms complex information into digestible insights using relatable examples and thought-provoking questions.

與此相比,以下是娛樂類提示:

Write a high-energy, culturally-relevant script about [TOPIC] using trendy language and engaging hooks that balance entertainment value with insider insights.

兩步驟流程

路由工作流程使用兩次獨立的 Claude 呼叫:

步驟 1:分類

將使用者的主題連同分類提示一起傳送給 Claude,要求其對內容類型進行分類。

使用者訊息要求 Claude 對影片主題「Python functions」進行分類,助手訊息回覆「Educational」。

例如,「Python functions」很可能會被歸類為「Educational」。

步驟 2:專門化處理

根據 Claude 的分類結果,使用對應的專門提示來生成實際內容。

伺服器將以 Python functions 為主題的教育提示傳送給 Claude,Claude 回覆一段佔位用的腳本。

路由工作流程架構

一般模式如下所示:

路由圖:路由器將使用者輸入僅傳送至以下所述的三個管線(工作流程、提示、工具等)中的一個。

  1. 使用者提供輸入
  2. 路由器(通常是 Claude)對請求進行分類
  3. 輸入被轉發到恰好一個專門化管線
  4. 每個管線都有自己的工作流程、提示或工具

主要優點

  • 更好的輸出品質 - 每個類別都獲得為該特定使用案例設計的提示
  • 專門化工具 - 不同類別可以使用不同的 API、資料庫或處理步驟
  • 可擴展的設計 - 容易新增類別而不影響現有類別
  • 成本效益 - 只執行實際需要的處理

何時使用路由

路由工作流程在以下情況最有效:

  • 您的應用程式處理明顯不同類型的請求
  • 不同的請求類型需要不同的處理方法
  • 您希望在品質而非簡易性上進行優化
  • 您可以明確定義 3 到 10 個有意義的類別

建構多個專門化管線的前期複雜性,會以比使用單一通用方法處理所有事情顯著更好的結果來回報您。