Chargement

Flux de travail de routage

Leçon 632 min
Chargement

Lorsque vous créez des applications d'IA, vous aurez souvent besoin d'approches différentes selon les types de demandes des utilisateurs. Un flux de travail de routage résout ce problème en catégorisant d'abord la saisie de l'utilisateur, puis en la dirigeant vers des pipelines de traitement spécialisés.

Le problème des requêtes universelles

Prenons l'exemple d'un outil de marketing pour les réseaux sociaux qui génère des scripts vidéo à partir des sujets saisis par l'utilisateur. Si quelqu'un saisit « programmation » plutôt que « surf », vous voudriez des sorties très différentes :

  • Sujet Programmation - Script éducatif avec des définitions claires, des exemples et des explications structurées
  • Sujet Surf - Script axé sur le divertissement avec des accroches engageantes et un langage tendance, sans définitions techniques

Scripts vidéo pour les sujets Programmation et Surf, chacun en cinq segments chronométrés de 0-3 à 25-35 secondes.

Utiliser la même requête générique pour les deux sujets produirait des résultats médiocres qui ne correspondraient pas au style naturel du contenu.

Définir des catégories de contenu

Commencez par définir les différents types de contenu que votre application pourrait avoir besoin de traiter. Pour des scripts vidéo, vous pourriez utiliser des catégories telles que :

  • Divertissement
  • Éducatif
  • Comédie
  • Vlog personnel
  • Critiques
  • Narration

Tableau donnant une requête de génération de script pour chacun des six genres vidéo, dont la comédie, les critiques et la narration.

Créer des requêtes spécialisées

Pour chaque catégorie, rédigez une requête spécifique qui capture le ton et l'approche appropriés. Voici à quoi pourrait ressembler la requête éducative :

Développez un script clair et engageant sur [SUJET] qui transforme des informations complexes en informations digestes à l'aide d'exemples pertinents et de questions stimulant la réflexion.

Comparez cela à une requête de divertissement :

Rédigez un script dynamique et culturellement pertinent sur [SUJET] en utilisant un langage tendance et des accroches engageantes qui équilibrent la valeur de divertissement avec des éclairages d'initié.

Le processus en deux étapes

Un flux de travail de routage utilise deux appels distincts à Claude :

Étape 1 : Catégorisation

Envoyez le sujet de l'utilisateur à Claude avec une requête de catégorisation lui demandant de classer le type de contenu.

Message utilisateur demandant à Claude de catégoriser le sujet vidéo « Fonctions Python », et réponse de l'assistant « Éducatif ».

Par exemple, « Fonctions Python » serait probablement catégorisé comme « Éducatif ».

Étape 2 : Traitement spécialisé

En fonction de la catégorisation de Claude, utilisez la requête spécialisée appropriée pour générer le contenu réel.

Le serveur envoie à Claude la requête éducative avec les fonctions Python comme sujet, et Claude répond avec un script de substitution.

Architecture du flux de travail de routage

Le schéma général ressemble à ceci :

Schéma de routage : un routeur envoie la saisie de l'utilisateur vers un seul des trois pipelines de flux de travail, requête, outils, etc., décrits ci-dessous.

  1. L'utilisateur fournit une saisie
  2. Le routeur (généralement Claude) catégorise la demande
  3. La saisie est transmise à exactement un pipeline spécialisé
  4. Chaque pipeline a son propre flux de travail, ses propres requêtes ou outils

Avantages clés

  • Meilleure qualité de sortie - Chaque catégorie bénéficie de requêtes conçues pour ce cas d'usage spécifique
  • Outils spécialisés - Différentes catégories peuvent utiliser différentes API, bases de données ou étapes de traitement
  • Conception évolutive - Facile d'ajouter de nouvelles catégories sans affecter les catégories existantes
  • Efficacité des coûts - N'exécute que le traitement réellement nécessaire

Quand utiliser le routage

Les flux de travail de routage fonctionnent le mieux lorsque :

  • Votre application traite des types de demandes nettement différents
  • Différents types de demandes nécessitent des approches de traitement différentes
  • Vous souhaitez optimiser la qualité plutôt que la simplicité
  • Vous pouvez clairement définir de 3 à 10 catégories pertinentes

La complexité initiale de la création de plusieurs pipelines spécialisés est rentable grâce à des résultats nettement meilleurs que si l'on essayait de tout traiter avec une seule approche générique.