Chargement

Contrôler la sortie du modèle

Leçon 87 min
Chargement

Au-delà de la rédaction de meilleures requêtes, il existe deux techniques puissantes pour contrôler la sortie de Claude : les messages d'assistant préremplis et les séquences d'arrêt. Ces méthodes vous offrent un contrôle précis sur la façon dont Claude répond et sur le moment où il arrête de générer du texte.

Messages d'assistant préremplis

Le préremplissage de message vous permet de fournir le début de la réponse de Claude, à partir de laquelle il poursuivra ensuite. Cette technique est incroyablement utile pour orienter Claude dans une direction spécifique.

Le message utilisateur « Le thé ou le café, lequel est meilleur au petit-déjeuner ? » est envoyé à Claude, qui renvoie un message d'assistant « ??? ».

Voici comment cela fonctionne : au lieu d'envoyer simplement un message utilisateur, vous ajoutez un message d'assistant à la fin de votre liste de messages. Claude voit ce message d'assistant et pense « j'ai déjà commencé à répondre à cette question, je devrais donc continuer là où je m'étais arrêté ».

Claude poursuit le texte prérempli par « cela a une teneur en caféine plus élevée, ce qui aide à la vigilance le matin ».

Par exemple, si vous demandez « Le thé ou le café, lequel est meilleur au petit-déjeuner ? » sans préremplissage, Claude donne généralement une réponse équilibrée mentionnant les deux options. Mais si vous ajoutez un message d'assistant disant « Le café est meilleur parce que », Claude poursuivra à partir de là et construira un argumentaire en faveur du café.

L'essentiel à comprendre est que Claude poursuit exactement là où votre texte prérempli se termine. Si vous écrivez « Le café est meilleur parce que », Claude ne répétera pas ce texte : il reprendra juste après « parce que » et complétera la pensée.

Voici la structure du code :

python
messages = []
add_user_message(messages, "Is tea or coffee better at breakfast?")
add_assistant_message(messages, "Coffee is better because")
answer = chat(messages)

Vous pouvez orienter Claude dans n'importe quelle direction grâce à cette technique :

  • Favoriser le café : « Le café est meilleur parce que »
  • Favoriser le thé : « Le thé est meilleur parce que »
  • Adopter une position contraire : « Aucun des deux n'est très bon parce que »

Séquences d'arrêt

Les séquences d'arrêt obligent Claude à terminer sa réponse dès qu'il génère une chaîne de caractères spécifique. C'est parfait pour contrôler la longueur ou le point final des réponses.

Schéma du message utilisateur « Compte de 1 à 10 » envoyé à Claude avec les séquences d'arrêt définies sur « 5 », et la réponse « 1, 2, 3, 4, ».

Le concept est simple : vous fournissez une liste de chaînes de caractères, et lorsque Claude génère l'une d'entre elles, il s'arrête immédiatement et renvoie tout ce qu'il a généré jusqu'à ce point.

Pour utiliser les séquences d'arrêt, faites en sorte que votre fonction chat accepte une liste de celles-ci :

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[]):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    if system:
        params["system"] = system
    if stop_sequences:
        params["stop_sequences"] = stop_sequences

    message = client.messages.create(**params)
    return message.content[0].text

Par exemple, demandez à Claude de « Compter de 1 à 10 » avec une séquence d'arrêt de « 5 » :

python
add_user_message(messages, "Count from 1 to 10")
answer = chat(messages, stop_sequences=["5"])

Cela renvoie : « 1, 2, 3, 4, » - en s'arrêtant juste avant que le « 5 » ne soit inclus dans la sortie.

Vous pouvez être plus précis avec vos séquences d'arrêt. Si vous souhaitez éviter la virgule et l'espace à la fin, utilisez plutôt stop_sequences=[", 5"]. Cela vous donnera un résultat plus propre : « 1, 2, 3, 4 ».

Les séquences d'arrêt sont particulièrement utiles pour :

  • Limiter la longueur des listes
  • S'arrêter à des marqueurs ou des délimiteurs spécifiques
  • Créer des formats de sortie cohérents
  • Éviter des réponses excessivement longues

Ces deux techniques vous offrent un contrôle précis sur le comportement de Claude, vous permettant de créer des réponses plus prévisibles et ciblées pour vos applications.