Chargement

Contrôler la sortie du modèle

Leçon 810 min
Chargement

Au-delà de la conception de meilleures requêtes, il existe deux techniques puissantes pour contrôler la sortie de Claude : les messages assistant préremplis et les séquences d'arrêt. Ces méthodes vous offrent un contrôle précis sur la manière dont Claude répond et sur le moment où il cesse de générer du texte.

Messages assistant préremplis

Le préremplissage de message vous permet de fournir le début de la réponse de Claude, ce qui influence fortement l'orientation de sa réponse. Plutôt que de laisser Claude décider comment commencer sa réponse, vous lui donnez une ouverture spécifique qui oriente la conversation.

Le message utilisateur « Qu'est-ce qui est le mieux au petit-déjeuner, le thé ou le café ? » est envoyé à Claude, qui renvoie un message assistant « ??? ».

Voici comment cela fonctionne : vous construisez votre liste habituelle de messages avec la question de l'utilisateur, puis vous ajoutez à la fin un message assistant contenant le début de la réponse que vous souhaitez. Lorsque Claude traite ce message, il voit le message assistant et pense « j'ai déjà commencé à répondre à cette question, je dois donc continuer là où je me suis arrêté ».

Claude poursuit le texte prérempli par « cela contient plus de caféine, ce qui aide à rester alerte le matin ».

Par exemple, si vous demandez « Qu'est-ce qui est le mieux au petit-déjeuner, le thé ou le café ? » et que vous préremplissez avec « Le café est meilleur car », Claude continuera à partir de ce point et construira une réponse en faveur du café. L'idée clé est que Claude reprendra exactement là où votre texte prérempli s'arrête : il ne répétera pas ce que vous avez écrit.

Voyons cela en pratique :

python
messages = []
add_user_message(messages, "Is coffee or tea better for breakfast?")
add_assistant_message(messages, "Coffee is better because")

chat(messages)

Cela renvoie quelque chose comme « cela contient plus de caféine ». Remarquez que Claude poursuit directement à partir de votre texte prérempli, vous devrez donc combiner les deux parties pour obtenir la réponse complète : « Le café est meilleur car cela contient plus de caféine. »

Vous pouvez orienter Claude dans n'importe quelle direction en modifiant votre texte prérempli :

  • "Le thé est meilleur car" - oriente vers le thé
  • "Ils sont identiques car" - crée une réponse neutre

Séquences d'arrêt

Les séquences d'arrêt forcent Claude à terminer immédiatement sa réponse lorsqu'il génère un texte spécifique. Cela est utile lorsque vous souhaitez tronquer la sortie à un point précis ou empêcher Claude de continuer au-delà d'un certain repère.

Diagramme du message utilisateur « Compte de 1 à 10 » envoyé à Claude avec les séquences d'arrêt définies sur « 5 », et la réponse « 1, 2, 3, 4, ».

Le concept est simple : vous fournissez une liste de chaînes de caractères, et dès que Claude génère l'une de ces chaînes, il s'arrête et renvoie tout ce qu'il a généré jusque-là. La séquence d'arrêt elle-même n'est pas incluse dans la réponse.

Pour utiliser les séquences d'arrêt, vous devez modifier votre fonction de chat pour les accepter en tant que paramètre :

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[]):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {
            "temperature": temperature,
            "stopSequences": stop_sequences
        },
    }

    if system:
        params["system"] = [{"text": system}]

    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

Voici un exemple pratique :

python
messages = []
add_user_message(messages, "Count from 1 to 10")

chat(messages, stop_sequences=["5"])

Cela renvoie « 1, 2, 3, 4, » et s'arrête avant d'inclure le « 5 ». Vous pouvez spécifier plusieurs séquences d'arrêt, et Claude s'arrêtera à celle qu'il rencontrera en premier :

python
chat(messages, stop_sequences=["5", "3, 4"])

Les séquences d'arrêt sont particulièrement utiles pour :

  • Contrôler la longueur des réponses
  • S'arrêter à des points de rupture naturels dans une sortie structurée
  • Empêcher Claude de continuer au-delà de marqueurs ou de délimiteurs spécifiques

Ces deux techniques vous offrent un contrôle précis sur le comportement de Claude, vous permettant de façonner les réponses d'une manière qu'une simple requête ne peut atteindre à elle seule.