Chargement
Chargement

Le code que nous avons écrit jusqu'à présent simule un échange très simple avec Claude. Mais que se passe-t-il lorsque vous souhaitez poursuivre une conversation ? Lorsque vous posez une question de suivi comme « Et 3 de plus ? » après avoir demandé « Combien font 1+1 ? », vous pourriez vous attendre à ce que Claude comprenne que vous demandez d'ajouter 3 au résultat précédent de 2.

Application de chat où l'IA répond « La réponse est 2. » puis « Ajouter 3 à 2 donnerait 5. » à une question de suivi.

Cependant, il y a quelque chose de crucial que vous devez comprendre à propos de l'API Bedrock et de Claude lui-même.

Aucun stockage des messages

Bedrock et Claude ne stockent aucun message. Aucun des messages que vous envoyez n'est stocké, et aucune des réponses que vous recevez ne l'est non plus. Chaque appel API est totalement indépendant.

Bedrock et Claude ne stockent aucun message, une conversation nécessite donc les deux étapes listées ci-dessous.

Pour avoir une conversation avec plusieurs messages qui conservent le contexte, vous devez :

  • Tenir manuellement à jour une liste de tous les messages dans votre code
  • Fournir cette liste complète de messages à chaque requête de suivi

Pourquoi le contexte est important

Voyons ce qui se passe sans contexte approprié. Si vous envoyez simplement « Et 3 de plus ? » comme message isolé, Claude n'a aucune idée de ce à quoi vous faites référence. Il fera de son mieux pour répondre, mais la réponse n'aura pas de sens car elle manque du contexte de votre conversation précédente.

Une requête contenant uniquement le message utilisateur « Et 3 de plus ? » est envoyée à AWS, qui répond par un message assistant composé de six points d'interrogation.

Lorsque vous envoyez uniquement la question de suivi, Claude ne voit que ce message isolé et tente de répondre sans connaître l'échange précédent « Combien font 1+1 ? ».

Une requête à AWS avec un message utilisateur, « Combien font 1 + 1 ? », et la réponse de l'assistant « 1 + 1 égale 2. » en retour.

Construire le contexte de la conversation

Pour conserver le contexte, vous devez inclure l'historique complet de la conversation dans chaque requête. Voici comment cela fonctionne :

Messages envoyés à AWS : utilisateur « Combien font 1 + 1 ? », assistant « 1 + 1 égale 2. » et utilisateur « Et 3 de plus ? » ; la réponse est « 3 + 2 égale 5 ».

Votre liste de messages doit contenir tous les échanges précédents, à la fois les messages utilisateur et les réponses de l'assistant. Lorsque vous envoyez ce contexte complet, Claude peut comprendre que « Et 3 de plus ? » fait référence à l'ajout de 3 au résultat précédent de 2.

Fonctions d'assistance pour la gestion des messages

Pour faciliter la gestion des conversations, vous pouvez créer des fonctions d'assistance :

python
def add_user_message(messages, text):
    user_message = {
        "role": "user",
        "content": [
            {"text": text}
        ]
    }
    messages.append(user_message)

def add_assistant_message(messages, text):
    assistant_message = {
        "role": "assistant", 
        "content": [
            {"text": text}
        ]
    }
    messages.append(assistant_message)

def chat(messages):
    response = client.converse(
        modelId=model_id,
        messages=messages
    )
    return response["output"]["message"]["content"][0]["text"]

Implémenter des conversations multi-tours

Voici comment construire une conversation étape par étape :

python
# Créer une liste de départ de messages
messages = []

# Ajouter la question initiale de l'utilisateur « Combien font 1+1 ? »
add_user_message(messages, "What's 1+1?")

# Passer la liste des messages à chat pour obtenir une réponse
answer = chat(messages)

# Récupérer la réponse et l'ajouter en tant que message de l'assistant dans notre liste
add_assistant_message(messages, answer)

# Ajouter la question de suivi de l'utilisateur
add_user_message(messages, "And 3 more added to that?")

# Rappeler chat avec la liste des messages pour obtenir une réponse finale
answer = chat(messages)
print(answer)

Cette approche garantit que Claude dispose du contexte complet et peut répondre de manière appropriée : « En partant du résultat de 1+1 = 2, si nous ajoutons 3 de plus à cela, nous obtenons : 2 + 3 = 5 »

Alternance des rôles des messages

Lorsque vous construisez votre liste de messages, veillez toujours à ce que les rôles des messages alternent correctement :

Quatre messages alternés : utilisateur « Combien font 1 + 1 ? », assistant « 1 + 1 égale 2. », utilisateur « Et 3 de plus ? », assistant « 3 + 2 égale 5 ».

Votre conversation doit suivre le schéma : utilisateur → assistant → utilisateur → assistant. N'ayez jamais deux messages utilisateur consécutifs ni deux messages assistant consécutifs. Ce schéma alterné est requis par l'API et reflète le déroulement naturel d'une conversation.

Bien que cette gestion manuelle des messages puisse sembler fastidieuse au premier abord, vous vous y habituerez rapidement. Ce schéma est fondamental pour construire toute application qui doit maintenir un contexte conversationnel avec Claude.