Wird geladen

Mehrfache Konversationen

Lektion 47 Min.
Wird geladen

Der Code, den wir bisher geschrieben haben, simuliert einen sehr einfachen Austausch mit Claude. Aber was passiert, wenn du ein Gespräch fortsetzen möchtest? Wenn du eine Folgefrage wie „Und 3 mehr?“ stellst, nachdem du „Was ist 1+1?“ gefragt hast, erwartest du vielleicht, dass Claude versteht, dass du danach fragst, 3 zum vorherigen Ergebnis von 2 zu addieren.

Chat-App, in der die KI „Die Antwort ist 2.“ und dann auf eine Folgefrage „Das Addieren von 3 zu 2 ergibt 5.“ antwortet.

Es gibt jedoch etwas Entscheidendes, das du über die Bedrock-API und Claude selbst verstehen musst.

Keine Speicherung von Nachrichten

Bedrock und Claude speichern keine Nachrichten. Keine der Nachrichten, die du sendest, wird gespeichert, und keine der Antworten, die du erhältst, wird ebenfalls gespeichert. Jeder API-Aufruf ist vollständig unabhängig.

Bedrock und Claude speichern keine Nachrichten, daher benötigt eine Konversation die beiden unten aufgeführten Schritte.

Um eine Konversation mit mehreren Nachrichten zu führen, die den Kontext beibehält, musst du:

  • manuell eine Liste aller Nachrichten in deinem Code pflegen
  • diese gesamte Liste von Nachrichten bei jeder Folgeanfrage bereitstellen

Warum der Kontext wichtig ist

Schauen wir uns an, was ohne den richtigen Kontext passiert. Wenn du nur „Und 3 mehr?“ als eigenständige Nachricht sendest, hat Claude keine Ahnung, worauf du dich beziehst. Claude wird sein Bestes geben, um zu antworten, aber die Antwort wird keinen Sinn ergeben, weil der Kontext deines vorherigen Gesprächs fehlt.

Eine Anfrage mit nur der Benutzernachricht „Und 3 mehr?“ geht an AWS, das mit einer Assistentennachricht aus sechs Fragezeichen antwortet.

Wenn du nur die Folgefrage sendest, sieht Claude lediglich diese isolierte Nachricht und versucht zu antworten, ohne etwas vom vorherigen Austausch „Was ist 1+1?“ zu wissen.

Eine Anfrage an AWS mit einer Benutzernachricht, „Was ist 1 + 1?“, und die Antwort des Assistenten „1 + 1 ist 2.“ kommt zurück.

Aufbau des Konversationskontexts

Um den Kontext beizubehalten, musst du den vollständigen Gesprächsverlauf in jeder Anfrage einbeziehen. So funktioniert es:

An AWS gesendete Nachrichten: Benutzer „Was ist 1 + 1?“, Assistent „1 + 1 ist 2.“ und Benutzer „Und 3 mehr?“; die Antwort lautet „3 + 2 ist 5“.

Deine Nachrichtenliste sollte alle vorherigen Austausche enthalten – sowohl Benutzernachrichten als auch Antworten des Assistenten. Wenn du diesen vollständigen Kontext sendest, kann Claude verstehen, dass sich „Und 3 mehr?“ auf die Addition von 3 zum vorherigen Ergebnis von 2 bezieht.

Hilfsfunktionen für die Nachrichtenverwaltung

Um die Verwaltung von Konversationen zu erleichtern, kannst du Hilfsfunktionen erstellen:

python
def add_user_message(messages, text):
    user_message = {
        "role": "user",
        "content": [
            {"text": text}
        ]
    }
    messages.append(user_message)

def add_assistant_message(messages, text):
    assistant_message = {
        "role": "assistant", 
        "content": [
            {"text": text}
        ]
    }
    messages.append(assistant_message)

def chat(messages):
    response = client.converse(
        modelId=model_id,
        messages=messages
    )
    return response["output"]["message"]["content"][0]["text"]

Implementierung mehrfacher Konversationen

So baust du eine Konversation Schritt für Schritt auf:

python
# Erstelle eine Startliste mit Nachrichten
messages = []

# Füge die erste Nutzerfrage „What's 1+1?“ hinzu
add_user_message(messages, "What's 1+1?")

# Übergib die Nachrichtenliste an chat, um eine Antwort zu erhalten
answer = chat(messages)

# Nimm die Antwort und füge sie als Assistant-Nachricht zur Liste hinzu
add_assistant_message(messages, answer)

# Füge die Folgefrage des Nutzers hinzu
add_user_message(messages, "And 3 more added to that?")

# Rufe chat erneut mit der Nachrichtenliste auf, um eine finale Antwort zu erhalten
answer = chat(messages)
print(answer)

Dieser Ansatz stellt sicher, dass Claude den vollständigen Kontext hat und angemessen antworten kann: „Ausgehend vom Ergebnis von 1+1 = 2, wenn wir dazu noch 3 addieren, erhalten wir: 2 + 3 = 5“

Abwechslung der Nachrichtenrollen

Stelle beim Aufbau deiner Nachrichtenliste immer sicher, dass sich die Nachrichtenrollen ordnungsgemäß abwechseln:

Vier abwechselnde Nachrichten: Benutzer „Was ist 1 + 1?“, Assistent „1 + 1 ist 2.“, Benutzer „Und 3 mehr?“, Assistent „3 + 2 ist 5“.

Deine Konversation sollte dem Muster folgen: Benutzer → Assistent → Benutzer → Assistent. Habe niemals zwei Benutzernachrichten hintereinander oder zwei Assistentennachrichten hintereinander. Dieses abwechselnde Muster wird von der API verlangt und spiegelt den natürlichen Gesprächsfluss wider.

Auch wenn diese manuelle Nachrichtenverwaltung zunächst mühsam erscheinen mag, wirst du dich schnell daran gewöhnen. Dieses Muster ist grundlegend für den Aufbau jeder Anwendung, die einen konversationellen Kontext mit Claude aufrechterhalten muss.