Wird geladen

Multi-Turn-Konversationen mit Tools

Lektion 279 Min.
Wird geladen

Der Aufbau von Multi-Turn-Konversationen mit Tool-Nutzung erfordert die Handhabung unterschiedlicher Antworttypen von Claude. Wenn Claude antwortet, muss es möglicherweise ein Tool verwenden, oder es liefert eine direkte Antwort. Dein Code muss beide Szenarien elegant handhaben.

Das Problem mit einfacher Tool-Integration

Wenn du Tool-Ergebnisse einfach jeder Konversation hinzufügst, wirst du auf Probleme stoßen. Wenn Claude eine einfache Frage wie „Was ist 1+1?“ beantwortet, benötigt es keine Tools. Aber wenn dein Code immer versucht, Tool-Ergebnisse zu verarbeiten, wirst du am Ende leere Nachrichten zu deinem Konversationsverlauf hinzufügen.

Die Lösung besteht darin, den stop_reason zu prüfen, der mit jeder Claude-Antwort zurückkommt. Dieser sagt dir, warum Claude die Generierung gestoppt hat – ob es natürlich fertig wurde oder weil es ein Tool verwenden möchte.

Stop-Gründe

Tabelle der vier unten aufgeführten Stop-Gründe, wobei die Workflow-Schrittleiste „Claude mit JSON Schema aufrufen“ hervorhebt.

Claude kann aus mehreren Gründen stoppen:

  • "tool_use" - Das Modell möchte ein Tool aufrufen
  • "end_turn" - Das Modell hat die Generierung seiner Antwort beendet
  • "max_tokens" - Das Ausgabelimit wurde erreicht
  • "stop_sequence" - Eine von dir bereitgestellte Stop-Sequenz wurde angetroffen

Verbessern der Chat-Funktion

Aktualisiere zunächst deine Chat-Funktion, um mehr Informationen zurückzugeben. Anstatt nur Text und Teile separat zurückzugeben, gib ein Dictionary mit allem zurück, was du benötigst:

python
def chat(messages, tools=None, system=None, **kwargs):
    # ... bestehender Code ...
    
    return {
        "parts": parts,
        "stop_reason": response["stopReason"],
        "text": "\n".join([p["text"] for p in parts if "text" in p])
    }

Dieser Ansatz extrahiert den gesamten Textinhalt aus den Antwortteilen, was robuster ist, als anzunehmen, dass der erste Teil immer Text ist.

Aufbau einer Konversationsschleife

Erstelle eine Funktion, die den gesamten Konversationsablauf handhabt:

python
def run_conversation(messages):
    while True:
        result = chat(messages, tools=[get_current_datetime_schema])
        
        add_assistant_message(messages, result["parts"])
        print(result["text"])
        
        if result["stop_reason"] != "tool_use":
            break
            
        tool_result_parts = run_tools(result["parts"])
        add_user_message(messages, tool_result_parts)
    
    return messages

Diese Schleife läuft weiter, bis Claude aus einem anderen Grund als Tool-Nutzung stoppt. Jede Iteration:

  1. Sendet die aktuellen Nachrichten an Claude
  2. Fügt Claudes Antwort zum Nachrichtenverlauf hinzu
  3. Prüft, ob Claude ein Tool verwenden möchte
  4. Falls ja, führt die Tools aus und fügt die Ergebnisse zurück zur Konversation hinzu
  5. Falls nein, verlässt die Schleife

Testen der Implementierung

Dieser Ansatz handhabt sowohl tool-erfordernde als auch einfache Fragen:

python
# Frage, die ein Tool erfordert
messages = []
add_user_message(messages, "What time is it?")
run_conversation(messages)

# Einfache Frage  
messages = []
add_user_message(messages, "What is 1+1?")
run_conversation(messages)

Bei Fragen zur Zeit verwendet Claude das datetime-Tool. Bei Mathematikfragen antwortet es direkt, ohne jegliche Tool-Aufrufe. Die Konversationsschleife passt sich automatisch basierend auf Claudes Stop-Grund an.

Dieses Muster skaliert gut, wenn du weitere Tools hinzufügst – dieselbe Schleife handhabt jede Kombination aus Tool-Nutzung und direkten Antworten, was deine konversationelle KI robuster und natürlicher macht.