Wird geladen
Wird geladen

Claude kann nativ mehrere Tools gleichzeitig ausführen, aber manche Versionen nutzen das nicht so stark aus, wie man es sich wünschen würde. Du kannst die Wahrscheinlichkeit, dass Claude mehrere Tool-Aufrufe in einer einzigen Nachricht vornimmt, erheblich erhöhen, indem du ein Batch-Tool implementierst.

Claude gibt eine Assistant-Nachricht mit zwei ToolUse-Teilen zurück, beide add_duration: 12. März + 50 Tage und + 100 Tage.

Wenn Claude Tool-Use-Teile in einer Nachricht zurücksendet, kann es mehr als eine Tool-Anfrage in einer einzigen Antwort geben. Wenn du zum Beispiel fragst: „Was ergibt der 12. März 2025 + 50 Tage? Und was ergibt der 12. März 2025 + 100 Tage?“, könnte Claude theoretisch zwei separate Tool-Use-Teile zurücksenden – einen für jede Berechnung. Diese Operationen sind vollständig parallelisierbar, da sie nicht voneinander abhängen.

Allerdings versucht Claude nicht immer so stark wie erwartet, Tool-Aufrufe zu parallelisieren. Statt beide Aufrufe gleichzeitig vorzunehmen, führt es sie oft sequenziell aus, was weniger effizient ist.

Wie das Batch-Tool funktioniert

Das Batch-Tool ist genau wie jedes andere Tool implementiert – du brauchst eine Tool-Spezifikation und eine Funktion, die den Aufruf verarbeitet. Die Kernidee besteht darin, ein Tool zu erstellen, das mehrere andere Tools gleichzeitig aufrufen kann.

Hier ist die grundlegende Struktur der Batch-Tool-Spezifikation:

json
{
  "name": "batch_tool",
  "description": "Invoke multiple other tool calls simultaneously",
  "input_schema": {
    "type": "object",
    "properties": {
      "invocations": {
        "type": "array",
        "description": "The tool calls to invoke",
        "items": {
          "type": "object",
          "properties": {
            "name": {
              "type": "string",
              "description": "The name of the tool to invoke"
            },
            "arguments": {
              "type": "string", 
              "description": "The arguments to the tool, encoded as a JSON string"
            }
          },
          "required": ["name", "arguments"]
        }
      }
    },
    "required": ["invocations"]
  }
}

Das Tool nimmt eine Liste von Aufrufen entgegen, wobei jeder Aufruf den Namen eines aufzurufenden Tools sowie dessen Argumente (als JSON-String kodiert) enthält.

Implementierung

Die Implementierung des Batch-Tools umfasst zwei Hauptfunktionen:

Die Funktion run_batch

python
def run_batch(tool_input):
    batch_output = []
    for invocation in tool_input["invocations"]:
        tool_name = invocation["name"]
        args = json.loads(invocation["arguments"])
        
        tool_output = run_tool(tool_name, args)
        batch_output.append({"tool_name": tool_name, "output": tool_output})
    
    return batch_output

Diese Funktion durchläuft jeden Aufruf, extrahiert den Tool-Namen und die Argumente, ruft das entsprechende Tool über die bestehende Funktion run_tool auf und sammelt alle Ergebnisse.

Ergänzung von run_tool

Du musst außerdem deiner Hauptfunktion run_tool einen Fall hinzufügen:

python
elif tool_name == "batch_tool":
    return run_batch(tool_input)

Beachte, dass du – anders als bei anderen Tools – tool_input direkt übergibst, ohne den Splat-Operator (**) zu verwenden, da das Batch-Tool die rohe Eingabestruktur verarbeiten muss.

Ergebnisse

Wenn du das Batch-Tool implementierst und dieselbe Datumsberechnungsanfrage ausführst, siehst du statt zwei separaten Tool-Aufrufen im Nachrichtenprotokoll einen einzigen Aufruf des Batch-Tools. Dieser einzelne Aufruf enthält beide Datumsberechnungen als Unteraufrufe, wodurch die Operationen effektiv parallelisiert werden.

Das Batch-Tool ist besonders nützlich, wenn du mehrere unabhängige Operationen hast, die gleichzeitig ausgeführt werden können. Indem du Claude dazu „überlistest“, dieses Muster zu verwenden, kannst du die Effizienz deiner Tool-Aufruf-Workflows deutlich verbessern.