Wird geladen

Erweitertes Nachdenken

Lektion 4310 Min.
Wird geladen

Erweitertes Nachdenken ist Claudes fortgeschrittene Reasoning-Funktion, die dem Modell Zeit gibt, komplexe Probleme zu durchdenken, bevor es eine Antwort generiert. Wenn diese Funktion aktiviert ist, erzeugt Claude einen sichtbaren Denkprozess, den Nutzer einsehen können, um zu verstehen, wie das Modell an ihre Anfrage herangegangen ist.

Claude-Chat über das Schließen von JSON-Trennzeichen, mit Kennzeichnungen "User Query", "Thinking / Reasoning" und "Response".

Diese Funktion verbessert Claudes Fähigkeit, komplexe Aufgaben mit höherer Genauigkeit zu bewältigen, erheblich, bringt aber wichtige Kompromisse mit sich. Dir werden alle Tokens in Rechnung gestellt, die während der Denkphase generiert werden, und die zusätzliche Verarbeitungszeit erhöht die Antwortlatenz. Der Schlüssel liegt darin zu wissen, wann die verbesserte Intelligenz die zusätzlichen Kosten und Wartezeiten rechtfertigt.

Wann erweitertes Nachdenken verwendet werden sollte

Die Entscheidung, erweitertes Nachdenken zu aktivieren, sollte auf deinen Prompt-Evaluierungen basieren. Hier ist der empfohlene Ansatz:

  • Schreibe und teste deinen Prompt zunächst ohne erweitertes Nachdenken
  • Führe Evaluierungen durch, um die Genauigkeit zu messen
  • Wenn die Ergebnisse nach Optimierungsbemühungen am Prompt nicht deinen Standards entsprechen
  • Erwäge dann die Aktivierung von erweitertem Nachdenken als Lösung

Wie erweitertes Nachdenken Antworten verändert

Ohne erweitertes Nachdenken ist Claudes Antwortablauf unkompliziert – du sendest eine Nutzernachricht mit einem Textblock und erhältst im Gegenzug eine Assistentennachricht mit einem Textblock.

Claudes Antwort auf "Write a short guide on recursion" beginnt mit "Recursion is a powerful programming technique".

Wenn erweitertes Nachdenken aktiviert ist, ändert sich die Antwortstruktur erheblich. Du erhältst eine Assistentennachricht, die zwei unterschiedliche Blöcke enthält:

Mit Nachdenken sendet unser Server "Write a short guide on recursion", und Claude liefert einen Thinking-Block und dann einen Textblock.

  • Einen thinking-Block, der Claudes Denkprozess enthält
  • Einen text-Block mit der finalen Antwort

Das Signatursystem

Jeder Thinking-Block enthält eine kryptografische Signatur, die einem wichtigen Sicherheitszweck dient. Diese Signatur stellt sicher, dass der Thinking-Text nicht verändert wurde, wenn du die Nachricht in zukünftige Konversationsrunden einbeziehst.

Assistentennachricht-JSON mit dem hervorgehobenen Schlüssel "signature" im Thinking-Block, dessen Wert ein langes abgeschnittenes Token ist.

Claude verlässt sich stark auf den Thinking-Inhalt für die Antwortgenerierung, daher ist die Verhinderung von Manipulationen entscheidend, um ein sicheres und konsistentes Verhalten aufrechtzuerhalten. Wenn du den Thinking-Text veränderst, schlägt die Signaturvalidierung fehl.

Geschwärztes Nachdenken

Manchmal wird Claudes Denkprozess von internen Sicherheitssystemen markiert. Wenn dies geschieht, erhältst du stattdessen einen geschwärzten Thinking-Block anstelle des rohen Thinking-Textes.

Assistentennachricht: ein hervorgehobener "redacted_thinking"-Block mit verschlüsselten "data", dann ein "text"-Block "A Guide to Recursion".

Der geschwärzte Inhalt enthält den tatsächlichen Thinking-Text in verschlüsselter Form. Auch wenn du ihn nicht lesen kannst, kannst du diesen Block dennoch in zukünftige Konversationsrunden einbeziehen, damit Claude den Kontext seines vorherigen Nachdenkens nicht verliert.

Implementierung

Um erweitertes Nachdenken in deinem Code zu aktivieren, musst du deine Chat-Funktion mit zwei neuen Parametern anpassen:

python
def chat(
    messages,
    system=None,
    temperature=1.0,
    stop_sequences=[],
    tools=None,
    thinking=False,
    thinking_budget=1024
):

Das Thinking-Budget stellt die maximale Anzahl an Tokens dar, die Claude für das Reasoning verwenden kann. Der minimal zulässige Wert beträgt 1024 Tokens. Wichtig ist, dass dein Parameter max_tokens dein Thinking-Budget überschreiten muss – wenn du ein Thinking-Budget von 1024 festlegst, muss max_tokens mindestens 1025 betragen.

In der Praxis wirst du einen deutlich größeren Puffer wünschen. Zum Beispiel kann Claude bei einem Thinking-Budget von 1024 und max_tokens von 4000 bis zu 1024 Tokens für das Nachdenken und bis zu 2976 Tokens für die eigentliche Antwort verwenden.

Füge die Thinking-Konfiguration zu deinen API-Parametern hinzu, wenn die Funktion aktiviert ist:

python
if thinking:
    params["thinking"] = {
        "type": "enabled",
        "budget_tokens": thinking_budget
    }

Testen geschwärzter Antworten

Während der Entwicklung möchtest du vielleicht testen, wie deine Anwendung mit geschwärzten Thinking-Blöcken umgeht. Du kannst Claude dazu zwingen, eine geschwärzte Antwort zurückzugeben, indem du diesen speziellen Auslöse-String in deine Nachricht einbeziehst:

TRIGGER_REDACTED_THINKING_46C9A13E193C177646C7398A98432ECCCE4C1253D5E2D82641AC0E52CC2876CB

Dies stellt sicher, dass deine Fehlerbehandlung korrekt funktioniert, wenn in der Produktion geschwärzte Inhalte auftreten.