Wird geladen
Wird geladen

Temperature ist ein leistungsstarker Parameter, der steuert, wie kreativ oder deterministisch Claudes Antworten ausfallen. Wenn du verstehst, wie du ihn effektiv einsetzt, kannst du deine KI-Anwendungen erheblich verbessern.

Wie Claude Text generiert

Bevor wir uns mit Temperature befassen, hilft es, Claudes Prozess der Textgenerierung zu verstehen. Wenn du Claude einen Prompt wie „Was denkst du?“ sendest, durchläuft dieser drei Phasen:

  • Tokenisierung: Deine Eingabe wird in kleinere Abschnitte zerlegt
  • Vorhersage: Wahrscheinlichkeiten für mögliche nächste Tokens werden berechnet
  • Sampling: Ein Token wird basierend auf diesen Wahrscheinlichkeiten ausgewählt

Diagramm der Wahrscheinlichkeiten des nächsten Tokens: „about“ 0,3, „would“ 0,2, „of“, „is“ und „when“ je 0,1, „makes“ und „we“ je 0,05.

Im obigen Diagramm siehst du, wie Claude potenziellen nächsten Tokens unterschiedliche Wahrscheinlichkeiten zuordnen könnte. Das Wort „about“ hat eine Wahrscheinlichkeit von 30 %, „would“ 20 % und so weiter. Dieser Prozess wiederholt sich für jedes Token, bis die Antwort vollständig ist.

Die Token-Liste in ein Balkendiagramm umgewandelt: „about“ 30 %, „would“ 20 %, „of“, „is“ und „when“ je 10 %, „makes“ und „we“ je 5 %.

Was Temperature bewirkt

Temperature ist ein Dezimalwert zwischen 0 und 1, der direkt Einfluss auf diese Wahrscheinlichkeiten der Token-Auswahl nimmt. Stell es dir wie einen Kreativitätsregler vor:

  • Niedrige Temperature (nahe 0): Macht es viel wahrscheinlicher, dass das Token mit der höchsten Wahrscheinlichkeit ausgewählt wird
  • Hohe Temperature (nahe 1): Verteilt die Wahrscheinlichkeit gleichmäßiger über alle möglichen Tokens

Bei niedriger Temperature liegt „about“ bei 100 % und der Rest bei 0 %; bei hoher Temperature erhalten die sieben Tokens 23, 18, 15, 12, 12, 11 und 9 %.

Bei Temperature 0 wird Claude deterministisch – es wählt immer das wahrscheinlichste Token. Bei Temperature 1 haben Tokens mit geringerer Wahrscheinlichkeit eine deutlich bessere Chance, ausgewählt zu werden, was zu kreativeren und vielfältigeren Ausgaben führt.

Temperature-Bereiche und Anwendungsfälle

Unterschiedliche Aufgaben erfordern unterschiedliche Temperature-Einstellungen:

Die drei Temperature-Bereiche und ihre unten aufgeführten Anwendungsfälle, über einem Pfeil von weniger kreativ zu kreativer.

Niedrige Temperature (0,0 – 0,3)

  • Faktische Antworten
  • Unterstützung beim Programmieren
  • Datenextraktion
  • Inhaltsmoderation

Mittlere Temperature (0,4 – 0,7)

  • Zusammenfassung
  • Bildungsinhalte
  • Problemlösung
  • Kreatives Schreiben mit Einschränkungen

Hohe Temperature (0,8 – 1,0)

  • Brainstorming
  • Kreatives Schreiben
  • Marketinginhalte
  • Witze generieren

Temperature im Code festlegen

Standardmäßig ist Claudes Temperature auf 1,0 eingestellt, was maximale Kreativität bedeutet. Du kannst dies überschreiben, indem du deiner Inferenzkonfiguration „temperature“ hinzufügst:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {"temperature": temperature}
    }
    
    if system:
        params["system"] = [{"text": system}]
    
    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

Temperature in der Praxis

Hier ist ein praktisches Beispiel anhand der Generierung von Filmideen. Bei der Standard-Temperature (1,0) erhältst du möglicherweise kreative Antworten wie:

„Ein zurückgezogen lebender Origami-Meister entdeckt, dass ihre kunstvollen Papierkreationen nachts zum Leben erwachen, was sie auf eine magische Reise führt, um ihre Miniaturwelt vor einem mysteriösen Schattenwesen zu retten, das droht, ihre Existenz aufzulösen.“

Setzt du die Temperature für denselben Prompt jedoch auf 0,0, erhältst du konsistent vorhersehbarere Antworten:

„Eine zeitreisende Archäologin muss verhindern, dass antike Artefakte von einem Tech-Milliardär gestohlen werden, der sie nutzt, um eine Weltuntergangsmaschine zu bauen, die ihre vergessene Kraft anzapft.“

Führst du die Version mit niedriger Temperature mehrmals aus, erhältst du sehr ähnliche Antworten, oft mit wiederkehrenden Motiven wie „zeitreisender Historiker“ oder „zeitreisende Archäologin“.

Wichtigste Erkenntnisse

Temperature gibt dir direkte Kontrolle über Claudes Kreativitätsniveau. Verwende niedrigere Temperature-Werte, wenn du konsistente, faktische Antworten benötigst, und höhere Temperature-Werte, wenn du kreative, vielfältige Ausgaben möchtest. Die Standard-Temperature von 1,0 maximiert die Kreativität. Erwäge daher, sie für Aufgaben zu senken, die Präzision und Konsistenz erfordern.