Wird geladen
Wird geladen

Temperature ist ein leistungsstarker Parameter, der steuert, wie vorhersehbar oder kreativ Claudes Antworten ausfallen. Wenn du verstehst, wie du ihn effektiv einsetzt, kannst du deine KI-Anwendungen erheblich verbessern.

Wie Claude Text generiert

Bevor du dich mit der Temperature befasst, hilft es, Claudes Textgenerierungsprozess zu verstehen. Wenn du Claude einen Prompt wie „Was denkst du?“ sendest, durchläuft er drei wichtige Schritte:

  • Tokenisierung - Zerlegt deine Eingabe in kleinere Teile
  • Vorhersage - Berechnet Wahrscheinlichkeiten für mögliche nächste Wörter
  • Sampling - Wählt ein Token basierend auf diesen Wahrscheinlichkeiten aus

Diagramm der Wahrscheinlichkeiten für das nächste Token: „about“ 0,3, „would“ 0,2, „of“, „is“ und „when“ je 0,1, „makes“ und „we“ je 0,05.

In diesem Beispiel könnte Claude „about“ eine Wahrscheinlichkeit von 30 % zuweisen, „would“ 20 %, „of“ 10 % und so weiter. Das Modell wählt dann ein Token aus und wiederholt diesen gesamten Prozess, um vollständige Sätze zu bilden.

Die Token-Liste, dargestellt als Balkendiagramm: „about“ 30 %, „would“ 20 %, „of“, „is“ und „when“ je 10 %, „makes“ und „we“ je 5 %.

Was Temperature bewirkt

Temperature ist ein Dezimalwert zwischen 0 und 1, der diese Auswahlwahrscheinlichkeiten direkt beeinflusst. Es ist, als würdest du den „Kreativitätsregler“ für Claudes Antworten verstellen.

Bei niedriger Temperature liegt „about“ bei 100 % und der Rest bei 0 %; bei hoher Temperature erhalten die sieben Tokens 23, 18, 15, 12, 12, 11 und 9 %.

Bei niedrigen Temperature-Werten (nahe 0) wird Claude sehr deterministisch - es wählt fast immer das Token mit der höchsten Wahrscheinlichkeit. Bei hohen Temperature-Werten (nahe 1) verteilt Claude die Wahrscheinlichkeit gleichmäßiger auf die Optionen, was zu vielfältigeren und kreativeren Ausgaben führt.

Interaktive Temperature-Demo

Du kannst die Temperature anhand von Claudes interaktiver Demo in Aktion sehen. Beobachte, wie sich die Wahrscheinlichkeitsverteilung ändert, während du den Temperature-Regler anpasst:

Temperature-Demo-Regler bei 0,49: „about“ bei knapp 60 Prozent, „would“, „of“, „is“, „when“, „makes“ und „we“ unter 10 Prozent.

Bei einer Temperature von 0,0 erhält „about“ eine Wahrscheinlichkeit von 100 % - vollständig deterministisch. Bei einer Temperature von 1,0 verteilen sich die Wahrscheinlichkeiten gleichmäßiger auf alle möglichen Tokens, was Zufälligkeit und Kreativität einbringt.

Die richtige Temperature wählen

Unterschiedliche Aufgaben erfordern unterschiedliche Temperature-Bereiche:

Niedrige, mittlere und hohe Temperature-Bereiche und ihre Einsatzzwecke, unten aufgelistet, mit einem Pfeil von „Weniger kreativ“ zu „Kreativer“.

Niedrige Temperature (0,0 - 0,3)

  • Faktenbasierte Antworten
  • Unterstützung beim Programmieren
  • Datenextraktion
  • Inhaltsmoderation

Mittlere Temperature (0,4 - 0,7)

  • Zusammenfassung
  • Bildungsinhalte
  • Problemlösung
  • Kreatives Schreiben mit Einschränkungen

Hohe Temperature (0,8 - 1,0)

  • Brainstorming
  • Kreatives Schreiben
  • Marketinginhalte
  • Witze generieren

Temperature im Code implementieren

Die Unterstützung für Temperature zu deiner Chat-Funktion hinzuzufügen ist unkompliziert. So änderst du deine bestehende Funktion:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    
    if system:
        params["system"] = system
    
    message = client.messages.create(**params)
    return message.content[0].text

Die wichtigsten Änderungen bestehen darin, temperature=1.0 als Parameter hinzuzufügen und "temperature": temperature in das params-Dictionary aufzunehmen.

Die Auswirkungen von Temperature testen

Um Temperature in Aktion zu sehen, versuche, Filmideen mit unterschiedlichen Einstellungen zu generieren:

python
# Niedrige Temperatur - vorhersehbarer
answer = chat(messages, temperature=0.0)

# Hohe Temperatur - kreativer  
answer = chat(messages, temperature=1.0)

Bei einer Temperature von 0,0 erhältst du möglicherweise durchgängig Antworten wie „Ein zeitreisender Archäologe muss verhindern, dass antike Artefakte gestohlen werden.“ Bei einer Temperature von 1,0 siehst du viel mehr Vielfalt bei Themen, Figuren und Handlungselementen.

Wichtige Erkenntnisse

Denk daran, dass Temperature keine unterschiedlichen Ausgaben garantiert - sie ändert nur die Wahrscheinlichkeit, sie zu erhalten. Selbst bei hohen Temperature-Werten kann Claude gelegentlich ähnliche Antworten erzeugen. Entscheidend ist, deine Temperature-Wahl auf deinen spezifischen Anwendungsfall abzustimmen:

  • Brauchst du konsistente, faktenbasierte Antworten? Verwende eine niedrige Temperature
  • Möchtest du kreatives Brainstorming? Erhöhe die Temperature
  • Irgendwo dazwischen? Mittlere Temperature-Werte eignen sich gut für die meisten allgemeinen Aufgaben

Temperature ist einer der praktischsten Parameter, die du anpassen kannst, um Claudes Verhalten für deine spezifischen Bedürfnisse feinabzustimmen.