Wird geladen

Steuerung der Modellausgabe

Lektion 87 Min.
Wird geladen

Über das Erstellen besserer Prompts hinaus gibt es zwei leistungsstarke Techniken zur Steuerung von Claudes Ausgabe: vorausgefüllte Assistant-Nachrichten und Stop-Sequenzen. Diese Methoden geben dir präzise Kontrolle darüber, wie Claude antwortet und wann es aufhört, Text zu generieren.

Vorausgefüllte Assistant-Nachrichten

Das Vorausfüllen von Nachrichten (Message Prefilling) ermöglicht es dir, den Anfang von Claudes Antwort vorzugeben, von dem aus es dann fortfährt. Diese Technik ist unglaublich nützlich, um Claude in eine bestimmte Richtung zu lenken.

User-Nachricht „Ist Tee oder Kaffee zum Frühstück besser?“ geht an Claude, das eine Assistant-Nachricht mit „???“ zurückgibt.

So funktioniert es: Anstatt nur eine User-Nachricht zu senden, fügst du am Ende deiner Nachrichtenliste eine Assistant-Nachricht hinzu. Claude sieht diese Assistant-Nachricht und denkt: „Ich habe bereits begonnen, auf diese Frage zu antworten, also sollte ich dort weitermachen, wo ich aufgehört habe.“

Claude setzt den vorausgefüllten Text mit „es hat einen höheren Koffeingehalt, der am Morgen die Wachheit fördert“ fort.

Wenn du beispielsweise fragst „Ist Tee oder Kaffee zum Frühstück besser?“ ohne Prefilling, gibt Claude typischerweise eine ausgewogene Antwort, die beide Optionen erwähnt. Wenn du jedoch eine Assistant-Nachricht hinzufügst, die sagt „Kaffee ist besser, weil“, wird Claude von dort aus fortfahren und eine Argumentation für Kaffee aufbauen.

Der entscheidende Punkt, den es zu verstehen gilt, ist, dass Claude genau dort fortfährt, wo dein vorausgefüllter Text endet. Wenn du „Kaffee ist besser, weil“ schreibst, wiederholt Claude diesen Text nicht – es setzt direkt nach „weil“ an und vervollständigt den Gedanken.

Hier ist die Code-Struktur:

python
messages = []
add_user_message(messages, "Is tea or coffee better at breakfast?")
add_assistant_message(messages, "Coffee is better because")
answer = chat(messages)

Du kannst Claude mit dieser Technik in jede Richtung lenken:

  • Kaffee bevorzugen: „Kaffee ist besser, weil“
  • Tee bevorzugen: „Tee ist besser, weil“
  • Eine gegensätzliche Haltung einnehmen: „Keines von beiden ist besonders gut, weil“

Stop-Sequenzen

Stop-Sequenzen zwingen Claude dazu, seine Antwort sofort zu beenden, sobald es eine bestimmte Zeichenfolge generiert. Dies eignet sich perfekt, um die Länge oder den Endpunkt von Antworten zu steuern.

Diagramm der User-Nachricht „Zähle von 1 bis 10“, die an Claude gesendet wird, mit Stop-Sequenzen auf „5“ gesetzt, und der Antwort „1, 2, 3, 4,“.

Das Konzept ist unkompliziert: Du gibst eine Liste von Zeichenfolgen an, und wenn Claude eine dieser Zeichenfolgen generiert, stoppt es sofort und gibt zurück, was es bis zu diesem Punkt generiert hat.

Um Stop-Sequenzen zu verwenden, lass deine chat-Funktion eine Liste davon entgegennehmen:

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[]):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    if system:
        params["system"] = system
    if stop_sequences:
        params["stop_sequences"] = stop_sequences

    message = client.messages.create(**params)
    return message.content[0].text

Bitte Claude zum Beispiel, „von 1 bis 10 zu zählen“ mit einer Stop-Sequenz von „5“:

python
add_user_message(messages, "Count from 1 to 10")
answer = chat(messages, stop_sequences=["5"])

Dies gibt zurück: „1, 2, 3, 4, “ – es stoppt unmittelbar bevor die „5“ in die Ausgabe aufgenommen wird.

Du kannst mit deinen Stop-Sequenzen präziser vorgehen. Wenn du das nachgestellte Komma und Leerzeichen vermeiden möchtest, verwende stattdessen stop_sequences=[", 5"]. Dies liefert dir ein saubereres Ergebnis: „1, 2, 3, 4“.

Stop-Sequenzen sind besonders nützlich für:

  • Begrenzung der Listenlänge
  • Stoppen bei bestimmten Markern oder Trennzeichen
  • Erstellen konsistenter Ausgabeformate
  • Verhindern übermäßig langer Antworten

Beide Techniken geben dir feinabgestimmte Kontrolle über Claudes Verhalten und ermöglichen es dir, vorhersagbarere und gezieltere Antworten für deine Anwendungen zu erstellen.