Cargando

Controlar la salida del modelo

Lección 810 min
Cargando

Más allá de crear mejores prompts, existen dos técnicas poderosas para controlar la salida de Claude: los mensajes de asistente prellenados y las secuencias de parada. Estos métodos te dan un control preciso sobre cómo responde Claude y cuándo deja de generar texto.

Mensajes de asistente prellenados

El prellenado de mensajes te permite proporcionar el comienzo de la respuesta de Claude, lo que influye fuertemente en la dirección de su respuesta. En lugar de dejar que Claude decida cómo comenzar su respuesta, le das una apertura específica que dirige la conversación.

El mensaje de usuario "¿Es mejor el té o el café en el desayuno?" va a Claude, que devuelve un mensaje de asistente de "???".

Así es como funciona: construyes tu lista normal de mensajes con la pregunta del usuario, pero luego agregas un mensaje de asistente al final que contiene el comienzo de la respuesta que deseas. Cuando Claude procesa esto, ve el mensaje de asistente y piensa "ya he comenzado a responder a esta pregunta, así que debería continuar desde donde lo dejé".

Claude continúa el texto prellenado con "tiene un mayor contenido de cafeína, lo que ayuda con la alerta por la mañana".

Por ejemplo, si preguntas "¿Es mejor el té o el café en el desayuno?" y prellenas con "El café es mejor porque", Claude continuará desde ese punto y construirá una respuesta que apoya al café. La idea clave es que Claude retomará exactamente donde termina tu texto prellenado; no repetirá lo que ya has escrito.

Veamos esto en la práctica:

python
messages = []
add_user_message(messages, "Is coffee or tea better for breakfast?")
add_assistant_message(messages, "Coffee is better because")

chat(messages)

Esto devuelve algo como "tiene más cafeína". Observa que Claude continúa directamente desde tu texto prellenado, por lo que deberás combinar ambas partes para obtener la respuesta completa: "El café es mejor porque tiene más cafeína".

Puedes dirigir a Claude en cualquier dirección cambiando tu texto prellenado:

  • "El té es mejor porque" - impulsa hacia el té
  • "Son iguales porque" - crea una respuesta neutral

Secuencias de parada

Las secuencias de parada obligan a Claude a terminar su respuesta inmediatamente cuando genera un texto específico. Esto es útil cuando deseas truncar la salida en un punto determinado o evitar que Claude continúe más allá de un marcador específico.

Diagrama del mensaje de usuario "Cuenta del 1 al 10" enviado a Claude con secuencias de parada establecidas en "5", y la respuesta "1, 2, 3, 4,".

El concepto es sencillo: proporcionas una lista de cadenas de texto, y tan pronto como Claude genera cualquiera de esas cadenas, se detiene y devuelve lo que haya generado hasta ese momento. La secuencia de parada en sí no se incluye en la respuesta.

Para usar secuencias de parada, necesitas modificar tu función de chat para que las acepte como parámetro:

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[]):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {
            "temperature": temperature,
            "stopSequences": stop_sequences
        },
    }

    if system:
        params["system"] = [{"text": system}]

    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

Aquí tienes un ejemplo práctico:

python
messages = []
add_user_message(messages, "Count from 1 to 10")

chat(messages, stop_sequences=["5"])

Esto devuelve "1, 2, 3, 4," y se detiene antes de incluir el "5". Puedes especificar múltiples secuencias de parada, y Claude se detendrá en la que encuentre primero:

python
chat(messages, stop_sequences=["5", "3, 4"])

Las secuencias de parada son particularmente útiles para:

  • Controlar la longitud de las respuestas
  • Detenerse en puntos de interrupción naturales en salidas estructuradas
  • Evitar que Claude continúe más allá de marcadores o delimitadores específicos

Ambas técnicas te brindan un control detallado sobre el comportamiento de Claude, lo que te permite moldear las respuestas de formas que la simple creación de prompts por sí sola no puede lograr.