Cargando

Pensamiento extendido

Lección 4310 min
Cargando

El pensamiento extendido es la función avanzada de razonamiento de Claude que le da al modelo tiempo para pensar en problemas complejos antes de generar una respuesta. Cuando está habilitado, Claude produce un proceso de pensamiento visible que los usuarios pueden examinar para entender cómo el modelo abordó su consulta.

Chat de Claude sobre el cierre de delimitadores JSON, con indicaciones etiquetadas "User Query", "Thinking / Reasoning" y "Response".

Esta función mejora significativamente la capacidad de Claude para manejar tareas complejas con mayor precisión, pero conlleva compensaciones importantes. Se te cobrará por todos los tokens generados durante la fase de pensamiento, y el tiempo de procesamiento adicional aumenta la latencia de respuesta. La clave está en saber cuándo la inteligencia mejorada justifica el costo y el tiempo de espera adicionales.

Cuándo usar el pensamiento extendido

La decisión de habilitar el pensamiento extendido debe basarse en las evaluaciones de tu prompt. Aquí está el enfoque recomendado:

  • Escribe y prueba tu prompt sin pensamiento extendido primero
  • Ejecuta evaluaciones para medir la precisión
  • Si los resultados no cumplen con tus estándares después de esfuerzos de optimización del prompt
  • Entonces considera habilitar el pensamiento extendido como solución

Cómo el pensamiento extendido cambia las respuestas

Sin el pensamiento extendido, el flujo de respuesta de Claude es sencillo: envías un mensaje de usuario con un bloque de texto y recibes un mensaje del asistente con un bloque de texto a cambio.

La respuesta de Claude a "Write a short guide on recursion" comienza con "Recursion is a powerful programming technique".

Con el pensamiento extendido habilitado, la estructura de la respuesta cambia significativamente. Recibirás un mensaje del asistente que contiene dos bloques distintos:

Con el pensamiento habilitado, nuestro servidor envía "Write a short guide on recursion" y Claude devuelve un bloque de pensamiento seguido de un bloque de texto.

  • Un bloque thinking que contiene el proceso de razonamiento de Claude
  • Un bloque text con la respuesta final

El sistema de firma

Cada bloque de pensamiento incluye una firma criptográfica que cumple un propósito de seguridad importante. Esta firma garantiza que el texto de pensamiento no haya sido modificado cuando incluyes el mensaje en turnos futuros de la conversación.

JSON del mensaje del asistente con la clave "signature" resaltada en el bloque de pensamiento, cuyo valor es un token largo truncado.

Claude depende en gran medida del contenido de pensamiento para la generación de respuestas, por lo que prevenir la manipulación es crucial para mantener un comportamiento seguro y consistente. Si modificas el texto de pensamiento, la validación de la firma fallará.

Pensamiento redactado

A veces el proceso de pensamiento de Claude es marcado por los sistemas internos de seguridad. Cuando esto sucede, recibirás un bloque de pensamiento redactado en lugar del texto de pensamiento sin procesar.

Mensaje del asistente: un bloque "redacted_thinking" resaltado con "data" cifrada, seguido de un bloque "text" "A Guide to Recursion".

El contenido redactado contiene el texto de pensamiento real en forma cifrada. Aunque no puedes leerlo, aún puedes incluir este bloque en turnos futuros de la conversación para que Claude no pierda el contexto de su razonamiento anterior.

Implementación

Para habilitar el pensamiento extendido en tu código, deberás modificar tu función de chat con dos nuevos parámetros:

python
def chat(
    messages,
    system=None,
    temperature=1.0,
    stop_sequences=[],
    tools=None,
    thinking=False,
    thinking_budget=1024
):

El presupuesto de pensamiento representa el número máximo de tokens que Claude puede usar para el razonamiento. El valor mínimo permitido es 1024 tokens. Es importante destacar que tu parámetro max_tokens debe superar tu presupuesto de pensamiento: si estableces un presupuesto de pensamiento de 1024, max_tokens debe ser al menos 1025.

En la práctica, querrás un margen mucho mayor. Por ejemplo, con un presupuesto de pensamiento de 1024 y un max_tokens de 4000, Claude puede usar hasta 1024 tokens para pensar y hasta 2976 tokens para la respuesta real.

Agrega la configuración de pensamiento a tus parámetros de la API cuando la función esté habilitada:

python
if thinking:
    params["thinking"] = {
        "type": "enabled",
        "budget_tokens": thinking_budget
    }

Pruebas de respuestas redactadas

Durante el desarrollo, es posible que quieras probar cómo tu aplicación maneja los bloques de pensamiento redactados. Puedes forzar a Claude a devolver una respuesta redactada incluyendo esta cadena especial de activación en tu mensaje:

TRIGGER_REDACTED_THINKING_46C9A13E193C177646C7398A98432ECCCE4C1253D5E2D82641AC0E52CC2876CB

Esto garantiza que tu manejo de errores funcione correctamente cuando se encuentre contenido redactado en producción.