Cargando
Cargando

La temperatura es un parámetro poderoso que controla qué tan predecibles o creativas serán las respuestas de Claude. Entender cómo usarla de manera efectiva puede mejorar drásticamente tus aplicaciones de IA.

Cómo genera texto Claude

Antes de profundizar en la temperatura, es útil entender el proceso de generación de texto de Claude. Cuando le envías a Claude un prompt como "¿Qué opinas?", este pasa por tres pasos principales:

  • Tokenización: dividir tu entrada en fragmentos más pequeños
  • Predicción: calcular probabilidades para las posibles palabras siguientes
  • Muestreo (sampling): elegir un token según esas probabilidades

Diagrama de probabilidades del siguiente token: "about" 0.3, "would" 0.2, "of", "is" y "when" 0.1 cada una, "makes" y "we" 0.05 cada una.

En este ejemplo, Claude podría asignar una probabilidad del 30% a "about", 20% a "would", 10% a "of", y así sucesivamente. El modelo luego selecciona un token y repite este proceso para construir respuestas completas.

La lista de tokens convertida en un gráfico de barras: "about" 30%, "would" 20%, "of", "is" y "when" 10% cada una, "makes" y "we" 5%.

Qué hace la temperatura

La temperatura es un valor decimal entre 0 y 1 que influye directamente en estas probabilidades de selección. Es como ajustar el "dial de creatividad" en las respuestas de Claude.

A temperatura baja "about" es 100% y el resto 0%; a temperatura alta los siete tokens obtienen 23, 18, 15, 12, 12, 11 y 9%.

A temperaturas bajas (cercanas a 0), Claude se vuelve muy determinista: casi siempre elige el token de mayor probabilidad. A temperaturas altas (cercanas a 1), Claude distribuye la probabilidad de manera más uniforme entre las opciones, lo que genera resultados más variados y creativos.

Rangos de temperatura y casos de uso

Diferentes tareas requieren diferentes configuraciones de temperatura:

Rangos de temperatura baja, media y alta y sus usos, enumerados abajo, con una flecha de "Menos creativo" a "Más creativo".

Temperatura baja (0.0 - 0.3)

  • Respuestas fácticas
  • Asistencia en programación
  • Extracción de datos
  • Moderación de contenido

Temperatura media (0.4 - 0.7)

  • Resumen
  • Contenido educativo
  • Resolución de problemas
  • Escritura creativa con restricciones

Temperatura alta (0.8 - 1.0)

  • Lluvia de ideas
  • Escritura creativa
  • Contenido de marketing
  • Generación de chistes

Implementación de la temperatura en el código

Agregar soporte para temperatura a tu función de chat es sencillo. Así es como puedes modificar tu función existente:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    
    if system:
        params["system"] = system
    
    message = client.messages.create(**params)
    return message.content[0].text

Los cambios clave son agregar temperature=1.0 como parámetro e incluir "temperature": temperature en el diccionario de parámetros.

Probando los efectos de la temperatura

Para ver la temperatura en acción, intenta generar ideas de películas con diferentes configuraciones:

python
# Temperatura baja: más predecible
answer = chat(messages, temperature=0.0)

# Temperatura alta: más creativa  
answer = chat(messages, temperature=1.0)

Con temperature=0.0, podrías obtener de manera constante respuestas como "Un arqueólogo que viaja en el tiempo debe evitar que roben artefactos antiguos". Con temperature=1.0, verás mucha más variedad en los conceptos creativos generados.

Puntos clave

Recuerda que la temperatura no garantiza resultados diferentes, solo cambia la probabilidad de obtenerlos. Incluso a temperaturas altas, Claude podría producir ocasionalmente respuestas similares. La clave es ajustar tu configuración de temperatura a tu tarea:

  • Usa temperaturas bajas cuando necesites respuestas consistentes y fácticas
  • Usa temperaturas altas cuando quieras creatividad y variedad
  • Experimenta con diferentes valores para encontrar lo que mejor funciona para tu caso de uso específico

La temperatura es uno de los parámetros más prácticos para ajustar el comportamiento de Claude, lo que la convierte en una herramienta esencial en tu conjunto de herramientas de desarrollo de IA.