Cargando
Cargando

La temperatura es un parámetro poderoso que controla qué tan predecibles o creativas serán las respuestas de Claude. Comprender cómo usarla de manera efectiva puede mejorar drásticamente tus aplicaciones de IA.

Cómo genera texto Claude

Antes de adentrarnos en la temperatura, ayuda entender el proceso de generación de texto de Claude. Cuando le envías a Claude un prompt como "¿Qué opinas?", este pasa por tres pasos clave:

  • Tokenización: dividir tu entrada en fragmentos más pequeños
  • Predicción: calcular probabilidades para posibles palabras siguientes
  • Muestreo: elegir un token en función de esas probabilidades

Diagrama de probabilidades del siguiente token: "about" 0.3, "would" 0.2, "of", "is" y "when" 0.1 cada uno, "makes" y "we" 0.05 cada uno.

En este ejemplo, Claude podría asignar una probabilidad del 30% a "about", 20% a "would", 10% a "of", y así sucesivamente. El modelo luego selecciona un token y repite todo este proceso para construir oraciones completas.

La lista de tokens convertida en un gráfico de barras: "about" 30%, "would" 20%, "of", "is" y "when" 10% cada uno, "makes" y "we" 5%.

Qué hace la temperatura

La temperatura es un valor decimal entre 0 y 1 que influye directamente en estas probabilidades de selección. Es como ajustar el "dial de creatividad" de las respuestas de Claude.

A temperatura baja "about" es 100% y el resto 0%; a temperatura alta los siete tokens obtienen 23, 18, 15, 12, 12, 11 y 9%.

A temperaturas bajas (cercanas a 0), Claude se vuelve muy determinista: casi siempre elige el token con la mayor probabilidad. A temperaturas altas (cercanas a 1), Claude distribuye la probabilidad de manera más uniforme entre las opciones, lo que lleva a resultados más variados y creativos.

Demostración interactiva de temperatura

Puedes ver la temperatura en acción con la demostración interactiva de Claude. Observa cómo cambia la distribución de probabilidad a medida que ajustas el control deslizante de temperatura:

Control deslizante de demostración de temperatura en 0.49: "about" cerca del 60 por ciento, "would", "of", "is", "when", "makes" y "we" por debajo del 10 por ciento.

A temperatura 0.0, "about" obtiene el 100% de probabilidad, completamente determinista. A temperatura 1.0, las probabilidades se distribuyen de manera más uniforme entre todos los tokens posibles, introduciendo aleatoriedad y creatividad.

Eligiendo la temperatura correcta

Diferentes tareas requieren diferentes rangos de temperatura:

Rangos de temperatura baja, media y alta y sus usos, enumerados a continuación, con una flecha de "Menos creativo" a "Más creativo".

Temperatura baja (0.0 - 0.3)

  • Respuestas fácticas
  • Asistencia en programación
  • Extracción de datos
  • Moderación de contenido

Temperatura media (0.4 - 0.7)

  • Resumen
  • Contenido educativo
  • Resolución de problemas
  • Escritura creativa con restricciones

Temperatura alta (0.8 - 1.0)

  • Lluvia de ideas
  • Escritura creativa
  • Contenido de marketing
  • Generación de chistes

Implementando la temperatura en el código

Agregar soporte para temperatura a tu función de chat es sencillo. Así es como puedes modificar tu función existente:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    
    if system:
        params["system"] = system
    
    message = client.messages.create(**params)
    return message.content[0].text

Los cambios clave consisten en agregar temperature=1.0 como parámetro e incluir "temperature": temperature en el diccionario de parámetros.

Probando los efectos de la temperatura

Para ver la temperatura en acción, intenta generar ideas de películas con diferentes configuraciones:

python
# Temperatura baja - más predecible
answer = chat(messages, temperature=0.0)

# Temperatura alta - más creativa  
answer = chat(messages, temperature=1.0)

A temperatura 0.0, podrías obtener consistentemente respuestas como "Un arqueólogo viajero en el tiempo debe evitar que artefactos antiguos sean robados." A temperatura 1.0, verás mucha más variedad en temas, personajes y elementos de la trama.

Puntos clave

Recuerda que la temperatura no garantiza resultados diferentes; solo cambia la probabilidad de obtenerlos. Incluso a temperaturas altas, Claude podría producir ocasionalmente respuestas similares. La clave es hacer coincidir tu elección de temperatura con tu caso de uso específico:

  • ¿Necesitas respuestas consistentes y fácticas? Usa una temperatura baja
  • ¿Quieres lluvia de ideas creativa? Sube la temperatura
  • ¿Algo intermedio? Las temperaturas medias funcionan bien para la mayoría de las tareas generales

La temperatura es uno de los parámetros más prácticos que puedes ajustar para afinar el comportamiento de Claude según tus necesidades específicas.