Cargando
Cargando

La temperatura es un parámetro poderoso que controla qué tan creativas o deterministas serán las respuestas de Claude. Comprender cómo usarla de manera efectiva puede mejorar drásticamente tus aplicaciones de IA.

Cómo genera texto Claude

Antes de profundizar en la temperatura, es útil comprender el proceso de generación de texto de Claude. Cuando le envías a Claude un prompt como "¿Qué opinas?", este pasa por tres fases:

  • Tokenización: dividir tu entrada en fragmentos más pequeños
  • Predicción: calcular probabilidades para los posibles tokens siguientes
  • Muestreo: seleccionar un token según esas probabilidades

Diagrama de probabilidades del siguiente token: "about" 0.3, "would" 0.2, "of", "is" y "when" 0.1 cada uno, "makes" y "we" 0.05 cada uno.

En el diagrama anterior, puedes ver cómo Claude podría asignar diferentes probabilidades a los posibles tokens siguientes. La palabra "about" tiene un 30% de probabilidad, "would" tiene un 20%, y así sucesivamente. Este proceso se repite para cada token hasta que la respuesta esté completa.

La lista de tokens convertida en un gráfico de barras: "about" 30%, "would" 20%, "of", "is" y "when" 10% cada uno, "makes" y "we" 5%.

Qué hace la temperatura

La temperatura es un valor decimal entre 0 y 1 que influye directamente en estas probabilidades de selección de tokens. Piensa en ella como un dial de creatividad:

  • Temperatura baja (cerca de 0): hace que sea mucho más probable que se seleccione el token de mayor probabilidad
  • Temperatura alta (cerca de 1): distribuye la probabilidad de manera más uniforme entre todos los tokens posibles

A temperatura baja "about" es 100% y el resto 0%; a temperatura alta los siete tokens obtienen 23, 18, 15, 12, 12, 11 y 9%.

A temperatura 0, Claude se vuelve determinista: siempre elegirá el token más probable. A temperatura 1, los tokens de menor probabilidad tienen una probabilidad mucho mayor de ser seleccionados, lo que lleva a salidas más creativas y variadas.

Rangos de temperatura y casos de uso

Diferentes tareas requieren diferentes configuraciones de temperatura:

Los tres rangos de temperatura y sus casos de uso, listados a continuación, sobre una flecha que va de menos creativo a más creativo.

Temperatura baja (0.0 - 0.3)

  • Respuestas factuales
  • Asistencia de codificación
  • Extracción de datos
  • Moderación de contenido

Temperatura media (0.4 - 0.7)

  • Resumen
  • Contenido educativo
  • Resolución de problemas
  • Escritura creativa con restricciones

Temperatura alta (0.8 - 1.0)

  • Lluvia de ideas
  • Escritura creativa
  • Contenido de marketing
  • Generación de chistes

Configurar la temperatura en código

De forma predeterminada, la temperatura de Claude está configurada en 1.0, lo que significa máxima creatividad. Puedes anular esto agregando temperature a tu configuración de inferencia:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {"temperature": temperature}
    }
    
    if system:
        params["system"] = [{"text": system}]
    
    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

La temperatura en la práctica

Aquí tienes un ejemplo práctico usando la generación de ideas de películas. Con la temperatura configurada en el valor predeterminado (1.0), podrías obtener respuestas creativas como:

"Una maestra de origami solitaria descubre que sus intrincadas creaciones de papel cobran vida por la noche, lo que la lleva a una travesía mágica para salvar su mundo en miniatura de una misteriosa criatura de sombras que amenaza con desplegar su existencia."

Pero cuando configuras la temperatura en 0.0 para el mismo prompt, obtendrás de manera consistente respuestas más predecibles:

"Un arqueólogo que viaja en el tiempo debe evitar que artefactos antiguos sean robados por un magnate tecnológico que los está usando para construir un dispositivo del fin del mundo que aprovecha su poder olvidado."

Ejecutar la versión de baja temperatura varias veces producirá respuestas muy similares, a menudo con temas repetidos como "historiador que viaja en el tiempo" o "arqueólogo que viaja en el tiempo".

Conclusiones clave

La temperatura te da control directo sobre el nivel de creatividad de Claude. Usa temperaturas más bajas cuando necesites respuestas consistentes y factuales, y temperaturas más altas cuando quieras salidas creativas y variadas. La temperatura predeterminada de 1.0 maximiza la creatividad, así que considera reducirla para tareas que requieran precisión y consistencia.