Cargando

Indicaciones del sistema

Lección 58 min
Cargando

Cuando construyes chatbots de IA para casos de uso específicos, necesitas una forma de controlar cómo responde la IA. Las indicaciones del sistema son la clave para transformar una IA de propósito general en un asistente especializado que sigue pautas específicas y se mantiene dentro del tema.

Las respuestas deben mencionar el alojamiento de Postgres en AWS, los pasos de configuración y los servicios relacionados de AWS, no a los competidores ni temas ajenos a la nube.

El problema con las instrucciones a nivel de usuario

Podrías pensar que la solución es incluir todos tus requisitos en el propio mensaje del usuario. Por ejemplo, decirle a la IA en cada conversación que "mencione los servicios de AWS" y que "no mencione a los competidores". Este enfoque tiene limitaciones serias:

  • Tendrías que anticipar cada posible pregunta y caso límite
  • La lista de instrucciones se vuelve inmanejable y repetitiva
  • Los usuarios ven todas las instrucciones internas, lo que satura las conversaciones
  • Los requisitos cambian según la pregunta específica que se esté haciendo

La opción 1 coloca los requisitos en el mensaje del usuario como listas de reglas de AWS de "HACER" y "NO HACER", seguidas de la pregunta del usuario.

Indicaciones del sistema: un mejor enfoque

Las indicaciones del sistema resuelven este problema al darle a Claude un rol que desempeñar. En lugar de enumerar lo que se debe y no se debe hacer, le dices a Claude que actúe como un tipo particular de profesional. La IA entonces responde como esa persona respondería naturalmente.

Opción 2, proporciona un rol mediante una indicación del sistema: sus beneficios, con el código del especialista en soporte de la nube de AWS que se muestra a continuación.

Las indicaciones del sistema ofrecen varios beneficios clave:

  • Claude recibe orientación sobre cómo responder de manera consistente
  • La IA adopta la mentalidad y las restricciones del rol especificado
  • Las respuestas se mantienen enfocadas y alineadas con la marca automáticamente
  • No necesitas anticipar cada posible escenario

Implementación de indicaciones del sistema

Para agregar una indicación del sistema a tu conversación con Claude, la pasas como un parámetro a la función converse:

python
system_prompt = """
You are an AWS cloud support specialist. Your job is to answer user queries related 
to cloud hosting services on AWS.
"""

response = client.converse(
    modelId=model_id, 
    messages=messages, 
    system=[{"text": system_prompt}]
)

La indicación del sistema se pasa como una lista que contiene un diccionario con una clave "text". Esto le indica a Claude qué rol adoptar antes de ver cualquier mensaje del usuario.

Construcción de una función de chat flexible

Aquí tienes una función de chat reutilizable que maneja las indicaciones del sistema de manera elegante:

python
def chat(messages, system=None):
    params = {"modelId": model_id, "messages": messages}
    
    if system:
        params["system"] = [{"text": system}]
    
    response = client.converse(**params)
    
    return response["output"]["message"]["content"][0]["text"]

Este enfoque te permite incluir opcionalmente una indicación del sistema. Cuando no se proporciona ninguna indicación del sistema, Claude responde como su versión predeterminada. Cuando incluyes una, Claude adopta ese rol específico.

Indicaciones del sistema en acción

La diferencia es inmediatamente evidente cuando pruebas la misma pregunta con y sin una indicación del sistema. Pregunta "¿Cómo alojo una base de datos Postgres?" sin una indicación del sistema, y obtendrás una respuesta completa que cubre múltiples proveedores de nube y opciones de autoalojamiento.

Función de chat de notebook cuyo system_prompt entre triples comillas todavía está vacío, y una llamada a converse sin el parámetro system.

Con una indicación del sistema de especialista en soporte de AWS, la respuesta se enfoca exclusivamente en soluciones de AWS como RDS, Aurora e implementaciones basadas en EC2. No se menciona a ningún competidor, y la respuesta incluye pasos de configuración específicos de AWS.

Aún más impresionante es cómo las indicaciones del sistema manejan preguntas fuera de tema. Pide una receta de pan con la indicación del especialista en AWS activa, y Claude declina educadamente manteniéndose en su personaje:

Función de chat de notebook con la indicación del sistema de especialista en soporte de la nube de AWS, seguida de una llamada pidiendo "Dame una receta de pan".

Detalles técnicos importantes

Cuando trabajes con indicaciones del sistema, ten en cuenta estos requisitos:

  • Las indicaciones del sistema no pueden ser cadenas vacías: deben contener al menos un carácter
  • El parámetro system espera una lista de diccionarios con claves "text"
  • Las indicaciones del sistema se procesan antes que cualquier mensaje del usuario en la conversación
  • Puedes cambiar el valor de nivel superior system entre solicitudes, pero no a mitad de una misma lista messages

Si has trabajado directamente con la API de Claude de Anthropic, es posible que sepas que algunos modelos de Claude admiten mensajes de sistema a mitad de conversación: agregar un mensaje con el rol system al arreglo messages en lugar de cambiar el campo de nivel superior. Esa función no está disponible en Amazon Bedrock. En este curso, siempre establecerás las instrucciones del sistema mediante el parámetro system de nivel superior en cada llamada a converse.

Las indicaciones del sistema te brindan un control poderoso sobre el comportamiento de la IA sin sistemas de reglas complejos. Al asignarle a Claude un rol profesional específico, obtienes respuestas consistentes y apropiadas que siguen naturalmente las restricciones y la experiencia de ese rol.