Cargando

Uso de herramientas por lotes

Lección 299 min
Cargando

Claude puede ejecutar de forma nativa varias herramientas al mismo tiempo, pero algunas versiones no aprovechan esto tanto como podrías desear. Puedes aumentar considerablemente las posibilidades de que Claude haga múltiples llamadas a herramientas en un solo mensaje implementando una herramienta por lotes (batch tool).

Claude devuelve un mensaje de asistente con dos partes ToolUse, ambas add_duration: 12 de marzo + 50 días y + 100 días.

Cuando Claude envía partes de uso de herramientas en un mensaje, puede haber más de una solicitud de herramienta en una sola respuesta. Por ejemplo, si preguntas "¿Qué fecha es el 12 de marzo de 2025 + 50 días? Además, ¿qué fecha es el 12 de marzo de 2025 + 100 días?", Claude podría, en teoría, devolver dos partes de uso de herramientas separadas, una para cada cálculo. Estas operaciones son completamente paralelizables, ya que no dependen entre sí.

Sin embargo, Claude no siempre intenta paralelizar las llamadas a herramientas tanto como cabría esperar. En lugar de hacer ambas llamadas simultáneamente, a menudo las hace de forma secuencial, lo cual es menos eficiente.

Cómo funciona la herramienta por lotes

La herramienta por lotes se implementa igual que cualquier otra herramienta: necesitas una especificación de herramienta y una función que maneje su llamada. La idea clave es crear una herramienta que pueda invocar simultáneamente varias otras herramientas.

Aquí está la estructura básica de la especificación de la herramienta por lotes:

json
{
  "name": "batch_tool",
  "description": "Invoke multiple other tool calls simultaneously",
  "input_schema": {
    "type": "object",
    "properties": {
      "invocations": {
        "type": "array",
        "description": "The tool calls to invoke",
        "items": {
          "type": "object",
          "properties": {
            "name": {
              "type": "string",
              "description": "The name of the tool to invoke"
            },
            "arguments": {
              "type": "string", 
              "description": "The arguments to the tool, encoded as a JSON string"
            }
          },
          "required": ["name", "arguments"]
        }
      }
    },
    "required": ["invocations"]
  }
}

La herramienta toma una lista de invocaciones, donde cada invocación contiene el nombre de una herramienta a llamar y sus argumentos (codificados como una cadena JSON).

Implementación

La implementación de la herramienta por lotes involucra dos funciones principales:

La función run_batch

python
def run_batch(tool_input):
    batch_output = []
    for invocation in tool_input["invocations"]:
        tool_name = invocation["name"]
        args = json.loads(invocation["arguments"])
        
        tool_output = run_tool(tool_name, args)
        batch_output.append({"tool_name": tool_name, "output": tool_output})
    
    return batch_output

Esta función recorre cada invocación, extrae el nombre de la herramienta y sus argumentos, llama a la herramienta correspondiente usando la función run_tool existente, y recopila todos los resultados.

Agregar a run_tool

También debes agregar un caso a tu función principal run_tool:

python
elif tool_name == "batch_tool":
    return run_batch(tool_input)

Ten en cuenta que, a diferencia de otras herramientas, pasas tool_input directamente sin usar el operador splat (**), ya que la herramienta por lotes necesita manejar la estructura de entrada sin procesar.

Resultados

Cuando implementas la herramienta por lotes y ejecutas la misma consulta de cálculo de fechas, en lugar de ver dos llamadas a herramientas separadas en el registro de mensajes, verás una sola llamada a la herramienta por lotes. Esta única llamada contiene ambos cálculos de fechas como subinvocaciones, paralelizando de manera efectiva las operaciones.

La herramienta por lotes es particularmente útil cuando tienes múltiples operaciones independientes que se pueden ejecutar simultáneamente. Al "engañar" a Claude para que use este patrón, puedes mejorar significativamente la eficiencia de tus flujos de trabajo de llamadas a herramientas.