Wird geladen
Wird geladen

Um deine erste API-Anfrage an AWS Bedrock zu stellen, benötigst du drei wesentliche Komponenten: einen Bedrock Runtime Client, um eine Verbindung zum Dienst herzustellen, eine Model-ID, um anzugeben, welches Modell du ausführen möchtest, und eine User Message, die den Text enthält, den du in das Modell einspeisen möchtest.

Einrichten des Bedrock-Clients

Der Client signiert jede Anfrage mit deinen AWS-Anmeldedaten, also richte diese ein, bevor du beginnst. Installiere die AWS CLI und richte dann deine Anmeldedaten mit aws configure oder einer anderen Option aus dem AWS-Leitfaden zu CLI-Anmeldedaten ein. Ohne Anmeldedaten bricht deine erste Anfrage mit NoCredentialsError ab.

Installiere boto3 mit pip install boto3. Erstelle dann einen Client, um eine Verbindung zum Bedrock-Runtime-Dienst herzustellen:

python
import boto3

client = boto3.client("bedrock-runtime", region_name="us-west-2")

Model-IDs und regionale Verfügbarkeit verstehen

Hier wird es knifflig. Nicht jedes Modell ist in jeder AWS-Region verfügbar. Wenn du versuchst, ein Modell auszuführen, das in der von dir gewählten Region nicht existiert, erhältst du eine kryptische Fehlermeldung, die besagt, dass das Modell nicht existiert.

Anfrage zum Ausführen der Model-ID „anthropic.claude-v1", die in der AWS-Region us-west-2 ankommt, wo dieses Modell Claude Sonnet heißt.

Wenn Claude Sonnet beispielsweise in us-west-2 verfügbar ist, du aber Anfragen von us-east-1 stellst, schlägt deine Anfrage fehl.

Eine Anfrage zum Ausführen der Model-ID „anthropic.claude-v1" gibt in us-east-1 einen Fehler zurück, wo es kein Modell gibt, aber es existiert in us-west-2.

Verwendung von Inference Profiles

Inference Profiles lösen das Problem der regionalen Verfügbarkeit, indem sie deine Anfragen automatisch an eine Region weiterleiten, in der dein gewähltes Modell tatsächlich gehostet wird.

Beispiel für ein Inference Profile namens US Anthropic Claude Sonnet: Profil-ID us.profile.claude-v1, Model-ID anthropic.claude-v1.

Anstatt nachzuverfolgen, welche Modelle sich in welchen Regionen befinden, kannst du ein Inference Profile verwenden, das weiß, dass das Modell in mehreren Regionen wie us-west-2 und us-east-2 verfügbar ist.

Eine Anfrage zum Ausführen des Inference Profile „us.profile.claude-v1" in us-east-1 wird an anthropic.claude-v1 in us-west-2 weitergeleitet.

Wenn du eine Anfrage mit einem Inference Profile stellst, leitet AWS sie automatisch an die richtige Region weiter, in der dein Modell existiert, selbst wenn du dich von einer anderen Region aus verbindest.

Um Inference-Profile-IDs zu finden, gehe zur AWS-Bedrock-Konsole und schau unter „Cross-region inference" nach, anstatt die Model-ID von der Hauptseite des Modellkatalogs zu verwenden.

AWS-Bedrock-Konsole, Cross-region-Inference-Seite, die Inference Profiles mit einer Kopierschaltfläche neben jeder Profil-ID auflistet.

Kopiere die Inference-Profile-ID für dein gewähltes Modell. Die Beispiele in diesem Kurs verwenden Claude Haiku 4.5, dessen Inference-Profile-ID us.anthropic.claude-haiku-4-5-20251001-v1:0 lautet:

python
model_id = "us.anthropic.claude-haiku-4-5-20251001-v1:0"

Erstellen von User Messages

User Messages haben eine spezifische Struktur, die auf den ersten Blick übermäßig komplex erscheinen mag, aber es gibt einen guten Grund dafür:

python
user_message = {
    "role": "user",
    "content": [
        {"text": "What's 1+1?"}
    ]
}

Der Inhalt ist eine Liste, weil eine einzelne Nachricht unterschiedliche Arten von Inhalten enthalten kann - Text, Bilder oder andere Medientypen. Diese Struktur ermöglicht es dir, multimodale Anfragen zu senden.

Eine User Message, deren Inhaltsliste einen Bildblock im Format png mit Quellbytes enthält, gefolgt vom Text „Was ist auf diesem Bild zu sehen?"

Die Anfrage stellen

Jetzt kannst du deinen API-Aufruf mit der converse-Methode durchführen:

python
response = client.converse(
    modelId=model_id,
    messages=[user_message]
)

Die Antwort enthält eine Menge an Metadaten, aber um nur den generierten Text zu erhalten, musst du durch die Antwortstruktur navigieren:

python
response["output"]["message"]["content"][0]["text"]

Nachrichtentypen verstehen

Es gibt zwei Haupttypen von Nachrichten, mit denen du arbeiten wirst:

  • User Messages - Inhalt, den du in das Modell einspeisen möchtest (role: "user")
  • Assistant Messages - Inhalt, den das Modell erzeugt hat (role: "assistant")

Chatfenster, das die Nachricht „Definiere Quantencomputing" als User Message und die KI-Antwort als Assistant Message kennzeichnet.

Beide Nachrichtentypen folgen derselben Struktur mit einer role und einer Inhaltsliste. Diese Konsistenz macht es einfach, Konversationen aufzubauen, indem zwischen User- und Assistant-Nachrichten abgewechselt wird.

Die Assistant Message, die du von Bedrock zurückerhältst, folgt exakt demselben Format wie deine User Message, nur mit einer anderen role. Diese standardisierte Struktur macht es einfach, mehrere Anfragen für längere Konversationen miteinander zu verketten.