Wird geladen
Wird geladen

Beim Erstellen von Anwendungen mit KI-Modellen musst du den Datenfluss von der Benutzereingabe bis zur von der KI generierten Antwort verstehen. Lass uns durchgehen, wie das mit AWS Bedrock funktioniert, und sehen, was hinter den Kulissen einer typischen Chat-Anwendung passiert.

Wie Chat-Anwendungen funktionieren

Stell dir vor, du erstellst eine Web-App mit einer einfachen Chat-Oberfläche. Ein Benutzer tippt „Definiere Quantencomputing“ und klickt auf „Senden“. Hier ist, was tatsächlich passiert:

Chat-Oberfläche mit einer Nachricht von „Du“, die lautet „Definiere Quantencomputing“, einem leeren Eingabefeld und einer „Senden“-Schaltfläche.

Der Benutzer sieht eine übersichtliche Oberfläche, aber dahinter arbeitet ein ganzes System, um diese Antwort zu erzeugen.

Chat-App, in der die Antwort der KI besagt, dass Quantencomputing einige Probleme viel schneller lösen kann als klassische Computer.

Der Anfrageablauf

Wenn ein Benutzer Text übermittelt, durchläuft diese Nachricht folgenden Weg:

Die Benutzernachricht geht von der Chat-Oberfläche zum Bedrock-Client auf deinem Server und dann zu AWS Bedrock, wie unten beschrieben.

  1. Der Benutzer übermittelt seine Nachricht über deine Web-Oberfläche
  2. Dein Server empfängt die Anfrage mit diesem Text
  3. Dein Server verwendet den Bedrock-Client, um eine Anfrage an AWS Bedrock zu stellen
  4. Die Anfrage enthält die Benutzernachricht und eine Modell-ID (wie Claude Haiku oder Claude Sonnet)
  5. Das ausgewählte Modell verarbeitet die Anfrage und generiert Text
  6. AWS Bedrock sendet eine Assistentennachricht mit der generierten Antwort zurück
  7. Dein Server leitet diese Antwort an den Browser des Benutzers weiter

Hin- und Rückweg von „Definiere Quantencomputing“ von einem Chat-Fenster über den Bedrock-Client deines Servers zu AWS Bedrock und zurück.