読み込み中
読み込み中

AIモデルを使用してアプリケーションを構築する際には、ユーザー入力からAI生成の応答に至るまでのデータの流れを理解する必要があります。ここでは、AWS Bedrockを使ってこれがどのように機能するかを順を追って見ていき、典型的なチャットアプリケーションの裏側で何が起きているのかを確認しましょう。

チャットアプリケーションの仕組み

シンプルなチャットインターフェースを備えたウェブアプリを構築しているとします。ユーザーが「量子コンピューティングを定義してください」と入力し、送信をクリックします。実際には次のようなことが起きています。

「You」からのメッセージ「Define quantum computing」が表示されたチャットインターフェース。入力欄は空で、「Send」ボタンがあります。

ユーザーにはシンプルなインターフェースが見えていますが、その裏側ではその応答を生成するためのシステム全体が動いています。

チャットアプリで、AIの返信が「量子コンピューティングは従来のコンピューターよりもはるかに高速に一部の問題を解決できる」と述べている様子。

リクエストの流れ

ユーザーがテキストを送信すると、そのメッセージは次のような経路をたどります。

ユーザーメッセージがチャットインターフェースからサーバー上のBedrockクライアントへ、そしてAWS Bedrockへと渡っていく様子(詳細は以下を参照)。

  1. ユーザーがウェブインターフェースを通じてメッセージを送信する
  2. サーバーがそのテキストを含むリクエストを受信する
  3. サーバーはBedrockクライアントを使用してAWS Bedrockへリクエストを送る
  4. リクエストにはユーザーメッセージとモデルID(Claude HaikuやClaude Sonnetなど)が含まれる
  5. 選択されたモデルがリクエストを処理し、テキストを生成する
  6. AWS Bedrockが生成された応答を含むアシスタントメッセージを返送する
  7. サーバーがその応答をユーザーのブラウザへ転送する

「Define quantum computing」というメッセージがチャットボックスからサーバーのBedrockクライアントを経由してAWS Bedrockへ送られ、再び戻ってくる往復の流れ。