読み込み中

モデルの出力を制御する

レッスン 810 分
読み込み中

より良いプロンプトを作成することに加えて、Claudeの出力を制御するための強力な手法が2つあります。それは、プリフィルされたアシスタントメッセージと停止シーケンスです。これらの手法を使えば、Claudeがどのように応答し、いつ生成を止めるかを正確に制御できます。

プリフィルされたアシスタントメッセージ

メッセージのプリフィルを使うと、Claudeの応答の冒頭部分をあらかじめ用意でき、それが応答の方向性に強く影響を与えます。Claudeにどのように応答を始めるかを任せるのではなく、会話を誘導する特定の書き出しを与えるのです。

「朝食にはお茶とコーヒー、どちらが良いですか?」というユーザーメッセージがClaudeに送られ、Claudeが「???」というアシスタントメッセージを返す様子。

仕組みはこうです。ユーザーの質問を含む通常のメッセージリストを作成しますが、その末尾に、あなたが望む応答の書き出しを含むアシスタントメッセージを追加します。Claudeはこれを処理する際、アシスタントメッセージを見て「この質問への応答はすでに始まっているので、続きから書き進めるべきだ」と判断します。

Claudeがプリフィルされたテキストを「it has higher caffeine content which helps with alertness in the morning」と続ける様子。

例えば、「朝食にはお茶とコーヒー、どちらが良いですか?」と尋ね、「Coffee is better because」というプリフィルを与えると、Claudeはそこから続けてコーヒーを支持する応答を組み立てます。重要なポイントは、Claudeはプリフィルしたテキストが終わった箇所から正確に書き続けるということです。あなたが書いた部分を繰り返すことはありません。

実際に見てみましょう。

python
messages = []
add_user_message(messages, "Is coffee or tea better for breakfast?")
add_assistant_message(messages, "Coffee is better because")

chat(messages)

これは「it has more caffeine」のような応答を返します。Claudeはプリフィルしたテキストから直接続けて書いていることに注目してください。そのため、完全な応答を得るには両方の部分を組み合わせる必要があります。「Coffee is better because it has more caffeine.」

プリフィルするテキストを変えることで、Claudeを好きな方向に誘導できます。

  • "Tea is better because" — お茶を支持する方向に誘導
  • "They are the same because" — 中立的な応答を生み出す

停止シーケンス

停止シーケンスは、Claudeが特定のテキストを生成した時点で、即座に応答を終わらせます。これは、出力を特定の箇所で打ち切りたい場合や、Claudeが特定のマーカーを超えて生成を続けないようにしたい場合に便利です。

「1から10まで数えてください」というユーザーメッセージが、停止シーケンスを「5」に設定した状態でClaudeに送られ、「1, 2, 3, 4,」という返答が返ってくる様子の図。

考え方はシンプルです。文字列のリストを指定しておき、Claudeがそれらの文字列のいずれかを生成した瞬間に、生成を止めてその時点までの出力を返します。停止シーケンス自体は応答には含まれません。

停止シーケンスを使うには、チャット関数を変更して、パラメータとして受け取れるようにする必要があります。

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[]):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {
            "temperature": temperature,
            "stopSequences": stop_sequences
        },
    }

    if system:
        params["system"] = [{"text": system}]

    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

実際の例を見てみましょう。

python
messages = []
add_user_message(messages, "Count from 1 to 10")

chat(messages, stop_sequences=["5"])

これは「1, 2, 3, 4,」を返し、「5」を含める前で停止します。複数の停止シーケンスを指定することもでき、その場合Claudeは最初に出くわしたものの時点で停止します。

python
chat(messages, stop_sequences=["5", "3, 4"])

停止シーケンスは、特に以下のような場合に役立ちます。

  • 応答の長さを制御する
  • 構造化された出力における自然な区切り位置で停止する
  • Claudeが特定のマーカーや区切り文字を超えて生成を続けないようにする

これら2つの手法はどちらも、Claudeの挙動をきめ細かく制御する手段を提供し、単純なプロンプトだけでは実現できない形で応答を形作ることを可能にします。