読み込み中

コンテキスト管理

レッスン 106 分
読み込み中

コンテキスト管理

Claudeに送信するすべてのリクエストにはコンテキストウィンドウがあります。 100万トークンは多く聞こえますが、実際のエージェントを運用し始めると、思っているよりも早く使い果たしてしまいます。 そこで登場するのがコンテキスト管理です。これは、重要なものを失わずにウィンドウ内に収める方法です。

コンテキストとして数えられるもの

コンテキストとは、Claudeが特定のターンで見るすべてのものです。

  • システムプロンプト
  • メッセージ履歴
  • ツール定義とツール結果
  • 添付ファイルとスキル
  • 思考ブロック

コンテキストの5つの構成要素を示す図:システムプロンプト、メッセージ履歴、ツール、ファイルとスキル、思考ブロック

これはすべてのAPI呼び出しへの入力です。入力時にも出力時にもコストが発生します。そして、ウィンドウが満杯になると、リクエストは失敗します。

つまり、目標はすべてを詰め込むことではありません。目標は適切なものを詰め込むことです。

Anthropicは、長時間実行されるエージェントでコンテキストを管理するための4つのパターンを公開しています。3つはAPIのファーストクラス機能であり、1つは設計パターンです。

コンテキストを管理するための4つのパターンを示す図:ジャストインタイムコンテキスト、圧縮、キャッシング、メモリ

パターン1:ジャストインタイムコンテキスト

すべてを事前に読み込まないでください。エージェントが今必要としているものを読み込み、必要なときにツールを介してさらに取得させます。

コンプライアンスレビューエージェントを考えてみましょう。建築基準法の全体をシステムプロンプトに詰め込むのではなく、特定の条項が必要なときにlookup_building_codeツールを呼び出します。これは4つのパターンの中で設計パターンに該当します。APIに特別な機能はなく、何をいつ読み込むかについての意図的な選択にすぎません。

パターン2:サーバーサイド圧縮

会話が長くなると、Anthropicのサーバーサイド圧縮が古いターンを1つのブロックに要約します。リクエストにcontext_managementキーを追加し、typeを持つeditを保持することでオプトインします。

python
response = client.beta.messages.create(
    betas=["compact-2026-01-12"],
    model="claude-opus-5",
    max_tokens=1024,
    context_management={
        "edits": [
            {"type": "compact_20260112"}
        ]
    },
    messages=messages,
)

入力がトリガーしきい値を超えると、APIは自動的に要約します。会話の長さを自分で追跡する必要はありません。

パターン3:プロンプトキャッシング

プロンプトキャッシングを使用すると、リクエストの安定した部分(システムプロンプト、ツール定義、長いドキュメントなど)をマークし、呼び出し間でそれらを再利用して、コストを大幅に削減できます。

この計算は見た目以上に重要です。システムプロンプトが4,000トークンで、それを1時間に100回呼び出す場合、キャッシングの有無が、使える範囲の請求額と財務部門からの電話がかかってくる事態との違いを生みます。

パターン4:メモリツール

一部のコンテキストはセッションをまたいで保持される必要があります。ユーザーの好み、エージェントの継続的なメモ、先週決定されたことなどです。これに推奨されるプリミティブがメモリツールです。

動作の仕組みは次のとおりです。

  • Claudeはツール呼び出しを介してメモリディレクトリの読み書きを行います。
  • ストレージバックエンドはクライアント側で実装します。ファイルシステム、データベース、暗号化されたストアなど、好きなものを使用できます。
  • Anthropicは、作業を開始する前にメモリディレクトリを確認するようClaudeに指示するシステム指示を自動的に挿入します。

ブラウザで表示されたメモリディレクトリ。incidentsとsaas-pricingのフォルダと、前回のセッションから保存されたインシデントメモが含まれている

パターンの重ね合わせ

本番アプリケーションでは、通常4つすべてを同時に重ねて使用します。コンプライアンスレビューエージェントは、システムプロンプトとツール定義をキャッシュし、lookup_building_codeを介して建築基準法の条項をジャストインタイムで取得します。

各パターンは異なる障害モードに対応します:コスト、ウィンドウサイズ、ステートレス性。自分の課題に合ったものを選んでください。

まとめ

  • コンテキストとは、Claudeがターンで見るすべてのものであり、無料でも無限でもありません。ウィンドウが満杯になると、リクエストは失敗します。
  • ジャストインタイムコンテキスト:今必要なものを読み込み、残りはツールに取得させます。これは4つの中の設計パターンです。
  • サーバーサイド圧縮:context_managementキーを追加すると、入力がトリガーしきい値を超えたときにAPIが古いターンを自動的に要約します。
  • プロンプトキャッシング:リクエストの安定した部分をマークし、呼び出し間で再利用することで、コストを大幅に削減します。
  • メモリツール:Claudeはツール呼び出しを介してメモリディレクトリの読み書きを行います。ストレージバックエンドは自分で管理するため、コンテキストはセッションをまたいで保持されます。
  • 4つのパターン、1つの目標。手動で組み込むか、デフォルトでキャッシングと圧縮が有効になっているClaude管理エージェントを使用してください。