読み込み中

プロンプトキャッシュのルール

レッスン 443 分
読み込み中

Claudeにおけるプロンプトキャッシュは、メッセージに対して行われた計算処理を保存し、後続のリクエストで再利用できるようにすることで機能します。これにより、同一のコンテンツを繰り返し送信する場合に限り、後続のリクエストの実行が高速かつ低コストになります。

プロセスは単純です。最初のリクエストが処理結果をキャッシュに書き込み、後続のリクエストはその同じコンテンツを再処理する代わりにそのキャッシュから読み取ることができます。デフォルトでは、キャッシュは5分間保持されるため、この機能はその時間枠内で同じコンテンツを繰り返し送信する場合にのみ有用です。多くのアプリケーションがこれを行っています。より長い保持時間が必要な場合は、より高いキャッシュ書き込み価格で1時間のキャッシュ保持時間も利用できます。

キャッシュのブレークポイント

キャッシュは自動的には有効になりません。メッセージ内の特定のブロックに手動でキャッシュのブレークポイントを追加する必要があります。仕組みは次のとおりです。

  • メッセージに対して行われた処理は自動的にはキャッシュされません
  • ブロックに手動で「キャッシュのブレークポイント」を追加する必要があります
  • ブレークポイントより前のすべての処理作業がキャッシュされます
  • ブレークポイントまで(それを含む)のコンテンツが同一である場合のみ、後続のリクエストでキャッシュが使用されます

長いプロンプトテキストブロックと、タイプが「ephemeral」に設定されたcache_controlフィールド(キャッシュのブレークポイント)を持つユーザーメッセージ。

キャッシュのブレークポイントを追加するには、テキストブロックを記述する際に短縮形ではなく長形式を使用する必要があります。

コンテンツ「Hi there!」を持つ短縮形のuser_messageと、テキストブロックとタイプ「ephemeral」のcache_controlを持つ長形式の比較。

短縮形にはcache_controlフィールドを追加する場所がないため、cache_controlフィールドを{"type": "ephemeral"}に設定した拡張形式を使用する必要があります。

キャッシュのブレークポイントの仕組み

メッセージ内にキャッシュのブレークポイントを配置すると、Claudeはそのブレークポイントまで(それを含む)のすべての処理作業をキャッシュします。ブレークポイント以降のコンテンツは、キャッシュせずに通常どおり処理されます。

ブレークポイントを含む「Summarize this」ブロックの処理作業はキャッシュされますが、後続の「Focus on」ブロックはキャッシュされません。

後続のリクエストでキャッシュを有効に利用するには、ブレークポイントまでのコンテンツが同一である必要があります。「please」という単語を追加するような小さな変更であっても、キャッシュは無効になり、Claudeはすべてを再処理せざるを得なくなります。

ブレークポイントは最後のユーザーメッセージに配置されているため、それ以前のユーザーメッセージとアシスタントメッセージに対するClaudeの処理作業もキャッシュされます。

メッセージをまたぐキャッシュ

キャッシュのブレークポイントは、複数のメッセージやメッセージの種類をまたいで適用できます。後のメッセージにブレークポイントを配置すると、それ以前のすべてのメッセージ(ユーザー、アシスタントなど)がキャッシュされたコンテンツに含まれます。

ブレークポイントは最後のユーザーメッセージ「Focus the summary on」に配置されているため、Claudeは3つのメッセージすべてに対するキャッシュされた処理結果を読み取ります。

これは、特定の時点までのコンテキスト全体をキャッシュしたい会話において特に有用です。

システムプロンプトとツール

キャッシュのブレークポイントを追加できるのはテキストブロックだけではありません。次のものにも追加できます。

  • システムプロンプト
  • ツール定義
  • 画像ブロック
  • ツール使用ブロックとツール結果ブロック

最後のツール定義とシステムプロンプトブロックの両方で、タイプが「ephemeral」に設定されたcache_controlフィールドにより、両方がキャッシュされます。

システムプロンプトとツール定義は、リクエストごとに変更されることがほとんどないため、キャッシュの候補として非常に優れています。プロンプトキャッシュから最も恩恵を受けられるのは、多くの場合ここです。

キャッシュの順序

裏側では、Claudeはリクエストの構成要素を特定の順序で処理します。まずツール、次にシステムプロンプト、そしてメッセージという順序です。この順序を理解しておくことで、ブレークポイントを効果的に配置できるようになります。

Request 1ではシステムプロンプトとメッセージより上のTool 3がキャッシュのブレークポイントとなっており、Request 2ではTool 1からTool 3のみが表示されています。

キャッシュのブレークポイントは最大4つまで追加できます。たとえば、ツールをキャッシュした上で、会話履歴の途中にもう1つブレークポイントを追加することができます。これにより、リクエストの異なる部分が変化する際に、何をキャッシュするかについて柔軟性を持たせることができます。

Request 1ではTool 3とアシスタントメッセージにキャッシュのブレークポイントがあり、Request 2ではTool 1からTool 3が繰り返され、Tool 3のブレークポイントも再度現れています。

最小コンテンツ長

キャッシュには最小の長さがあり、これはモデルによって異なります。このコースで使用しているモデルであるClaude Haiku 4.5の場合、キャッシュ対象となるには、コンテンツが少なくとも4,096トークン必要です。これは、キャッシュしようとしているすべてのメッセージとブロックの合計であり、個々のブロックごとではありません。

「Hi there!」のようなメッセージはキャッシュするには短すぎますが、本当に長いプロンプトであれば最小値に達します。最小値未満のコンテンツは、キャッシュされずに単純に処理され、エラーも返ってきません。これを確認するには、レスポンスのusageを見てください。cache_creation_input_tokensとcache_read_input_tokensがどちらも0になります。

効果的なプロンプトキャッシュの鍵は、複数回の呼び出しにわたって一貫しているリクエストの部分を特定し、再利用を最大化しつつキャッシュの無効化を最小限に抑えるよう、戦略的にブレークポイントを配置することです。