OpenAI APIに12時間キャッシュ。長く保持すれば安い?再利用回数で判断する

「OpenAI APIに12時間キャッシュ。長く保持すれば安い?再利用回数で判断する」のアイキャッチ画像

12時間キャッシュは、長く残すことより「同じ情報を何度使うか」で選びましょう。

朝に社内ルールを読み込ませ、昼と夕方にも同じルールで問い合わせを分類する。AIを業務システムへ組み込むと、毎回共通の長い指示を渡す場面が出てきます。

OpenAI Developersは公式X投稿で、APIのプロンプトキャッシュに12時間を選べることを案内しました。長い間隔で同じ入力を再利用する仕事が対象ですが、保存時の料金も上がります。「12時間にすれば必ず節約」とは限りません。

この記事でわかること

  • 変更点:共通の入力を再利用するため、30分と12時間の保持を選べます。
  • 費用の判断:書き込みの割増と、再書き込みを減らせる回数を比較します。
  • 導入の進め方:変わらない資料と日々の質問を分け、実際の利用量で効果を測ります。

12時間キャッシュで何が変わる?

プロンプトキャッシュは、同じ入力の先頭部分について計算済みの状態を再利用する仕組みです。過去の会話を何でも思い出す「記憶」とは異なります。共通の指示、参照資料、ツール定義などが変わると、それ以降の部分は同じキャッシュとして使えなくなることがあります。

公式ドキュメントでは、GPT-5.6以降の対応するResponses APIで、既定の30分に加えて12時間の最低保持時間を選べます。対象はAPIの設定であり、ChatGPTの画面で保持時間を変更する話ではありません。

保存する料金と、読み直す料金は別

比較点 30分 12時間
書き込み料金 通常の入力料金の1.25倍 通常の入力料金の2.5倍
キャッシュ読み取り料金 保持時間による違いはなく、モデルのキャッシュ入力単価を使用
検討しやすい仕事 短い間隔で続く会話や処理 数時間空けて同じ資料を繰り返し使う処理

書き込み料金は通常入力料金にさらに加算する手数料ではなく、そのトークンに適用する合計の料金です。また、12時間は料金上の最低保持時間で、12時間後の削除を約束する指定ではありません。

同じ入力の有無、再利用間隔、総額の順に12時間キャッシュを検討する図

どちらが安いか、同じ入力部分だけを比べる

たとえば朝・昼・夕方に同じ社内資料を使い、各回の間隔が30分を超えるケースを考えます。以下は仕組みを理解するための仮定の計算例であり、実際の請求額や測定結果ではありません。

毎回30分キャッシュが切れるなら、3回目から差が出る例

共通部分を通常入力で1回処理する料金を「1」、読み取り料金を「0.1」と置きます。30分側は毎回書き込み、12時間側は最初だけ書き込んで、その後は全量を再利用できると仮定します。

同じ部分を使う回数 30分側 12時間側 この仮定での判断
1回 1.25 2.5 長期保持の費用を回収できない
2回 2.5 2.6 12時間側がわずかに高い
3回 3.75 2.7 12時間側が低くなる

一方、短い間隔で処理が続き、30分側でも読み取りを繰り返せるなら結論は変わります。モデルの読み取り単価、共通部分の長さ、キャッシュの一致状況でも変動します。「1日に3回使えば必ず得」という一般則にはしないでください。

業務へ入れる前に、担当者と確認すること

固定情報と変わる情報を分ける

問い合わせ分類なら、分類基準や社内用語集は共通情報、今回届いた問い合わせは変わる情報です。毎回変わる日時や案件番号を共通部分の先頭へ入れると、再利用できる範囲を狭める原因になります。

資料改定時は、古い基準を使い続けないことを優先します。節約のために更新を止めるのではなく、正しい最新版へ切り替えたうえで費用を測ります。

比較するのは総額と結果の品質

  1. 同じ業務・モデル・資料で比較できる試験期間を決める。
  2. 共通情報を使った時刻と回数を記録する。
  3. 書き込み、キャッシュ読み取り、通常入力を分けて集計する。
  4. 出力料金なども含む総額と、分類の正確さ・応答時間を確認する。
  5. 効果がある仕事だけ12時間へ切り替える。

モデル自体の特徴や料金の基本は、GPT-6.1 Solの解説も参照してください。ここでの判断はモデル選びではなく、同じモデルでの共通入力の持たせ方です。

実務上の注意

GPT-5.6以降の最低キャッシュ長は1,024トークンで、OpenAI側の非表示のシステム内容はこの最低長に含まれません。利用モデルとAPIが対応する設定かを実装前に確認してください。旧モデル向けの保持設定を、そのまま12時間指定へ置き換えないことも重要です。キャッシュの料金適用と、毎回の処理速度の保証は別です。

社内資料の保存・利用条件は、保持時間だけでなく組織のデータ管理方針に照らして確認します。個人情報を含む資料を、費用削減のためだけに広く共有する運用は避けましょう。

まとめ

12時間キャッシュが向くのは、変わらない情報を時間を空けて何度も使う仕事です。まず再利用の間隔と回数を調べ、書き込み料金の増加を上回る効果があるかを確認しましょう。

よくある質問

ChatGPTの有料プランでも設定できますか?

この記事はAPIのプロンプトキャッシュを扱っています。ChatGPTの契約や画面設定とは別に、APIを使うシステム側で対応を確認します。

12時間残せば、必ず安くなりますか?

いいえ。書き込み料金は30分より高いため、再利用しない場合や30分側でも十分に再利用できる場合には不利になり得ます。

表の3回という回数が損益分岐点ですか?

毎回30分側が再書き込みになり、12時間側は全量を読み取れるという仮定での例です。実際の単価・間隔・一致率で計算し直してください。

出典・参考情報

運営元について

AXメディアは、株式会社ジーズ AX事業部が運営しています。AX事業部では、AI研修・AIエージェント開発・ローカルLLM開発・補助金/助成金の活用支援を提供しています。

AX事業部のサービスを見る

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

AXメディア編集部のアバター AXメディア編集部 AXメディア公式ニュース編集部

AXメディアの公式ニュースアカウント。AI・テクノロジー・ビジネスの最新情報から、注目の動向や新サービス、業界の変化を編集部が厳選して発信する。ニュースの要点だけでなく、仕事への影響や、実務に取り入れる際の考え方・使い方までわかりやすく紹介する。