プロンプトキャッシュとは何ですか？また、どのように請求されますか？

キャッシュ料金が公開されていないモデルは、通常の入力価格で請求されます。モデル料金の計算ツールでは、会話の2ターン目以降、入力の80%がキャッシュから読み取られると想定しているため、キャッシュを使わないメッセージごとの推定より見積もりは低くなります。実際の節約額は、プロバイダーやお客様の返信の速さによって異なります。キャッシュされたテキストは数分で期限切れになるためです。

プロバイダーが報告する利用状況を読む

キャッシュは、モデルリクエストの会計上の詳細であり、ダッシュボードで管理する知識ベースの別個のコピーではありません。繰り返し使われる指示はプロバイダーのキャッシュの対象になる場合がありますが、お客様からの新しいテキストは通常の入力処理が必要です。そのため、長い会話には、キャッシュされたトークンとキャッシュされていないトークンの両方が含まれることがあります。

記録されたイベントを理解するには、利用ログのキャッシュされたトークンの情報を使ってください。選択したモデルの入力、出力、キャッシュの価格は、モデル料金で比較してください。プロバイダーがある返信についてキャッシュ入力を報告していない場合は、そのイベントに計算ツールのキャッシュ前提が適用されたと考えないでください。

たとえば、言い回しの似た2つの会話でも、タイミングが異なる場合や、異なるモデルを使用する場合は、キャッシュの結果が異なることがあります。コストを比較するときは、トークン数と一緒にこれらの状況も記録してください。計算ツールは計画用のツールであり、ログには、実際のリクエストについて報告され、請求された内容が記録されます。

請求単位と比較についての詳しい説明は、AIチャットボットの料金モデルを参照してください。