LLMのコスト管理｜トークン課金の考え方と削減の定石

LLMをAPIで業務に組み込むと、毎月の請求書に「トークン」という見慣れない単位が並びます。試験導入では気にならなかった金額が、本格運用で処理量が増えた途端に跳ね上がる、というのはよくある展開です。この記事では、トークン課金の構造を整理し、見積もり・削減・監視というコスト管理の実務をまとめます。特定の価格は各社で改定が続くため記載せず、価格が変わっても使える考え方に絞ります。

トークン課金の構造#

トークンは、モデルがテキストを処理する際の単位で、単語や文字のかけらに相当します。日本語は英語よりも文字数あたりのトークン数が多くなる傾向があり、体感の文章量と請求されるトークン量がずれやすい点は最初に押さえておきましょう。

課金の基本構造はシンプルです。

1回の呼び出しコスト
  = 入力トークン数 x 入力単価 + 出力トークン数 x 出力単価

月額コスト
  = 1回あたりコスト x 呼び出し回数

注意すべき点が3つあります。第一に、入力と出力で単価が異なるのが一般的で、出力のほうが高い設定が多いこと。第二に、会話履歴を毎回送る対話型の実装では、やり取りが長くなるほど入力トークンが雪だるま式に増えること。第三に、モデルによって単価が大きく違うことです。

具体的な単価・課金条件・割引機能は各社が随時改定しています。見積もりの際は必ずOpenAI・Anthropic・Googleなど利用するサービスの公式料金ページで最新の条件を確認してください。

見積もりの立て方#

導入前の見積もりは、精密である必要はありませんが、桁を外さないことが重要です。

削減の定石#

定石1:タスクに見合ったモデルに落とす#

最大の削減余地は、多くの場合モデル選定にあります。分類・抽出・定型の要約といった単純なタスクに最上位モデルを使っているなら、軽量モデルで品質が維持できないかを試します。実務では「まず軽いモデルで処理し、難しいケースだけ上位モデルに回す」段階構成が定番です。品質評価の方法は、モデル選びの記事で扱った盲検比較がそのまま使えます。

定石2:プロンプトと履歴を痩せさせる#

毎回送っているシステムプロンプトに、使われていない指示や冗長な例が積もっていないかを点検します。対話型なら、古い履歴を全文ではなく要約で持ち回る設計に変えると、入力トークンの伸びを抑えられます。出力側も「箇条書き3点まで」のように長さを制御すれば、出力単価の高さを直接抑えられます。

定石3:サービスの割引機能を使う#

多くの事業者が、繰り返し送る共通部分の処理を割り引くキャッシュ機能や、即時性が不要な処理をまとめて安く処理するバッチ機能を提供しています。共通の長い指示文を使い回す構成や、夜間の一括処理がある業務では、実装をほぼ変えずに効く削減策です。提供条件はサービスごとに異なるため、公式ドキュメントで確認してください。

監視:削減より先に計測を仕込む#

コスト管理で最初にやるべきは削減ではなく計測です。次の3点を導入初期に仕込んでおきます。

• 請求の上限・予算アラートの設定(事業者側のダッシュボードにある機能を使う)
• 呼び出しログに、用途・モデル・トークン数を記録する(どの機能がいくら使っているかを分解できるようにする)
• 週次でのコストレビュー(異常な伸びの早期発見。バグによる無限リトライは事故の定番)

よくある質問#

まとめ#

トークン課金は複雑に見えますが、実体は「量を測って、単価と掛け算する」だけの世界です。計測の仕組みさえ入れてしまえば、コストは管理可能な変数になります。料金体系の変化に振り回されないためにも、数字を自分たちの手元に持つことから始めてください。