VS Code で LLM のトークン数を数え、コストを見積もる方法
このページの内容 6 セクション
要点:プロンプトをトークンカウンターに貼り付け、各モデルの料金を掛けます。VS Code では DevSnip Pro の DevSnip Pro: LLM Models, Tokens & Cost を実行しましょう。18 種類のチャットモデルについて、トークン数とリクエストごと・日次・月次のコストを、ローカルで API キーなしに見積もります。

大規模言語モデルを使った開発では、日々いくつもの疑問が出てきます。このプロンプトは何トークンか、100 万回呼び出すといくらかかるか、モデルが返した「JSON」がなぜパースできないのか、検索したチャンクがコンテキストウィンドウにいくつ収まるか。どれもチャットアシスタントは必要ありません。必要なのは、モデルを呼び出すコードのすぐ横にある、小さく結果の決まったツールです。以下のツールはすべて DevSnip Pro サイドバーの AI & ML と Data & RAG セクションにあり、ローカルで動作し、API キーは不要です。
DevSnip Pro: LLM Models, Tokens & Cost を実行し、システムプロンプトと典型的なユーザーメッセージを含む実際のプロンプトを貼り付けます。トークン数は見積もりであり、プロバイダーの正確なトークナイザーではありません。18 種類のチャットモデルについてトークン数とリクエストごと・日次・月次のコストを見積もるほか、コンテキストウィンドウと料金を並べて比較できます。
モデルの料金は頻繁に変わります。組み込みの料金表は見積もりとして扱い、予算を確定する前にプロバイダーの料金ページで確認してください。
Prompt Builder はテンプレートに変数を埋め、よくあるミス(埋められていない {{variable}}、システムプロンプトの欠落、形を示さずに JSON を求めている、区切りのない長い挿入テキスト)を指摘し、プロバイダー向けの API ペイロードを書き出します。プロンプトをテンプレートとして管理すれば、ほかのコードと同じようにレビューできます。
プロンプトに構造化データを埋め込む場合は、JSON → TOON が JSON をコンパクトでロスのない表記に書き換えます。表形式のデータなら、トークンを 30〜60% ほど節約できるのが一般的です。
モデルは JSON を文章で包んだり、末尾にカンマを付けたり、回答を途中で切ったりします。LLM Output Cleaner & JSON Validator は返答から JSON を取り出し、よくある崩れを修復して検証するので、パーサーが実際に受け取るものを正確に確認できます。JSON Schema Validator と組み合わせれば、結果を契約どおりかチェックできます。
- Chunking Tester:埋め込みを作る前に、自分のテキストでチャンクのサイズと方法を比較します。
- Context Window Budget:システムプロンプト、履歴、回答の横に、チャンクがいくつ収まるかを確認します。
- Chunk & Index Size Calculator:コーパスのチャンク数、埋め込みのコスト、ベクトルのストレージ、インデックスの RAM を算出します。
- Answer Grounding Checker:回答のどの文が、検索したコンテキストで実際に裏付けられているかを確認します。
- Near-Duplicate Chunk Finder:インデックスの容量を無駄にし、ほかの結果を押し出してしまう重複した文章を見つけます。
- LLM Client Setup:OpenAI、Anthropic、Gemini、Azure OpenAI、Ollama、または OpenAI 互換の任意のエンドポイント向けに、設定済みのクライアントを生成します。
- AI App Starter:スタックに合わせた実行可能な AI アプリのプロジェクトを作成します。
- GPU Memory & Speed:モデルが GPU に収まるか、どれくらいの速さで動くかの目安を示します。
REST API クライアントは主要プロバイダーのリクエストの形を知っています。プロンプトを送り、返答をストリーミングで受け取り、トークン数、レイテンシー、コストを表示し、出力をスキーマで検証できます。複数モデルの比較、ベンチマーク、埋め込み・ベクトルデータベース・RAG パイプラインのテストは、ポイントで利用する高度なツールです。API キーはリクエストにのみ使われ、履歴やディスクに書き込まれることはありません。