Cómo contar tokens de LLM y estimar el coste en VS Code

Por Sayaib SarkarActualizado el 4 min de lectura

En esta página 6 secciones

Respuesta corta: pega tu prompt en un contador de tokens y multiplícalo por el precio de cada modelo. En VS Code, ejecuta DevSnip Pro: LLM Models, Tokens & Cost de DevSnip Pro: estima los tokens y el coste por solicitud, por día y por mes en 18 modelos de chat, en local y sin clave de API.

Estimación de tokens y coste de un prompt en 18 modelos de chat en VS Code

Trabajar con modelos de lenguaje grandes trae preguntas cotidianas: ¿cuántos tokens tiene este prompt?, ¿cuánto costará un millón de llamadas?, ¿por qué no se puede analizar el «JSON» del modelo? y ¿cuántos chunks recuperados caben en la ventana de contexto? Ninguna necesita un asistente de chat. Necesitan herramientas pequeñas y deterministas junto al código que llama al modelo. Todas las herramientas de abajo están en las secciones AI & ML y Data & RAG de la barra lateral de DevSnip Pro, se ejecutan en local y no necesitan clave de API.

Estima tokens y coste antes de publicar

Ejecuta DevSnip Pro: LLM Models, Tokens & Cost y pega un prompt real, incluidos el prompt del sistema y un mensaje típico del usuario. El recuento de tokens es una estimación, no el tokenizador exacto de un proveedor. Estima los tokens y el coste por solicitud, por día y por mes en 18 modelos de chat, o compara las ventanas de contexto y los precios lado a lado.

Los precios de los modelos cambian a menudo. Toma la tabla integrada como una estimación y compruébala en la página de precios de tu proveedor antes de comprometerte con un presupuesto.

Escribe prompts fáciles de mantener

Prompt Builder rellena una plantilla con variables, señala errores habituales (una {{variable}} sin rellenar, falta de prompt del sistema, pedir JSON sin mostrar su forma, texto largo insertado sin delimitadores) y exporta el payload de la API para tu proveedor. Mantener los prompts como plantillas permite revisarlos como cualquier otro código.

Si tu prompt incluye datos estructurados, JSON → TOON reescribe el JSON en una notación compacta y sin pérdidas. Para datos tabulares suele ahorrar entre un 30 y un 60 % de los tokens.

Haz que la salida del modelo se pueda analizar con seguridad

Los modelos envuelven el JSON en texto, añaden comas finales o cortan una respuesta. LLM Output Cleaner & JSON Validator extrae el JSON de una respuesta, repara los daños habituales y lo valida, para que veas exactamente lo que recibirá tu parser. Combínalo con JSON Schema Validator para comprobar el resultado contra tu contrato.

Planifica la recuperación (RAG) con números

  • Chunking Tester: compara tamaños y estrategias de chunking con tu propio texto antes de generar ningún embedding.
  • Context Window Budget: cuántos chunks caben junto al prompt del sistema, el historial y la respuesta.
  • Chunk & Index Size Calculator: número de chunks, coste de los embeddings, almacenamiento vectorial y RAM del índice para un corpus.
  • Answer Grounding Checker: qué frases de una respuesta están realmente respaldadas por el contexto recuperado.
  • Near-Duplicate Chunk Finder: pasajes repetidos que desperdician espacio en el índice y desplazan otros resultados.

Empieza un proyecto con la base adecuada

  • LLM Client Setup: un cliente configurado para OpenAI, Anthropic, Gemini, Azure OpenAI, Ollama o cualquier endpoint compatible con OpenAI.
  • AI App Starter: un proyecto de aplicación de IA ejecutable para tu stack.
  • GPU Memory & Speed: si un modelo cabe en una GPU y, aproximadamente, a qué velocidad funcionará.

Llama a modelos reales cuando lo necesites

El cliente de API REST conoce la forma de las solicitudes de cada proveedor importante. Puede enviar un prompt, recibir la respuesta en streaming, mostrar tokens, latencia y coste, y validar la salida contra un esquema. Comparar varios modelos lado a lado, hacer benchmarks y probar embeddings, bases de datos vectoriales y pipelines RAG son herramientas avanzadas que se pagan con puntos. Tus claves de API se usan para la solicitud y nunca se escriben en el historial ni en el disco.

Pruébalo en tu propio editor

Gratis, sin cuenta y en local. Para VS Code 1.93+ e IDE de JetBrains en Windows, macOS o Linux.

code --install-extension sayaib.hue-console