AI 与 LLM 工具

Token 计数、成本估算、提示词构建与 RAG 助手——本地运行,无需 API 密钥。

本页内容 3 个小节

估算 Token 与成本

  1. 运行 DevSnip Pro: LLM Models, Tokens & Cost。
  2. 粘贴一个真实的提示词,包括系统提示词和一条典型的用户消息。
  3. 查看估算的 Token 数,以及在 18 个聊天模型上的单次请求、每日和每月成本,或并排比较上下文窗口和价格。
注意

Token 数是估算值,模型价格也经常变化。在确定预算之前,请以服务商的价格页面为准。

其他 AI 工具

工具用途
Prompt Builder用 {{variables}} 填充模板,发现常见错误并导出 API 请求体
LLM Output & JSON从模型回复中提取 JSON,并进行修复和校验
JSON → TOON将 JSON 改写为紧凑的表示法,节省提示词 Token
LLM Client Setup为 OpenAI、Anthropic、Gemini、Azure OpenAI 或 Ollama 生成已配置的客户端
AI App Starter为你的技术栈创建一个可运行的 AI 应用项目
GPU Memory & Speed检查模型能否装进 GPU,以及运行速度如何

规划检索(RAG)

  • Chunking Tester:用你自己的文本比较不同的分块大小和策略。
  • Context Window Budget:在系统提示词、历史记录和回答之外,还能放下多少分块。
  • Chunk & Index Size Calculator:计算语料的分块数量、嵌入成本、向量存储量和索引内存。
  • Answer Grounding Checker:检查回答中哪些句子得到了检索上下文的支持。
  • 这些工具都位于侧边栏的 Data & RAG 分区。