AI 与 LLM 工具
Token 计数、成本估算、提示词构建与 RAG 助手——本地运行,无需 API 密钥。
本页内容 3 个小节
- 运行 DevSnip Pro: LLM Models, Tokens & Cost。
- 粘贴一个真实的提示词,包括系统提示词和一条典型的用户消息。
- 查看估算的 Token 数,以及在 18 个聊天模型上的单次请求、每日和每月成本,或并排比较上下文窗口和价格。
注意
Token 数是估算值,模型价格也经常变化。在确定预算之前,请以服务商的价格页面为准。
| 工具 | 用途 |
|---|---|
| Prompt Builder | 用 {{variables}} 填充模板,发现常见错误并导出 API 请求体 |
| LLM Output & JSON | 从模型回复中提取 JSON,并进行修复和校验 |
| JSON → TOON | 将 JSON 改写为紧凑的表示法,节省提示词 Token |
| LLM Client Setup | 为 OpenAI、Anthropic、Gemini、Azure OpenAI 或 Ollama 生成已配置的客户端 |
| AI App Starter | 为你的技术栈创建一个可运行的 AI 应用项目 |
| GPU Memory & Speed | 检查模型能否装进 GPU,以及运行速度如何 |
- Chunking Tester:用你自己的文本比较不同的分块大小和策略。
- Context Window Budget:在系统提示词、历史记录和回答之外,还能放下多少分块。
- Chunk & Index Size Calculator:计算语料的分块数量、嵌入成本、向量存储量和索引内存。
- Answer Grounding Checker:检查回答中哪些句子得到了检索上下文的支持。
- 这些工具都位于侧边栏的 Data & RAG 分区。