Sample — a 10,000-token document (~40 pages) at these settings: 23 chunks · 11,408 tokens embedded (1,408 overlap overhead) 23 vectors · $0.000228 with text-embedding-3-small
Prices flow from the shared model table (USD per 1M input tokens). All math runs 100% client-side.
功能说明
Embedding Chunk Planner 用于在把文档送入检索增强生成(RAG)流水线之前,先算清楚它会怎样切分成带重叠的分块。给它一个 token 数、一个块大小和一个重叠值,它就会计算出分块数量、实际被嵌入的总 token 数(重叠会在每个接缝处重复嵌入 token)、由此产生的开销,以及按你选定的嵌入模型和维度折算的美元成本。价格来自共享的模型表 - OpenAI、Cohere 和 Voyage AI - 因此估算与真实的按百万 token 计费一致。
它回答的是每次为 RAG 索引做容量规划时都会遇到的问题:“这个语料库会产生多少个向量?“以及”重叠到底要我花多少钱?“
使用方法
- 输入文档的 token 数(用分词器或
tokens ≈ chars / 4估算都可以)。 - 以 token 为单位设置块大小和重叠 - 默认的 512/64 是常见的起点。
- 从下拉框选择一个嵌入模型,再选它的维度(只列出该模型提供的尺寸)。
- 阅读规划结果:分块数、含重叠的总 token 数、重叠开销、向量数和成本。
- Copy 规划结果,或分享 URL - 所有输入都编码在链接里。
示例
1,000 token 的文档,512/64 默认值,text-embedding-3-small @ 1536 维
Chunks: 3
Tokens embedded: 1,128 (incl. overlap)
Overlap overhead: 128
Vectors: 3
Cost: $0.000023
同一文档,重叠推到 600
重叠会被钳制到 256(块大小的一半),规划于是变成:
Chunks: 3
Tokens embedded: 1,512 (incl. overlap)
Overlap overhead: 512
Cost: $0.000030
切换到 text-embedding-3-large @ 3072 维
同样嵌入 1,128 个 token,按每百万 $0.13 计:1128 / 1e6 * 0.13 = $0.000147。
补充说明
- 重叠钳制: 重叠永远不会超过块大小的一半(
floor(chunkSize / 2))。过大的重叠会让相邻分块不再向前推进,因此规划器会钳制它 - 512 token 的块无论输入什么都把重叠封顶在 256。负的重叠按 0 处理。 - 重叠为什么要花钱: 每个分块边界都会在下一个分块上重新嵌入
overlap个 token。一个 3 块、重叠 64 的规划会多嵌入 128 个 token - 单篇文档微不足道,大规模语料库上则相当可观。 - 可分享: 所有输入都保存在 URL 中(
?t=...&cs=...&ov=...&m=...&d=...),一个链接即可复现完全相同的规划。 - 私密: 100% 在客户端运行 - 任何文档文本或计数都不会被发送到任何地方。
- 相关工具: Token Generator、Regex Explainer、JSON Formatter。