画圆挑战 · 实用工具

免费在线工具AI 工作流

RAG 文本切块预览 — 分块大小与重叠检查

在准备检索数据集前,预览固定长度切分的结果。调整块大小和重叠量,检查真实边界,再复制每行一个 JSON 对象的数据,用于小规模索引实验。

计算在浏览器中完成,无需账号或 API 密钥。

输入你的内容

下方已载入可修改的示例。

计算结果

原文码点
114
块数
1
重复码点
0
输出 / 原文
100.0%
{"id":1,"start":0,"end":114,"text":"阳台种植笔记\n\n薄荷的根系容易扩展,适合单独放在一个花盆里。浇水前先检查土壤,阴凉位置的盆土可能保持湿润更久。\n\n罗勒适合光线明亮的位置。定期摘取顶部叶片;如果主要收获叶子,可以移除花穗。花盆标签记录种植日期,方便比较每次观察。"}

使用方法

  1. 粘贴一份文档,保留需要使用的标题。

  2. 按 Unicode 码点设置块大小,并填写小于块大小的重叠量。

  3. 对比分块和重复字符数量,复制 JSONL 结果。

观察边界丢失的上下文

切块可能把标题与它解释的句子分开。重叠会重复附近文本,让相邻块共享一部分上下文,同时增加索引内容的总量。这里使用固定边界,不识别主题、不生成向量,也不评价检索质量。正式使用前,请先用有代表性的问题测试。

使用可复现的偏移

每行包含编号、文本以及从零开始的起止偏移,结束位置不包含在片段内。空白字符原样保留。偏移按 Unicode 码点计数,不是字节、JavaScript 字符串索引或模型 token。为保证预览响应速度,最多生成 200 块,输出文本累计不超过 200,000 个码点。

常见问题

应该选择多大的块?

没有适合所有文档的统一值。请用自己的资料比较检索结果;这里仅检查边界和重复量。

表情符号会被拆开吗?

Unicode 代理对不会拆开,但由多个码点组成的表情或组合字符仍可能跨越边界。