故障排查官方文档3 分钟阅读聚合导航页

FastGPT 分块策略如何取舍

依据 FastGPT v4.17.2 官方文档,比较按段落、按固定长度、按自定义分隔符三种分块方式,说明各自适用条件与需要核对的点,帮助在数据集配置中做出取舍。

在 FastGPT v4.17.2 的数据集配置中,分块策略直接影响检索单元与上下文组织方式。按段落、按固定长度、按自定义分隔符三种方式各有其适用条件,选择时应结合文档结构、内容形态与后续检索需求来判断。没有一种方式适合所有场景,取舍的关键在于内容本身的组织特征与使用目标是否匹配。

三种分块方式的基本定位

按段落分块以文档中已有的段落标记为切分依据,适合结构清晰、段落边界明确的材料。这种方式的检索单元与原文语义单元较为接近,便于在回答时保留完整段落信息。按固定长度分块按照设定的字符数或 token 数进行切分,适合结构松散、段落过长或段落边界不明显的材料。这种方式能控制单个分块的大小,便于统一处理,但可能切断语义连贯的内容。按自定义分隔符分块允许使用者指定分隔符号,适合有特定标记体系的材料,例如以特定符号分隔的条目或记录。这种方式在保留自定义结构方面较为灵活,但需要使用者对材料格式有清晰认识。三种方式在 FastGPT 的数据集配置中都属于可选项,实际使用时可以组合或调整参数,以适应不同文档类型。理解各自的基本定位,是做出取舍的第一步。

三列比较表

以下表格从方案、适用条件、需要核对的点三个维度对三种分块方式进行比较。

方案适用条件需要核对的点
按段落文档段落边界清晰,段落长度相对均匀,语义单元与段落基本一致段落是否过长导致单块超出预期;段落是否过短导致信息碎片化;空行与换行标记是否被正确识别
按固定长度文档结构松散,段落边界不明显,或需要统一控制单块大小切分位置是否切断关键语义;长度单位与计数方式是否符合预期;重叠设置是否影响检索结果
按自定义分隔符文档中存在稳定的分隔标记,如特定符号或固定格式的记录分隔分隔符是否在正文中重复出现造成误切;分隔符前后的内容是否完整;是否需要配合其他预处理

表格中的核对点来自 FastGPT v4.17.2 官方文档对数据集引擎的说明。实际配置时,建议先观察文档的段落与标记分布,再决定采用哪一种方式或组合方式。三种方式之间不存在绝对的优劣,取舍依据是内容特征与检索目标是否吻合。

取舍时需要考虑的要点

选择分块方式时,可以先判断文档是否具有稳定的段落结构。若段落边界清晰且长度适中,按段落分块通常能保留较好的语义完整性。若段落过长或边界混乱,按固定长度分块可以避免单块过大,但需要留意切分位置是否落在关键内容中间。若文档本身带有自定义分隔标记,按自定义分隔符分块能够利用这些标记,但需要确认分隔符不会在正文中频繁出现而导致误切。此外,分块大小与后续检索方式存在关联,块过大可能影响检索精度,块过小可能丢失上下文。FastGPT v4.17.2 官方文档在数据集引擎部分提供了相关配置说明,建议在调整分块策略后通过实际检索结果进行验证。取舍过程可以分步进行:先确定文档的主要结构特征,再选择匹配的分块方式,最后核对分块结果是否符合预期。若单一方式不能满足需求,也可以考虑在预处理阶段调整文档格式,再配合相应的分块方式。

References