这一档模型的参数意味着什么
step-1-8k 模型参数提供了 8000 的上下文长度，这决定了单次交互中模型能够处理的输入总量。尽管单次最大输出未明确标注，但通常建议合理控制输出长度以避免截断。引用上限为 8000 token，这是对引用内容总量的预算，限制了从向量库召回并送入模型进行引用的文本总量。引用内容的段落条数由检索侧的配置决定，与引用上限是两个独立的量。该模型不支持图片输入和工具调用，因此在集成时无需考虑多模态输入或外部工具集成链路。
配 openGauss 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OPENGAUSS_URL | postgresql://user:password@host:port/database | FastGPT 连接 openGauss 数据库的必要参数。 |
ef_construction | 100–200 | 影响索引构建时的图连接数量，数值越大召回率越高，构建时间也越长。 |
ef_search | 60–120 | 影响查询时遍历的节点数量，数值越大查询召回率越高，查询耗时也越长。 |
m = 32 | 32 | HNSW 算法中每个节点的最大连接数，影响索引的内存占用和查询性能。 |
| 召回条数 | 5–8 条 | 结合模型引用上限和单段文本长度，保证召回内容能被充分利用。 |
| 单段文本长度 | 800–1200 字符 | 经验值，避免单段过长导致信息冗余，或过短导致上下文不足。 |
这两者互相约束的地方
模型 8000 token 的上下文长度是总预算，其中包含用户查询、历史对话以及从 openGauss 召回的引用内容。召回条数与每段文本长度的乘积，加上其他输入，必须控制在这一预算之内。引用上限 8000 token 专门用于限制引用内容的 token 总量，而 openGauss 返回的是固定数量的段落。当每段文本较短时，可以召回更多段落；当每段文本较长时，即使召回较少段落也可能达到引用上限。两者谁先触顶，取决于实际的文本切分策略。openGauss 中 ef_construction 和 ef_search 等索引参数的调大，会提升向量检索的召回准确率，为模型提供更相关的上下文信息，从而可能提高模型生成回答的质量，但也会增加索引构建和查询的计算开销。
容易做错的三处
- 日志中出现
ERROR: value too long for type character varying(...)：向量嵌入的原始文本长度超过了数据库字段限制。 - 模型返回的回答内容空泛或不相关：向量库召回的条数过少，或者召回的内容质量不高。
- 查询响应时间明显变长：
ef_search参数设置过高，导致 openGauss 在查询时遍历了过多的索引节点。
怎么确认配好了
- 对典型查询执行 RAG 流程，检查 FastGPT 界面中模型接收到的引用内容是否完整、相关。
- 通过 FastGPT 的调试功能，观察模型输入中的 token 数量，确保引用内容的 token 总量未超过 8000 的引用上限。
- 在 openGauss 数据库中，通过
EXPLAIN ANALYZE命令分析向量查询语句，评估查询性能并调整ef_search参数以达到期望的响应时间。