这一档模型的参数意味着什么
MistralAI 旗下 mistral-large-2512、mistral-small-2603、mistral-medium-3-5 这一档模型，其 256000 的上下文长度，意味着单次请求中可以包含极大量的历史对话、系统指令和检索内容。240000 的引用上限，则限制了 FastGPT 知识库在单次生成中引用的段落总字数。支持图片输入和工具调用，表明这些模型具备多模态理解和复杂任务编排能力，可以处理非文本信息并执行外部函数。单次最大输出未标注，通常暗示模型输出长度受限于上下文总量和内部Token预算，但通常能满足大部分对话需求。
配 openGauss 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OPENGAUSS_URL | postgresql://user:password@host:port/database | FastGPT 连接 openGauss 数据库的必备参数，需指向已配置 pgvector 插件的实例。 |
ef_construction | 100–200 | 控制 HNSW 索引构建时的邻居搜索质量，数值越大构建时间越长，召回精度越高。 |
ef_search | 50–100 | 控制 HNSW 索引查询时的邻居搜索范围，数值越大查询时间越长，召回精度越高。 |
m = 32 | 32 | HNSW 索引中每个节点的最大连接数，影响索引的内存占用和查询性能，32 是一个通用且高效的取值。 |
| 召回条数 | 15–25 | 结合模型引用上限与单段平均长度，确保检索内容能充分利用模型上下文，同时避免冗余。 |
| 单段长度 | 800–1200 字符 | 适当的段落长度，既保证语义完整，又避免过长的段落稀释模型注意力。 |
这两者互相约束的地方
MistralAI 这一档模型的高上下文长度，为 openGauss 向量库提供了广阔的召回空间。然而，引用上限 240000 字是硬性约束，这意味着即使 openGauss 返回了大量召回段落，最终传递给模型的文本总量也受此限制。因此，向量库的召回条数与每段长度的乘积，必须严格控制在模型的上下文预算和引用上限之内。如果向量库的索引参数 ef_construction 和 ef_search 设置过低，会导致召回的质量下降，即使模型上下文容量再大，也难以获得高质量的输入。相反，将这些参数调大，虽然会增加索引构建和查询的资源消耗，但能够提升召回精度，为模型提供更相关的上下文，从而提高生成质量。FastGPT 平台会优先处理引用上限，超出部分将被截断。
容易做错的三处
- 现象：RAG 模式下，模型返回内容与知识库内容相关性低。原因：openGauss 的
ef_search参数设置过小，导致向量搜索精度不足。 - 现象：知识库检索请求超时，日志显示
connection timeout。原因：OPENGAUSS_URL配置的数据库连接参数有误或网络不通。 - 现象：模型回答字数远低于预期，但知识库返回条目很多。原因：单段长度过长，导致总引用字数超过模型引用上限
240000，部分内容被截断。
怎么确认配好了
- 在 FastGPT 知识库管理界面，上传文档并进行切分，检查切分后的单段字数是否符合预期。
- 进行 RAG 测试时，观察 FastGPT 界面显示的召回条数和总引用字数，确保其在模型上下文和引用上限范围内。
- 模拟高并发检索场景，通过 openGauss 数据库的
pg_stat_statements视图检查查询延迟，确保ef_search等参数下的性能满足要求。