模型指南官方文档4 分钟阅读模型组合页

MiniMax 1000K 上下文 这一档模型配 openGauss 的配置口径

MiniMax 1000K 上下文模型提供了巨大的处理能力。`maxContext` 为 1000000 token,这决定了模型在单次交互中能处理的总信息量,包括用户输入、历史对话以及召回内容。单次最大输出虽未标注具体数值,但通常足以支持长篇回答。`quoteMaxToken` 设定为 90000

这一档模型的参数意味着什么

MiniMax 1000K 上下文模型提供了巨大的处理能力。maxContext 为 1000000 token,这决定了模型在单次交互中能处理的总信息量,包括用户输入、历史对话以及召回内容。单次最大输出虽未标注具体数值,但通常足以支持长篇回答。quoteMaxToken 设定为 900000 token,它严格限制了模型在生成回复时,可以引用的外部检索内容所占用的 token 总量。引用的内容条数由检索系统决定,与引用内容的 token 预算是两个独立维度。图片输入能力允许模型处理视觉信息,工具调用能力则使其能与外部系统交互,执行特定任务。

配 openGauss 要定哪些

配置项建议取法这样取的依据
OPENGAUSS_URLpostgresql://user:password@host:port/db连接 openGauss 数据库的必要信息
ef_construction300影响 HNSW 索引构建质量,提高召回准确率
ef_search150影响 HNSW 搜索时的精度,权衡性能与准确率
m = 3232HNSW 图中每个节点的最大连接数,影响内存和查询速度
chunk_size800 字符文本切片大小,影响单段内容的粒度与语义完整性
top_k5 条每次检索返回的向量条数,权衡召回量与模型上下文压力

这两者互相约束的地方

MiniMax 1000K 上下文模型与 openGauss 向量库的配合,核心在于对模型上下文预算的有效管理。向量库检索返回的条数与每段内容的长度,共同决定了召回内容占用的总 token 数。这个总数不能超过模型的 maxContext 限制,同时,引用的部分也必须遵守 quoteMaxToken 的预算。如果每段内容较短,即使返回条数较多,可能仍未触及 quoteMaxToken 上限;反之,如果每段内容较长,则可能在返回条数不多时就已达到 quoteMaxToken。openGauss 索引参数如 ef_construction 和 ef_search 的调大,意味着向量检索的精度可能提升,从而为模型提供更相关的上下文信息,但同时也会增加索引构建和查询的资源消耗。

容易做错的三处

  • RAG 模块返回内容为空,原因可能是 OPENGAUSS_URL 配置有误,导致无法连接数据库或指定数据库不存在。
  • 模型回复中引用的内容不完整,现象是关键信息缺失,原因在于 chunk_size 设置过小,导致语义被切割,单段内容无法表达完整概念。
  • 检索响应时间过长,甚至出现超时,原因可能是 ef_search 设置过高,导致向量搜索计算量过大。

怎么确认配好了

  • 通过 FastGPT 后台的调试工具,验证 openGauss 数据库连接状态是否正常,确认 200 OK 响应。
  • 在 FastGPT 知识库管理页面,上传测试文档并执行检索,检查返回的 top_k 条目内容是否与预期相关。
  • 调整检索参数后,观察模型生成的回复中引用的内容是否准确且符合 quoteMaxToken 的限制,通过实际对话进行效果评估。

参考资料