这一档模型的参数意味着什么
MiniMax M2-her 模型提供的 64000 上下文长度，意味着在单次对话中，模型可以处理并理解长达 64000 个 token 的输入，这包括用户提问、历史对话以及从知识库召回的内容。未标注的单次最大输出长度，表明其主要能力集中在理解与生成，实际输出受限于上下文总量。60000 的引用上限，决定了知识库在进行 RAG（检索增强生成）时，可以向模型提供多少个独立引用的段落，为模型生成回答提供依据。图片输入功能为 false，表示此模型不具备处理图像信息的能力。工具调用功能为 false，则无法通过模型直接触发外部工具或 API 的执行。
配 openGauss 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OPENGAUSS_URL | postgresql://user:password@host:port/database | FastGPT 连接 openGauss 数据库的标准连接字符串格式。 |
ef_construction | 64 | 构建 HNSW 索引时的参数，影响索引质量和构建速度，64 是一个平衡性能与精度的起点。 |
ef_search | 32 | 查询 HNSW 索引时的参数，影响搜索精度和速度，32 可以在召回质量和查询延迟间取得平衡。 |
m = 32 | 32 | HNSW 索引的最大邻居数，控制索引图的稠密程度，32 是一个常见的有效值。 |
| 召回条数 | 15-20 | 经验值，旨在不超过模型引用上限，同时确保充分的上下文信息。 |
| 单段字符数 | 800-1200 | 结合上下文长度和引用上限，优化每段知识的粒度，避免单一引用过长或过短。 |
这两者互相约束的地方
MiniMax M2-her 的 64000 上下文长度是核心约束。这意味着从 openGauss 向量库召回的全部内容，加上用户输入和历史对话，其总 token 数必须控制在此范围内。如果单次召回的条数过多，或者每条召回内容的字符数过长，很容易超出这个限制，导致模型无法处理全部信息。60000 的引用上限则进一步限制了 FastGPT 向模型传递知识库引用的段落数量，即使 openGauss 返回了更多结果，也只能使用上限内的条目。因此，openGauss 的查询返回条数不应超过此上限。调整 openGauss 的 ef_search 和 ef_construction 参数，直接影响召回的准确性和速度。较高的 ef_search 和 ef_construction 值通常能提高召回质量，但会增加查询延迟和索引构建时间，这需要与模型处理上下文的速度进行权衡。
容易做错的三处
- RAG 模式下返回的答案不完整或与知识库内容无关。原因可能是 openGauss 召回的条数过少，或者召回的段落长度过短，导致模型缺乏足够的上下文信息来生成高质量回答。
- FastGPT 日志显示
Context window exceeded错误。这是由于从 openGauss 召回的知识内容与用户输入总和超过了 MiniMax M2-her 的 64000 上下文长度限制。 - 查询等待时间过长，甚至出现超时。这可能源于 openGauss 的
ef_search或ef_construction参数设置过高，导致索引查询或构建过于耗时，影响整体响应速度。
怎么确认配好了
- 在 FastGPT 知识库中上传多篇文档，并进行多次问答测试，观察模型回答是否准确引用了知识库内容，且没有出现上下文超限的警告。
- 通过 FastGPT 的 RAG 调试界面，检查每次问答模型实际接收到的引用段落数量，确保其不超过 MiniMax M2-her 的 60000 引用上限。
- 监控 openGauss 数据库的查询延迟，例如通过
pg_stat_statements视图观察 HNSW 索引查询的平均耗时，确保其在可接受的范围内，避免因向量检索性能瓶颈导致整体响应变慢。