这一档模型的参数意味着什么
MiniMax-Text-01 模型提供 1000000 token 的上下文长度,这意味着在单次交互中可以处理极大量的信息输入,为复杂的问答和文档分析提供了基础。引用上限为 90000 token,这是模型可用于引用检索结果的 token 预算。引用内容的总 token 数会受到此上限的约束。模型会根据这个预算来决定最终呈现多少引用内容。单次最大输出未标注,通常由平台侧或实际应用场景决定。此模型不支持图片输入和工具调用,因此在设计Agent流程时,无需考虑这些能力,可专注于文本处理与检索增强生成。
配 openGauss 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OPENGAUSS_URL | postgresql://user:password@host:port/database | 连接 openGauss 数据库实例的必要信息,确保可达性。 |
ef_construction | 128 | 影响 HNSW 索引构建的质量和速度,较高的值通常带来更好的召回率,但索引构建时间更长。 |
ef_search | 64 | 影响 HNSW 索引查询的召回率和速度,较高的值可以提升召回率,但查询延迟可能增加。 |
m | 32 | HNSW 图中每个节点的最大连接数,影响索引大小和查询性能,需要根据向量维度和数据量进行调整。 |
recall_top_k | 前 5 条 | 向量检索返回的文档段落数量,需与模型引用上限和单段长度综合考量。 |
segment_length | 800–1200 字符 | 文档切分时每个段落的建议字符数,影响单段信息密度和召回效率。 |
这两者互相约束的地方
MiniMax-Text-01 模型的 1000000 token 上下文长度为输入提供了充足的空间,但仍需注意召回条数与每段长度的乘积不能超出此限制。引用上限按 token 计,而向量库返回的则是按条数计。哪个限制先触顶,取决于每条检索结果的平均 token 长度。如果每段内容较短,可能在达到引用上限 token 数之前,就已经返回了大量条目;反之,如果每段内容较长,可能少量条目就会触及引用上限。openGauss 的索引参数 ef_construction 和 ef_search 调大后,通常能提升检索的召回率,意味着能更准确地找到相关文档。对于 MiniMax 这样上下文容量大的模型,更高的召回率可以为其提供更丰富、更准确的上下文信息,从而提高生成质量,但同时也要注意查询延迟的增加。
容易做错的三处
- 日志显示
database connection failed:OPENGAUSS_URL配置不正确,导致 FastGPT 无法连接到 openGauss 数据库。 - 检索结果为空或不相关:
ef_search或m参数设置过低,导致向量检索未能有效召回相关文档。 - 模型回答缺乏细节,引用内容过少:
recall_top_k设置太小,或segment_length过长导致单次引用内容超出quoteMaxToken预算。
怎么确认配好了
- 执行一次测试对话,检查 FastGPT 界面中“引用”部分是否展示了预期的文档内容。
- 在 openGauss 数据库中,通过
pg_stat_statements或EXPLAIN ANALYZE检查向量查询的执行计划和耗时,确认索引是否被有效利用。 - 逐步调整
recall_top_k和segment_length,观察模型在不同配置下引用的内容数量和质量,找到满足quoteMaxToken预算且信息完整的配置。 - 模拟高并发场景,监控 openGauss 数据库的 CPU、内存和 I/O 使用情况,确保系统在高负载下仍能稳定运行。