这一档模型的参数意味着什么
MiniMax M1 模型提供 1,000,000 token 的上下文长度，这意味着在单次交互中，模型能够处理极大量的输入信息，为复杂问答或长文本理解提供了基础。未标注的单次最大输出表明模型在生成回复长度上具有灵活性，但实际输出仍受限于下游应用的处理能力。900,000 的引用上限为知识库召回段落设定了天花板，远超多数传统模型，支持深度知识检索。该模型不支持图片输入，限制了多模态RAG的应用。支持工具调用功能，允许通过外部工具扩展模型能力，进行数据查询或执行特定操作。
配 Milvus 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
MILVUS_ADDRESS | milvus-service:19530 | 生产环境建议使用 k8s service name 或具体 IP 地址，确保服务可达性。 |
MILVUS_TOKEN | 按实际部署的安全凭证设置 | 用于 Milvus 集群的认证，保障数据访问安全，建议定期轮换。 |
index_type | HNSW | HNSW 提供高效的近似最近邻搜索，在召回性能和精度之间取得良好平衡。 |
metric_type | IP | IP (内积) 距离度量适用于衡量文本嵌入向量的相似度，与多数 embedding 模型输出兼容。 |
recall_num | 前 50 条 | 考虑到 MiniMax M1 的引用上限，Milvus 召回条数可适当提高，以增加命中率。 |
search_params | {"ef": 128} | ef 参数控制 HNSW 搜索质量，值越大召回精度越高，但搜索耗时也越长。 |
这两者互相约束的地方
MiniMax M1 模型 1,000,000 token 的上下文长度为 RAG 应用提供了巨大的空间，但仍需注意召回内容的总量。召回条数乘以每段文本的平均长度，其总和必须严格控制在模型的上下文预算之内，避免因超出限制而截断或报错。900,000 的引用上限是模型层面能处理的最大引用段落限制，而 Milvus 的召回条数是向量库实际返回的段落数量，两者取较小者生效。这意味着即使 Milvus 配置了极高的召回条数，最终进入模型处理的段落数量也不会超过 900,000。Milvus 索引参数如 ef 调大，会提高召回精度，但可能增加 Milvus 的查询延迟，从而间接影响到模型获取上下文的速度。
容易做错的三处
- 日志显示
context window exceeded：原因在于 Milvus 召回的文本总量，加上用户查询和系统提示，超过了 MiniMax M1 的 1,000,000 token 上下文限制。 - 返回内容与知识库关联性差，尽管 Milvus 返回了大量结果：原因可能是
metric_type或index_type配置不当，导致 Milvus 检索的向量相似度不准确。 - 查询等待时间过长，甚至超时：原因可能是 Milvus 部署的硬件资源不足以支撑
HNSW索引在ef参数较高时的查询负载。
怎么确认配好了
- 对典型查询进行测试，检查返回的引用内容是否准确、相关，并核对返回的段落数量是否在预期范围内。
- 监控 Milvus 集群的 CPU、内存和 I/O 使用率，确保在负载高峰期仍能保持稳定的查询响应时间。
- 通过 FastGPT 平台界面，观察模型处理上下文的 token 计数，确保其稳定在 1,000,000 token 限制以内。
- 对模型生成回复的质量进行评估，确认其是否有效利用了 Milvus 召回的知识，并避免出现“幻觉”或信息缺失的情况。