这一档模型的参数意味着什么
Qwen 1000K 上下文模型档位，其百万级上下文长度允许在单次请求中承载海量的背景信息，这直接提升了复杂问题解决和长文本理解的能力。未标注的单次最大输出意味着实际输出长度受限于模型自身设计和API调用限制。百万级的引用上限为知识库检索提供了广阔的空间，允许模型在生成回答时参考大量相关段落。图片输入能力支持处理多模态信息，拓宽了应用场景。工具调用能力则使得模型能够与外部系统交互，执行特定任务，增强了Agent的自动化和扩展性。
配 Milvus 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
MILVUS_ADDRESS | milvus-service.default.svc.cluster.local:19530 | 生产环境建议使用集群内部地址，提高通信效率和安全性 |
MILVUS_TOKEN | 按实测标定 | Milvus 启用认证后，此令牌是访问权限的凭证，需与Milvus服务端配置一致 |
HNSW | M=16, efConstruction=200 | HNSW索引参数，M 影响图结构的平均度，efConstruction 影响索引构建时的召回率与速度平衡，此组合在召回率与查询延迟之间取得较好平衡 |
IP | 按实测标定 | 向量相似度度量方式，通常 IP (内积) 或 COSINE (余弦相似度) 适用于文本嵌入 |
recall_num | 前 50 条 | 向量库返回的原始召回条数，为后续模型处理提供足够的候选项 |
segment_length | 800–1200 字符 | 知识库分段的建议长度，兼顾单段信息完整性和模型上下文处理效率 |
这两者互相约束的地方
Qwen 1000K 上下文模型与 Milvus 的组合中，知识库召回的有效性直接受到双方参数的制约。首先，召回条数与每段内容长度的乘积，必须严格控制在模型上下文长度 1000000 的预算之内，否则会导致截断或错误。引用上限 1000000 定义了模型实际能引用的最大段落数，这通常远大于实际场景的需求，因此，向量库返回的 recall_num 才是更实际的限制。当 HNSW 等索引参数调大，例如 efConstruction 增加，Milvus 的召回率会提升，这为模型提供了更丰富的候选信息。然而，更高的召回率也可能带来更高的查询延迟，需要在 FastGPT Agent 的响应速度和知识准确性之间进行权衡。
容易做错的三处
- 调用 Milvus 接口时出现
Connection refused错误，原因是MILVUS_ADDRESS配置不正确或 Milvus 服务未启动。 - FastGPT 界面中 Agent 回答内容空泛，或出现
知识库未命中提示，原因是 Milvus 召回条数不足或向量检索结果相似度过低。 - 模型返回的引用段落数量远少于预期，通常是由于 FastGPT 内部配置的「最大引用段落数」低于 Milvus 返回的
recall_num，导致在传递给模型前进行了二次筛选。
怎么确认配好了
- 通过 Milvus 客户端工具，使用配置的
MILVUS_ADDRESS和MILVUS_TOKEN成功连接并执行向量查询操作。 - 在 FastGPT 调试界面，观察 Agent 对话过程中，知识库引用区域返回的段落数量，并与期望值进行比对。
- 针对特定测试问题，检查 FastGPT Agent 生成的回答是否准确引用了知识库中的相关信息，并通过日志确认 Milvus 查询耗时是否在可接受范围内。
- 调整知识库分段策略，观察模型在不同
segment_length下的召回准确率和回答质量变化，以此确定适用的分段阈值。