这一档模型的参数意味着什么
Hunyuan 这一档模型具有 6000 的上下文长度，这意味着单次请求中可以承载的总信息量上限。单次最大输出虽然未明确标注，但通常会受到上下文长度的隐性约束。6000 的引用上限表明模型在生成回复时，可以引用的知识库段落总字符数或条目数的天花板。支持图片输入扩展了模型的输入模态，使其能够处理视觉信息。工具调用为 false 则表明该模型不具备直接调用外部工具或执行复杂任务的能力，所有逻辑需要通过外部编排实现。这些参数共同定义了模型在处理信息、生成响应和与外部系统集成时的工程边界。
配 Milvus 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
MILVUS_ADDRESS | your_milvus_host:19530 | 连接 Milvus 服务的标准地址与端口 |
MILVUS_TOKEN | your_api_key_or_token | 用于 Milvus 认证的凭证，保障访问安全 |
HNSW M | 32 | 增加邻居数量，提高召回精度，兼顾查询速度 |
HNSW efConstruction | 128 | 索引构建参数，影响索引质量和构建时间 |
IP | True | 使用内积距离度量，适用于向量空间中方向相似性判断 |
| 召回条数 | 10–15 | 平衡召回广度与模型上下文容量，避免过多无关信息 |
这两者互相约束的地方
模型 6000 的上下文长度是核心约束。这意味着召回条数与每段召回内容的字符数之积，加上用户查询和系统指令的总长度，必须严格控制在 6000 以内。如果向量库返回的条数过多，或者每条内容过长，将直接导致模型上下文溢出。模型的引用上限 6000 与向量库返回条数不是简单的等价关系，引用上限更侧重于模型最终引用内容的字符总量限制，而向量库返回条数是召回阶段的物理限制。两者生效的优先级是并行的，向量库的返回条数先于模型处理，但模型最终引用的字符量不能超过其上限。Milvus 中 HNSW 索引参数的调整，例如 M 或 efConstruction 的增大，通常会提高召回精度，但也可能略微增加查询时间。对于这一档模型，这意味着更精准的召回能提供更高质量的上下文，但过长的召回时间可能影响整体响应速度。
容易做错的三处
- 日志显示 "Context window exceeded"，原因是向量库返回的召回内容总长度超过了模型 6000 的上下文长度。
- 模型回复内容缺乏相关性，原因是 Milvus 检索参数（如
HNSW的efConstruction）设置过低导致召回精度不足。 - 界面显示返回的引用条目为空，但模型却给出了回复，原因是向量库虽然返回了结果，但这些结果未通过引用上限或内容筛选，导致引用展示层字段为空。
怎么确认配好了
- 对不同长度的用户查询进行测试，检查模型回复是否始终能引用到知识库内容，并观察每次请求的上下文 token 消耗量，确保其在 6000 限制内。
- 在 Milvus 中执行查询，检查返回的向量相似度分数和召回条数是否符合预期，并与模型实际引用的内容进行比对。
- 通过 FastGPT 的调试界面，查看模型每次请求的完整输入（包括系统指令、用户查询和召回内容），确保所有部分都正确拼接且未超限。
- 调整 Milvus 的
HNSW参数后，对比模型回复的相关性和查询响应时间，找到召回精度与查询效率的平衡点。