这一档模型的参数意味着什么
Qwen 25K 上下文模型系列，包括 qwen3-vl-flash 和 qwen3-vl-plus，其上下文长度为 25000 tokens，这意味着单次请求可以处理的最大输入文本量。引用上限 20000 规定了知识库召回内容在模型输入中占据的 token 数上限。图片输入能力允许模型直接处理图像信息，拓宽了应用场景。工具调用能力则使得模型能够与外部系统进行交互，执行特定任务，从而扩展了模型的功能边界。
配 OceanBase 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OCEANBASE_URL | ob://user:password@host:port/database | 连接 OceanBase 数据库实例的必要参数，确保服务可访问。 |
ef_construction | 64 | 影响 HNSW 索引构建时的图连接数，数值越大索引质量越高，召回准确性提升，但构建时间增加。 |
m=16 | 16 | 影响 HNSW 索引中每个节点的最大连接数，数值适中能在召回性能与内存占用间取得平衡。 |
chunk_size | 800–1200 字符 | 知识库分段的建议长度，需在保证语义完整性与适应模型上下文长度间权衡。 |
retrieve_top_k | 5 | 向量库召回的最相关条目数量，过少可能漏掉关键信息，过多则增加模型处理负担。 |
这两者互相约束的地方
模型上下文长度是总输入限制，它决定了召回条数与每段长度的乘积上限。引用上限 20000 tokens 则直接限定了知识库召回内容所能占据的最大空间。在实际应用中，向量库的召回条数 retrieve_top_k 与每段长度（chunk_size）的乘积，必须控制在模型的上下文长度和引用上限之内。例如，若每段长度为 1000 tokens，则召回条数不应超过 20 条（20000 / 1000）。OceanBase 的 ef_construction 和 m 参数调大，可以提升向量检索的准确性，这意味着召回的条目可能更具相关性，从而在相同的召回条数下，模型接收到的有效信息量更大。这有助于模型更高效地利用其 25000 tokens 的上下文窗口。
容易做错的三处
- 向量召回结果为空或数量不足，现象为模型回复“抱歉，我无法回答这个问题”或信息不全。原因可能是 OceanBase 索引未正确构建，或查询向量与知识库向量距离过远。
- 模型输出内容被截断，日志显示
token limit exceeded错误。原因在于知识库召回内容加上用户输入，总长度超出了 25000 tokens 的上下文限制。 - 知识库检索响应时间过长，导致整个请求超时。原因可能是 OceanBase 的索引参数
ef_construction设置过大，导致查询复杂度增加，或数据库连接配置OCEANBASE_URL存在网络延迟。
怎么确认配好了
- 执行一次包含知识库检索的对话，检查模型回复中是否引用了知识库内容，并核对引用的准确性。
- 在 FastGPT 后台查看模型输入，确认知识库召回内容（
context字段）的 token 数量未超过 20000，且总输入 token 数在 25000 以内。 - 通过 OceanBase 监控工具，观察向量索引的构建状态和查询响应时间，确保其在可接受范围内。
- 在 FastGPT 知识库管理界面，随机抽取几个文档进行检索测试，检查
retrieve_top_k返回的条目是否与预期相符，且相关性排序合理。