这一档模型的参数意味着什么
Qwen 系列模型中，上下文长度高达 1000000 意味着模型能够处理极长的输入文本，这为 FastGPT 知识库的召回内容提供了巨大的容纳空间。引用上限同样达到 1000000，表明在生成回复时可以引用极大量的知识库段落，理论上能够覆盖非常细致和全面的信息。图片输入能力允许模型直接处理图像信息，为多模态问答和知识库注入提供了可能。工具调用能力则使得模型可以与外部系统进行交互，执行特定任务，扩展了其应用场景和自动化水平。
配 OceanBase 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OCEANBASE_URL | ob://user:password@host:port/database | 连接 OceanBase 数据库实例的必要参数，确保 FastGPT 能够正确访问向量数据。 |
ef_construction | 32 | HNSW 索引构建时的参数，影响索引质量和构建速度。此值在 FastGPT 知识库更新时生效，通常取 16 到 64 之间，此处取折中值。 |
m | 16 | HNSW 索引中每个节点的最大连接数。影响索引的内存占用和查询性能，此值在 FastGPT 知识库更新时生效，建议取 8 到 32 之间。 |
recall_top_k | 20 | FastGPT 召回阶段从向量库获取的段落数量。 |
chunk_overlap | 100 字符 | 知识库分块时相邻块之间的重叠字符数，有助于保持上下文连贯性。 |
max_chunk_size | 800 字符 | 知识库单个分块的最大字符长度，结合模型上下文长度进行调整。 |
这两者互相约束的地方
Qwen 1000K 上下文模型与 OceanBase 向量库的配合需要精细调整。召回条数与每段长度的乘积必须远小于模型的上下文预算，以留出模型指令、历史对话和最终回复的空间。例如，如果 recall_top_k 设置为 20，max_chunk_size 设置为 800 字符，那么召回内容的总长度为 16000 字符，远低于 1000000 的上下文长度，这为模型提供了充足的处理空间。模型的引用上限与向量库返回条数 recall_top_k 共同决定了实际引用段落的数量，通常取两者中的较小值。ef_construction 和 m 等索引参数调大，会提高 OceanBase 向量搜索的召回准确率，但同时可能增加索引构建时间和内存消耗，这对于 FastGPT 知识库更新频率较高的场景需要权衡。
容易做错的三处
- 知识库查询返回结果为空，但知识库内容已上传：
OCEANBASE_URL配置错误，导致 FastGPT 无法连接到 OceanBase 实例。 - 模型回复未能引用知识库内容，或引用内容不相关：
recall_top_k设置过小或ef_construction、m参数配置不当，导致向量召回不准确或数量不足。 - 知识库更新操作长时间未完成，或出现内存溢出错误：
ef_construction或m参数设置过大，导致 OceanBase 索引构建资源消耗过高。
怎么确认配好了
- 在 FastGPT 知识库管理界面，上传文档后，检查日志输出，确认 OceanBase 向量化和索引构建过程无报错。
- 在 FastGPT 调试界面，输入与知识库内容相关的问题，观察模型回复是否准确引用了知识库段落，并检查引用的
段落ID是否与预期一致。 - 使用 OceanBase 客户端工具，查询对应的向量表，确认向量数据已成功写入，并且 HNSW 索引结构已正确生成。
- 在 FastGPT 中进行压力测试，模拟并发查询，观察 OceanBase 的 CPU、内存和 I/O 监控指标，评估系统在高负载下的稳定性和性能表现。