这一档模型的参数意味着什么
Ernie 64K 上下文这一档模型，其上下文长度为 64000 token，决定了每次对话或知识检索中模型能够处理的总信息量。引用上限 55000 token 意味着在知识检索场景下，从知识库召回的内容总量不应超过此限制，以确保模型有足够的空间进行推理和生成。单次最大输出未标注，但通常建议控制在合理范围，避免过长回答。工具调用 true 表示此档模型支持通过外部工具增强能力，例如执行复杂查询或数据操作。图片输入 false 则表明此档模型不具备多模态图像理解能力。
配 OceanBase 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OCEANBASE_URL | ob://user:password@host:port/database | 连接 OceanBase 数据库实例的统一入口，需包含认证信息。 |
ef_construction | 128 | 控制 HNSW 索引构建时的邻居搜索范围，影响索引质量与构建速度。 |
m | 16 | HNSW 索引中每个节点的最大连接数，影响召回精度和内存消耗。 |
recall_top_k | 8-12 条 | 向量检索返回的条目数量，需要与模型引用上限和单条知识长度综合考量。 |
chunk_size | 500-800 字符 | 知识库文档分块的粒度，过长可能导致关键信息稀释，过短可能丢失上下文。 |
index_type | HNSW | OceanBase 向量检索的索引类型，高效处理高维向量搜索。 |
这两者互相约束的地方
模型 64000 token 的上下文长度与 55000 token 的引用上限，对从 OceanBase 召回的知识内容提出了严格要求。召回条数与每段知识的平均长度乘积，必须控制在 55000 token 引用上限内，以避免模型输入溢出。当 OceanBase 配置的 recall_top_k 返回条数与模型引用上限发生冲突时，模型引用上限作为硬性约束优先生效。调整 OceanBase 的索引参数，如增大 ef_construction 或 m，可以提高向量召回的精度。对于 Ernie 64K 这种具备较大上下文窗口的模型，高精度的召回能更有效利用其处理能力，减少无关信息的干扰，从而提升整体问答质量。
容易做错的三处
- 知识库检索结果为空，或返回条数远低于预期。原因可能是 OceanBase 索引未正确构建，或查询向量与知识库向量空间差异过大，导致召回不足。
- 模型回答出现“上下文不足”或“信息不全”提示。原因在于召回的
chunk_size过小或recall_top_k设置太低，导致模型获取到的有效信息量未能达到 55000 token 的引用上限。 - FastGPT 平台显示连接 OceanBase 超时或认证失败。原因通常是
OCEANBASE_URL中的主机地址、端口、用户名或密码配置有误，或网络策略阻断了连接请求。
怎么确认配好了
- 在 FastGPT 知识库管理界面，上传文档后，观察文档分块是否符合预设的
chunk_size范围，并检查是否有向量化成功的提示。 - 通过 FastGPT 的调试功能，输入测试问题，查看模型输入的原始上下文，核对召回的知识段落总 token 数是否接近 55000 token 引用上限，且召回条数与
recall_top_k设定是否一致。 - 在 OceanBase 数据库的监控界面，查看
HNSW索引的构建状态，确认索引已成功创建且运行稳定，以及查询时的 QPS 和延迟是否在可接受范围。 - 尝试使用不同的查询语句，观察 OceanBase 召回结果的相关性，通过人工评估来确定
ef_construction和m等索引参数是否达到了预期的召回精度。