这一档模型的参数意味着什么
StepFun 提供的 step-3 模型具备 64000 的上下文长度，这意味着在单次对话中，模型可以处理包含提示词、历史对话以及检索内容的庞大信息量。尽管单次最大输出未明确标注，但通常足以支持复杂的分析与总结。引用上限 60000 规定了知识库召回内容在输入模型时所能占据的最大 Token 数量，这直接影响了 RAG 检索的深度。图片输入能力允许模型处理视觉信息，为多模态应用提供了基础。工具调用功能则使模型能够与外部系统交互，执行特定任务，扩展了其应用边界。
配 OceanBase 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OCEANBASE_URL | mysql://user:password@host:port/db_name | 连接到 OceanBase 实例的必要信息，确保数据库地址、端口、用户名和密码正确无误，指向包含向量表的数据库。 |
ef_construction | 64 | HNSW 索引构建参数，影响索引质量和构建时间。此值在 16 到 200 之间，64 是一个平衡查询性能与索引大小的常用值。 |
m | 16 | HNSW 索引的邻居数量参数，影响索引图的稠密程度。此值通常为 8 到 64，16 可以在保持搜索精度的同时控制索引大小。 |
| 召回条数 | 15 | 结合模型引用上限和单段平均长度，在保证信息覆盖度的前提下，避免不必要的 Token 消耗。 |
| 单段长度 | 800 字符 | 经验值，旨在平衡信息完整性和上下文窗口利用率，过长可能导致关键信息稀释，过短可能丢失上下文。 |
这两者互相约束的地方
StepFun step-3 模型的 64000 上下文长度与 60000 的引用上限，对 OceanBase 检索结果的使用提出了具体要求。召回条数与每段长度的乘积，加上提示词和历史对话的 Token 消耗，必须严格控制在 64000 的上下文预算之内。特别是，知识库引用的总 Token 量不能超过 60000。这意味着即使 OceanBase 返回了大量结果，最终送入模型的引用内容也会受此上限约束。通常，向量库的返回条数会先于模型的引用上限生效，因此在配置时需要合理设置期望的召回数量。OceanBase 的 ef_construction 和 m 参数调大，会提高索引构建的精度和查询召回的质量，这对于需要更精准信息检索以充分利用模型上下文能力的场景是有益的，但同时也会增加索引构建时间和存储开销。
容易做错的三处
- 日志中出现
Error: SQLSTATE[HY000]: General error: 2006 MySQL server has gone away：通常是OCEANBASE_URL配置中的主机或端口有误，导致无法建立数据库连接，或者数据库连接超时。 - 模型回答中知识库引用内容明显不足或缺失：可能是召回条数设置过低，或者 OceanBase 索引的
ef_construction和m参数过小，导致检索质量不佳，未能召回相关度高的片段。 - 偶尔出现
context window exceeded错误：即使单次对话内容不长，但如果知识库召回的单段长度过大或召回条数设置过高，导致总引用 Token 超过 60000，就会触发此错误。
怎么确认配好了
- 检查 FastGPT 后台的知识库检索日志，确认 OceanBase 每次查询返回的条数与配置的召回条数是否一致，并且没有连接错误（错误码
2000系列）。 - 在 FastGPT 知识库管理界面，上传文档并进行向量化，观察向量化任务是否成功完成，且 OceanBase 中对应的向量表数据量是否增加。
- 通过 FastGPT 的调试模式，观察模型输入中的
retrieved_chunks字段，确认知识库引用的总 Token 数是否在 60000 限制内，且召回内容与预期相关。