这一档模型的参数意味着什么
MistralAI 系列模型，如 ministral-14b-2512、ministral-8b-2512、ministral-3b-2512，拥有 131000 的上下文长度，意味着单次请求可以处理极长的输入文本，为复杂的知识召回和多轮对话提供了充足空间。引用上限 120000 规定了知识库内容在模型输入中的最大字符数，这直接影响到召回段落的数量与粒度。图片输入功能支持多模态处理，允许模型理解并结合图像信息进行响应。工具调用能力则使得模型能够与外部系统集成，执行特定任务，扩展了其应用边界。单次最大输出未标注，通常表示模型会根据输入内容和内部逻辑生成尽可能完整的回答。
配 OceanBase 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OCEANBASE_URL | ob_user:ob_password@tcp(ob_host:ob_port)/ob_database | 遵循 OceanBase JDBC 连接字符串规范，确保可达性 |
ef_construction | 64 | 召回精度与索引构建速度的平衡点，高于默认值 |
m | 16 | 向量维度与内存消耗的折中，HNSW 索引参数 |
| 召回条数 | 10-20 条 | 结合引用上限，为模型预留足够上下文空间 |
| 单段字符数 | 300-500 字符 | 避免单个段落过长稀释关键信息，或过短导致语义不全 |
| 索引类型 | HNSW | 适用于大规模向量检索，兼顾性能与召回质量 |
这两者互相约束的地方
MistralAI 131K 上下文模型与 OceanBase 向量库的配合，核心在于上下文长度、引用上限与向量召回结果的协同。模型 131000 的上下文长度为输入内容设定了上限，而 120000 的引用上限则直接限定了知识库召回内容所占的比例。这意味着「召回条数 × 每段平均字符数」的总和，必须严格控制在 120000 字符以内，以避免截断或模型性能下降。当向量库的返回条数超过模型引用上限允许的范围时，模型将只处理前 N 个有效字符。OceanBase 的索引参数 ef_construction 和 m 值调大，通常能提升召回精度，但会增加索引构建时间和查询延迟。对于高并发场景，需要权衡召回精度与响应时间，确保在模型等待时间内完成向量检索，避免上下文窗口被不相关的低质量召回内容占据。
容易做错的三处
- 调用模型时报错
Input tokens exceed limit：原因在于向量召回结果加上用户输入，总字符数超过了 131000 的上下文长度。 - 模型回答中知识库引用内容缺失或不准确：原因可能是 OceanBase 召回条数设置过少，或单段字符数过短，导致关键信息未能被检索到。
- 向量检索耗时过长，导致模型响应缓慢：原因在于 OceanBase 的
ef_construction或m参数设置过高，或硬件资源不足，导致索引查询效率低下。
怎么确认配好了
- 在 FastGPT 知识库管理界面，上传包含多段长文本的文档，检查分段是否符合预期，以及分段后的向量索引是否成功。
- 在 FastGPT 调试界面，使用包含复杂知识的问题进行测试，观察模型返回的引用内容是否准确且充分，并核对引用的源文档和段落。
- 通过 FastGPT 的日志或监控系统，分析模型调用时的 token 使用情况，确认召回内容占用 token 数未超出 120000 的引用上限，且总 token 数在 131000 上下文长度内。
- 模拟高并发场景，观察 OceanBase 的查询延迟，确保在可接受的响应时间内完成向量检索，通常应在数百毫秒内完成。