这一档模型的参数意味着什么
Baichuan3-Turbo-128k 模型具备 128000 的上下文长度，这意味着在单次对话中能够处理极大量的信息。引用上限为 100000 token，这是模型用于理解和生成回复的引用内容的最大预算。工具调用能力的提供，使得模型能够与外部系统进行交互以完成特定任务。该模型不具备图片输入能力。
配 openGauss 要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
OPENGAUSS_URL | postgresql://user:password@host:port/database | FastGPT 连接 openGauss 数据库的标准连接字符串格式，需包含完整认证信息。 |
ef_construction | 64 | HNSW 索引构建参数，影响索引质量与构建速度。较高的 ef_construction 值通常能提升召回准确率，但会增加索引构建时间。 |
ef_search | 32 | HNSW 索引查询参数，影响查询速度与召回准确率。适当的 ef_search 值能在查询效率和准确率之间取得平衡。 |
m | 32 | HNSW 图的连接数参数，影响内存占用和查询性能。m = 32 是一个在大多数场景下表现良好的默认值，平衡了索引结构与查询效率。 |
| 召回条数 | 10 | 经验值，结合模型引用上限和单段文本长度，保证召回内容在模型上下文预算内。 |
| 单段文本长度 | 500-800 字符 | 结合模型引用上限和召回条数，确保每段文本在模型处理能力范围内，同时提供足够的信息密度。 |
这两者互相约束的地方
Baichuan3-Turbo-128k 模型的 128000 上下文长度是总的信息处理容量。向量库召回的条数与每段文本的长度共同决定了模型实际接收的引用内容总量。引用上限 100000 token 是模型用于引用内容的预算，这与向量库按条数返回的机制有所不同。引用上限是按 token 计量的，而向量库返回的是按条数计量的，两者谁先达到限制取决于每段文本的平均 token 数。当 openGauss 的索引参数，例如 ef_construction 或 ef_search 被调大时，通常会提升召回的准确性，这意味着模型能够获得更高质量的引用内容，从而可能生成更精准的回复。
容易做错的三处
- FastGPT 界面显示“数据库连接失败，请检查配置”，原因可能是
OPENGAUSS_URL配置字符串格式有误或认证信息不正确。 - 模型回复中引用的内容明显不足或不相关，原因可能是
ef_search参数设置过低，导致向量检索未能充分召回高质量的匹配段落。 - 在知识库问答中，模型经常“失忆”或无法回答较复杂的问题，原因可能是召回条数与单段文本长度设置不当，导致引用内容超出 100000 token 的引用上限，重要信息被截断。
怎么确认配好了
- 在 FastGPT 知识库中上传文档，检查
openGauss数据库中相关表是否成功插入了向量数据。 - 在 FastGPT 调试界面，针对特定问题进行测试，观察召回的知识库段落是否与问题高度相关，并检查召回条数。
- 通过 FastGPT 的模型调用日志，分析模型实际接收的引用内容 token 数，确认其是否接近或达到 100000 的引用上限。
- 在 FastGPT 中进行实际问答测试，评估模型回复的质量和完整性，并根据回复内容调整
ef_construction和ef_search等索引参数。