返回
开发集成FAQ

支持哪些大模型?换模型麻烦吗?

目前支持所有模型厂商接入,并且可以扩展,本地模型与外部 API 都可以配置。工程上换模型的成本主要不在配置,而在效果回归:同一套提示词与检索配置在不同模型上的表现可能明显不同,因此换模型应当配一轮回归测试,用固定的问题集对照前后答案质量。建议在 POC 阶段就把「更换模型」列为验收项之一,避免上线后被单一模型的价格或可用性变化牵制。

01

核心解答

答案

目前支持所有模型厂商接入,并且可以扩展,本地模型与外部 API 都可以配置。工程上换模型的成本主要不在配置,而在效果回归:同一套提示词与检索配置在不同模型上的表现可能明显不同,因此换模型应当配一轮回归测试,用固定的问题集对照前后答案质量。建议在 POC 阶段就把「更换模型」列为验收项之一,避免上线后被单一模型的价格或可用性变化牵制。

相关关键词

多模型接入模型切换效果回归POC 验收
FAQ

相关问题

返回