返回内容中心FASTGPT / COMPARE

FastGPT 选型指南

自研或直接跑开源与用平台怎么选:四组必算成本

已有平台工程团队并追求底层控制时,自研或直接跑开源更有空间;希望快速上线并获得成熟运行时、升级路径与支持渠道时,平台方案更匹配。

核验日期 2026-07-20基于官方公开资料按同条件 POC 验收
选型速览01—05
自研 / 开源底层控制与团队自运维
平台方案现成运行时、升级路径与原厂支持
验收重点三年 TCO、故障恢复、迁移成本
自研与平台方案的解析、运行时、安全和运维成本结构示意图
自研与平台方案的解析、运行时、安全和运维成本结构示意图

已有平台工程团队并追求底层控制时,自研或直接跑开源更有空间;希望快速上线并获得成熟运行时、升级路径与支持渠道时,平台方案更匹配。

技术团队可以搭建向量检索和问答原型。生产阶段还会加入解析维护、训练队列、工作流恢复、沙箱、权限、审计、评测、渠道和升级,这些工作决定长期人力与交付节奏。

用同一份三年需求清单分别核算自研与平台方案,把开发、测试、安全、运维、升级和值班人天全部入账。 成本结论同时呈现现金流、人天和风险准备金。

01生产边界

1. 生产边界:原型之外的长期工作

自建 RAG 原型跑通得很快——装一个向量库,切分文档,接一个模型,几天就能演示。生产环境的工作量集中在围绕主链路的一圈工程:

  • 文档换了一种版式,解析结果就崩了,但没人知道是哪一步崩的;
  • 同一份文档换个问法就检索不到,因为一份正文只挂了一条索引;
  • 训练队列里有几十份文档失败,只能整库重跑;
  • 工作流跑到第五步失败,需要断点恢复和幂等重试;
  • 有人问「上个月的调用花在哪」,成本需要按解析、向量化、检索、生成分阶段拆开;
  • 业务部门要求接飞书和企微,发现渠道适配要从零写;
  • 安全评审来了,问代码执行节点有没有沙箱、外部工具有没有 SSRF 防护、密钥怎么管、审计日志留多久。

生产质量取决于文档质量、切分方式、更新频率、权限边界、检索配置和模型能力。每一项都需要明确负责人、回归集和运维预算。

02成本结构

2. 成本结构:四组工作加上支持责任

自研或直接跑开源的长期工作量分为四组,采购平台还要单独核对原厂支持责任。按组列人天与服务范围,三年 TCO 才具备可比性。

工作组
自研 / 直接跑开源
采购平台
验证方式
解析、检索与知识维护
自行维护多版式解析、索引、引用与重训队列
使用平台既有知识工程链路并核对版本边界
同一黄金集与解析样本 POC
Agent 与工作流运行时
自行建设失败恢复、人工交互、调试与评测
按平台能力配置并核对交互状态与工具边界
同一工作流故障注入与恢复测试
安全与治理
自行承担模型适配、密钥、沙箱、权限、审计与多租户
按版本与合同核对治理能力和责任边界
同一威胁用例与权限矩阵
发布、运维与支持
自行维护渠道、升级、备份、监控、值班与支持
按采购形态核对渠道、升级路径与支持档位
三年 TCO 与上线演练

2.1 第一组:解析、检索与知识维护

文档解析、分块、索引、检索、ReRank、引用溯源与重训队列。

生产阶段需要多版式解析兜底、可干预切分、一份正文挂多条索引、索引独立编辑、训练队列单条修复、检索历史回溯和引用定位。

2.2 第二组:Agent 与工作流运行时

Agent / 工作流运行时、失败恢复、人工交互、调试、日志与评测。

关键的三项是失败恢复(节点重试幂等与队列积压)、人工交互(暂停、表单确认和原地恢复)、评测(固定问题集回归)。

2.3 第三组:安全与治理

模型适配、工具安全、密钥、SSRF、代码沙箱、鉴权、RBAC、SSO、审计、多租户。

安全评审与客户合规会要求模型适配、工具安全、密钥、SSRF、代码沙箱、鉴权、RBAC、SSO、审计和多租户。代码沙箱与租户隔离属于运行时架构,需要在方案早期核对。

2.4 第四组:发布、运维与支持

发布渠道、API 兼容、升级回滚、备份恢复、监控告警、值班与用户支持。

面向全员的知识库需要值班、告警、备份恢复和用户支持,答错、答慢或服务中断都要有明确处理人和人天预算。

原厂支持是第五项成本变量。自研侧由团队值班与 on-call 承担,采购平台侧通过支持档位与服务清单确定:

这一项
自研 / 直接跑开源
采购平台
覆盖时段与首次响应目标
自己的值班表与 on-call 轮换
按支持档位划分,覆盖时段可到 7×24,首次响应目标按档位递进
安全补丁与版本升级
自己跟踪上游、自己做升级与回滚演练
付费档位含安全补丁与新功能支持;升级支持范围以合同为准
故障定位与恢复责任
全部在自己一侧
由责任矩阵划分,需在服务清单中逐项写明
首次部署与调试
自己承担
交付范围可含安装部署、调试与原厂技术维保
支持渠道
社区渠道,无响应承诺
工单、专属支持群,最高档位增加客户经理

将自研侧值班与 on-call 折算成人天,放进三年 TCO;采购侧把覆盖时段、首次响应目标、修复责任与升级回滚写入服务清单。首次响应目标与修复时限分别记录,最终承诺以合同为准。

2.5 用需求优先级判断自研边界

把每项标注为「必选 / 可选 / 未来」:必选项覆盖解析、检索、基本权限和发布渠道;可选项包括评测体系、成本拆分和会话标注;未来项包括多租户、集群和跨地域容灾。

必选项少、可选项可延后、未来项明确的内部知识库适合自研;SSO、审计、多租户和代码沙箱同时进入必选清单时,自研范围会扩展为平台工程。需求优先级表直接作为 POC 和两侧报价的输入。

03采购边界

3. 采购边界:平台费用与迁移成本

编排、RAG、ReRank、外部工具与观测会增加调用链长度,平台方案需要把延迟、Token、解析和存储成本纳入验收。

选取一条真实业务链路,对照直接调用模型、自研编排和平台方案,记录端到端 P95 / P99 延迟、Token、解析与存储成本、失败率、开发人天和运维人天。

平台方案可以按企业需求选择模型、存储、向量后端、API 和部署方式;工作流配置与商业功能会形成迁移成本。POC 要记录应用与数据导出、模型切换、向量后端切换、备份恢复和 API 兼容结果,并把退出路径写入采购清单。

04POC 验证

4. POC 验证:让两种方案同场报价

4.1 三年 TCO 计算表

成本层
自研 / 直接跑开源
采购平台
填表要求
基础设施
服务器或 GPU、数据库、向量库、对象存储、网络
同上(自托管)或订阅内含(云)
按三年业务增长假设,不用当前用量
模型消耗
向量化 + 生成,按真实问答量估算
同上
两边用同一个问答量假设
许可 / 订阅
开源许可口径与二开、分发边界
按官方定价页当日价格
两边金额由采购方填当日实价
解析 / OCR
自建或调用第三方
同上
复杂版式比例越高,这一项差别越大
平台工程人力
四组平台工程人天
集成与配置人天
纳入三年人天总量
安全与运维
沙箱、密钥、权限、审计、多租户、监控
版本内含部分 + 客户侧运维
按安全评审实际要求列
升级与值班
升级回滚、备份恢复、告警响应、用户支持
支持档位 + 客户侧一线
按三年计,不按首年计
风险准备金
关键人员流失、返工、评审不通过
版本边界不匹配、迁移成本
两边都要留

最终产出是三年现金流、人天和风险准备金三张表,并对成员数、文档量和请求量做灵敏度分析。

4.2 六类必测项

类别
必测指标
统一条件
RAG 效果
Recall@K、MRR / NDCG、引用正确率、幻觉率、无答案拒答率
同一黄金问题集、Embedding、ReRank、LLM、TopK
复杂文档
表格 / 标题 / 页码 / 图片保真率,解析成功率,每 100 页时间与成本
同一批扫描件、合同、研报、PPTX、XLSX
在线性能
P50 / P95 / P99 延迟、成功率、每秒请求、峰值并发
同一模型端点、向量库、机型、数据量与预热方式
可靠性
节点失败恢复、重试幂等、队列积压、升级回滚、备份恢复
同一故障注入脚本与数据规模
安全与治理
越权、SSRF、密钥泄漏、沙箱逃逸、租户隔离、审计覆盖
同一威胁用例与权限矩阵
三年 TCO
见 4.1
统一三年业务增长假设

版本稳定性、升级回滚、数据恢复、并发、安全与支持响应进入生产验收清单,分别安排升级演练、备份恢复、长稳压测、安全用例和故障注入。

05选型建议

5. 选型建议:按团队能力与节奏决策

项目条件
建议
需求是小团队内部使用,能自行承担部署、升级、备份与安全
社区版自托管或自研可进入候选,按需求优先级控制采购范围
需求集中在向量检索 + 问答,范围涵盖基础权限与单一发布渠道
自研的边界清晰,团队可控
需求会进入 SSO、多租户、审计、长周期日志、商业支持或明确 SLA
这些是平台工程的长期项,此时应把采购方案纳入比较
有严格的外部同步 + 部门信息隔离 + 强审计与成本管理组合要求
逐项写进合同与验收表,纳入平台方案比较
技术团队有能力自建,但人手已满负荷
把平台工程人天与业务人天并列核算,比较机会成本
业务方要求有可写进合同的响应时段与恢复责任
自研侧折算值班与 on-call 人天,平台侧纳入支持档位与责任矩阵

自研与平台的结论以同一份三年需求清单下的成本、人天、交付时间和风险准备金为准。

FastGPT / compare

把平台工程人天算进预算