故障排查深度场景内容4 分钟阅读故障排查

沙盒容量与生命周期:额度、复用、回收三本账

"以 FastGPT v4.17.3 官方更新说明为依据,说明沙盒两个额度变量的分工、用户级实例的复用方式、运行与暂停归档三段生命周期、超卖倍率的适用边界与容量规划顺序。"

沙盒的成本不只看实例数,还要看实例活了多久、被谁复用、回收得干不干净。4.17.3 把额度收口到两个变量,为资源与生命周期提供默认配置,并把超卖留给 Kubernetes 运行态。容量规划的顺序是先定额度,再定生命周期,最后才动超卖。

额度与容量是两本账

额度是允许同时存在多少活跃实例,容量是这些实例实际占多少资源。两个变量分工明确:AGENT_SANDBOX_MAX 控制活跃实例总上限,默认 100;AGENT_SANDBOX_MAX_PER_TEAM 控制单团队上限,默认不限;商业版以管理台配置优先。应用会话与技能编辑共用同一份实例额度。

只设总上限时,单个团队可以占满全部实例,其他人排队;只设团队上限时,总量失去保护。多团队共用一套部署,两个值要一起设,实际可用量取两者中更紧的那个。只设一个值时,另一个方向的失衡要到压测才会暴露,平时很难看出来,等暴露时已经影响使用方。

用户级实例复用了什么

4.16.0 起沙盒改为 App 用户级实例:同一个应用下同一用户的多轮对话复用同一个沙盒,用独立会话目录隔离文件。这一改动直接影响容量估算——并发数不再等于对话数,而取决于同时在线的用户数。

估算时按用户取峰值,会话数不作基数。把会话数当并发数,会把额度放大几倍;反过来只按用户估,忽略同一用户开多个应用的场景,又会低估。两种偏差方向相反,取值前先确认统计口径是会话还是用户。

复用还带来一个副作用:同一个用户的沙盒被多轮对话共享,会话目录隔离文件,但资源是同一份。一个用户的长任务会占住他名下所有会话的配额,其他会话只能等。

生命周期三段:运行、暂停、归档

沙盒存储容量默认 1 GiB。运行实例持续空闲 60 分钟后暂停,暂停实例连续 7 天未活跃后归档。存储容量及空闲时长可分别在部署环境中配置。应用恢复后用试验文件核对可读数据。

这条回收规则决定了任务设计:长任务要么在暂停阈值前续跑,要么把中间产物写到外置存储。把中间结果留在实例里,一次暂停就可能白跑。

三段状态对应三种运维动作:运行态看资源占用,暂停态看数量是否堆积,归档态看恢复耗时。三种动作的触发频率不同,混在一个巡检项里,会漏掉堆积。暂停不释放额度,归档也不等于立刻腾出容量,额度与资源占用要分开看。

超卖倍率的适用边界

CPU 与内存的超卖倍率默认为 1,取值不低于 1,限 Kubernetes 运行态与 OpenSandbox Server 0.2.1 及以上版本,只影响新建或重建的实例,已运行实例的资源上限不变。倍率降低的是调度预留,实例资源上限保持不变。

倍率改变的是调度预留,不是额度。把倍率调低不会换来更多实例数,把额度调大也不会缓解节点压力。两者混在一起调,最后不知道是哪一项起了作用。

升级时的不混部约束

4.16.0 起,启用了沙盒的部署不支持新旧版本混合,FastGPT、沙盒代理与沙盒三者要整套升级。原因是三者之间的预览协议随版本变化,混着跑会出现预览打不开、文件读不到。

升级后还有一项后台回填任务:沙盒团队归属。它决定实例算在哪个团队名下,失败时表现为成员看不到自己的实例。三项回填任务共享最多三个并发,排到队尾是正常现象。

容量规划的三步

第一步统计各团队历史峰值,按用户数取,不按会话数取。第二步把峰值相加,加一部分余量作为总上限;团队上限按单团队峰值上浮。第三步才是评估是否需要调整超卖倍率,调整后重建一个实例验证。

三步的顺序不能换。先核实例计数及额度错误,再检查调度预留;先定额度再做生命周期优化,才知道优化空间在哪。走完把结论写成一行:总上限多少、每团队多少、余量比例多少。下次改额度从这一行起改,不从零重估。

观测与失败表现

按两条线观测:活跃实例数与创建失败次数。两条线取同一时间窗,窗口不一致时两个数字无法比较。创建失败集中上升,先看是总额度还是团队额度;活跃实例数长期贴顶但创建不失败,说明额度还有余量,瓶颈在别处。

失败表现分四类:成员看不到实例,查团队归属回填;实例频繁重建,查是否被暂停回收;预览打不开,查三者版本是否一致;文件读不到,查会话目录与存储路径。四类现象对应四个不同环节,按现象归类比按报错文本猜更快。

三本账怎么记

额度账记三列:总上限、团队上限、当前活跃数。生命周期账记两列:暂停数、归档数。成本账记一列:本周期新建实例数。三本账分开记,出问题时才知道是额度不够、回收太慢,还是任务本身在增加。

三本账每周对一次。只对额度账,会漏掉“额度够但实例一直在重建”这类浪费;只对成本账,会漏掉回收策略失效。三本一起看,容量规划才有依据。

对账时把异常写成一句话,附上日期与实例标识。只记“实例重建频繁”,下一次仍然要重新查;连同标识一起记,回溯日志能直接定位到那一次。

用并发与恢复分别验收

在测试环境为两个团队准备普通应用会话,并另外安排一次技能编辑。保持实例标识可追踪,先让一个团队达到自己的上限,再观察另一团队是否仍能创建实例。若系统额度已满,记录哪条请求被拒绝以及管理台或日志显示的实际状态。测试中尽量让配额变量保持固定,先复核管理台实际生效值,避免边测边改导致两轮结果失去可比性。

生命周期另做一轮。在已记录标识的试验实例中写入一份临时产物,经过暂停和恢复后核对文件是否仍可读取。归档恢复另测,并记录环境恢复时间与关键文件是否可用。若产物需要跨周期保留,将它写入团队已选定的存储,再验收应用从该位置读取的路径。Kubernetes 部署若还要调整超卖倍率,用新建或重建的实例核对调度预留和资源上限,并保留一份未改动的实例作对照。配额、恢复和调度各自出结果,异常时可直接定位到对应的配置面。

数据来源

技术版本:FastGPT v4.17.3。

主题来源
沙盒额度、超卖倍率、回填任务官方更新说明 4.17.3
用户级实例、资源规格、生命周期、不混部官方更新说明 4.16.0
Agent 沙盒存储、暂停与归档参数环境变量说明