You need to enable JavaScript to run this app.
文档中心
函数服务

函数服务

复制全文
下载 pdf
沙箱实例
沙箱实例预热池
复制全文
下载 pdf
沙箱实例预热池
沙箱实例预热池用于为沙箱应用自动维护一组预启动的沙箱实例,确保创建沙箱实例的请求到来时可以实现几十毫秒级的极速分配,消除冷启动。​
注意​
  • 预热池中的实例是在用户侧预先启动,属于一种资源消耗,会产生相应的费用。具体计费详情参见 按量计费-云沙箱。​
  • 开启预热池后,创建沙箱实例时部分参数不支持修改配置,否则无法匹配预热池。详细的参数说明参见本文 操作步骤 > 第二步 。​
背景信息​
在默认流程下,每次创建沙箱实例都需要经历镜像拉取、实例启动、运行时初始化等环节,存在秒级甚至更长的冷启动延迟。沙箱实例预热池通过预先启动并维持一批处于就绪状态的空闲实例,把这部分耗时提前到请求到来之前完成,从而在分配时刻实现近乎即时的供给。​
分配与补充流程​
通过预热池,系统会在后台维护一组就绪状态的沙箱实例。当用户调用 CreateSandbox 接口或通过控制台创建沙箱实例时,系统优先从资源池中分配实例,从而大幅降低延迟。​
​​​
资源池补充​
为了维持预热池的水位,系统会根据实例消耗情况自动补充资源。平台侧补充资源池的逻辑计算公式为:QPS = 资源池大小 ÷ 沙箱实例创建时间(s)。​
其中:​
  • 资源池大小:由用户在 资源配额 中自定义设置的预热池数量。​
  • 沙箱实例创建时间:系统实时监控观测得出的实例平均创建时间。​
系统会根据测算出的 QPS 速率动态调整补充速度,确保资源池水位稳定。​
TOS 动态挂载​
说明​
TOS 动态挂载能力当前处于邀测阶段,如需开通请 提交工单。​
支持在创建沙箱实例时按本次请求传入的参数,动态将指定的 TOS 存储桶(及子目录)映射为实例内的本地目录。实例能够像读写本地文件一样访问对象存储数据。挂载的 Bucket、路径与鉴权信息随每次 CreateSandbox 请求传入,不同请求可挂载不同数据,实现实例间数据隔离与复用,且无需改造镜像或代码。​
TOS 挂载点数量与预热实例一致时,以下信息不影响命中预热实例。​
  • 鉴权信息:AccessKeyId、SecretAccessKey​
  • 挂载桶:BucketName​
  • 路径:BucketPath​
使用场景​
沙箱实例预热适用于以下使用场景。​
​
场景​
说明​
AI Agent 在线推理​
Agent 工具调用、代码执行需即时拉起沙箱,预热池可保证用户请求快速响应,避免冷启动影响交互体验。​
突发与高并发流量​
面对流量峰值或定时批量任务,提前备好就绪实例,承载瞬时高并发创建,避免排队和超时。​
强化学习 / 大规模评测​
RL Rollout、Benchmark 评测需并行拉起大量沙箱,预热池提供稳定的高吞吐实例供给,缩短评测周期。​
Code Interpreter / 在线 IDE​
代码解释器、交互式编程等场景对响应延迟敏感,预热池可消除等待,提升首屏体验。​
​
前提条件​
已创建沙箱实例,操作详情参见 沙箱实例。​
操作步骤​
第一步:配置预热池大小​
  1. 在顶部导航栏,选择目标地域。​
  1. 左侧导航栏选择 云沙箱 > 沙箱应用,找到目标沙箱应用,单击应用名称。​
  1. 在沙箱应用详情页面,选择 沙箱实例 页签。​
  1. 在 沙箱实例 页签 资源配额 区域,单击 设置,设置 预热池数量。​
  • ​​​
  1. 单击 确定,完成配置。​
  • 配置完成后,系统会启动对应数量的沙箱实例,其初始 启动类型 为 预热-空闲。​
  • ​​​
第二步:使用沙箱实例预热池​
在 沙箱实例 页签单击 创建沙箱实例。详细操作,请参见 创建沙箱实例。此时 veFaaS 会优先从预热池里分配一个 预热-空闲 的实例, 并且其状态变成 预热-已分配。同时,系统会立即启动一个新的沙箱实例补充到预热池中,以维持预设的预热池大小。​
注意​
创建沙箱实例时,注意以下事项:​
  • 如果变更实例的 生命周期时长、实例元信息、TOS 存储桶,依然可以从预热池中分配空闲实例。​
  • 如果变更 实例规格、执行超时、环境变量 等配置,则可能无法从预热池中分配空闲实例,仅支持默认的实例创建流程。​
  • 环境变量命中预热池的判断规则:​
  • 命中预热池:请求不带环境变量;或请求中的每个环境变量在函数配置中均存在,且值相同。​
  • 不命中预热池:请求中包含函数配置中不存在的环境变量;或某个环境变量的值与函数配置不一致。​
​​​
第三步:资源监控​
在沙箱应用的详情页面,切换到 监控 页签,单击 云沙箱预留实例池 查看预热池的运行状态和实例分配情况。您还可以:​
  • 单击 查看更多指标,可跳转至云监控控制台,查看当前沙箱应用的监控面板。​
  • 单击 创建告警策略,可跳转至云监控控制台,为当前沙箱应用配置告警策略。当指标达到告警的触发条件时,系统会通过您指定的方式推送告警通知,帮助您及时发现服务的异常行为。具体操作可参见 创建告警策略。​
​​​
第四步:(可选)开启并使用 TOS 动态挂载​
调用 CreateSandbox 创建实例,通过 InstanceTosMountConfig 指定本次要挂载的 TOS 存储桶,系统会在创建该实例时动态完成挂载。配置示例如下。​
​
{​
"FunctionId": "****",​
"InstanceTosMountConfig": {​
"Enable": true,​
"Mode": "merge",​
"TosMountPoints": [​
{​
"BucketPath": "/****",​
"LocalMountPath": "/mnt/tos/local1",​
"BucketName": "****"​
}​
]​
}​
}​
​
​
参数​
含义​
获取方法​
FunctionId​
沙箱应用对应的函数标识,用于指定在哪个沙箱应用下创建实例。​
在函数服务控制台进入目标沙箱应用详情页,于 基本信息 中查看并复制应用 ID / 函数 ID。​
Credentials.AccessKeyId​
访问密钥,用于向 TOS 进行身份鉴权,需具备目标 Bucket 的读写权限。​
在 访问控制控制台 获取,具体操作可参见 Access Key(密钥)管理。​
Credentials.SecretAccessKey​
​
​
TosMountPoints.BucketName​
需要挂载的 TOS 存储桶(Bucket)名称。​
在 对象存储控制台 的 桶列表 中查看。创建 TOS Bucket 的详细操作参见 创建存储桶。​
TosMountPoints.BucketPath​
Bucket 内要挂载的子目录路径。需要以 / 开头,设为 / 表示挂载整个桶根目录。​
在 对象存储控制台 对应桶的 文件列表 中确认目标目录路径后填写。​
TosMountPoints.LocalMountPath​
挂载到沙箱实例运行环境中的本地目录,挂载后通过该路径读写 TOS 数据。需要以 / 开头,且多个挂载点的本地目录不可重复。​
由您自定义,例如 /mnt/tos/local1;避免与其他挂载点或保留目录冲突。​
​
​
最近更新时间:2026.08.24 16:40:59
这个页面对您有帮助吗?
有用
有用
无用
无用