定时扩缩容

更新时间:

推理服务支持定时扩缩容策略的设置,即设定策略来定时修改推理服务中的目标副本数,使您能够根据推理服务的使用时间合理利用资源。

# 策略设置步骤

1.在 推理服务 页面左上方菜单栏处点击 扩缩容策略 ,进入扩缩容策略设置页面。

2.点击右上角 添加策略 弹出 定时扩缩容策略设置 窗口。 scalingStrategy 3.在弹窗中进行扩缩容策略设置。

  • 可以在“日”和“周”两个维度进行定时扩缩容设置。
  • 最多可以设置6条定时策略。 strategySetting

4.设置完成后将在页面列表中新增一条定时策略,可点击 编辑 进行修改,点击 删除 进行策略删除。

说明 :定时扩缩容只对处于“等待中”、“运行中”的服务生效。即如果处于定时策略的生效时间,但服务正处于停止状态,则策略不会生效,定时扩缩容不会改变推理服务原有的启停状态。

如果启动了推理服务后,定时策略的生效时间未过期,则策略会被触发;设置生效时间已过期则不会触发。在启动前目标副本数是多少,就会按照该副本数量去启动。

# 手动&定时扩缩容

如果设置了定时扩缩容,同时也手动修改了副本数,那么以最后触发的操作为准。
例如

  • 定时策略1:周四上午10点 目标副本数【3】
  • 定时策略2:周五上午10点 目标副本数【4】

当已设置上述定时策略后,在周四下午手动修改了副本数,将其改成2,目标副本数立即变为【2】,当时间至周五上午10点定时策略2触发,目标副本数由2变为【4】,将按照此副本数运行。