升级推理服务
更新时间:
推理服务支持升级操作,升级后生成新的版本。
推理服务创建后,其核心配置(版本配置)不可以进行修改,需要点击推理界面右上角 更新 或在项目各类数据处部署推理服务时进行更新,每次更新配置后将生成新的推理版本。推理服务中可以包含多个推理版本,每个推理版本可设置多个目标副本数。
当仅在当前版本修改非核心配置(服务配置),如“副本数、服务描述”等信息时,修改在原版本生效,不会生成新版本。
无论当前版本推理服务是否正在运行中,都可以对推理服务进行更新升级,配置参数从当前版本带入,升级后的推理服务版本号+1。
# 滚动更新
基于正在运行的推理服务进行的更新升级为滚动更新,点击推理服务页面右上角 更新,提交更新后版本升级,新版本推理服务自动启动,且新增一条更新记录。
配置参数带入逻辑 根据更新推理服务的入口的不同,进入更新推理服务页面后会有略微差异。
- 若直接点击推理界面右上角 更新 ,则自动带入上一版本的推理服务配置参数,在页面内可更改参数。
- 若从项目数据/模型/镜像/任务结果处点击 使用它部署推理服务 进入更新,带入上一版本的配置并自动把数据/模型/镜像等替换成点击的数据。
在服务运行时修改推理配置更新版本后,修改的配置只对推理服务中新启动的副本生效,已经启动的副本将在新版本的副本启动后停止。
# 停止状态下更新
当前版本推理服务未运行时(即处于“停止或失败”的状态)也可进行更新升级,提交更新后版本升级,但不会自动启动,而是给出启动询问。
配置参数带入逻辑
服务停止状态下更新的入口与带入逻辑与滚动更新相同。