体验提交ChatTTS推理服务

推理服务可基于训练得到的模型对新数据进行分类、预测等操作，实现模型的价值输出。

在本平台，您可以基于自己已经创建项目调试后的开发环境或训练输出的模型直接提交推理服务；若您暂未创建项目，也可直接在趋动云社区克隆推荐项目进行推理服务的体验。

本节以【ChatTTS】最强开源语音合成工具为例，为您介绍如何在社区克隆项目后直接使用平台进行推理，以体验ChatTTS模型效果。

# 克隆项目ChatTTS

1.点击工作台左上角 社区 进入趋动云社区。

• 点击顶部 项目 菜单进入 社区项目 页面，该页面展示了所有用户分享到社区的项目。
• 在右侧搜索框中输入"ChatTTS"查询对应项目。
• 选择【ChatTTS】最强开源语音合成工具项目，点击进入。

2.进入【ChatTTS】最强开源语音合成工具项目中，下滑可以浏览该项目的详细介绍。
点击项目页面右上角 运行一下 , 弹出空间和项目名称的窗口 。

下拉可选择克隆后项目所在的工作空间，项目名称可以自行修改。

点击 确定 后弹出数据选择窗口。

当出现"检测到工作空间内已存在相同的数据"的提示时，若空间中的数据拥有者是您自己，且您没有对此模型做二次开发的需求，此处也可取消勾选以节约工作台存储空间。

再次点击 确定 即进入克隆过程。

若点击 确定 后出现"空间中存在同名项目"的报错提示，可点击 取消 ，并重新点击 运行一下 后在弹窗中修改项目名称即可。

3.随后，页面将出现是否立即运行窗口，点击 暂不运行 。
此处弹窗显示的 算力规格 为项目发布者根据项目需求选择的规格，您也可以根据需求点击修改。

您可以基于项目中原有的开发环境配置直接提交推理，即点击 暂不运行 后提交推理服务；也可以点击 立即运行 ，进入开发环境中调试并保存后提交推理。

# 提交推理服务

1.选择 暂不运行 后，点击页面顶部中间悬浮栏处 推理 菜单，进入 创建推理服务 页面。

页面内自动带入了克隆项目的开发环境参数配置，如镜像、模型、算力规格等，您也可自行添加或更改。

2.配置推理服务的参数信息。

• 副本个数：2（可视情况输入1-10任意整数）。

• 启动命令示例：

   python /gemini/code/chattts/webui.py --local_path=/gemini/pretrain
  

3.点击页面底部右侧 提交 按钮，提交推理服务。

# 体验推理效果

1.添加端口，获取外部访问地址。
待推理服务成功启动、有副本处于运行中状态时，可通过访问外部地址直接体验推理。 （1） 点击右侧状态栏 端口 。
（2） 点击 添加端口 。
（3） 添加访问端口（内部端口：8080）。
（4） 输入端口用途（外部访问）。
（5） 点击 确定 。

2.访问外部地址，体验 【ChatTTS】最强开源语音合成工具 。
点击复制右侧外部访问链接，将其粘贴到浏览器中并回车，访问ChatTTS。

如访问出现问题，可在浏览器中按 “ctrl+shift+n” 打开无痕模式再行访问。

运行成功后加载的ChatTTS的界面如下图所示。可在该界面中进行文生音频体验。

温馨提示： 完成推理效果体验后，记得及时关闭推理服务，以免继续产生费用。

若您有将推理服务接入到应用程序的需求，可直接将该推理服务生成的外部端口地址用于应用程序中进行请求，在保证推理处于运行中状态下，可在应用程序中调用推理。