1.目录结构

.
├── bin
│   ├── conf.sh
│   ├── control.sh 运维操作脚本
│   ├── docker.sh
│   └── utils.sh
├── configs
│   └── settings.sh 配置文件
│   └── license 授权文件目录
├── logs 日志文件目录
└── repo 
    ├── images docker镜像文件目录
    ├── models
    └── python

---

2.服务部署

2.1 授权管理

• 获取服务器信息，发给授权人员生成授权文件（已有授权文件忽略此步骤） bin/control.sh systeminfo
• 授权文件更新 bin/control.sh update_license /path_to/xxx.secret

2.2 配置文件

• 编辑configs/settings.sh ``` # 日志目录 LOG_BASE_DIR=${BASE_DIR}/logs

端口

BACKEND_PORT=80

TODO 此端口随机，不需要配置

TRITON_HTTP_PORT=8000 TRITON_GRPC_PORT=8001 TRITON_METRICS_PORT=8002

sanic-worker TODO 可配置

BACKEND_SANIC_WORKER_NUM=4

GPU/CPU

使用CPU: TRITON_GPUS=

使用GPU0/GPU1: TRITON_GPUS=0,1

TRITON_GPUS=0

### 2.3 启动

bin/control.sh start all

### 2.4 停止

bin/control.sh stop all

### 2.5 重启
- 重启后端服务，适用于只更新了授权文件

bin/control.sh restart backend

- 重启所有，适用于更新了repo文件夹

bin/control.sh restart all

### 2.6 日志查看

bin/control.sh logs triton bin/control.sh logs backend

## TODO
- 授权部分
- backend logs
- backend sanic worker num可配置
- 随机选择triton端口，该配置项无意义
- ASGI & supervisor ? 
- async ?