文档

测试

模型信息服务：服务器资源信息

websocket测试

POST

10.191.70.254:8001/ai/model/server/resource

接口描述

根据租户和model ID，获取该租户模型服务器GPU ID信息

请求参数

application/json

参数名

类型

描述

必填

multiTenantId

string

租户ID

必填

modelId

string

模型ID

必填

响应参数

application/json

参数名

类型

描述

必填

resultCode

string

200-运行成功；204-运行失败。示例："200"

必填

resultMessage

string

运行信息。示例："model running success. abnomal data count is 200"

必填

data

object

接口返回数据。

必填

gpuId

string

模型运行最优gpu编号，默认为’0’

必填

ip

string

模型运行最优的gpu的服务器IP

必填

port

int

模型运行最优的gpu的端口

必填

serverId

string

模型运行最优的gpu的服务器编号

必填

gpuResource

float

模型运行最优的gpu的空闲容量

必填

上一篇模型信息服务：列表信息

nextDoc 模型信息服务：指定服务器资源信息