BatchRetrySettings interface
批处理推理作的重试设置。
属性
max |
小型批处理的最大重试计数 |
timeout | 迷你批处理的调用超时,采用 ISO 8601 格式。 |
属性详细信息
maxRetries
小型批处理的最大重试计数
maxRetries?: number
属性值
number
timeout
迷你批处理的调用超时,采用 ISO 8601 格式。
timeout?: string
属性值
string