OnlineRequestSettings interface
联机部署评分请求配置。
属性
max |
每个部署允许的每个节点的最大并发请求数。 默认值为 1。 |
max |
(已弃用托管联机终结点)请求以 ISO 8601 格式保持队列的最大时间。
默认值为 500 毫秒。
(现在增加 |
request |
ISO 8601 格式的评分超时。 默认值为 5000 毫秒。 |
属性详细信息
maxConcurrentRequestsPerInstance
每个部署允许的每个节点的最大并发请求数。 默认值为 1。
maxConcurrentRequestsPerInstance?: number
属性值
number
maxQueueWait
(已弃用托管联机终结点)请求以 ISO 8601 格式保持队列的最大时间。
默认值为 500 毫秒。
(现在增加 request_timeout_ms
以考虑任何网络/队列延迟)
maxQueueWait?: string
属性值
string
requestTimeout
ISO 8601 格式的评分超时。 默认值为 5000 毫秒。
requestTimeout?: string
属性值
string