Azure OpenAI 预配托管产品/服务更新

Microsoft 推出了对预配吞吐量产品/服务的改进，以解决客户对可用性和运营灵活性的反馈，从而开放新的付款选项和部署方案。

本文适用于预配吞吐量产品/服务的现有用户。 新客户应参阅 Azure OpenAI 预配加入指南。

有什么变化？

可用性改进

新的按小时计费/预定商业模式

可用性改进详细信息

预配的配额粒度从特定于模式更改为与模式无关。 每个订阅和区域都有一个配额项，用于限制可跨所有受支持的模式和版本部署的 PTU 总数，而不是订阅和区域中的每个模式和版本都有其自己的配额限制。

与模式无关的配额

自 2024 年 8 月 12 日起，现有客户当前的特定于模式的配额已转换为与模式无关的配额。 此过程自动发生。 转换中不会丢失配额。 当前配额限制求和后，将被分配给独立于模式的新配额项。

与模式无关的新配额显示为名为“预配托管吞吐量单位”的配额项，其中模式和版本不再包含在名称中。 在 Azure AI Foundry 的配额窗格中，展开配额项仍会显示组成配额项的所有部署。

默认配额

在很多区域中，新订阅和现有订阅分配了少量的预配配额。 这样，客户无需先请求配额即可开始使用这些区域。

对于现有客户，如果区域已包含配额分配，则不会更改该区域的配额限制。 例如，它不会自动增加新的默认量。

自助服务配额请求

客户不再通过联系销售团队来获取配额， 而是使用自助服务配额请求表单并指定 PTU 托管配额类型。 可从配额项右侧的链接访问表单。 目标是在两个工作日内响应所有配额请求。

下面的配额屏幕截图显示不同类型的部署使用的与模式无关的配额，以及请求其他配额的链接。

配额为限制

在 8 月更新之前，Azure OpenAI 预配仅适用于少数客户，分配配额是为了最大程度地提高他们部署和使用配额的能力。 通过这些更改，所有用户获取配额的过程得到了简化，并且在尝试部署时更有可能遇到服务容量限制。 新的 API 和门户体验可用于帮助用户查找订阅具有配额并且该服务有容量支持部署所需模式的区域。

我们还建议使用套餐的客户现在在创建或扩展套餐以进行覆盖之前创建其部署。 这可以确保在做出承诺之前容量可用，并防止过度购买承诺。 为了支持这一点，阻止创建大于套餐的部署的限制已被删除。 这种新的配额、容量可用性和承诺的方法与按小时计/预留模式下提供的内容一致，购买承诺（或对于按小时计模式而言，购买预留）之前的部署指南对两者都是一样的。

有关详细信息，请参阅以下链接。 预订和承诺的指导原则是相同的：

• 容量透明度
• 调整预留大小

按小时计的新预留付款模式

Microsoft 为预配的部署引入了新的“按小时计/预留”付款模式。 这除了当前的 承诺 支付模型之外，该模型将继续受支持，直到当前支持的有限模型列表的生命周期结束。 有关承诺使用量付款模型的受支持模型列表，请参阅“承诺使用量付款模型”上的受支持模型。 还可以选择购买 Azure 预留，以支持额外的折扣。

全球和数据区域预配部署的新 Azure 预留

除了按小时支付模型的更新外，2024 年 12 月专门引入了新的 Azure 预留，以供全球和数据区预配的部署类型使用。 借助这些新的 Azure 预留，每种预配部署类型都将有单独的 Azure 预留可供购买，以支持额外折扣。 各预配部署类型与相关 Azure 预留之间的映射如下：

套餐付款模式

• 需要区域性的包月套餐才能使用预配（通过合同可以约定更长的期限）。

• 承诺与 Azure OpenAI 资源绑定，这使跨资源移动部署变得困难。

• 除非添加新的 PTU，否则不能在期限内取消或更改套餐。

适用于承诺付款模型的支持模型：

承诺使用量仅支持以下列的 Azure OpenAI 模型。 如需加入未在以下列表中列出的任何其他模型或任何预配吞吐量产品/服务上的新模型，请参阅 Azure OpenAI 预配加入指南和 Azure OpenAI 预配部署的 Azure 预留

按小时计预订付款模式

• 该付款模式与其他产品的 Azure 标准保持一致。

• 支持按小时使用，无需承诺。

• 一个月和一年期折扣可以作为区域性 Azure 预留购买。

• 预留可以灵活地限定范围以涵盖多个订阅，并且可以在中期更改范围。

• 支持所有新旧模式。

付款模式框架

随着每小时/预留付款模式的发布，付款选项变得更加灵活，关于预配付款的模式已发生变更。 当一个月的套餐是购买预配的唯一方法时，模型是：

1. 从你的 Microsoft 帐户团队获取 PTU 配额。
2. 你要部署的资源套餐中的“购买”配额。
3. 在套餐的限制内在资源上创建部署。

此模式和新模式之间的主要区别在于，以前为预配支付的唯一方法是使用一个月的期限折扣。 现在，如果你选择并单独决定是否通过一个月的套餐（像以前那样）或 Azure 预留来获取部署的折扣，则你可以部署它们并按每小时付费。

通过此见解，思考付款模型的新方法是：

1. 使用自助服务表单获取 PTU 配额。
2. 使用配额创建部署。
3. （可选）购买或延长套餐或预留，以对部署应用期限折扣。

在所有情况下，步骤 1 和步骤 2 都是相同的。 区别在于使用承诺还是 Azure 预留作为提供折扣的方法。 在这两个模式中：

• 可以部署比折扣更多的 PTU。 （例如，通过部署而不购买折扣，可以创建短期部署以尝试新模式）

• 折扣方法（套餐或预留）将折扣价格应用于固定数量的 PTU，并具有一个范围，用于定义哪些部署计入折扣。

  折扣类型	可用范围（在区域内）
  承诺	Azure OpenAI 资源
  预订	资源组、单个订阅、管理组（订阅组）、共享（计费帐户中的所有订阅）

• 折扣价格应用于已部署的 PTU，上至折扣中的折扣 PTU 数。

• 超过折扣 PTU（或不受任何折扣覆盖）的已部署 PTU 数将按小时费率收费。

• 最佳做法是先创建部署，然后应用折扣。 这是为了保证服务。 在为无法使用的 PTU 创建条款协议之前，有容量可以支持部署。

将部署映射到折扣方法

使用 2024 年 8 月之前的 Azure OpenAI 预配计划的客户可以在一个订阅中同时使用两种付款模式，或只使用其中一个。 用于每个部署的付款模式根据其 Azure OpenAI 资源来确定：

资源具有活动的套餐

• 套餐会对资源上的所有部署施加折扣，上至套餐的 PTU 数。 多余的 PTU 按小时计费，除非多余的 PTU 不在当前预留范围内。 如果当前预留范围内存在多余的 PTU，则将作为一个组（最多与 PTU 数相等）进行折扣，仍剩余的超额将按小时计费。

资源没有有效的承诺

• 资源下的部署有资格使用 Azure 预留的折扣。 要使这些部署获得折扣，它们必须存在于活动预留的范围内。 预留范围内的所有部署（包括同一订阅或其他订阅中其他资源上的可能部署）将作为一个组来获得折扣，上至预留上的 PTU 数。 任何多余的 PTU 将按小时计费。

对现有付款模式的更改

目前承诺的客户至少可以继续使用它们，直到支持的模型停用为止。 这包括在新的或现有承诺使用量上购买新的 PTU，以及管理承诺使用量的续订。 但是，八月更新已更改了承诺运作的某些方面。

• 从 2024 年 8 月 1 日起，Azure OpenAI 已停止支持注册新承诺使用量

• 只有部分模型可以部署在有承诺使用量的资源上。 模型列表见此

• 如果套餐下的已部署 PTU 超过已提交的 PTU，则按小时计的超额费用根据新的按小时计/预留付款模式所使用的相同每小时计量收取。 通过 Azure 保留计划，可以对超额费用进行打折。

• 部署的 PTU 可以多于资源承诺的数量。 这样可以支持在扩大承诺规模以覆盖容量之前，保证容量的可用性。

将现有资源从套餐中迁移走

现有客户可以选择将现有资源从“固定承诺”迁移到“按小时计费/保留”付款模式，以便能够部署最新的模型，或在单个预留中整合不同部署的折扣。

客户有两种方法可以将使用承诺模式的资源迁移到按小时/预订模式。

自助迁移

自助服务迁移方法允许客户通过让资源过期来有组织地迁移走其套餐的资源。 迁移资源的过程如下所示：

• 将现有套餐设置为不自动续订并记下到期日期。

• 在到期日期之前，客户应购买 Azure 预留，其中涵盖每个订阅中承诺的 PTU 总数。 如果现有预留已在其范围内拥有订阅，则可以增加其大小，以涵盖新的 PTU。

• 当承诺到期时，该资源下的部署将自动切换到按小时计费/预留模式，使用量将按预留的折扣进行计算。

这种自助迁移方法将导致预留和套餐都处于活动状态的这样一种重叠。 这是此迁移模式的一个特征，并且此重叠的预留或套餐时间不会返还给客户。

自助迁移的替代方法是将预留购买切换为在套餐到期后发生。 在此方法中，部署将在套餐到期和购买预留之间的时间产生按小时计的使用量。 与上一个模式一样，这是此方法的一个特征，并且此按小时计的使用量无法抵扣。

自助服务迁移的优点：

• 可以在不同的时间迁移单个资源。
• 客户不依赖于 Microsoft 管理迁移。

自助服务迁移的缺点：

• 在从套餐切换到按小时计/预留计费期间，将有一段短时间的重复计费或按小时计费用。

将现有部署迁移到全局或数据区域预配

预配部署的现有客户可选择迁移至全球预配或数据区域预配部署，以从这些部署类型可用的较低部署最低要求、精细的规模增量或差异化定价中获益。 要详细了解全球预配和数据区域预配部署如何处理跨 Azure 区域的数据处理，请参阅 Azure OpenAI 部署数据处理文档。

客户可以通过两种方法从预配部署迁移到全球预配或数据区域预配部署。

零停机迁移

零停机迁移方法允许客户将其现有的预配部署迁移至全球预配或数据区域预配部署，而不会中断其部署上现有的推理流量。 这种迁移方法可最大限度地减少工作负载中断，但需要客户在转移流量时进行多个共存部署。 使用零停机迁移方法迁移预配部署的流程如下：

• 在目标 Azure OpenAI 资源中，使用全球预配或数据区域预配部署类型创建一个新部署。
• 将流量从现有的区域预配部署类型转换到新创建的全球预配或数据区域预配部署，直到从现有区域预配部署卸载所有流量。
• 一旦流量迁移至新部署，通过确保 Azure OpenAI 请求指标在推理流量迁移至新部署后的 5 到 10 分钟内未显示任何 API 调用，验证之前的预配部署上没有正在处理的推理请求。 有关此指标的详细信息，请参阅“监视 Azure OpenAI”文档。
• 一旦确认没有进行任何推理调用，可删除区域预配部署。

有停机迁移

停机迁移方法涉及将现有的预配部署迁移到全球预配或数据区域预配部署，同时停止原预配部署上任何现有的推理流量。 这种迁移方法不需要多个部署共存来提供支持，但需要中断工作负载才能完成迁移。 使用停机迁移方法迁移预配部署的流程如下：

• 通过确保 Azure OpenAI 请求指标在过去 5 到 10 分钟内未显示任何 API 调用，验证之前的预配部署上没有正在处理的推理请求。 有关此指标的详细信息，请参阅“监视 Azure OpenAI”文档。
• 一旦确认没有进行任何推理调用，可删除区域预配部署。
• 在目标 Azure OpenAI 资源中，使用全球或数据区域部署类型创建一个新部署。
• 一旦新部署成功，就可以在新的全球或数据区域部署上恢复推理流量。

如何将现有的 Azure 预留迁移到新的 Azure 预留产品？

Azure OpenAI 的 Azure 预留预配产品/服务特定于预配部署类型。 如果购买的 Azure 预留与预配部署类型不匹配，部署将默认采用按小时付费模式。 如果你选择迁移至全球预配或数据区域预配部署，可能需要为这些部署购买新的 Azure 预留，以获取额外折扣。 有关如何购买新的 Azure 预留或对现有 Azure 预留进行更改的详细信息，请参阅 Azure OpenAI 预配指南的 Azure 预留。

管理预配的吞吐量承诺

通过在 Azure AI Foundry 门户的导航菜单“配额>管理承诺”中选择>管理中心来创建和管理预配的吞吐量承诺。

在“管理承诺”视图中，你可以执行多项操作：

• 购买新承诺或编辑现有承诺。
• 监视订阅中的所有承诺。
• 确定可能导致意外计费的承诺并针对该类承诺采取措施。

以下部分将引导你完成这些任务。

购买预配吞吐量承诺

准备好承诺计划后，下一步是创建承诺。 承诺是通过 Azure AI Foundry 手动创建的，并要求创建承诺的用户在订阅级别具有参与者或认知服务参与者角色。

对于需要创建的每个新承诺，请执行以下步骤：

1. 通过选择“配额”“Azure OpenAI 预配”>“管理承诺计划”来启动“预配吞吐量购买”对话框。>

2. 选择“购买承诺”。

3. 选择 Azure OpenAI 资源并购买承诺。 资源将被划分为现有承诺使用量的资源（这些资源可编辑），以及当前没有承诺使用量的资源。

4. 选择“购买”。 将显示确认对话框。 确认后，将承诺 PTU，并可以使用它们创建预配的部署。 |

编辑现有的预配吞吐量承诺

在“管理承诺”视图中，还可以编辑现有承诺。 你可以对现有承诺进行两种类型的更改：

• 可以向承诺添加 PTU。
• 可以更改续订设置。

若要编辑承诺，请选择要编辑的当前承诺，然后选择“编辑承诺”。

向现有承诺添加预配吞吐量单位

通过向现有承诺添加 PTU，将允许你在资源中创建更大或更多部署。 你可以在承诺期内随时执行此操作。

更改续订设置

在承诺到期日期之前，可以随时更改承诺续订设置。 你可能想要更改续订设置的原因包括：通过将套餐设置为不自动续订来终止预配吞吐量的使用，或者通过降低下一个时间段内承诺的 PTU 数量来减少预配吞吐量的使用。

监视承诺并防止意外计费

“管理承诺”部分提供了一个订阅整体概览，涵盖给定 Azure 订阅内有承诺的所有资源及 PTU 使用情况。 特别重要的是：

• 承诺、部署和使用的 PTU – 这些数字提供了承诺的规模以及部署正在使用的数量。 通过使用所有承诺的 PTU 可实现投资最大化。
• 到期策略和日期 - 到期日期和策略会告诉你承诺何时到期，以及届时将发生的情况。 设置为自动续订的套餐将在续订日期产生计费事件。 对于即将到期的承诺，请确保在到期日期之前删除这些资源中的部署，以防止基于承诺的当前续订设置产生每小时超额计费。
• 通知 - 有关重要条件的警报，例如未使用的承诺以及可能导致计费超额的配置。 可导致计费超额的情况有多种，例如承诺已到期但部署仍然存在，因此转变为了每小时计费。

常见承诺管理方案

停止使用预配吞吐量

若要终止预配吞吐量的使用、防止在承诺到期后产生每小时超额费用，并在当前承诺到期后停止所有收费，必须执行两个步骤：

1. 将所有承诺的续订策略设置为“不自动续订”。
2. 删除使用配额的预配部署。

将承诺/部署移到同一订阅/区域中的新资源

在 Azure AI Foundry 中，无法直接将部署或承诺移动到新资源。 而是需要在目标资源上创建新的部署，并将流量移动到其中。 为此，需要在新资源上建立购买承诺。 由于承诺需要预先支付 30 天的费用，因此有必要在原始承诺到期时进行此操作，以尽量减少与新承诺的重叠和重叠期间的“双重计费”。

可通过两种方法来实现此转换。

选项 1：无重叠切换

此选项需要一些停机时间，但不需要额外的配额，也不会产生额外的费用。

选项 2：重叠切换

此选项同时运行现有部署和新部署，因此没有停机时间。 这需要具有可用于创建新部署的配额，并且会在重叠部署期间产生额外费用。

如果最后一步花费的时间超过预期，并且会在现有承诺到期后完成，可以通过三种选择来最大程度降低超额费用。

• 停机：删除原始部署，然后完成移动。
• 支付超额费用：保留原始部署并按小时付费，直到你移出流量并删除部署。
• 重置原始承诺以便再次续约。 这让你有时间以已知成本完成搬迁。

支付超额费用和重置原始承诺都会产生超出原始到期日期的费用。 如果只需要一两天即可完成移动，那么支付超额费用可能比新的一个月承诺便宜。 比较这两个选项的成本，找到成本最低的方法。

将部署移动到新区域和/或新订阅

在区域中移动承诺和部署时，可使用相同的方法，只不过在所有情况下都需要在新位置拥有可用配额。

查看和编辑现有资源

在 Azure AI Foundry 中，选择“管理中心”“配额”>“预配”“管理承诺”，然后选择一个具有现有承诺的资源以查看/更改该资源>>。