通过

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

Azure AI Foundry 代理服务支持的模型

代理由一组具有不同功能和价位的模型提供支持。 模型可用性因区域和云而异。 某些工具和功能需要最新的模型。 REST API 和 SDK 中提供了以下模型。

Azure OpenAI 模型

Azure OpenAI 为客户提供了适合其业务和使用模式的托管结构选择。 该服务提供两种主要部署类型：

  • “标准”类型提供全球部署选项，可在全球范围内路由流量以提供更高的吞吐量。
  • “预配”类型也提供全球部署选项，允许客户在 Azure 全球基础结构中购买和部署预配的吞吐量单位。

所有部署都可以执行完全相同的推理操作，但计费、规模和性能却大不相同。 若要详细了解 Azure OpenAI 部署类型，请参阅 部署类型指南。

Azure AI Foundry 代理服务支持列出的区域中的以下 Azure OpenAI 模型。

注释

  • 下表适用于标准部署可用性。 有关预配吞吐量单位 (PTU) 可用性的信息，请参阅 Azure OpenAI 文档中预配的吞吐量。 GlobalStandard 客户还可以访问 全球标准模型。
  • 基于中心的项目 仅限于以下模型：gpt-4o、gpt-4o-mini、gpt-4、gpt-35-turbo
REGION o1 o3-mini gpt-4.1， 2025-04-14 gpt-4.1-mini， 2025-04-14 gpt-4.1-nano， 2025-04-14 gpt-4o， 2024-05-13 gpt-4o， 2024-08-06 gpt-4o， 2024-11-20 gpt-4o-mini， 2024-07-18 gpt-4， 0613 gpt-4， turbo-2024-04-09 gpt-4-32k， 0613 gpt-35-turbo， 1106 gpt-35-turbo， 0125
australiaeast X X X X X
canadaeast X X X X X
eastus X X X X X X X
eastus2 X X X X X X X
francecentral X X X X X
日本东部 X X
koreacentral
norwayeast X
polandcentral
南印度 X X
Swedencentral X X X X X X X X X
switzerlandnorth X X X X
uaenorth
uksouth X X X
westus X X X X X X
westus3 X X X X X

非 Microsoft 模型

Azure AI Foundry 代理服务还支持 Azure AI Foundry 模型目录中的以下模型。

  • Meta-Llama-405B-Instruct

若要使用这些模型，可以使用 Azure AI Foundry 门户 进行部署，然后在代理中引用部署名称。 例如：

agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent" )

Azure AI Foundry 模型

具有工具调用功能的模型

为了更好地支持代理活动场景，我们建议使用支持工具调用的模型。 Azure AI Foundry 代理服务目前支持 Azure AI Foundry 模型目录中的所有代理兼容模型。

若要使用这些模型，请使用 Azure AI Foundry 门户 进行模型部署，然后在代理中引用部署名称。 例如：

agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent")

注释

此选项仅适用于开源模型（例如 Cepstral、Mistral、Llama），而不适用于在服务中本机支持的 OpenAI 模型。 此选项还应仅用于支持工具调用的模型。

没有工具调用的模型

尽管工具调用的支持是代理场景中的核心能力，但我们现在在 API 和 SDK 中提供了使用不支持工具调用的模型的功能。 当你具有不需要工具调用的特定用例时，此选项非常有用。

以下步骤将允许你利用通过 无服务器 API 提供的任何聊天完成模型：

  1. 通过无服务器 API 部署所需的模型。 模型将显示在 “模型 + 终结点” 页上。

  2. 单击模型名称可查看模型详细信息，可在其中找到模型的目标 URI 和密钥。

  3. 使用目标 URI 和密钥在 “连接资源 ”页上创建新的无服务器连接。

现在可以在代码中引用模型（Target URI + @ + Model Name例如：

Model=https://Phi-4-mejco.eastus.models.ai.azure.com/@Phi-4-mejco

后续步骤

创建新的代理项目