你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
重要
本文中标记了“(预览版)”的项目目前为公共预览版。 此预览版未提供服务级别协议,不建议将其用于生产工作负载。 某些功能可能不受支持或者受限。 有关详细信息,请参阅 Microsoft Azure 预览版补充使用条款。
本文介绍从模型目录部署模型时如何处理、使用和存储提供的数据。 另请参阅 Microsoft 产品和服务数据保护附录,该附录管理 Azure 服务提供的数据处理。
重要
有关 Azure OpenAI 和 AI 服务中负责任的 AI 的信息,请参阅负责任使用 AI。
Azure AI Foundry 门户中部署的模型会处理哪些数据?
在 Azure AI Foundry 门户中部署模型时,将处理以下类型的数据来提供服务:
提示和生成的内容。 用户提交提示,模型通过模型支持的操作生成内容(输出)。 提示可能包括通过检索增强生成 (RAG)、元提示或应用程序中包含的其他功能添加的内容。
已上传的数据。 对于支持微调的模型,客户可以将数据上传到数据存储进行微调。
使用托管计算生成推理输出
将模型部署到托管计算时,会将模型权重部署到专用虚拟机,并公开 REST API 进行实时推理。 若要详细了解如何将模型目录中的模型部署到托管计算,请参阅 Azure AI Foundry 门户中的模型目录和集合。
可以管理这些托管计算资源的基础结构。 Azure 数据、隐私和安全承诺适用。 若要详细了解适用于 Azure AI Foundry 的 Azure 合规性产品/服务,请参阅 Azure 合规性产品/服务页面。
虽然会对 Azure 直接销售的模型 的容器进行扫描,以检测可能导致数据泄露的漏洞,但通过模型目录提供的所有模型并未全部经过扫描。 若要降低数据外泄的风险,可以使用虚拟网络来帮助保护部署。 还可以使用 Azure Policy 来管制用户可以部署的模型。
以标准部署的形式生成推理输出
当你通过使用标准部署与无服务器按令牌付费产品/服务,从模型目录(基本的或微调的)部署一个模型用于推理时,将预配一个 API。 使用该 API 可以访问 Azure 机器学习服务托管和管理的模型。 详细了解 模型目录和集合中的标准部署。
该模型处理输入提示,并根据其功能生成输出,如模型详细信息中所述。 使用该模型(以及提供商对模型及其输出的责任)受模型许可条款的约束。 Microsoft 提供并管理宿主基础结构和 API 终结点。 此 标准部署 方案中托管的模型受 Azure 数据、隐私和安全承诺的约束。 详细了解适用于 Azure AI Foundry 的 Azure 合规性产品/服务。
Microsoft作为标准部署模型的数据处理者,负责处理发送到模型的提示以及模型生成的输出。 Microsoft 不会与模型提供商共享这些提示和输出。 此外,Microsoft 不会使用这些提示和输出来训练或改进 Microsoft 模型、模型提供商的模型或任何第三方模型。
模型是无状态的,并且它们不存储任何提示或输出。 如果启用了内容筛选,Azure AI 内容安全服务会实时提示和输出某些类别有害内容。 详细了解 Azure AI 内容安全如何处理数据。
提示和输出在部署期间指定的地理位置内进行处理,但出于操作目的,它们可能会在该地理位置的不同区域之间进行处理。 操作目的包括性能和容量管理。
注释
如标准部署过程中所述,Microsoft可能会与模型发布者共享客户联系信息和交易详细信息(包括与产品/服务关联的使用量),以便发布者可以与客户联系有关模型的信息。 在访问合作伙伴中心 Microsoft 商业市场的见解中详细了解为模型发布者提供的信息。
微调一个模型进行标准部署
如果可用于标准部署的模型支持微调,则可以将数据上传到 数据存储 (或指定已包含的数据)以微调模型。 然后,可以为微调的模型创建标准部署。 经过微调的模型不可下载,而是:
- 仅供你使用。
- 可以使用双重静态加密:默认的 Microsoft AES-256 加密和可选的客户管理的密钥。
- 可以随时将其删除。
上传进行微调的训练数据不会用于训练、重新训练或改进任何 Microsoft 模型或非 Microsoft 模型,除非你在服务中指明了这些活动。
已下载模型的数据处理
如果从模型目录下载模型,请选择该模型的部署位置。 使用该模型时,你需要对数据的处理方式负责。