在 AI 操场中制作调用工具的代理原型

本文介绍如何在 AI Playground上进行工具调用 AI 代理 的原型设计。

使用 AI Playground 快速创建工具调用代理并实时与其聊天,以查看其行为方式。 然后,导出代理以在 Python 代码中部署或进一步开发。

若要使用代码优先的方法来创作代理,请参阅 章节中的“在代码中创作 AI 代理”

要求

工作区必须具有以下功能才能使用 AI Playground 对代理进行原型处理:

在 AI 操场中制作调用工具的代理原型

要开发一个工具调用代理的原型,请执行以下操作:

  1. 在沙盒中,选择带有已启用工具标签的模型。

    选择调用工具的 LLM

  2. 单击 “工具 > + 添加工具 ”,然后选择要为代理提供的工具。 最多可以选择 20 个工具。 工具选项包括:

    • 托管函数:为代理选择要使用的 Unity 目录函数
    • 函数定义:为代理定义要调用的自定义函数。
    • 矢量搜索:为代理指定 矢量搜索索引 ,以用作帮助响应查询的工具。 如果代理使用矢量搜索索引,则其响应将引用所使用的源。

    对于本指南,请选择内置的 Unity 目录函数,system.ai.python_exec。 此函数使代理能够运行任意 Python 代码。 若要了解如何创建代理工具,请参阅 AI 代理工具

    选择托管函数工具

    还可以选择矢量搜索索引,该索引允许代理查询索引以帮助响应查询。

    选择矢量搜索工具

  3. 通过聊天测试当前的 LLM、工具和系统提示组合,并尝试不同的变化。 LLM 选择用于生成响应的适当工具。

    使用托管函数工具制作 LLM 原型

    当询问与矢量搜索索引中的信息相关的问题时,LLM 会查询它所需的信息,并引用其响应中使用的任何源文档。

    使用矢量搜索工具制作 LLM 原型

导出和部署 AI Playground 代理

在 AI Playground 中制作 AI 代理原型后,将其导出到 Python 笔记本,将其部署到模型服务终结点。

  1. 单击 导出 以生成定义和部署 AI 代理的笔记本。

    导出代理代码后,具有驱动程序笔记本的文件夹将保存到工作区。 此驱动程序定义了一个调用 LangGraph ChatAgent的工具,在本地测试代理,并使用 基于代码的日志记录,注册并使用 Mosaic AI Agent Framework 部署 AI 代理。

  2. 解决笔记本中的所有待办事项

注意

导出的代码的行为可能与 AI Playground 会话不同。 Databricks 建议运行导出的笔记本,以进一步迭代和调试,评估代理质量,然后部署代理以与他人共享。

在代码中开发代理

使用导出的笔记本以编程方式测试和迭代。 使用笔记本执行添加工具或调整代理参数等作。

以编程方式进行开发时,代理必须满足特定要求才能与其他 Databricks 代理功能兼容。 若要了解如何使用代码优先方法编写代理,请参阅 在代码中创作 AI 代理

后续步骤