重要
この記事で "(プレビュー)" と付記されている項目は、現在、パブリック プレビュー段階です。 このプレビューはサービス レベル アグリーメントなしで提供されており、運用環境ではお勧めしません。 特定の機能はサポート対象ではなく、機能が制限されることがあります。 詳細については、「 Microsoft Azure プレビューの追加使用条件」を参照してください。
自然言語処理に大規模言語モデル (LLM) を使用するには、プロンプト フロー LLM ツールを使用します。
注
さまざまな自然言語処理タスクのために、テキストを密ベクトル表現に変換するための埋め込みについては、「埋め込みツール」を参照してください。
[前提条件]
プロンプト ツール ドキュメントの説明に従って、プロンプトを準備します。 LLM ツールとプロンプト ツールはどちらも Jinja テンプレートをサポートしています。 詳細とベスト プラクティスについては、「プロンプト エンジニアリングの手法」を参照してください。
LLM ツールを使用してビルドする
Azure AI Foundry でフローを作成するか、開きます。 詳細については、「フローの作成」を参照してください。
[+ LLM] を選択し、LLM ツールをフローに追加します。
プロビジョニングされたリソースの 1 つへの接続を選択します。 たとえば、Default_AzureOpenAI を選択します。
[Api] ドロップダウン リストから、[チャット] または [入力候補] を選択します。
テキスト入力候補の表で説明されている LLM ツール入力パラメータの値を入力します。 [チャット] API を選択した場合、「チャット入力」表を参照してください。 [入力候補] API を選択した場合、「テキスト入力候補入力」表を参照してください。 プロンプト入力を準備する方法については、「前提条件」を参照してください。
必要に応じて、フローにさらにツールを追加します。 または、[実行] を選択してフローを実行します。
出力については、出力の表で説明します。
入力
次の入力パラメータを使用できます。
テキスト入力候補入力
| 名前 | タイプ | 説明 | 必須 |
|---|---|---|---|
| プロンプト | ひも | 言語モデルのテキスト プロンプト。 | イエス |
| model、deployment_name | ひも | 使う言語モデル。 | イエス |
| マックス_トークン | 整数 (integer) | 完了時に生成するトークンの最大数。 既定値は 16 です。 | いいえ |
| 温度 | フロート | 生成されるテキストのランダム性。 既定値の は 1 です。 | いいえ |
| 止まれ | リスト | 生成されるテキストの停止シーケンス。 既定値は null です。 | いいえ |
| 接尾辞 | ひも | 入力候補の末尾に追加されるテキスト。 | いいえ |
| top_p | フロート | 生成されたトークンから一番上の選択肢を使う確率。 既定値の は 1 です。 | いいえ |
| logprobs | 整数 (integer) | 生成するログ確率の数。 既定値は null です。 | いいえ |
| エコー | ブーリアン | 応答でプロンプトをエコー バックするかどうかを示す値。 既定値は false です。 | いいえ |
| presence_penalty | フロート | フレーズの繰り返しに関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| frequency_penalty | フロート | まれなフレーズの生成に関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| ベスト・オブ | 整数 (integer) | 生成する最適な入力候補の数。 既定値の は 1 です。 | いいえ |
| ロジットバイアス | ディクショナリ | 言語モデルのロジットの偏り。 既定値は空の辞書です。 | いいえ |
チャット入力
| 名前 | タイプ | 説明 | 必須 |
|---|---|---|---|
| プロンプト | ひも | 言語モデルが応答するテキスト プロンプト。 | イエス |
| model、deployment_name | ひも | 使う言語モデル。 | イエス |
| マックス_トークン | 整数 (integer) | 応答で生成するトークンの最大数。 既定は inf です。 | いいえ |
| 温度 | フロート | 生成されるテキストのランダム性。 既定値の は 1 です。 | いいえ |
| 止まれ | リスト | 生成されるテキストの停止シーケンス。 既定値は null です。 | いいえ |
| top_p | フロート | 生成されたトークンから一番上の選択肢を使う確率。 既定値の は 1 です。 | いいえ |
| presence_penalty | フロート | フレーズの繰り返しに関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| frequency_penalty | フロート | まれなフレーズの生成に関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| ロジットバイアス | ディクショナリ | 言語モデルのロジットの偏り。 既定値は空の辞書です。 | いいえ |
出力
出力は、入力に選択した API によって異なります。
| API（アプリケーション・プログラミング・インターフェース） | 戻り値の型 | 説明 |
|---|---|---|
| 完了 | ひも | 1 つの予測される入力候補のテキスト。 |
| チャット | ひも | 会話の 1 つの応答のテキスト。 |