Batch プールで RDMA または GPU インスタンスを使用する

特定の Batch ジョブを実行するために、大規模な計算用に設計された Azure VM サイズを利用できます。 次に例を示します。

• マルチインスタンスの MPI ワークロードを実行するには、リモート ダイレクト メモリ アクセス (RDMA) 用のネットワーク インターフェイスを備えた HB、HC、NC、ND シリーズなどのサイズを選択します。 これらのサイズでは、InfiniBand ネットワークに接続してノード間通信を行うため、MPI アプリケーションを高速化できます。

• CUDA アプリケーションの場合は、NVIDIA Tesla グラフィックス処理装置 (GPU) カードを備えた N シリーズのサイズを選択します。

この記事では、Batch プールで Azure の特殊なサイズを使用するためのガイダンスと例を示します。 仕様と背景については、以下をご覧ください。

• ハイ パフォーマンス コンピューティング VM のサイズ (Linux、Windows)

• GPU 対応 VM サイズ (Linux、Windows)

依存関係

Batch のコンピューティング集中型サイズの RDMA または GPU の機能は、特定のオペレーティング システムでのみサポートされます。 これらの VM サイズでサポートされるオペレーティング システムには、仮想マシンの作成に使用できるオペレーティング システムのサブセットのみが含まれます。 Batch プールの作成方法によっては、追加のドライバーや他のソフトウェアをノードにインストールまたは構成する必要があります。 以下の表に、これらの依存関係を示します。 詳細については、リンク先の記事をご覧ください。 Batch プールの構成オプションについては、この記事で後述します。

Linux プール - 仮想マシン構成

^*RDMA 対応 N シリーズのサイズには NVIDIA Tesla GPU も含まれます

Windows プール - 仮想マシン構成

^*RDMA 対応 N シリーズのサイズには NVIDIA Tesla GPU も含まれます

Windows プール - クラウド サービス構成

プール構成オプション

Batch プール用の特殊な VM サイズを構成するために、必要なソフトウェアやドライバーをインストールするためのいくつかのオプションがあります。

• 仮想マシン構成のプールの場合、ドライバーとソフトウェアがプレインストールされている構成済みの Azure Marketplace VM イメージを選択します。 例 :

  • Data Science Virtual Machine for Linux または Windows - NVIDIA CUDA ドライバーが含まれています

  • GPU および RDMA ドライバーも含まれている Batch コンテナー ワークロードの Linux イメージ:

  • Azure Batch コンテナー プール用の Ubuntu Server (GPU および RDMA ドライバー付き)

• インストールされているドライバーやソフトウェアの設定、またはその VM サイズに必要なその他の設定を使用して、カスタムの Windows または Linux VM イメージを作成します。

• VM 拡張機能を使用して GPU および RDMA ドライバーをインストールします。

• ZIP 形式のドライバーまたはアプリケーション インストーラから Batch アプリケーション パッケージを作成します。 次に、このパッケージをプール ノードにデプロイし、各ノードの作成時に 1 回インストールするように Batch を構成します。 たとえば、アプリケーション パッケージがインストーラーの場合は、プールのすべてのノードにアプリケーションをサイレント インストールする開始タスク コマンド ラインを作成します。 ワークロードが特定のドライバー バージョンに依存する場合は、アプリケーション パッケージとプールの開始タスクの使用を検討してください。

  Note

  開始タスクは管理者特権で実行する必要があり、成功するまで待機する必要があります。 実行時間の長いタスクは、Batch プールをプロビジョニングする時間が長くなります。

例: Windows NC VM プールの NVIDIA GPU ドライバー

Windows NC ノードのプールで CUDA アプリケーションを実行するには、NVIDIA GPU ドライバーをインストールする必要があります。 次の手順の例では、アプリケーション パッケージを使用して NVIDIA GPU ドライバーをインストールします。 ワークロードが特定の GPU ドライバー バージョンに依存する場合は、このオプションを選択できます。

1. NVIDIA の Web サイトから Windows Server 2016 上の GPU ドライバーのセットアップ パッケージをダウンロードします (たとえば、バージョン 411.82)。 GPUDriverSetup.exe のような短い名前を使用して、ファイルをローカルで保存します。
2. パッケージの zip ファイルを作成します。
3. パッケージを Batch アカウントにアップロードします。 手順については、アプリケーション パッケージのガイダンスを参照してください。 アプリケーション ID (GPUDriver など) とバージョン (411.82 など) を指定します。
4. Batch API または Azure portal で、必要な数のノードとスケールを指定して、仮想マシン構成でプールを作成します。 次の表に、開始タスクを使用して NVIDIA GPU ドライバーを自動的にインストールする際の設定の例を示します。

例: Linux NC VM プールの NVIDIA GPU ドライバー

Linux NC ノードのプールで CUDA アプリケーションを実行するには、CUDA Toolkit から必要な NVIDIA Tesla GPU ドライバーをインストールする必要があります。 次の手順の例では、GPU ドライバーがインストールされたカスタム Ubuntu 22.04 LTS イメージを作成してデプロイします。

1. Ubuntu 22.04 LTS を実行する Azure NC シリーズ VM をデプロイします。 たとえば、米国中南部リージョンに VM を作成します。
2. Azure portal、Azure サブスクリプションに接続するクライアント コンピューター、または Azure Cloud Shell を使用して、NVIDIA GPU ドライバー拡張機能を VM に追加します。 または、手順に従って VM に接続し、手動で CUDA ドライバーをインストールします。
3. 次の手順に従って、Batch 用の Azure Compute Gallery イメージを作成します。
4. NC VM をサポートするリージョンに Batch アカウントを作成します。
5. Batch API または Azure Portal で、カスタム イメージを使い、必要な数のノードとスケールを指定して、プールを作成します。 次の表に、イメージのプール設定の例を示します。

例: Windows H16r VM プールの Microsoft MPI

Azure H16r VM ノードのプールで Windows MPI アプリケーションを実行するには、HpcVmDrivers 拡張機能を構成し、Microsoft MPI をインストールする必要があります。 必要なドライバーとソフトウェアがインストールされたカスタムの Windows Server 2016 イメージをデプロイする手順の例を次に示します。

1. Windows Server 2016 を実行する Azure H16r VM をデプロイします。 たとえば、米国西部リージョンに VM を作成します。
2. Azure サブスクリプションに接続するクライアント コンピューターから Azure PowerShell コマンドを実行して、または Azure Cloud Shell を使用して、HpcVmDrivers 拡張機能を VM に追加します。
3. VM へのリモート デスクトップ接続を作成します。
4. 最新バージョンの Microsoft MPI のセットアップ パッケージ (MSMpiSetup.exe) をダウンロードし、Microsoft MPI をインストールします。
5. 次の手順に従って、Batch 用の Azure Compute Gallery イメージを作成します。
6. Batch API または Azure portal で、Azure Compute Gallery を使い、必要な数のノードとスケールを指定して、プールを作成します。 次の表に、イメージのプール設定の例を示します。

次のステップ

• Azure Batch プールで MPI ジョブを実行する方法については、Windows または Linux の例を参照してください。