この記事では、Azure Data Explorer Python ライブラリを使用してデータを取り込みます。 Azure Data Explorer は、ログと利用統計情報データのための高速で拡張性に優れたデータ探索サービスです。 Azure Data Explorer には、Python 用の 2 つのクライアント ライブラリ ( 取り込みライブラリ と データ ライブラリ) が用意されています。 これらのライブラリを使用すると、クラスターにデータを取り込んだり読み込んだり、コードからデータを照会したりすることができます。
まず、クラスター内にテーブルとデータ マッピングを作成します。 次に、クラスターへのインジェストをキューに入れ、結果を検証します。
[前提条件]
- Microsoft アカウントまたは Microsoft Entra ユーザー ID。 Azure サブスクリプションは不要です。
- Azure Data Explorer クラスターとデータベース。 クラスターとデータベースを作成します。
- Python 3.4 以上。
データのインストールとライブラリの取り込み
azure-kusto-data と azure-kusto-ingest をインストールします。
pip install azure-kusto-data
pip install azure-kusto-ingest
import ステートメントと定数を追加する
azure-kusto-data からクラスをインポートします。
from azure.kusto.data import KustoClient, KustoConnectionStringBuilder
from azure.kusto.data.exceptions import KustoServiceError
from azure.kusto.data.helpers import dataframe_from_result_table
アプリケーションを認証するために、Azure Data Explorer は Microsoft Entra テナント ID を使用します。 テナント ID を見つけるには、次の URL を使用して、 YourDomain のドメインを置き換えます。
https://login.microsoftonline.com/<YourDomain>/.well-known/openid-configuration/
たとえば、ドメインが contoso.com されている場合、URL は https://login.microsoftonline.com/contoso.com/.well-known/openid-configuration/ です。 結果を表示するには、この URL をクリックします。最初の行は次のとおりです。
"authorization_endpoint":"https://login.microsoftonline.com/6babcaad-604b-40ac-a9d7-9fd97c0b779f/oauth2/authorize"
この場合、テナント ID は aaaabbbb-0000-cccc-1111-dddd2222eeee。 このコードを実行する前に、AAD_TENANT_ID、KUSTO_URI、KUSTO_INGEST_URI、およびKUSTO_DATABASEの値を設定します。
AAD_TENANT_ID = "<TenantId>"
KUSTO_URI = "https://<ClusterName>.<Region>.kusto.windows.net/"
KUSTO_INGEST_URI = "https://ingest-<ClusterName>.<Region>.kusto.windows.net/"
KUSTO_DATABASE = "<DatabaseName>"
次に、接続文字列を構築します。 次の例では、デバイス認証を使用してクラスターにアクセスします。 マネージド ID 認証、Microsoft Entra アプリケーション証明書、Microsoft Entra アプリケーションキー、Microsoft Entraユーザーとパスワードを使用することもできます。
宛先テーブルとマッピングは、後の手順で作成します。
KCSB_INGEST = KustoConnectionStringBuilder.with_interactive_login(
KUSTO_INGEST_URI)
KCSB_DATA = KustoConnectionStringBuilder.with_interactive_login(
KUSTO_URI)
DESTINATION_TABLE = "StormEvents"
DESTINATION_TABLE_COLUMN_MAPPING = "StormEvents_CSV_Mapping"
ソース ファイル情報を設定する
追加のクラスをインポートし、データ ソース ファイルの定数を設定します。 この例では、Azure Blob Storage でホストされているサンプル ファイルを使用します。 StormEvents サンプル データセットには、国立環境情報センターの気象関連データが含まれています。
from azure.kusto.data import DataFormat
from azure.kusto.ingest import QueuedIngestClient, IngestionProperties, FileDescriptor, BlobDescriptor, DataFormat, ReportLevel, ReportMethod
CONTAINER = "samplefiles"
ACCOUNT_NAME = "kustosamples"
SAS_TOKEN = "" # If relevant add SAS token
FILE_PATH = "StormEvents.csv"
FILE_SIZE = 64158321 # in bytes
BLOB_PATH = "https://" + ACCOUNT_NAME + ".blob.core.windows.net/" + \
CONTAINER + "/" + FILE_PATH + SAS_TOKEN
クラスターにテーブルを作成する
StormEvents.csv ファイル内のデータのスキーマと一致するテーブルを作成します。 このコードを実行すると、次のようなメッセージが返されます。 サインインするには、Web ブラウザーを使用してページ https://microsoft.com/devicelogin を開き、認証するコード F3W4VWZDMを入力します。 手順に従ってサインインし、戻って次のコード ブロックを実行します。 接続を確立する後続のコード ブロックでは、もう一度サインインする必要があります。
KUSTO_CLIENT = KustoClient(KCSB_DATA)
CREATE_TABLE_COMMAND = ".create table StormEvents (StartTime: datetime, EndTime: datetime, EpisodeId: int, EventId: int, State: string, EventType: string, InjuriesDirect: int, InjuriesIndirect: int, DeathsDirect: int, DeathsIndirect: int, DamageProperty: int, DamageCrops: int, Source: string, BeginLocation: string, EndLocation: string, BeginLat: real, BeginLon: real, EndLat: real, EndLon: real, EpisodeNarrative: string, EventNarrative: string, StormSummary: dynamic)"
RESPONSE = KUSTO_CLIENT.execute_mgmt(KUSTO_DATABASE, CREATE_TABLE_COMMAND)
dataframe_from_result_table(RESPONSE.primary_results[0])
インジェスト マッピングを定義する
受信 CSV データを、テーブルの作成時に使用される列名とデータ型にマップします。 これにより、ソース データ フィールドが変換先テーブルの列にマップされます
CREATE_MAPPING_COMMAND = """.create table StormEvents ingestion csv mapping 'StormEvents_CSV_Mapping' '[{"Name":"StartTime","datatype":"datetime","Ordinal":0}, {"Name":"EndTime","datatype":"datetime","Ordinal":1},{"Name":"EpisodeId","datatype":"int","Ordinal":2},{"Name":"EventId","datatype":"int","Ordinal":3},{"Name":"State","datatype":"string","Ordinal":4},{"Name":"EventType","datatype":"string","Ordinal":5},{"Name":"InjuriesDirect","datatype":"int","Ordinal":6},{"Name":"InjuriesIndirect","datatype":"int","Ordinal":7},{"Name":"DeathsDirect","datatype":"int","Ordinal":8},{"Name":"DeathsIndirect","datatype":"int","Ordinal":9},{"Name":"DamageProperty","datatype":"int","Ordinal":10},{"Name":"DamageCrops","datatype":"int","Ordinal":11},{"Name":"Source","datatype":"string","Ordinal":12},{"Name":"BeginLocation","datatype":"string","Ordinal":13},{"Name":"EndLocation","datatype":"string","Ordinal":14},{"Name":"BeginLat","datatype":"real","Ordinal":16},{"Name":"BeginLon","datatype":"real","Ordinal":17},{"Name":"EndLat","datatype":"real","Ordinal":18},{"Name":"EndLon","datatype":"real","Ordinal":19},{"Name":"EpisodeNarrative","datatype":"string","Ordinal":20},{"Name":"EventNarrative","datatype":"string","Ordinal":21},{"Name":"StormSummary","datatype":"dynamic","Ordinal":22}]'"""
RESPONSE = KUSTO_CLIENT.execute_mgmt(KUSTO_DATABASE, CREATE_MAPPING_COMMAND)
dataframe_from_result_table(RESPONSE.primary_results[0])
インジェストのためにメッセージをキューに入れます
メッセージをキューに入れ、BLOB ストレージからデータをプルし、そのデータを Azure Data Explorer に取り込みます。
INGESTION_CLIENT = QueuedIngestClient(KCSB_INGEST)
# All ingestion properties are documented here: https://learn.microsoft.com/azure/kusto/management/data-ingest#ingestion-properties
INGESTION_PROPERTIES = IngestionProperties(database=KUSTO_DATABASE, table=DESTINATION_TABLE, data_format=DataFormat.CSV,
ingestion_mapping_reference=DESTINATION_TABLE_COLUMN_MAPPING, additional_properties={'ignoreFirstRecord': 'true'})
# FILE_SIZE is the raw size of the data in bytes
BLOB_DESCRIPTOR = BlobDescriptor(BLOB_PATH, FILE_SIZE)
INGESTION_CLIENT.ingest_from_blob(
BLOB_DESCRIPTOR, ingestion_properties=INGESTION_PROPERTIES)
print('Done queuing up ingestion with Azure Data Explorer')
テーブルに取り込まれたデータのクエリ
キューに登録されたインジェストが取り込みをスケジュールし、Azure Data Explorer にデータを読み込むまで 5 ~ 10 分待ちます。 次のコードを実行して、StormEvents テーブル内のレコードの数を取得します。
QUERY = "StormEvents | count"
RESPONSE = KUSTO_CLIENT.execute_query(KUSTO_DATABASE, QUERY)
dataframe_from_result_table(RESPONSE.primary_results[0])
トラブルシューティング クエリを実行する
https://dataexplorer.azure.comにサインインし、クラスターに接続します。 データベースで次のコマンドを実行して、過去 4 時間にインジェストエラーが発生したかどうかを確認します。 実行する前に、データベース名を置き換えます。
.show ingestion failures
| where FailedOn > ago(4h) and Database == "<DatabaseName>"
次のコマンドを実行して、過去 4 時間のすべてのインジェスト操作の状態を表示します。 実行する前に、データベース名を置き換えます。
.show operations
| where StartedOn > ago(4h) and Database == "<DatabaseName>" and Table == "StormEvents" and Operation == "DataIngestPull"
| summarize arg_max(LastUpdatedOn, *) by OperationId
リソースをクリーンアップする
他の記事に従う予定がある場合は、作成したリソースを保持してください。 そうでない場合は、データベースで次のコマンドを実行して StormEvents テーブルをクリーンアップします。
.drop table StormEvents