了解适用于 U-SQL 开发人员的 Apache Spark

重要

Azure Data Lake Analytics 于 2024 年 2 月 29 日停用。 了解更多信息,请查看此公告

对于数据分析,你的组织可以使用 Azure Synapse AnalyticsMicrosoft Fabric

Microsoft支持多个分析服务,例如 Azure DatabricksAzure HDInsight 和 Azure Data Lake Analytics。 我们从开发人员处获悉,他们在构建分析管道时,对开源解决方案有明确的偏好。 为了帮助 U-SQL 开发人员了解 Apache Spark,以及如何将 U-SQL 脚本转换为 Apache Spark,我们创建了本指南。

它包括可以采取的步骤和几种替代方法。

将 U-SQL 转换为 Apache Spark 的步骤

  1. 改造您的作业编排工作流。

    如果使用 Azure 数据工厂 来协调 Azure Data Lake Analytics 脚本,则必须对其进行调整以协调新的 Spark 程序。

  2. 了解 U-SQL 和 Spark 如何管理数据之间的差异。

    如果要将数据从 Azure Data Lake Storage Gen1 移动到 Azure Data Lake Storage Gen2,则必须复制文件数据和目录维护的数据。 Azure Data Lake Analytics 仅支持 Azure Data Lake Storage Gen1。 有关详细信息,请参阅 了解 Spark 数据格式

  3. 将 U-SQL 脚本转换为 Spark。

    在转换 U-SQL 脚本之前,必须选择分析服务。 一些可用的计算服务包括:

    • Azure 数据工厂数据流 映射数据流是直观设计的数据转换,允许数据工程师在不编写代码的情况下开发图形数据转换逻辑。 虽然不适合执行复杂的用户代码,但它们可以轻松表示传统的类似 SQL 的数据流转换
    • Azure HDInsight Hive HDInsight 上的 Apache Hive 适用于进行提取、转换和加载(ETL)操作。 这意味着你要将 U-SQL 脚本转换为 Apache Hive。
    • Apache Spark 引擎(例如 Azure HDInsight SparkAzure Databricks ),这意味着你要将 U-SQL 脚本转换为 Spark。 有关详细信息,请参阅 了解 Spark 数据格式

谨慎

Azure DatabricksAzure HDInsight Spark 都是群集服务,而不是 Azure Data Lake Analytics 等无服务器作业。 必须考虑如何预配群集以获取适当的成本/性能比率,以及如何管理其生存期,以最大程度地降低成本。 这些服务在 .NET 中编写的用户代码具有不同的性能特征,因此必须使用受支持的语言编写包装器或重写代码。 有关详细信息,请参阅 了解 Spark 数据格式了解适用于 U-SQL 开发人员的 Apache Spark 代码概念适用于 Apache Spark 的 .NET

后续步骤