Databricks Runtime 15.3 (EoS)

注释

对此 Databricks Runtime 版本的支持已结束。 有关终止支持日期,请参阅终止支持历史记录。 有关所有受支持的 Databricks Runtime 版本,请参阅 Databricks Runtime 发行说明版本和兼容性

以下发行说明提供了由 Apache Spark 3.5.0 提供支持的 Databricks Runtime 15.3 的相关信息。

Databricks 于 2024 年 6 月发布此版本。

小窍门

若要查看已终止支持 (EoS) 的 Databricks Runtime 版本的发行说明,请参阅终止支持 Databricks Runtime 发行说明。 EoS Databricks Runtime 版本已停用,可能不会更新。

新功能和改进

PySpark DataSources 现在支持流读取和写入

PySpark DataSources 允许从自定义数据源读取数据以及将数据写入自定义数据接收器,现在支持流读取和写入。 请参阅 PySpark 自定义数据源

使用删除功能禁用列映射

现在可以使用 DROP FEATURE 禁用 Delta 表上的列映射并降级表协议。 请参阅禁用列映射

公共预览版中的变体类型语法和函数

在 Spark DataFrames 和 SQL 中,Apache Spark 现在原生支持将半结构化数据作为 VARIANT 类型使用。 请参阅查询变体数据

公共预览版中对 Delta Lake 的变体类型支持

现在可以使用 VARIANT 在 Delta Lake 支持的表中存储半结构化数据。 请参阅 Delta Lake 中的变体支持

支持视图中不同的架构演变模式

CREATE VIEWALTER VIEW 现在允许你设置一个架构绑定模式,从而改进视图处理基础对象中的架构变更的方式。 此功能使视图能够容忍或适应基础对象中的架构更改。 它解决了查询架构中因对对象定义所做的修改而引起的更改。

在 Spark Connect Scala 客户端中新增了对 observe() 方法的支持

Spark Connect Scala 客户端现在支持 Dataset.observe() 方法。 通过对这些方法的支持,你可以使用 Datasetds.observe("name", metrics...) 方法定义在 ds.observe(observationObject, metrics...) 对象上观察的指标。

改进了 Auto Loader 的数据流重启延迟

此版本包含一项改进 Auto Loader 的流重启延迟的更改。 此改进是通过使 RocksDB 状态存储的状态加载变为异步来实现的。 通过此更改,你应会看到具有较大状态的流的开始时间有所改进,例如,具有大量已引入文件的流。

pyarrow.Table 的形式返回 DataFrame

为了支持将 DataFrame 直接写入 Apache Arrow pyarrow.Table 对象,此版本包括 DataFrame.toArrow() 函数。 若要了解有关使用 PySpark 中的 Arrow 的详细信息,请参阅 PySpark 中的 Apache Arrow

某些窗口函数的性能改进

此版本包括改进某些 Spark 窗口函数的性能的更改,特别是不包含 ORDER BY 子句或 window_frame 参数的函数。 在这些情况下,系统可以重写查询,以使用聚合函数运行查询。 此更改允许查询使用部分聚合更快地运行,并避免运行窗口函数的开销。 Spark 配置参数 spark.databricks.optimizer.replaceWindowsWithAggregates.enabled 控制此优化,默认情况下设置为 true。 若要关闭此优化,请将 spark.databricks.optimizer.replaceWindowsWithAggregates.enabled 设置为 false

添加了对 try_mod 函数的支持

此版本添加了对 PySpark try_mod() 函数的支持。 此函数支持在符合 ANSI SQL 的情况下,通过除两个数值计算整数余数。 如果除数参数为 0,则 try_mod() 函数返回 null,而不是引发异常。 可使用 try_mod() 函数,而不是 mod%(如果除数参数为 0 且启用了 ANSI SQL,它们会引发异常)。

list_secrets() 中的可选范围参数支持

使用此版本可以将 list_secrets() 表函数的结果限制在特定范围内。

故障修复

Spark UI 中的 WriteIntoDeltaCommand 指标现在会正确显示

此版本包含一项对 Execute WriteIntoDeltaCommand 节点的 Spark UI 的 SQL 选项卡中显示的指标的修复。 以前,此节点显示的指标全部为零。

Pandas API 中的 groupby() 函数忽略了 as_index=False 参数

此版本包含了对 Spark 上的 Pandas API 的 groupby() 函数问题的修复。 在此修补程序之前,使用 groupby() 进行聚合时,如果重新标记聚合列并使用 as_index=False 参数,则生成的 DataFrame 不会包含分组键。

多个窗口函数之间相互引用输出时的解析错误

此版本修复了 Spark 查询具有多个连续窗口函数时(此情况下,窗口函数引用来自其他窗口函数的输出)可能出现的问题。 在极少数情况下,系统可能会删除其中一个引用,从而导致评估查询时出错。 此修补程序会投影这些引用,以确保查询评估。 此更改由 Spark 配置参数 spark.databricks.optimizer.collapseWindows.projectReferences(默认设置为 true)控制。 若要关闭此更改,请将 spark.databricks.optimizer.collapseWindows.projectReferences 设置为 false

图书馆升级

  • 升级后的 Python 库:
    • filelock 从 3.13.1 到 3.13.4
  • 升级后的 R 库:
  • 升级后的 Java 库:
    • org.rocksdb.rocksdbjni 已从 8.3.2 升级到 8.11.4

Apache Spark

Databricks Runtime 15.3 包含 Apache Spark 3.5.0。 此版本包括 Databricks Runtime 15.2 (EoS)中包含的所有 Spark 修复和改进,以及对 Spark 进行了以下其他 bug 修复和改进:

  • [SPARK-48211] [ DBRRM-1041][15.x][15.3] 回滚“[SC-165552][sql] DB2:将 SMALLINT 读取为 Sho...”
  • [SPARK-47904] [DBRRM-1040][behave-33][SC-163409] 还原 SPARK-47904:使用 enableStableIdentifiersForUnionType 时,在 Avro 架构中保留大小写
  • [SPARK-48288] [SC-166141] 为连接器的转换表达式添加源数据类型
  • [SPARK-48175] [SC-166341][sql][PYTHON] 在元数据中存储排序规则信息,而不是在 SER/DE 中的类型中存储。
  • [SPARK-48172] [ SC-166078][sql] 修复 JDBCDialects 中的转义问题
  • [SPARK-48186] [ SC-165544][sql] 添加对 AbstractMapType 的支持
  • [SPARK-48031] [SC-166523] 祖父对 BINDING 的旧视图SCHEMA
  • [SPARK-48369] [ SC-166566][sql][PYTHON][connect] 添加函数 timestamp_add
  • [SPARK-48330] [ SC-166458][ss][PYTHON] 修复了 Python 流数据源因触发间隔过大导致的超时问题
  • [SPARK-48369] 还原“[SC-166494][sql][PYTHON][connect] 添加函数 timestamp_add
  • [SPARK-48336] [SC-166495][ps][CONNECT] 在 Spark Connect 中实现ps.sql
  • [SPARK-48369] [ SC-166494][sql][PYTHON][connect] 添加函数 timestamp_add
  • [SPARK-47354] [SC-165546][sql] 添加对变体表达式的排序规则支持
  • [SPARK-48161] [ SC-165325][sql] 修复已被还原的 PR - 为 JSON 表达式添加排序规则支持
  • [SPARK-48031] [ SC-166391] 分解 viewSchemaMode 配置,添加 SHOW CREATE TABLE 支持
  • [SPARK-48268] [ SC-166217][core] 为 SparkContext.setCheckpointDir 添加配置
  • [SPARK-48312] [ES-1076198][sql] 改进 Alias.removeNonInheritableMetadata 性能
  • [SPARK-48294] [SC-166205][sql] 处理 nestedTypeMissingElementTypeError 中的小写问题
  • [SPARK-47254] [SC-158847][sql] 将名称分配给错误类_LEGACY_ERROR_TEMP_325[1-9]
  • [SPARK-47255] [ SC-158749][sql] 将名称分配给错误类_LEGACY_ERROR_TEMP_323[6-7] 和 _LEGACY_ERROR_TEMP_324[7-9]
  • [SPARK-48310] [ SC-166239][python][CONNECT] 缓存的属性必须返回副本
  • [SPARK-48308] [ SC-166152][core] 在 FileSourceStrategy 中统一获取没有分区列的数据架构
  • [SPARK-48301] [SC-166143][sql] 重命名 CREATE_FUNC_WITH_IF_NOT_EXISTS_AND_REPLACECREATE_ROUTINE_WITH_IF_NOT_EXISTS_AND_REPLACE
  • [SPARK-48287] [ SC-166139][ps][CONNECT] 应用内置 timestamp_diff 方法
  • [SPARK-47607] [SC-166129] 添加结构化记录框架的文档
  • [SPARK-48297] [ SC-166136][sql] 修复具有 char/varchar 的回归 TRANSFORM 子句
  • [SPARK-47045] [SC-156808][sql] 将IllegalArgumentException替换为SparkIllegalArgumentExceptionsql/api
  • [SPARK-46991] [ SC-156399][sql] 在catalyst中将IllegalArgumentException替换为SparkIllegalArgumentException
  • [SPARK-48031] [SC-165805][sql] 支持视图架构演变
  • [SPARK-48276] [SC-166116][python][CONNECT] 添加缺少的 SQLExpression 方法
  • [SPARK-48278] [ SC-166071][python][CONNECT] 优化字符串表示形式 Cast
  • [SPARK-48272] [SC-166069][sql][PYTHON][connect] 添加函数 timestamp_diff
  • [SPARK-47798] [SC-162492][sql] 增强关于读取失败的小数值的错误信息
  • [SPARK-47158] [ SC-158078][sql] 分配正确的名称和 sqlState_LEGACY_ERROR_TEMP_(2134|2231)
  • [SPARK-48218] [SC-166082][core] TransportClientFactory.createClient 可能会出现NPE,从而导致 FetchFailedException
  • [SPARK-48277] [SC-166066] 改进 ErrorClassesJsonReader.getErrorMessage 的错误消息
  • [SPARK-47545] [SC-165444][connect] Scala 客户端的数据集observe 的支持
  • [SPARK-48954] [SC-171672][sql] 添加 try_mod 函数
  • [SPARK-43258] [SC-158151][sql] 将名称分配给错误_LEGACY_ERROR_TEMP_202[3,5]
  • [SPARK-48267] [ SC-165903][ss] 回归 e2e 测试与 SPARK-47305
  • [SPARK-48263] [SC-165925] 对非 UTF8_BINARY 字符串的排序规则函数支持
  • [SPARK-48260] [ SC-165883][sql] 在 ParquetIOSuite 的一个测试中禁用输出提交器协调
  • [SPARK-47834] [SC-165645][sql][CONNECT] 在SQLImplicits中用@deprecated标记已弃用的函数
  • [SPARK-48011] [ SC-164061][core] 将 LogKey 名称存储为值以避免生成新的字符串实例
  • [SPARK-48074] [SC-164647][core] 提高 JSON 日志记录的可读性
  • [SPARK-44953] [SC-165866][core] 当启用洗牌跟踪时,与其他 DA 支持的机制一起启用时,记录一条警告信息。
  • [SPARK-48266] [ SC-165897][connect] 将包对象 org.apache.spark.sql.connect.dsl 移动到测试目录
  • [SPARK-47847] [SC-165651][core] 弃用 spark.network.remoteReadNioBufferConversion
  • [SPARK-48171] [ SC-165178][core] 清理已弃用的构造函数的使用 o.rocksdb.Logger
  • [SPARK-48235] [ SC-165669][sql] 直接传递联接而不是所有参数以获取BroadcastBuildSide 和 getShuffleHashJoinBuildSide
  • [SPARK-48224] [ SC-165648][sql] 禁止映射键为变体类型
  • [SPARK-48248] [ SC-165791][python] 修复嵌套数组以尊重 inferArrayTypeFromFirstElement 的旧版配置
  • [SPARK-47409] [ SC-165568][sql] 添加对 StringTrim 类型的函数/表达式排序规则的支持(对于 UTF8_BINARY 和 LCASE)
  • [SPARK-48143] [ ES-1095638][sql] 对 UnivocityParser 和 FailureSafeParser 之间的控制流使用轻型异常
  • [SPARK-48146] [SC-165668][sql] 修复在 With 表达式的子断言中使用的聚合函数
  • [SPARK-48161] 还原“[SC-165325][sql] 为 JSON 表达式添加排序规则支持”
  • [SPARK-47963] [CORE] 使外部 Spark 生态系统可以使用结构化日志记录机制
  • [SPARK-48180] [ SC-165632][sql] 改进在 UDTF 调用中,当 TABLE 参数忘记在多个 PARTITION/ORDER BY 表达式周围加括号时的错误提示。
  • [SPARK-48002] [ SC-164132][python][SS] 在 PySpark 的 StreamingQueryListener 中增加测试以观察指标
  • [SPARK-47421] [SC-165548][sql] 添加对 URL 表达式的排序规则支持
  • [SPARK-48161] [SC-165325][sql] 添加对 JSON 表达式的排序规则支持
  • [SPARK-47359] [ SC-164328][sql] 支持 TRANSLATE 函数来处理已整理字符串
  • [SPARK-47365] [ SC-165643][python] 将 toArrow() DataFrame 方法添加到 PySpark
  • [SPARK-48228] [ SC-165649][python][CONNECT] 在 ApplyInXXX 中实现缺少的函数验证
  • [SPARK-47986] [ SC-165549][connect][PYTHON] 在服务器关闭默认会话时无法创建新会话
  • [SPARK-47963] 还原“[CORE] 使外部 Spark 生态系统可以使用结构化日志记录机制”
  • [SPARK-47963] [CORE] 使外部 Spark 生态系统可以使用结构化日志记录机制
  • [SPARK-48208] [ SC-165547][ss] 如果启用了有限内存使用量,则跳过从 RocksDB 提供内存使用情况指标
  • [SPARK-47566] [ SC-164314][sql] 支持 SubstringIndex 函数来处理已排序字符串
  • [SPARK-47589] [ SC-162127][sql]Hive-Thriftserver:将含变量的 logError 迁移到结构化日志框架
  • [SPARK-48205] [ SC-165501][python] 删除 Python 数据源的 private[sql] 修饰符
  • [SPARK-48173] [ SC-165181][sql] CheckAnalysis 应看到整个查询计划
  • [SPARK-48197] [ SC-165520][sql] 避免无效 lambda 函数的断言错误
  • [SPARK-47318] [ SC-162573][core] 将 HKDF 轮次添加到 AuthEngine 密钥派生中,以便遵循标准密钥交换(KEX)做法。
  • [SPARK-48184] [SC-165335][python][CONNECT] 始终在客户端设置Dataframe.sample的种子
  • [SPARK-48128] [ SC-165004][sql] 对于 BitwiseCount / bit_count 表达式,修复布尔类型输入的代码生成语法错误
  • [SPARK-48147] [ SC-165144][ss][CONNECT] 删除本地 Spark 会话时删除客户端侦听器
  • [SPARK-48045] [SC-165299][python] Pandas API 中的 groupby 在使用多重聚合重命名时忽略 as_index=False
  • [SPARK-48191] [ SC-165323][sql] 支持用于字符串编码和解码的 UTF-32
  • [SPARK-45352] [ SC-137627][sql] 消除可折叠窗口分区
  • [SPARK-47297] [ SC-165179][sql] 添加对格式表达式的排序规则支持
  • [SPARK-47267] [SC-165170][sql] 添加对哈希表达式的字符排序规则支持
  • [SPARK-47965] [SC-163822][core] 避免在 TypedConfigBuilder 和 OptionalConfigEntry 中使用 orNull
  • [SPARK-48166] [SQL] 避免在 VariantExpressionEvalUtils 中使用 BadRecordException 作为面向用户的错误
  • [SPARK-48105] [ SC-165132][ss] 修复状态存储卸载和快照之间的竞争状况
  • [SPARK-47922] [ SC-163997][sql] 实现try_parse_json表达式
  • [SPARK-47719] [SC-161909][sql] 更改 spark.sql.legacy.timeParse...
  • [SPARK-48035] [ SC-165136][sql] 修复try_add/try_multiply操作语义上等同于加法/乘法的问题
  • [SPARK-48107] [SC-164878][python] 从 Python 分发中排除测试
  • [SPARK-46894] [ SC-164447][python] 将 PySpark 错误条件移动到独立 JSON 文件中
  • [SPARK-47583] [ SC-163825][core] SQL 核心:将带变量的 logError 迁移到结构化日志记录框架
  • [SPARK-48064] 还原“[SC-164697][sql] 更新例程相关错误类的错误消息”
  • [SPARK-48048] [ SC-164846][connect][SS] 添加了对 Scala 的客户端监听器支持
  • [SPARK-48064] [SC-164697][sql] 更新例程相关错误类的错误消息
  • [SPARK-48056] [ SC-164715][connect][PYTHON] 如果引发SESSION_NOT_FOUND错误且未收到部分响应,则重新执行计划
  • [SPARK-48124] [ SC-165009][core] 默认情况下禁用 Connect-Repl 的结构化日志记录
  • [SPARK-47922] 还原“[SC-163997][sql] 实现try_parse_json表达式”
  • [SPARK-48065] [ SC-164817][sql] SPJ: allowJoinKeysSubsetOfPartitionKeys 太严格
  • [SPARK-48114] [ SC-164956][core] 预编译模板正则表达式以避免不必要的工作
  • [SPARK-48067] [SC-164773][sql] 修复变体默认列
  • [SPARK-47922] [ SC-163997][sql] 实现try_parse_json表达式
  • [SPARK-48075] [SC-164709][SS] 添加 PySpark avro 函数的类型检查
  • [SPARK-47793] [ SC-164324][ss][PYTHON] 为 Python 流数据源实现 SimpleDataSourceStreamReader
  • [SPARK-48081] [SC-164719] 修复 NTile.checkInputDataTypes() 中的 ClassCastException(如果参数不可折叠或类型错误)
  • [SPARK-48102] [ SC-164853][ss] 在报告流式查询进展时跟踪获取源/汇指标的持续时间
  • [SPARK-47671] [ SC-164854][core] 在 log4j2.properties.template 中启用结构化日志记录并更新文档
  • [SPARK-47904] [ SC-163409][sql] 使用 enableStableIdentifiersForUnionType 时,在 Avro 架构中保留大小写
  • [SPARK-48058] [ SC-164695][spark-43727][PYTHON][connect] UserDefinedFunction.returnType 分析 DDL 字符串
  • [SPARK-46922] [ SC-156102][core][SQL] 不要包装运行时面向用户的错误
  • [SPARK-48047] [ SC-164576][sql] 降低空 TreeNode 标记的内存压力
  • [SPARK-47934] [SC-164648][CORE] 确保在 HistoryServer URL 重定向中使用尾随斜杠
  • [SPARK-47921] [SC-163826][connect] 修复 ExecuteHolder 中 ExecuteJobTag 的创建
  • [SPARK-48014] [ SC-164150][sql] 将 EvaluatePython 中的 makeFromJava 错误更改为面向用户的错误
  • [SPARK-47903] [ SC-163424][python] 在 PySpark Variant 库中添加对剩余标量类型的支持
  • [SPARK-48068] [SC-164579][python] mypy 应具有 --python-executable 参数
  • [SPARK-47846] [ SC-163074][sql] 在 from_json 表达式中添加对 Variant 类型的支持
  • [SPARK-48050] [ SC-164322][ss] 查询开始时记录逻辑计划
  • [SPARK-47810] [SC-163076][sql] 将等效表达式<替换为联接条件中的 =>
  • [SPARK-47741] [SC-164290] 在分析器中添加了堆栈溢出处理
  • [SPARK-48053] [ SC-164309][python][CONNECT] SparkSession.createDataFrame 应针对不支持的选项发出警告
  • [SPARK-47939] [ SC-164171][sql] 实现新的分析器规则,在 ExplainCommand 和 DescribeQueryCommand 内移动 ParameterizedQuery
  • [SPARK-48063] [SC-164432][core] 默认情况下启用spark.stage.ignoreDecommissionFetchFailure
  • [SPARK-48016] [SC-164280][sql] 修复了 try_divide 函数在使用十进制时存在的 bug
  • [SPARK-48033] [ SC-164291][sql] 修复 RuntimeReplaceable 在默认列中使用的表达式
  • [SPARK-48010] [ SC-164051][sql][ES-1109148] 避免在 resolveExpression 中重复调用 conf.resolver
  • [SPARK-48003] [ SC-164323][sql] 为 hll 概略图聚合添加排序规则的支持
  • [SPARK-47994] [ SC-164175][sql] 修复了 SQLServer 中 CASE WHEN 列筛选器下推的问题
  • [SPARK-47984] [ SC-163837][ml][SQL] 更改为 MetricsAggregate/V2Aggregator#serialize/deserialize 调用 SparkSerDeUtils#serialize/deserialize
  • [SPARK-48042] [ SC-164202][sql] 在类层级使用带有时区的时间戳格式化程序,而不是在方法级别创建副本
  • [SPARK-47596] [SPARK-47600 ][spark-47604][SPARK-47804] 结构化日志迁移
  • [SPARK-47594] [SPARK-47590 ][spark-47588][SPARK-47584] 结构化日志迁移
  • [SPARK-47567] [ SC-164172][sql] 支持 LOCATE 函数处理排序规则字符串
  • [SPARK-47764] [ SC-163820][core][SQL] 基于 ShuffleCleanupMode 清理洗牌依赖项
  • [SPARK-48039] [ SC-164174][python][CONNECT] 更新错误类 group.apply
  • [SPARK-47414] [ SC-163831][sql] 对正则表达式的小写排序规则支持
  • [SPARK-47418] [SC-163818][sql] 为支持小写和 Unicode 感知的 contains、startsWith 和 endsWith 函数增加手动实现,并优化 UTF8_BINARY_LCASE
  • [SPARK-47580] [ SC-163834][sql] SQL 催化剂:消除错误日志中的未命名变量
  • [SPARK-47351] [ SC-164008][sql] 为 StringToMap 和 Mask 字符串表达式添加字符编码排序的支持
  • [SPARK-47292] [ SC-164151][ss] safeMapToJValue 应考虑具有 null 的类型值
  • [SPARK-47476] [ SC-164014][sql] 支持 REPLACE 函数来处理已排序的字符串
  • [SPARK-47408] [SC-164104][sql] 修复使用 StringType 的 mathExpressions
  • [SPARK-47350] [ SC-164006][sql] 为 SplitPart 字符串表达式添加排序规则功能
  • [SPARK-47692] [ SC-163819][sql] 修复隐式转换中的默认 StringType 含义
  • [SPARK-47094] [SC-161957][sql] SPJ:当存储桶数量不相等时动态调整以重新平衡桶数
  • [SPARK-48001] [SC-164000][core] 从中删除未 private implicit def arrayToArrayWritable 使用的 SparkContext
  • [SPARK-47986] [ SC-163999][connect][PYTHON] 无法在服务器关闭默认会话时创建新会话
  • [SPARK-48019] [SC-164121] 使用字典和 null 修复 ColumnVector/ColumnarArray 中的错误行为
  • [SPARK-47743] [ SPARK-47592][spark-47589][SPARK-47581][spark-47586][SPARK-47593][spark-47595][SPARK-47587][spark-47603] 结构化日志迁移
  • [SPARK-47999] [ SC-163998][ss] 改进了关于快照创建以及在 HDFS 支持的状态存储提供程序中状态缓存映射添加和移除条目的日志记录。
  • [SPARK-47417] [SC-162872][sql] 字符排序规则支持:Ascii、Chr、Base64、UnBase64、Decode、StringDecode、Encode、ToBinary、FormatNumber、Sentences
  • [SPARK-47712] [ SC-161871][connect] 允许连接插件创建和处理数据集
  • [SPARK-47411] [ SC-163351][sql] 支持 StringInstr 和 FindInSet 函数来处理整理字符串
  • [SPARK-47360] [ SC-163014][sql] 排序规则支持:覆盖、FormatString、Length、BitLength、OctetLength、SoundEx、Luhncheck
  • [SPARK-47413] [ SC-163323][sql] - 为排序规则添加对 substr/left/right 的支持
  • [SPARK-47983] [ SC-163835][sql] 将 spark.sql.pyspark.legacy.inferArrayTypeFromFirstElement.enabled 降级为内部使用
  • [SPARK-47964] [ SC-163816][python][CONNECT] 在 pyspark-connect 中隐藏 SQLContext 和 HiveContext
  • [SPARK-47985] [SC-163841][python] 简化函数 lit
  • [SPARK-47633] [ SC-163453][sql] 包括右侧计划输出, LateralJoin#allAttributes 以便实现更一致的规范化
  • [SPARK-47909] 恢复“[PYTHON][connect] 父数据帧类 f...
  • [SPARK-47767] [ SC-163096][sql] 显示 TakeOrderedAndProjectExec 中的偏移值
  • [SPARK-47822] [SC-162968][sql] 禁止哈希表达式对变体数据类型进行哈希处理
  • [SPARK-47490] [ SC-160494][ss] 修复 RocksDB 日志器构造函数的使用,以避免弃用警告
  • [SPARK-47417] 还原“[SC-162872][sql] 排序规则支持:Ascii、Chr、Base64、UnBase64、解码、StringDecode、编码、ToBinary、FormatNumber、句子拆分”
  • [SPARK-47352] [ SC-163460][sql] 修复上部、下层、InitCap 排序规则感知
  • [SPARK-47909] [ PYTHON][connect] Spark Connect 和 Spark 经典版的父数据帧类
  • [SPARK-47417] [ SC-162872][sql] 排序规则支持:Ascii、Chr、Base64、UnBase64、解码、StringDecode、编码、ToBinary、FormatNumber、句子

Databricks ODBC/JDBC 驱动程序支持

Databricks 支持在过去 2 年中发布的 ODBC/JDBC 驱动程序。 请下载最近发布的驱动程序并升级(下载 ODBC下载 JDBC)。

请参阅 Databricks Runtime 15.3 维护更新

系统环境

  • 操作系统:Ubuntu 22.04.4 LTS
  • Java:Zulu 8.78.0.19-CA-linux64
  • Scala:2.12.18
  • Python:3.11.0
  • R:4.3.2
  • Delta Lake:3.2.0

已安装的 Python 库

图书馆 版本 图书馆 版本 图书馆 版本
asttokens 2.0.5 astunparse 1.6.3 azure-core 1.30.1
azure 存储 blob 12.19.1 azure-storage-file-datalake 12.14.0 回调 0.2.0
黑色 23.3.0 闪烁器 1.4 boto3 1.34.39
botocore 1.34.39 cachetools (缓存工具) 5.3.3 certifi 2023.7.22
cffi 1.15.1 chardet 4.0.0 charset-normalizer (字符集正常化工具) 2.0.4
点击 8.0.4 cloudpickle 2.2.1 通讯 0.1.2
contourpy 1.0.5 密码学 41.0.3 骑行者 0.11.0
Cython 0.29.32 Databricks软件开发工具包 (databricks-sdk) 0.20.0 dbus-python 1.2.18
debugpy 1.6.7 装饰师 5.1.1 distlib 0.3.8
入口点 0.4 正在执行 0.8.3 各个方面概述 1.1.1
文件锁 (filelock) 3.13.4 fonttools(字体工具) 4.25.0 gitdb (Git数据库) 4.0.11
GitPython 3.1.43 google-api-core 2.18.0 google-auth (谷歌身份验证) 2.29.0
google-cloud-core (Google云核心) 2.4.1 谷歌云存储 (Google Cloud Storage) 2.16.0 google-crc32c 1.5.0
google-resumable-media 2.7.0 googleapis-common-protos 1.63.0 grpcio 1.60.0
grpcio-status 1.60.0 httplib2 0.20.2 idna 3.4
importlib-metadata 6.0.0 ipyflow-core 0.0.198 ipykernel 6.25.1
ipython 8.15.0 ipython-genutils(IPython通用工具) 0.2.0 ipywidgets 7.7.2
isodate 0.6.1 jedi 0.18.1 吉普尼 0.7.1
jmespath 0.10.0 joblib 1.2.0 jupyter_client(Jupyter 客户端) 7.4.9
jupyter_core(Jupyter核心) 5.3.0 钥匙圈 23.5.0 kiwisolver 1.4.4
launchpadlib 1.10.16 lazr.restfulclient 0.14.4 lazr.uri 1.0.6
matplotlib 3.7.2 matplotlib-inline 0.1.6 mlflow-skinny 2.11.3
more-itertools 8.10.0 mypy-extensions 0.4.3 nest-asyncio 1.5.6
numpy 1.23.5 oauthlib 3.2.0 包装 23.2
熊猫 1.5.3 帕尔索 0.8.3 pathspec 0.10.3
替罪羊 0.5.3 pexpect 4.8.0 pickleshare 0.7.5
枕头 9.4.0 果仁 23.2.1 platformdirs 3.10.0
plotly 5.9.0 prompt-toolkit 3.0.36 proto-plus 1.23.0
protobuf 4.24.1 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 pyarrow 14.0.1
pyasn1 0.4.8 pyasn1-modules 0.2.8 pyccolo 0.0.52
Python代码解析器 2.21 pydantic 1.10.6 Pygments 2.15.1
PyGObject 3.42.1 PyJWT 2.3.0 pyodbc 4.0.38
pyparsing 3.0.9 python-dateutil 2.8.2 python-lsp-jsonrpc 1.1.1
pytz 2022年7月 PyYAML 6.0 pyzmq 23.2.0
请求 2.31.0 rsa 4.9 s3transfer 0.10.1
scikit-learn 1.3.0 scipy 1.11.1 seaborn 0.12.2
SecretStorage 3.3.1 setuptools 68.0.0 6 1.16.0
smmap 5.0.1 sqlparse 0.5.0 ssh-import-id 5.11
堆栈数据 0.2.0 statsmodels 0.14.0 毅力 8.2.2
threadpoolctl 2.2.0 tokenize-rt 4.2.1 龙卷风 6.3.2
特征 5.7.1 typing_extensions 4.10.0 tzdata 2022年1月
ujson 5.4.0 自动升级 0.1 urllib3 1.26.16
virtualenv 20.24.2 wadllib 1.3.6 wcwidth 0.2.5
轮子 0.38.4 齐普 3.11.0

已安装的 R 库

R 库安装自 Posit 包管理器 CRAN 快照

图书馆 版本 图书馆 版本 图书馆 版本
箭头 14.0.0.2 askpass 1.2.0 assertthat 0.2.1
返移植 1.4.1 基础 4.3.2 base64enc 0.1-3
bigD 0.2.0 4.0.5 bit64 4.0.5
bitops 1.0-7 团状物 1.2.4 靴子 1.3-28
酿制 1.0-10 活力 1.1.4 扫帚 1.0.5
bslib 0.6.1 卡齐姆 1.0.8 callr 3.7.3
光标 6.0-94 cellranger (细胞测序工具) 1.1.0 chron 2.3-61
7.3-22 命令行接口 (CLI) 3.6.2 剪辑器 0.8.0
时钟 0.7.0 集群 2.1.4 codetools 0.2至19
色彩空间 2.1-0 commonmark 1.9.1 编译器 4.3.2
配置 0.3.2 感到矛盾 1.2.0 cpp11 0.4.7
蜡笔 1.5.2 资格证书 2.0.1 卷曲 5.2.0
data.table 1.15.0 数据集 4.3.2 DBI 1.2.1
dbplyr 2.4.0 desc 1.4.3 devtools 2.4.5
示意图 1.6.5 diffobj 0.3.5 摘要 0.6.34
下照灯 0.4.3 dplyr 1.1.4 dtplyr 1.3.1
e1071 1.7-14 省略号 0.3.2 评价 0.23
fansi 1.0.6 颜色 2.1.1 fastmap 1.1.1
fontawesome 0.5.2 由于缺乏上下文信息,“forcats”很可能是专有名词或品牌名称,因此保留原文不翻译为合理处理。 1.0.0 foreach 1.5.2
外国 0.8-85 锻造 0.2.0 fs 1.6.3
未来 1.33.1 future.apply 1.11.1 漱口 1.5.2
泛 型 0.1.3 格尔特 2.0.1 ggplot2 3.4.4
gh 1.4.0 git2r 0.33.0 gitcreds 0.1.2
glmnet 4.1-8 全局变量 0.16.2 胶水 1.7.0
googledrive 2.1.1 googlesheets4 1.1.1 gower 1.0.1
图形 4.3.2 grDevices 4.3.2 “业务流程参数” 网格 4.3.2
gridExtra 2.3 gsubfn 0.7 燃气轮机 0.10.1
gtable 0.3.4 安全帽 1.3.1 避风港 2.5.4
嗨尔 0.10 赫姆斯 1.1.3 HTML工具 0.5.7
HTML小插件 1.6.4 httpuv 1.6.14 httr 1.4.7
httr2 1.0.0 ids 1.0.1 ini 0.3.1
ipred 0.9-14 isoband 0.2.7 迭代器 1.0.14
jquerylib 0.1.4 jsonlite 1.8.8 JuicyJuice 0.1.0
KernSmooth 2.23-21 针织器 1.45 标记 0.4.3
稍后 1.3.2 格子 0.21-8 熔岩 1.7.3
生命周期 1.0.4 listenv 0.9.1 lubridate 1.9.3
magrittr 2.0.3 markdown 1.12 质量 7.3-60
矩阵 1.5-4.1 记忆化 2.0.1 方法 4.3.2
mgcv 1.8-42 默剧 0.12 迷你用户界面 0.1.1.1
mlflow 2.10.0 ModelMetrics 1.2.2.2 modelr 0.1.11
蒙塞尔 0.5.0 nlme 3.1-163 nnet 7.3-19
numDeriv 2016年8月至1月1日 openssl(开放SSL) 2.1.1 平行 4.3.2
并行地 1.36.0 柱子 1.9.0 pkgbuild (软件包构建工具) 1.4.3
pkgconfig 2.0.3 pkgdown 2.0.7 pkgload 1.3.4
普洛格 0.2.0 普莱尔 1.8.9 赞美 1.0.0
prettyunits 1.2.0 pROC 1.18.5 processx 3.8.3
prodlim 2023年08月28日 profvis 0.3.8 进展 1.2.3
progressr 0.14.0 承诺 1.2.1 原型 (proto) 1.0.0
代理服务器 0.4-27 附注 (ps) 1.7.6 purrr 1.0.2
R6 2.5.1 ragg 1.2.7 随机森林 (randomForest) 4.7-1.1
rappdirs 0.3.3 rcmdcheck 1.4.0 RColorBrewer 1.1-3
Rcpp 1.0.12 RcppEigen 0.3.3.9.4 反应能力 0.4.4
reactR 0.5.0 readr(阅读器) 2.1.5 readxl 1.4.3
食谱 1.0.9 重赛 2.0.0 rematch2 2.1.2
遥控器 2.4.2.1 可复制的示例 2.1.0 reshape2 1.4.4
rlang 1.1.3 rmarkdown(R语言动态文档生成工具) 2.25 RODBC 1.3-23
roxygen2 7.3.1 rpart 4.1.21 rprojroot 2.0.4
Rserve 1.8-13 RSQLite 2.3.5 rstudioapi 0.15.0
R版本 2.1.2 rvest 1.0.3 sass 0.4.8
磅秤 1.3.0 selectr 0.4-2 会话信息 1.2.2
形状 1.4.6 光亮 1.8.0 sourcetools 0.1.7-1
sparklyr 1.8.4 空间 7.3-15 样 条 4.3.2
sqldf 0.4-11 SQUAREM 2021年1月 统计数据 4.3.2
统计数据4 4.3.2 stringi 1.8.3 stringr 1.5.1
生存 3.5-5 自信 3.33.1 sys 3.4.2
systemfonts 1.0.5 tcltk 4.3.2 testthat 3.2.1
文本排版 0.3.7 tibble 3.2.1 tidyr 1.3.1
tidyselect 1.2.0 tidyverse(数据分析工具包) 2.0.0 时间变更 0.3.0
时间日期 4032.109 tinytex 0.49 工具 4.3.2
tzdb 0.4.0 URL检查器 1.0.1 usethis 2.2.2
utf8 1.2.4 utils 4.3.2 UUID(通用唯一识别码) 1.2-0
V8 4.4.1 vctrs 0.6.5 viridisLite 0.4.2
vroom 1.6.5 瓦尔多 0.5.2 晶 须 0.4.1
withr 3.0.0 xfun 0.41 xml2 1.3.6
xopen 1.0.0 xtable 1.8-4 yaml 2.3.8
zeallot 0.1.0 压缩包 2.3.1

已安装的 Java 和 Scala 库(Scala 2.12 群集版本)

群组标识符 工件编号 版本
antlr antlr 2.7.7
com.amazonaws Amazon Kinesis 客户端 1.12.0
com.amazonaws AWS Java SDK 自动扩展 1.12.610
com.amazonaws aws-java-sdk-cloudformation 1.12.610
com.amazonaws AWS Java SDK CloudFront 1.12.610
com.amazonaws aws-java-sdk-cloudhsm 1.12.610
com.amazonaws AWS Java SDK 云搜索 1.12.610
com.amazonaws aws-java-sdk-cloudtrail 1.12.610
com.amazonaws aws-java-sdk-cloudwatch 1.12.610
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.12.610
com.amazonaws AWS Java SDK CodeDeploy(AWS Java 软件开发工具包 CodeDeploy) 1.12.610
com.amazonaws aws-java-sdk-cognitoidentity 1.12.610
com.amazonaws aws-java-sdk-cognitosync 1.12.610
com.amazonaws aws-java-sdk-config(AWS Java SDK 配置) 1.12.610
com.amazonaws aws-java-sdk-core (AWS Java软件开发工具包核心) 1.12.610
com.amazonaws aws-java-sdk-datapipeline 1.12.610
com.amazonaws AWS Java SDK Direct Connect(直连) 1.12.610
com.amazonaws aws-java-sdk-directory 1.12.610
com.amazonaws aws-java-sdk-dynamodb 1.12.610
com.amazonaws aws-java-sdk-ec2 1.12.610
com.amazonaws aws-java-sdk-ecs 1.12.610
com.amazonaws aws-java-sdk-efs 1.12.610
com.amazonaws aws-java-sdk-elasticache 1.12.610
com.amazonaws aws-java-sdk-elasticbeanstalk(AWS Java 开发工具包 - Elastic Beanstalk) 1.12.610
com.amazonaws aws-java-sdk-弹性负载均衡 1.12.610
com.amazonaws aws-java-sdk-elastictranscoder(AWS Java SDK弹性转码器) 1.12.610
com.amazonaws aws-java-sdk-emr 1.12.610
com.amazonaws AWS Java SDK Glacier 1.12.610
com.amazonaws aws-java-sdk-glue 1.12.610
com.amazonaws aws-java-sdk-iam 1.12.610
com.amazonaws AWS Java SDK 导入导出 (aws-java-sdk-importexport) 1.12.610
com.amazonaws aws-java-sdk-kinesis 1.12.610
com.amazonaws AWS Java 软件开发工具包 - KMS 1.12.610
com.amazonaws aws-java-sdk-lambda 1.12.610
com.amazonaws aws-java-sdk-logs(AWS Java开发包日志) 1.12.610
com.amazonaws AWS-Java-SDK-机器学习 1.12.610
com.amazonaws aws-java-sdk-opsworks 1.12.610
com.amazonaws aws-java-sdk-rds 1.12.610
com.amazonaws aws-java-sdk-redshift 1.12.610
com.amazonaws aws-java-sdk-route53 1.12.610
com.amazonaws aws-java-sdk-s3 1.12.610
com.amazonaws aws-java-sdk-ses 1.12.610
com.amazonaws aws-java-sdk-simpledb 1.12.610
com.amazonaws aws-java-sdk-simpleworkflow 1.12.610
com.amazonaws aws-java-sdk-sns 1.12.610
com.amazonaws aws-java-sdk-sqs 1.12.610
com.amazonaws aws-java-sdk-ssm 1.12.610
com.amazonaws AWS Java SDK 存储网关 1.12.610
com.amazonaws aws-java-sdk-sts 1.12.610
com.amazonaws AWS Java SDK支持 1.12.610
com.amazonaws AWS-Java-SDK-SWF-库 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.12.610
com.amazonaws jmespath-java 1.12.610
com.clearspring.analytics 溪流 2.9.6
com.databricks Rserve 1.8-3
com.databricks databricks-sdk-java 0.17.1
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.12 0.4.15-10
com.databricks.scalapb scalapb-runtime_2.12 0.4.15-10
com.esotericsoftware kryo-shaded 4.0.2
com.esotericsoftware minlog 1.3.0
com.fasterxml 同学 1.3.4
com.fasterxml.jackson.core Jackson注解 2.15.2
com.fasterxml.jackson.core jackson-core 2.15.2
com.fasterxml.jackson.core jackson-databind 2.15.2
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.15.2
com.fasterxml.jackson.dataformat jackson-dataformat-yaml 2.15.2
com.fasterxml.jackson.datatype jackson-datatype-joda(杰克逊数据类型-Joda) 2.15.2
com.fasterxml.jackson.datatype jackson-datatype-jsr310 2.16.0
com.fasterxml.jackson.module jackson-module-paranamer 2.15.2
com.fasterxml.jackson.module jackson-module-scala_2.12 2.15.2
com.github.ben-manes.caffeine 咖啡因 2.9.3
com.github.fommil jniloader 1.1
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java 1.1-原住民
com.github.fommil.netlib 原生系统-Java 1.1
com.github.fommil.netlib 原生系统-Java 1.1-原住民
com.github.fommil.netlib netlib-native_ref-linux-x86_64 1.1-原住民
com.github.fommil.netlib netlib-本地系统-linux-x86_64 1.1-原住民
com.github.luben zstd-jni 1.5.5-4
com.github.wendykierp JTransforms 3.1
com.google.code.findbugs jsr305 3.0.0
com.google.code.gson gson 2.10.1
com.google.crypto.tink 丁克 1.9.0
com.google.errorprone 易出错的注释 2.10.0
com.google.flatbuffers flatbuffers-java 23年5月26日
com.google.guava 番石榴 15.0
com.google.protobuf protobuf-java 2.6.1
com.helger 分析器 1.1.1
com.ibm.icu icu4j 72.1
com.jcraft jsch 0.1.55
com.jolbox bonecp 0.8.0.RELEASE
com.lihaoyi 源代码_2.12 0.1.9
com.microsoft.azure azure-data-lake-store-sdk 2.3.9
com.microsoft.sqlserver mssql-jdbc 11.2.2.jre8
com.ning compress-lzf 1.1.2
com.sun.mail javax.mail 1.5.2
com.sun.xml.bind jaxb-core 2.2.11
com.sun.xml.bind jaxb-impl 2.2.11
com.tdunning json 1.8
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.12 0.4.12
com.twitter chill-java 0.10.0
com.twitter chill_2.12 0.10.0
com.twitter util-app_2.12 7.1.0
com.twitter util-core_2.12 7.1.0
com.twitter util-function_2.12 7.1.0
com.twitter util-jvm_2.12 7.1.0
com.twitter util-lint_2.12 7.1.0
com.twitter util-registry_2.12 7.1.0
com.twitter util-stats_2.12 7.1.0
com.typesafe 配置 1.4.3
com.typesafe.scala-logging scala-logging_2.12 3.7.2
com.uber h3 3.7.3
com.univocity univocity-parsers 2.9.1
com.zaxxer HikariCP 4.0.3
commons-cli commons-cli 1.5.0
commons-codec(公共编解码器) commons-codec(公共编解码器) 1.16.0
commons-collections (通用集合库) commons-collections (通用集合库) 3.2.2
commons-dbcp commons-dbcp 1.4
commons-fileupload commons-fileupload 1.5
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.13.0
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-pool commons-pool 1.5.4
dev.ludovic.netlib arpack 3.0.3
dev.ludovic.netlib blas 3.0.3
dev.ludovic.netlib LAPACK 3.0.3
info.ganglia.gmetric4j gmetric4j 1.0.10
io.airlift 空气压缩机 0.25
io.delta delta-sharing-client_2.12 1.0.5
io.dropwizard.metrics 指标注释 4.2.19
io.dropwizard.metrics metrics-core 4.2.19
io.dropwizard.metrics metrics-graphite 4.2.19
io.dropwizard.metrics 指标-健康检查 4.2.19
io.dropwizard.metrics metrics-jetty9 4.2.19
io.dropwizard.metrics metrics-jmx 4.2.19
io.dropwizard.metrics metrics-json 4.2.19
io.dropwizard.metrics metrics-jvm 4.2.19
io.dropwizard.metrics 指标-Servlets 4.2.19
io.netty netty-all 4.1.96.Final
io.netty netty-buffer(Netty缓存) 4.1.96.Final
io.netty netty-codec 4.1.96.Final
io.netty Netty HTTP 编解码器 4.1.96.Final
io.netty netty-codec-http2 4.1.96.Final
io.netty netty-codec-socks 4.1.96.Final
io.netty Netty-Common(网络通用组件) 4.1.96.Final
io.netty netty-handler 4.1.96.Final
io.netty netty-handler-proxy(Netty 处理器代理) 4.1.96.Final
io.netty netty-resolver (Netty 解析器) 4.1.96.Final
io.netty netty-tcnative-boringssl-static(Netty高性能计算库) 2.0.61.Final-linux-aarch_64
io.netty netty-tcnative-boringssl-static(Netty高性能计算库) 2.0.61.Final-linux-x86_64
io.netty netty-tcnative-boringssl-static(Netty高性能计算库) 2.0.61.Final-osx-aarch_64
io.netty netty-tcnative-boringssl-static(Netty高性能计算库) 2.0.61.Final-osx-x86_64
io.netty netty-tcnative-boringssl-static(Netty高性能计算库) 2.0.61.Final-Windows操作系统-x86_64
io.netty Netty TcNative 类 2.0.61.Final
io.netty netty-transport 4.1.96.Final
io.netty netty-transport-classes-epoll 4.1.96.Final
io.netty netty-transport-classes-kqueue 4.1.96.Final
io.netty netty-transport-native-epoll 4.1.96.Final
io.netty netty-transport-native-epoll 4.1.96.Final-linux-aarch_64
io.netty netty-transport-native-epoll 4.1.96.Final-linux-x86_64
io.netty netty-transport-native-kqueue 4.1.96.Final-osx-aarch_64
io.netty netty-transport-native-kqueue 4.1.96.Final-osx-x86_64
io.netty netty-transport-native-unix-common 4.1.96.Final
io.prometheus simpleclient 0.7.0
io.prometheus 简单客户端通用 0.7.0
io.prometheus simpleclient_dropwizard 0.7.0
io.prometheus simpleclient_pushgateway 0.7.0
io.prometheus simpleclient_servlet 0.7.0
io.prometheus.jmx 收藏者 0.12.0
jakarta.annotation jakarta.annotation-api 1.3.5
jakarta.servlet jakarta.servlet-api 4.0.3
jakarta.validation jakarta.validation-api 2.0.2
jakarta.ws.rs jakarta.ws.rs-api 2.1.6
javax.activation 激活 1.1.1
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.transaction jta 1.1
javax.transaction 交易接口 (transaction-api) 1.1
javax.xml.bind jaxb-api 2.2.11
javolution javolution 5.5.1
jline jline 2.14.6
joda-time joda-time 2.12.1
net.java.dev.jna jna 5.8.0
net.razorvine 泡菜 1.3
net.sf.jpam 杰潘 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-ingest-sdk 0.9.6
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt.remotetea remotetea-oncrpc 1.1.2
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.5.2
org.antlr antlr4-runtime 4.9.3
org.antlr stringtemplate (字符串模板) 3.2.1
org.apache.ant 蚂蚁 1.10.11
org.apache.ant ant-jsch 1.10.11
org.apache.ant ant-launcher 1.10.11
org.apache.arrow 箭头格式 15.0.0
org.apache.arrow 箭头内存核心 15.0.0
org.apache.arrow 箭头内存网状系统 15.0.0
org.apache.arrow 箭头向量 15.0.0
org.apache.avro avro 1.11.3
org.apache.avro avro-ipc 1.11.3
org.apache.avro avro-mapred 1.11.3
org.apache.commons commons-collections4(通用集合库) 4.4
org.apache.commons commons-compress 1.23.0
org.apache.commons commons-crypto 1.1.0
org.apache.commons commons-lang3 3.12.0
org.apache.commons commons-math3 3.6.1
org.apache.commons commons-text 1.10.0
org.apache.curator 策展人-客户端 2.13.0
org.apache.curator Curator框架 2.13.0
org.apache.curator 策展人食谱 2.13.0
org.apache.datasketches datasketches-java 3.1.0
org.apache.datasketches 数据素描-内存 2.0.0
org.apache.derby 德比 10.14.2.0
org.apache.hadoop Hadoop 客户端运行时 3.3.6
org.apache.hive hive-beeline 2.3.9
org.apache.hive hive-cli 2.3.9
org.apache.hive hive-jdbc 2.3.9
org.apache.hive hive-llap-client 2.3.9
org.apache.hive hive-llap-common 2.3.9
org.apache.hive hive-serde 2.3.9
org.apache.hive 海蜂垫片 2.3.9
org.apache.hive hive-storage-api 2.8.1
org.apache.hive.shims hive-shims-0.23 2.3.9
org.apache.hive.shims hive-shims-common 2.3.9
org.apache.hive.shims hive-shims-scheduler 2.3.9
org.apache.httpcomponents httpclient 4.5.14
org.apache.httpcomponents httpcore 4.4.16
org.apache.ivy 常春藤 2.5.1
org.apache.logging.log4j log4j-1.2-api 2.22.1
org.apache.logging.log4j log4j-api 2.22.1
org.apache.logging.log4j log4j-core 2.22.1
org.apache.logging.log4j log4j-layout-template-json 2.22.1
org.apache.logging.log4j log4j-slf4j2-impl 2.22.1
\ org.apache.orc orc-core 1.9.2-shaded-protobuf
\ org.apache.orc orc-mapreduce 1.9.2-shaded-protobuf
\ org.apache.orc orc-shims 1.9.2
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.12.0
org.apache.ws.xmlschema xmlschema-core 2.3.0
org.apache.xbean xbean-asm9-shaded 4.23
org.apache.yetus 观众注释 (audience-annotations) 0.13.0
org.apache.zookeeper 动物园管理员 3.6.3
org.apache.zookeeper zookeeper-jute 3.6.3
org.checkerframework checker-qual 3.31.0
org.codehaus.jackson jackson-core-asl (Jackson核心库 - ASL) 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.janino commons-compiler(通用编译器) 3.0.16
org.codehaus.janino 雅尼诺 3.0.16
org.datanucleus datanucleus-api-jdo 4.2.4
org.datanucleus datanucleus-core 4.1.17
org.datanucleus datanucleus-rdbms 4.1.19
org.datanucleus javax.jdo 3.2.0-m3
org.eclipse.collections eclipse-collections 11.1.0
org.eclipse.collections eclipse-collections-api 11.1.0
org.eclipse.jetty jetty-client 9.4.52.v20230823
org.eclipse.jetty jetty-continuation 9.4.52.v20230823
org.eclipse.jetty jetty-http 9.4.52.v20230823
org.eclipse.jetty jetty-io 9.4.52.v20230823
org.eclipse.jetty jetty-jndi 9.4.52.v20230823
org.eclipse.jetty jetty-plus 9.4.52.v20230823
org.eclipse.jetty jetty-proxy 9.4.52.v20230823
org.eclipse.jetty 码头安全 9.4.52.v20230823
org.eclipse.jetty jetty-server(Jetty服务器) 9.4.52.v20230823
org.eclipse.jetty jetty-servlet 9.4.52.v20230823
org.eclipse.jetty jetty-servlets 9.4.52.v20230823
org.eclipse.jetty jetty-util 9.4.52.v20230823
org.eclipse.jetty jetty-util-ajax 9.4.52.v20230823
org.eclipse.jetty Jetty 网页应用 9.4.52.v20230823
org.eclipse.jetty jetty-xml 9.4.52.v20230823
org.eclipse.jetty.websocket WebSocket API 9.4.52.v20230823
org.eclipse.jetty.websocket WebSocket客户端 9.4.52.v20230823
org.eclipse.jetty.websocket WebSocket-通用 9.4.52.v20230823
org.eclipse.jetty.websocket WebSocket服务器 9.4.52.v20230823
org.eclipse.jetty.websocket websocket-servlet 9.4.52.v20230823
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.6.1
org.glassfish.hk2 hk2-定位器 2.6.1
org.glassfish.hk2 hk2-utils 2.6.1
org.glassfish.hk2 osgi-resource-locator (OSGi 资源定位器) 1.0.3
org.glassfish.hk2.external aopalliance-repackaged 2.6.1
org.glassfish.hk2.external jakarta.inject 2.6.1
org.glassfish.jersey.containers jersey-container-servlet 2.40
org.glassfish.jersey.containers jersey-container-servlet-core 2.40
org.glassfish.jersey.core jersey-client 2.40
org.glassfish.jersey.core jersey-common 2.40
org.glassfish.jersey.core jersey-server 2.40
org.glassfish.jersey.inject jersey-hk2 2.40
org.hibernate.validator 休眠验证器 6.1.7.Final
org.ini4j ini4j 0.5.4
org.javassist javassist 3.29.2-GA
org.jboss.logging jboss-logging 3.3.2.Final
org.jdbi jdbi 2.63.1
org.jetbrains 注释 17.0.0
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.12 3.7.0-M11
org.json4s json4s-core_2.12 3.7.0-M11
org.json4s json4s-jackson_2.12 3.7.0-M11
org.json4s json4s-scalap_2.12 3.7.0-M11
org.lz4 lz4-java 1.8.0
org.mlflow mlflow-spark_2.12 2.9.1
org.objenesis objenesis 2.5.1
org.postgresql postgresql 42.6.1
org.roaringbitmap RoaringBitmap 0.9.45-databricks
org.roaringbitmap 垫片 0.9.45-databricks
.rocksdb rocksdbjni 8.11.4
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.12 2.12.15
org.scala-lang scala-library_2.12 2.12.15
org.scala-lang scala-reflect_2.12 2.12.15
org.scala-lang.modules scala-collection-compat_2.12 2.11.0
org.scala-lang.modules scala-parser-combinators_2.12 1.1.2
org.scala-lang.modules scala-xml_2.12 1.2.0
org.scala-sbt 测试界面 1.0
org.scalacheck scalacheck_2.12 1.14.2
org.scalactic scalactic_2.12 3.2.15
org.scalanlp breeze-macros_2.12 2.1.0
org.scalanlp breeze_2.12 2.1.0
org.scalatest 与Scalatest兼容 3.2.15
org.scalatest scalatest-core_2.12 3.2.15
org.scalatest scalatest-diagrams_2.12 3.2.15
org.scalatest scalatest-featurespec_2.12 3.2.15
org.scalatest scalatest-flatspec_2.12 3.2.15
org.scalatest scalatest-freespec_2.12 3.2.15
org.scalatest scalatest-funspec_2.12 3.2.15
org.scalatest scalatest-funsuite_2.12 3.2.15
org.scalatest scalatest-matchers-core_2.12 3.2.15
org.scalatest scalatest-mustmatchers_2.12 3.2.15
org.scalatest scalatest-propspec_2.12 3.2.15
org.scalatest scalatest-refspec_2.12 3.2.15
org.scalatest scalatest-shouldmatchers_2.12 3.2.15
org.scalatest scalatest-wordspec_2.12 3.2.15
org.scalatest scalatest_2.12 3.2.15
org.slf4j jcl-over-slf4j 2.0.7
org.slf4j jul-to-slf4j 2.0.7
org.slf4j slf4j-api 2.0.7
org.slf4j slf4j-simple 1.7.25
org.threeten threeten-extra 1.7.1
org.tukaani xz 1.9
org.typelevel algebra_2.12 2.0.1
org.typelevel cats-kernel_2.12 2.1.1
org.typelevel spire-macros_2.12 0.17.0
org.typelevel spire-platform_2.12 0.17.0
org.typelevel spire-util_2.12 0.17.0
org.typelevel spire_2.12 0.17.0
org.wildfly.openssl WildFly-OpenSSL 1.1.3.Final
org.xerial sqlite-jdbc 3.42.0.0
org.xerial.snappy snappy-java 1.1.10.3
org.yaml snakeyaml 2.0
oro oro 2.0.8
pl.edu.icm JLargeArrays 1.5
software.amazon.cryptools AmazonCorrettoCryptoProvider 1.6.1-linux-x86_64
software.amazon.ion ion-java 1.0.2
斯塔克斯 stax-api 1.0.1