Databricks Runtime 5.3 (EoS)
注意
对此 Databricks Runtime 版本的支持已结束。 有关终止支持日期,请参阅终止支持历史记录。 有关所有受支持的 Databricks Runtime 版本,请参阅 Databricks Runtime 发行说明版本和兼容性。
Databricks 于 2019 年 4 月发布此版本。
以下发行说明提供了由 Apache Spark 支持的 Databricks Runtime 5.3 的相关信息。
新功能
Databricks Delta
按时间顺序查看正式发布
Delta 按时间顺序查看已升级到正式版。 它添加了使用时间戳字符串或版本、使用 SQL 语法以及时间戳表达式的 DataFrameReader
选项来查询表快照的功能。
SELECT count(*) FROM events TIMESTAMP AS OF timestamp_expression
SELECT count(*) FROM events VERSION AS OF version
按时间顺序查看有许多用例,包括:
- 重新创建分析、报告或输出(例如,机器学习模型的输出),这对调试或审核非常有用,尤其是在受管制的行业中。
- 编写复杂的时态查询。
- 修复数据中的错误。
- 为针对快速变化表的一组查询提供快照隔离。
MySQL 表复制到 Delta 公共预览版
将数据从 MySQL 表直接流式传输到 Delta,以供 Spark 分析或数据科学工作流中的下游使用。 利用 MySQL 用于复制到其他实例的相同策略,使用 binlog
标识随后进行处理并流式传输到 Databricks 的更新,如下所示:
- 读取数据库日志中的更改事件。
- 将事件流式传输到 Databricks。
- 按相同顺序写入 Delta 表。
- 在与源断开连接时保持状态。
个人预览功能
此版本包含适用于 Delta Lake 的以下个人预览功能:
- 添加了允许 Presto 直接查询 Delta 表的试验命令。
- 自动优化功能会在每次写入 Delta 表的过程中优化文件布局,并防止小文件在 Delta 表中累积,以保持高速查询性能。 此外,由于在写入操作中引入了自适应随机选择,因此对已分区 Delta 表进行写入和更新插入的速度可能会大大提高。
如果你想参与任一预览,请联系 Databricks 帐户团队。
针对深度学习工作负载进行了优化的 DBFS FUSE 文件夹
Azure Databricks 现在提供已优化的 FUSE 装载。 你可以在训练和推理过程中进行高性能的数据访问,而无需应用初始化脚本。 存储在 dbfs:/ml
下并可在 file:/dbfs/ml
本地访问的数据现在受到这一经优化的 FUSE 装载支持。 请参阅加载用于机器学习和深度学习的数据。
改进
笔记本范围内的库:
- 支持
dbutils.library.installPyPI
中的其他功能。 - 支持为 Azure 文件系统中的库安装笔记本范围内的库,包括
wasbs
、adls
和abfss
。 - 改进了笔记本范围内的库在不受支持的目标上的错误消息。 例如:“库实用程序在用于机器学习的 Databricks Runtime 上不可用。”
- 支持
连接到 Azure Data Lake Storage Gen2 (ADLS Gen2),而无需向服务主体授予帐户范围的“存储 Blob 数据参与者”RBAC 角色。
Databricks 顾问具有提高查询性能的其他提示:
- 如果每个分区有很多小文件 -> 将表转换为 Delta 并运行
OPTIMIZE
。 - 如果有高选择性筛选器 -> 将其转换为 Delta 并使用
ZORDER BY
。 - 如果从 Hive 中提取元数据成为瓶颈 -> 将表转换为 Delta。
- 如果每个分区有很多小文件 -> 将表转换为 Delta 并运行
已将 Ubuntu 从 16.04.5 LTS 升级到 16.04.6 LTS。
已将 Scala 2.11 从 2.11.8 升级到 2.11.12。
升级了一些已安装的 Python 库:
- pip:18.1 升级到 19.0.3。
- setuptools:40.6.3 升级到 40.8.0
- wheel:0.32.3 到 0.33.1
已将 R 从 3.4.4 升级到 3.5.2。
升级了多个已安装的 R 库。 请参阅已安装的 R 库。
弃用
- 不再支持用于结构化流式处理的 Apache Kafka 0.8 连接器。 它包含在 Databricks Runtime 5.3 中,但将从未来的 Databricks Runtime 版本中删除。
- Databricks ML 模型导出已弃用,并将在 Databricks Runtime 6.0 中删除。 请改用 MLeap 来导入和导出模型。
- 将
spark.databricks.pyspark.enableExecutorFsPerms
作为配置选项删除。
Bug 修复
- 修复了为表 ACL 启用的群集的群集范围的 Python Egg 库安装。
- 修复了在执行命令之前取消调用的情况,改进了 Python 命令取消。
- 修复了表 ACL 中的 bug:现在,当你列出数据库或目录中的对象时,仅会看到你有权查看的对象。
Apache Spark
Databricks Runtime 5.3 包括 Apache Spark 2.4.0。 此版本包括 Databricks Runtime 5.2 (EoS) 中包含的所有 Spark 修复和改进,以及对 Spark 进行的以下其他缺陷修复和改进:
- [SPARK-27134][SQL] array_distinct 函数不能正确处理包含数组数组的列
- [SPARK-24669][SQL] 在删除数据库级联的情况下使表失效
- [SPARK-26572][SQL] 修复聚合 codegen 结果计算
- [SPARK-27046][DSTREAMS] 从文档中删除与 SPARK-19185 相关的引用
- [SPARK-26449][PYTHON] 将转换方法添加到数据帧 API
- [SPARK-26740][SQL] 读取由 Spark 3.0 写入的时间戳/日期列统计信息
- [SPARK-26909][SQL] 在 HashAggregate 中将 unsafeRow.hashCode() 用作哈希值
- [SPARK-26990][SQL] FileIndex:使用用户指定的字段名称(如果可能)
- [SPARK-26851][SQL] 修复 CachedRDDBuilder 中的双重检查锁定
- [SPARK-26864][SQL] 如果 Python UDF 用作左半联接条件,则查询可能会返回不正确的结果
- [SPARK-26887][SQL][PYTHON] 直接创建
datetime.date
,而不是创建 datetime64 作为中间数据。 - [SPARK-26859][SQL] 修复非向量化 ORC 反序列化程序中的字段编写器索引 bug
- [SPARK-26864][SQL] 如果 Python UDF 用作联接条件,并且 udf 使用左半联接两个分支中的属性,则查询可能会返回不正确的结果
- [SPARK-24360][SPARK-26091][BACKPORT][SQL] 支持 Hive 3.1 元存储
- [SPARK-26873][SQL] 使用一致的时间戳生成 Hadoop 作业 ID。
- [SPARK-26734][STREAMING] 修复了具有大型块队列的 StackOverflowError
- [SPARK-26758][CORE] 未在 spark.dynamiAllocation.executorIdleTimeout 值后终止空闲执行程序
- [SPARK-26751][SQL] 修复语句在后台运行并引发不是 HiveSQLException 的异常时的内存泄漏
- [SPARK-26806][SS] EventTimeStats.merge 应正确处理零
- [SPARK-26745][SPARK-24959][SQL] 通过以下方式还原 JSON 数据源中的计数优化
- [SPARK-26757][GRAPHX] 对于空的 Edge/Vertex RDD 上的计数返回 0
- [SPARK-26726] 将广播变量使用的内存量同步到 UI 显示
- [SPARK-26718][SS] 修复了 SS kafka rateLimit 计算中的整数溢出
- [SPARK-26708][SQL] 由于 SQL 缓存的缓存 RDD 与其物理计划之间的不一致而导致的错误结果
- [SPARK-26735][SQL] 验证特殊表达式的计划完整性
- [SPARK-26619][SQL] 删除 SerializeFromObject 中未使用的序列化程序
- [SPARK-26379][SS] 使用虚拟 TimeZoneId 来避免 CurrentBatchTimestamp 中的 UnresolvedException
- [SPARK-26495][SQL] 简化 SelectedField 提取程序
- [SPARK-26379][SS] 修复有关将 current_timestamp/current_date 添加到流式处理查询的问题
- [SPARK-26709][SQL] OptimizeMetadataOnlyQuery 无法正确处理空记录
- [SPARK-26680][SQL] 在适当的条件下积极创建 inputVars
- [SPARK-26682][SQL] 对 Hadoop 使用 taskAttemptID 而不是 attemptNumber。
- [SPARK-26706][SQL] 为 ByteType 修复 illegalNumericPrecedence
- [SPARK-26228][MLLIB] 计算 Gramian 矩阵时遇到 OOM 问题
- [SPARK-26665][CORE] 修复 BlockTransferService.fetchBlockSync 可能永远挂起的 bug
- [SPARK-26549][PYSPARK] python 辅助角色重用的修复对并行化延迟迭代范围不起作用
- [SPARK-26351][MLLIB] 更新 mllib 评估指标中的文档和较小的更正
- [SPARK-26450]避免为投影中的每一列重建架构映射
- [SPARK-26638][PYSPARK][ML] Pyspark 矢量类始终返回一元求反错误
- [SPARK-26633][REPL] 添加 ExecutorClassLoader.getResourceAsStream
- [SPARK-26629][SS] 修复了查询中的多个文件流的错误 + 在没有一个文件流数据的批上重新启动
- [SPARK-25992][PYTHON] 无法共享文档 SparkContext 以进行多重处理
- [SPARK-26615][CORE] 修复核心 unittests 中的传输服务器/客户端资源泄漏
- [SPARK-26350][SS] 允许替代 Kafka 使用者的组 ID
- [SPARK-26538][SQL] 为 postgres 数值阵列的元素设置默认的精度和小数位数
- [SPARK-26586][SS] 修复导致流以意外配置运行的争用条件
- [SPARK-26551][SQL] 修复在选择一个复杂字段并在另一个字段上具有不为 Null 谓词时的架构删除错误
- [SPARK-26576][SQL] 广播提示未应用于已分区表
- [SPARK-26571][SQL] 使用 Parquet 和 Orc FileFormat 的规范名称更新 Hive Serde 映射
- [SPARK-26267][SS] 检测到 Kafka 的错误偏移时重试 (2.4)
- [SPARK-26559][ML][PYSPARK] ML 映像不能用于 1.9 之前的 numpy 版本
- [SPARK-26078][SQL] IN 子查询上的 Dedup 自联接属性
维护更新
请参阅 Databricks Runtime 5.3 维护更新。
系统环境
- 操作系统:Ubuntu 16.04.6 LTS
- Java:1.8.0_191
- Scala:2.11.12
- Python:2.7.12(面向 Python 2 群集)和 3.5.2(面向 Python 3 群集)。
- R:R 版本 3.5.2 (2018-12-20)
- GPU 群集:安装了以下 NVIDIA GPU 库:
- Tesla 驱动程序 375.66
- CUDA 9.0
- cuDNN 7.0
注意
尽管 Apache Spark 2.4 支持 Scala 2.12,但 Databricks Runtime 5.3 不支持。
已安装的 Python 库
库 | 版本 | 库 | 版本 | 库 | 版本 |
---|---|---|---|---|---|
ansi2html | 1.1.1 | argparse | 1.2.1 | backports-abc | 0.5 |
boto | 2.42.0 | boto3 | 1.4.1 | botocore | 1.4.70 |
brewer2mpl | 1.4.1 | certifi | 2016.2.28 | cffi | 1.7.0 |
chardet | 2.3.0 | colorama | 0.3.7 | configobj | 5.0.6 |
密码系统 | 1.5 | cycler | 0.10.0 | Cython | 0.24.1 |
decorator | 4.0.10 | docutils | 0.14 | enum34 | 1.1.6 |
et-xmlfile | 1.0.1 | freetype-py | 1.0.2 | funcsigs | 1.0.2 |
fusepy | 2.0.4 | Future | 3.2.0 | ggplot | 0.6.8 |
html5lib | 0.999 | idna | 2.1 | ipaddress | 1.0.16 |
ipython | 2.2.0 | ipython-genutils | 0.1.0 | jdcal | 1.2 |
Jinja2 | 2.8 | jmespath | 0.9.0 | llvmlite | 0.13.0 |
lxml | 3.6.4 | MarkupSafe | 0.23 | matplotlib | 1.5.3 |
mpld3 | 0.2 | msgpack-python | 0.4.7 | ndg-httpsclient | 0.3.3 |
numba | 0.28.1 | numpy | 1.11.1 | openpyxl | 2.3.2 |
pandas | 0.19.2 | pathlib2 | 2.1.0 | patsy | 0.4.1 |
pexpect | 4.0.1 | pickleshare | 0.7.4 | Pillow | 3.3.1 |
pip | 19.0.3 | ply | 3.9 | prompt-toolkit | 1.0.7 |
psycopg2 | 2.6.2 | ptyprocess | 0.5.1 | py4j | 0.10.3 |
pyarrow | 0.8.0 | pyasn1 | 0.1.9 | pycparser | 2.14 |
Pygments | 2.1.3 | PyGObject | 3.20.0 | pyOpenSSL | 16.0.0 |
pyparsing | 2.2.0 | pypng | 0.0.18 | Python | 2.7.12 |
python-dateutil | 2.5.3 | python-geohash | 0.8.5 | pytz | 2016.6.1 |
请求 | 2.11.1 | s3transfer | 0.1.9 | scikit-learn | 0.18.1 |
scipy | 0.18.1 | scour | 0.32 | seaborn | 0.7.1 |
setuptools | 40.8.0 | simplejson | 3.8.2 | simples3 | 1.0 |
singledispatch | 3.4.0.3 | 6 | 1.10.0 | statsmodels | 0.6.1 |
tornado | 5.1.1 | traitlets | 4.3.0 | urllib3 | 1.19.1 |
virtualenv | 16.1.0 | wcwidth | 0.1.7 | wheel | 0.33.1 |
wsgiref | 0.1.2 |
已安装的 R 库
库 | 版本 | 库 | 版本 | 库 | 版本 |
---|---|---|---|---|---|
abind | 1.4-5 | askpass | 1.1 | assertthat | 0.2.0 |
backports | 1.1.3 | base | 3.5.2 | base64enc | 0.1-3 |
BH | 1.69.0-1 | bit | 1.1-14 | bit64 | 0.9-7 |
bitops | 1.0-6 | blob | 1.1.1 | boot | 1.3-20 |
brew | 1.0-6 | callr | 3.1.1 | 汽车 | 3.0-2 |
carData | 3.0-2 | caret | 6.0-81 | cellranger | 1.1.0 |
chron | 2.3-53 | class | 7.3-15 | cli | 1.0.1 |
clipr | 0.5.0 | clisymbols | 1.2.0 | cluster | 2.0.7-1 |
codetools | 0.2-16 | colorspace | 1.4-0 | commonmark | 1.7 |
compiler | 3.5.2 | config | 0.3 | crayon | 1.3.4 |
curl | 3.3 | data.table | 1.12.0 | datasets | 3.5.2 |
DBI | 1.0.0 | dbplyr | 1.3.0 | desc | 1.2.0 |
devtools | 2.0.1 | digest | 0.6.18 | doMC | 1.3.5 |
dplyr | 0.8.0.1 | ellipsis | 0.1.0 | fansi | 0.4.0 |
forcats | 0.4.0 | foreach | 1.4.4 | foreign | 0.8-71 |
forge | 0.2.0 | fs | 1.2.6 | gbm | 2.1.5 |
generics | 0.0.2 | ggplot2 | 3.1.0 | gh | 1.0.1 |
git2r | 0.24.0 | glmnet | 2.0-16 | glue | 1.3.0 |
gower | 0.1.2 | graphics | 3.5.2 | grDevices | 3.5.2 |
grid | 3.5.2 | gridExtra | 2.3 | gsubfn | 0.7 |
gtable | 0.2.0 | h2o | 3.22.1.1 | haven | 2.1.0 |
hms | 0.4.2 | htmltools | 0.3.6 | htmlwidgets | 1.3 |
httr | 1.4.0 | hwriter | 1.3.2 | hwriterPlus | 1.0-3 |
ini | 0.3.1 | ipred | 0.9-8 | iterators | 1.0.10 |
jsonlite | 1.6 | KernSmooth | 2.23-15 | labeling | 0.3 |
lattice | 0.20-38 | lava | 1.6.5 | lazyeval | 0.2.1 |
littler | 0.3.6 | lme4 | 1.1-20 | lubridate | 1.7.4 |
magrittr | 1.5 | mapproj | 1.2.6 | maps | 3.3.0 |
maptools | 0.9-5 | MASS | 7.3-51.1 | 矩阵 | 1.2-15 |
MatrixModels | 0.4-1 | memoise | 1.1.0 | 方法 | 3.5.2 |
mgcv | 1.8-27 | mime | 0.6 | minqa | 1.2.4 |
ModelMetrics | 1.2.2 | munsell | 0.5.0 | mvtnorm | 1.0-9 |
nlme | 3.1-137 | nloptr | 1.2.1 | nnet | 7.3-12 |
numDeriv | 2016.8-1 | openssl | 1.2.2 | openxlsx | 4.1.0 |
parallel | 3.5.2 | pbkrtest | 0.4-7 | pillar | 1.3.1 |
pkgbuild | 1.0.2 | pkgconfig | 2.0.2 | pkgKitten | 0.1.4 |
pkgload | 1.0.2 | plogr | 0.2.0 | plyr | 1.8.4 |
praise | 1.0.0 | prettyunits | 1.0.2 | pROC | 1.13.0 |
processx | 3.2.1 | prodlim | 2018.04.18 | 进度 | 1.2.0 |
proto | 1.0.0 | ps | 1.3.0 | purrr | 0.3.0 |
quantreg | 5.38 | R.methodsS3 | 1.7.1 | R.oo | 1.22.0 |
R.utils | 2.8.0 | r2d3 | 0.2.3 | R6 | 2.4.0 |
randomForest | 4.6-14 | rappdirs | 0.3.1 | rcmdcheck | 1.3.2 |
RColorBrewer | 1.1-2 | Rcpp | 1.0.0 | RcppEigen | 0.3.3.5.0 |
RcppRoll | 0.3.0 | RCurl | 1.95-4.11 | readr | 1.3.1 |
readxl | 1.3.0 | recipes | 0.1.4 | rematch | 1.0.1 |
remotes | 2.0.2 | reshape2 | 1.4.3 | rio | 0.5.16 |
rlang | 0.3.1 | RODBC | 1.3-15 | roxygen2 | 6.1.1 |
rpart | 4.1-13 | rprojroot | 1.3-2 | Rserve | 1.8-6 |
RSQLite | 2.1.1 | rstudioapi | 0.9.0 | scales | 1.0.0 |
sessioninfo | 1.1.1 | sp | 1.3-1 | sparklyr | 1.0.0 |
SparkR | 2.4.2 | SparseM | 1.77 | spatial | 7.3-11 |
splines | 3.5.2 | sqldf | 0.4-11 | SQUAREM | 2017.10-1 |
statmod | 1.4.30 | stats | 3.5.2 | stats4 | 3.5.2 |
stringi | 1.3.1 | stringr | 1.4.0 | survival | 2.43-3 |
sys | 3.0 | tcltk | 3.5.2 | TeachingDemos | 2.10 |
testthat | 2.0.1 | tibble | 2.0.1 | tidyr | 0.8.3 |
tidyselect | 0.2.5 | timeDate | 3043.102 | 工具 | 3.5.2 |
usethis | 1.4.0 | utf8 | 1.1.4 | utils | 3.5.2 |
viridisLite | 0.3.0 | whisker | 0.3-2 | withr | 2.1.2 |
xml2 | 1.2.0 | xopen | 1.0.0 | yaml | 2.2.0 |
zip | 2.0.0 |
已安装的 Java 库和 Scala 库(Scala 2.11 群集版本)
组 ID | 项目 ID | 版本 |
---|---|---|
antlr | antlr | 2.7.7 |
com.amazonaws | amazon-kinesis-client | 1.8.10 |
com.amazonaws | aws-java-sdk-autoscaling | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudformation | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudfront | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudhsm | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudsearch | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudtrail | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudwatch | 1.11.313 |
com.amazonaws | aws-java-sdk-cloudwatchmetrics | 1.11.313 |
com.amazonaws | aws-java-sdk-codedeploy | 1.11.313 |
com.amazonaws | aws-java-sdk-cognitoidentity | 1.11.313 |
com.amazonaws | aws-java-sdk-cognitosync | 1.11.313 |
com.amazonaws | aws-java-sdk-config | 1.11.313 |
com.amazonaws | aws-java-sdk-core | 1.11.313 |
com.amazonaws | aws-java-sdk-datapipeline | 1.11.313 |
com.amazonaws | aws-java-sdk-directconnect | 1.11.313 |
com.amazonaws | aws-java-sdk-directory | 1.11.313 |
com.amazonaws | aws-java-sdk-dynamodb | 1.11.313 |
com.amazonaws | aws-java-sdk-ec2 | 1.11.313 |
com.amazonaws | aws-java-sdk-ecs | 1.11.313 |
com.amazonaws | aws-java-sdk-efs | 1.11.313 |
com.amazonaws | aws-java-sdk-elasticache | 1.11.313 |
com.amazonaws | aws-java-sdk-elasticbeanstalk | 1.11.313 |
com.amazonaws | aws-java-sdk-elasticloadbalancing | 1.11.313 |
com.amazonaws | aws-java-sdk-elastictranscoder | 1.11.313 |
com.amazonaws | aws-java-sdk-emr | 1.11.313 |
com.amazonaws | aws-java-sdk-glacier | 1.11.313 |
com.amazonaws | aws-java-sdk-iam | 1.11.313 |
com.amazonaws | aws-java-sdk-importexport | 1.11.313 |
com.amazonaws | aws-java-sdk-kinesis | 1.11.313 |
com.amazonaws | aws-java-sdk-kms | 1.11.313 |
com.amazonaws | aws-java-sdk-lambda | 1.11.313 |
com.amazonaws | aws-java-sdk-logs | 1.11.313 |
com.amazonaws | aws-java-sdk-machinelearning | 1.11.313 |
com.amazonaws | aws-java-sdk-opsworks | 1.11.313 |
com.amazonaws | aws-java-sdk-rds | 1.11.313 |
com.amazonaws | aws-java-sdk-redshift | 1.11.313 |
com.amazonaws | aws-java-sdk-route53 | 1.11.313 |
com.amazonaws | aws-java-sdk-s3 | 1.11.313 |
com.amazonaws | aws-java-sdk-ses | 1.11.313 |
com.amazonaws | aws-java-sdk-simpledb | 1.11.313 |
com.amazonaws | aws-java-sdk-simpleworkflow | 1.11.313 |
com.amazonaws | aws-java-sdk-sns | 1.11.313 |
com.amazonaws | aws-java-sdk-sqs | 1.11.313 |
com.amazonaws | aws-java-sdk-ssm | 1.11.313 |
com.amazonaws | aws-java-sdk-storagegateway | 1.11.313 |
com.amazonaws | aws-java-sdk-sts | 1.11.313 |
com.amazonaws | aws-java-sdk-support | 1.11.313 |
com.amazonaws | aws-java-sdk-swf-libraries | 1.11.22 |
com.amazonaws | aws-java-sdk-workspaces | 1.11.313 |
com.amazonaws | jmespath-java | 1.11.313 |
com.carrotsearch | hppc | 0.7.2 |
com.chuusai | shapeless_2.11 | 2.3.2 |
com.clearspring.analytics | 流 (stream) | 2.7.0 |
com.databricks | Rserve | 1.8-3 |
com.databricks | dbml-local_2.11 | 0.5.0-db8-spark2.4 |
com.databricks | dbml-local_2.11-tests | 0.5.0-db8-spark2.4 |
com.databricks | jets3t | 0.7.1-0 |
com.databricks.scalapb | compilerplugin_2.11 | 0.4.15-9 |
com.databricks.scalapb | scalapb-runtime_2.11 | 0.4.15-9 |
com.esotericsoftware | kryo-shaded | 4.0.2 |
com.esotericsoftware | minlog | 1.3.0 |
com.fasterxml | classmate | 1.0.0 |
com.fasterxml.jackson.core | jackson-annotations | 2.6.7 |
com.fasterxml.jackson.core | jackson-core | 2.6.7 |
com.fasterxml.jackson.core | jackson-databind | 2.6.7.1 |
com.fasterxml.jackson.dataformat | jackson-dataformat-cbor | 2.6.7 |
com.fasterxml.jackson.datatype | jackson-datatype-joda | 2.6.7 |
com.fasterxml.jackson.module | jackson-module-paranamer | 2.6.7 |
com.fasterxml.jackson.module | jackson-module-scala_2.11 | 2.6.7.1 |
com.github.fommil | jniloader | 1.1 |
com.github.fommil.netlib | core | 1.1.2 |
com.github.fommil.netlib | native_ref-java | 1.1 |
com.github.fommil.netlib | native_ref-java-natives | 1.1 |
com.github.fommil.netlib | native_system-java | 1.1 |
com.github.fommil.netlib | native_system-java-natives | 1.1 |
com.github.fommil.netlib | netlib-native_ref-linux-x86_64-natives | 1.1 |
com.github.fommil.netlib | netlib-native_system-linux-x86_64-natives | 1.1 |
com.github.luben | zstd-jni | 1.3.2-2 |
com.github.rwl | jtransforms | 2.4.0 |
com.google.code.findbugs | jsr305 | 2.0.1 |
com.google.code.gson | gson | 2.2.4 |
com.google.guava | guava | 15.0 |
com.google.protobuf | protobuf-java | 2.6.1 |
com.googlecode.javaewah | JavaEWAH | 0.3.2 |
com.h2database | h2 | 1.3.174 |
com.jcraft | jsch | 0.1.50 |
com.jolbox | bonecp | 0.8.0.RELEASE |
com.microsoft.azure | azure-data-lake-store-sdk | 2.2.8 |
com.microsoft.azure | azure-storage | 5.2.0 |
com.microsoft.sqlserver | mssql-jdbc | 6.2.2.jre8 |
com.ning | compress-lzf | 1.0.3 |
com.sun.mail | javax.mail | 1.5.2 |
com.thoughtworks.paranamer | paranamer | 2.8 |
com.trueaccord.lenses | lenses_2.11 | 0.3 |
com.twitter | chill-java | 0.9.3 |
com.twitter | chill_2.11 | 0.9.3 |
com.twitter | parquet-hadoop-bundle | 1.6.0 |
com.twitter | util-app_2.11 | 6.23.0 |
com.twitter | util-core_2.11 | 6.23.0 |
com.twitter | util-jvm_2.11 | 6.23.0 |
com.typesafe | config | 1.2.1 |
com.typesafe.scala-logging | scala-logging-api_2.11 | 2.1.2 |
com.typesafe.scala-logging | scala-logging-slf4j_2.11 | 2.1.2 |
com.univocity | univocity-parsers | 2.7.3 |
com.vlkan | flatbuffers | 1.2.0-3f79e055 |
com.zaxxer | HikariCP | 3.1.0 |
commons-beanutils | commons-beanutils | 1.7.0 |
commons-beanutils | commons-beanutils-core | 1.8.0 |
commons-cli | commons-cli | 1.2 |
commons-codec | commons-codec | 1.10 |
commons-collections | commons-collections | 3.2.2 |
commons-configuration | commons-configuration | 1.6 |
commons-dbcp | commons-dbcp | 1.4 |
commons-digester | commons-digester | 1.8 |
commons-httpclient | commons-httpclient | 3.1 |
commons-io | commons-io | 2.4 |
commons-lang | commons-lang | 2.6 |
commons-logging | commons-logging | 1.1.3 |
commons-net | commons-net | 3.1 |
commons-pool | commons-pool | 1.5.4 |
info.ganglia.gmetric4j | gmetric4j | 1.0.7 |
io.airlift | aircompressor | 0.10 |
io.dropwizard.metrics | metrics-core | 3.1.5 |
io.dropwizard.metrics | metrics-ganglia | 3.1.5 |
io.dropwizard.metrics | metrics-graphite | 3.1.5 |
io.dropwizard.metrics | metrics-healthchecks | 3.1.5 |
io.dropwizard.metrics | metrics-jetty9 | 3.1.5 |
io.dropwizard.metrics | metrics-json | 3.1.5 |
io.dropwizard.metrics | metrics-jvm | 3.1.5 |
io.dropwizard.metrics | metrics-log4j | 3.1.5 |
io.dropwizard.metrics | metrics-servlets | 3.1.5 |
io.netty | netty | 3.9.9.Final |
io.netty | netty-all | 4.1.17.Final |
io.prometheus | simpleclient | 0.0.16 |
io.prometheus | simpleclient_common | 0.0.16 |
io.prometheus | simpleclient_dropwizard | 0.0.16 |
io.prometheus | simpleclient_servlet | 0.0.16 |
io.prometheus.jmx | 收集器 | 0.7 |
javax.activation | activation | 1.1.1 |
javax.annotation | javax.annotation-api | 1.2 |
javax.el | javax.el-api | 2.2.4 |
javax.jdo | jdo-api | 3.0.1 |
javax.servlet | javax.servlet-api | 3.1.0 |
javax.servlet.jsp | jsp-api | 2.1 |
javax.transaction | jta | 1.1 |
javax.validation | validation-api | 1.1.0.Final |
javax.ws.rs | javax.ws.rs-api | 2.0.1 |
javax.xml.bind | jaxb-api | 2.2.2 |
javax.xml.stream | stax-api | 1.0-2 |
javolution | javolution | 5.5.1 |
jline | jline | 2.14.6 |
joda-time | joda-time | 2.9.3 |
log4j | apache-log4j-extras | 1.2.17 |
log4j | log4j | 1.2.17 |
net.hydromatic | eigenbase-properties | 1.1.5 |
net.razorvine | pyrolite | 4.13 |
net.sf.jpam | jpam | 1.1 |
net.sf.opencsv | opencsv | 2.3 |
net.sf.supercsv | super-csv | 2.2.0 |
net.snowflake | snowflake-ingest-sdk | 0.9.5 |
net.snowflake | snowflake-jdbc | 3.6.15 |
net.snowflake | spark-snowflake_2.11 | 2.4.10-spark_2.4 |
net.sourceforge.f2j | arpack_combined_all | 0.1 |
org.acplt | oncrpc | 1.0.7 |
org.antlr | ST4 | 4.0.4 |
org.antlr | antlr-runtime | 3.4 |
org.antlr | antlr4-runtime | 4.7 |
org.antlr | stringtemplate | 3.2.1 |
org.apache.ant | ant | 1.9.2 |
org.apache.ant | ant-jsch | 1.9.2 |
org.apache.ant | ant-launcher | 1.9.2 |
org.apache.arrow | arrow-format | 0.10.0 |
org.apache.arrow | arrow-memory | 0.10.0 |
org.apache.arrow | arrow-vector | 0.10.0 |
org.apache.avro | avro | 1.8.2 |
org.apache.avro | avro-ipc | 1.8.2 |
org.apache.avro | avro-mapred-hadoop2 | 1.8.2 |
org.apache.calcite | calcite-avatica | 1.2.0-incubating |
org.apache.calcite | calcite-core | 1.2.0-incubating |
org.apache.calcite | calcite-linq4j | 1.2.0-incubating |
org.apache.commons | commons-compress | 1.8.1 |
org.apache.commons | commons-crypto | 1.0.0 |
org.apache.commons | commons-lang3 | 3.5 |
org.apache.commons | commons-math3 | 3.4.1 |
org.apache.curator | curator-client | 2.7.1 |
org.apache.curator | curator-framework | 2.7.1 |
org.apache.curator | curator-recipes | 2.7.1 |
org.apache.derby | derby | 10.12.1.1 |
org.apache.directory.api | api-asn1-api | 1.0.0-M20 |
org.apache.directory.api | api-util | 1.0.0-M20 |
org.apache.directory.server | apacheds-i18n | 2.0.0-M15 |
org.apache.directory.server | apacheds-kerberos-codec | 2.0.0-M15 |
org.apache.hadoop | hadoop-annotations | 2.7.3 |
org.apache.hadoop | hadoop-auth | 2.7.3 |
org.apache.hadoop | hadoop-client | 2.7.3 |
org.apache.hadoop | hadoop-common | 2.7.3 |
org.apache.hadoop | hadoop-hdfs | 2.7.3 |
org.apache.hadoop | hadoop-mapreduce-client-app | 2.7.3 |
org.apache.hadoop | hadoop-mapreduce-client-common | 2.7.3 |
org.apache.hadoop | hadoop-mapreduce-client-core | 2.7.3 |
org.apache.hadoop | hadoop-mapreduce-client-jobclient | 2.7.3 |
org.apache.hadoop | hadoop-mapreduce-client-shuffle | 2.7.3 |
org.apache.hadoop | hadoop-yarn-api | 2.7.3 |
org.apache.hadoop | hadoop-yarn-client | 2.7.3 |
org.apache.hadoop | hadoop-yarn-common | 2.7.3 |
org.apache.hadoop | hadoop-yarn-server-common | 2.7.3 |
org.apache.htrace | htrace-core | 3.1.0-incubating |
org.apache.httpcomponents | httpclient | 4.5.4 |
org.apache.httpcomponents | httpcore | 4.4.8 |
org.apache.ivy | ivy | 2.4.0 |
org.apache.orc | orc-core-nohive | 1.5.2 |
org.apache.orc | orc-mapreduce-nohive | 1.5.2 |
org.apache.orc | orc-shims | 1.5.2 |
org.apache.parquet | parquet-column | 1.10.1.1-databricks3 |
org.apache.parquet | parquet-common | 1.10.1.1-databricks3 |
org.apache.parquet | parquet-encoding | 1.10.1.1-databricks3 |
org.apache.parquet | parquet-format | 2.4.0 |
org.apache.parquet | parquet-hadoop | 1.10.1.1-databricks3 |
org.apache.parquet | parquet-jackson | 1.10.1.1-databricks3 |
org.apache.thrift | libfb303 | 0.9.3 |
org.apache.thrift | libthrift | 0.9.3 |
org.apache.xbean | xbean-asm6-shaded | 4.8 |
org.apache.zookeeper | zookeeper | 3.4.6 |
org.codehaus.jackson | jackson-core-asl | 1.9.13 |
org.codehaus.jackson | jackson-jaxrs | 1.9.13 |
org.codehaus.jackson | jackson-mapper-asl | 1.9.13 |
org.codehaus.jackson | jackson-xc | 1.9.13 |
org.codehaus.janino | commons-compiler | 3.0.10 |
org.codehaus.janino | janino | 3.0.10 |
org.datanucleus | datanucleus-api-jdo | 3.2.6 |
org.datanucleus | datanucleus-core | 3.2.10 |
org.datanucleus | datanucleus-rdbms | 3.2.9 |
org.eclipse.jetty | jetty-client | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-continuation | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-http | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-io | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-jndi | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-plus | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-proxy | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-security | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-server | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-servlet | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-servlets | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-util | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-webapp | 9.3.20.v20170531 |
org.eclipse.jetty | jetty-xml | 9.3.20.v20170531 |
org.fusesource.leveldbjni | leveldbjni-all | 1.8 |
org.glassfish.hk2 | hk2-api | 2.4.0-b34 |
org.glassfish.hk2 | hk2-locator | 2.4.0-b34 |
org.glassfish.hk2 | hk2-utils | 2.4.0-b34 |
org.glassfish.hk2 | osgi-resource-locator | 1.0.1 |
org.glassfish.hk2.external | aopalliance-repackaged | 2.4.0-b34 |
org.glassfish.hk2.external | javax.inject | 2.4.0-b34 |
org.glassfish.jersey.bundles.repackaged | jersey-guava | 2.22.2 |
org.glassfish.jersey.containers | jersey-container-servlet | 2.22.2 |
org.glassfish.jersey.containers | jersey-container-servlet-core | 2.22.2 |
org.glassfish.jersey.core | jersey-client | 2.22.2 |
org.glassfish.jersey.core | jersey-common | 2.22.2 |
org.glassfish.jersey.core | jersey-server | 2.22.2 |
org.glassfish.jersey.media | jersey-media-jaxb | 2.22.2 |
org.hibernate | hibernate-validator | 5.1.1.Final |
org.iq80.snappy | snappy | 0.2 |
org.javassist | javassist | 3.18.1-GA |
org.jboss.logging | jboss-logging | 3.1.3.GA |
org.jdbi | jdbi | 2.63.1 |
org.joda | joda-convert | 1.7 |
org.jodd | jodd-core | 3.5.2 |
org.json4s | json4s-ast_2.11 | 3.5.3 |
org.json4s | json4s-core_2.11 | 3.5.3 |
org.json4s | json4s-jackson_2.11 | 3.5.3 |
org.json4s | json4s-scalap_2.11 | 3.5.3 |
org.lz4 | lz4-java | 1.4.0 |
org.mariadb.jdbc | mariadb-java-client | 2.1.2 |
org.mockito | mockito-all | 1.9.5 |
org.objenesis | objenesis | 2.5.1 |
org.postgresql | postgresql | 42.1.4 |
org.roaringbitmap | RoaringBitmap | 0.5.11 |
org.rocksdb | rocksdbjni | 5.2.1 |
org.rosuda.REngine | REngine | 2.1.0 |
org.scala-lang | scala-compiler_2.11 | 2.11.12 |
org.scala-lang | scala-library_2.11 | 2.11.12 |
org.scala-lang | scala-reflect_2.11 | 2.11.12 |
org.scala-lang.modules | scala-parser-combinators_2.11 | 1.1.0 |
org.scala-lang.modules | scala-xml_2.11 | 1.0.5 |
org.scala-sbt | test-interface | 1.0 |
org.scalacheck | scalacheck_2.11 | 1.12.5 |
org.scalactic | scalactic_2.11 | 3.0.3 |
org.scalanlp | breeze-macros_2.11 | 0.13.2 |
org.scalanlp | breeze_2.11 | 0.13.2 |
org.scalatest | scalatest_2.11 | 3.0.3 |
org.slf4j | jcl-over-slf4j | 1.7.16 |
org.slf4j | jul-to-slf4j | 1.7.16 |
org.slf4j | slf4j-api | 1.7.16 |
org.slf4j | slf4j-log4j12 | 1.7.16 |
org.spark-project.hive | hive-beeline | 1.2.1.spark2 |
org.spark-project.hive | hive-cli | 1.2.1.spark2 |
org.spark-project.hive | hive-exec | 1.2.1.spark2 |
org.spark-project.hive | hive-jdbc | 1.2.1.spark2 |
org.spark-project.hive | hive-metastore | 1.2.1.spark2 |
org.spark-project.spark | unused | 1.0.0 |
org.spire-math | spire-macros_2.11 | 0.13.0 |
org.spire-math | spire_2.11 | 0.13.0 |
org.springframework | spring-core | 4.1.4.RELEASE |
org.springframework | spring-test | 4.1.4.RELEASE |
org.tukaani | xz | 1.5 |
org.typelevel | machinist_2.11 | 0.6.1 |
org.typelevel | macro-compat_2.11 | 1.1.1 |
org.xerial | sqlite-jdbc | 3.8.11.2 |
org.xerial.snappy | snappy-java | 1.1.7.1 |
org.yaml | snakeyaml | 1.16 |
oro | oro | 2.0.8 |
software.amazon.ion | ion-java | 1.0.2 |
stax | stax-api | 1.0.1 |
xmlenc | xmlenc | 0.52 |