Hive on Spark配置

兼容性说明

注意：官网下载的 Hive3.1.2 和 Spark3.0.0 默认是不兼容的。

因为 Hive3.1.2 支持的 Spark 版本是2.4.5，所以需要我们重新编译Hive3.1.2版本。

编译步骤：官网下载Hive3.1.2源码，修改pom文件中引用的Spark版本为3.0.0，如果编译通过，直接打包获取jar包。如果报错，就根据提示，修改相关方法，直到不报错，打包获取jar包。

在Hive所在节点部署Spark

如果之前已经部署了Spark，则该步骤可以跳过，但要检查 SPARK_HOME 的环境变量配置是否正确。

（1）Spark官网下载jar包地址：

http://spark.apache.org/downloads.html

（2）上传并解压解压spark-3.0.0-bin-hadoop3.2.tgz

[root@hadoop102 software]# tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/

[root@hadoop102 software]#  mv /opt/module/spark-3.0.0-bin-hadoop3.2 /opt/module/spark

（3）配置SPARK_HOME环境变量

[root@hadoop102 software]# vim /etc/profile.d/my_env.sh

添加如下内容

# SPARK_HOME

source 使其生效

[root@hadoop102 software]#  source /etc/profile.d/my_env.sh

在hive中创建spark配置文件

[root@hadoop102 software]# vim /opt/module/hive/conf/spark-defaults.conf

添加如下内容（在执行任务时，会根据如下参数执行）

在HDFS创建如下路径，用于存储历史日志

[root@hadoop102 software]# hadoop fs -mkdir /spark-history

向HDFS上传Spark纯净版jar包

说明1：由于Spark3.0.0非纯净版默认支持的是hive2.3.7版本，直接使用会和安装的Hive3.1.2出现兼容性问题。所以采用Spark纯净版jar包，不包含hadoop和hive相关依赖，避免冲突。

说明2：Hive任务最终由Spark来执行，Spark任务资源分配由Yarn来调度，该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径，这样集群中任何一个节点都能获取到。

（1）上传并解压spark-3.0.0-bin-without-hadoop.tgz

[root@hadoop102 software]# tar -zxvf /opt/software/spark-3.0.0-bin-without-hadoop.tgz

（2）上传Spark纯净版jar包到HDFS

[root@hadoop102 software]# hadoop fs -mkdir /spark-jars

[root@hadoop102 software]# hadoop fs -put spark-3.0.0-bin-without-hadoop/jars/* /spark-jars

修改hive-site.xml文件

[root@hadoop102 ~]# vim /opt/module/hive/conf/hive-site.xml

添加如下内容

注意：hive.spark.client.connect.timeout的默认值是1000ms，如果执行hive的insert语句时，抛如下异常，可以调大该参数到10000ms

坑一 

yarn 配置的最大内存小于 spark 配置的内存

vim /opt/module/hadoop/etc/hadoop/yarn-site.xml

坑二

ERROR [cd09b5ce-a108-4b6c-963b-2f993728ec9b main] spark.SparkTask: Failed to execute spark task, with exception 'java.lang.Exception(Failed to submit Spark work, please retry later)'

 java.lang.IllegalStateException: RPC channel is closed.

坑三

FAILED: SemanticException Failed to get a spark session: org.apache.hadoop.hive.ql.metadata.HiveException: Failed to create Spark client for Spark session d9e0224c-3d14-4bf4-95bc-ee3ec56df48e

vim  /opt/module/spark-yarn/conf/spark-env.sh

坑四

Failed to execute spark task, with exception 'org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create Spark client for Spark session 348a2e06-5dfc-4956-a243-9e6d2da3fa11)'FAILED: Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask. Failed to create Spark client for Spark session 348a2e06-5dfc-4956-a243-9e6d2da3fa11

1.Spark没有启动；需在/opt/module/spark路径下输入以下内容启动spark：[root@hadoop102 spark]# ./sbin/start-all.sh2.Spark和hive版本不匹配，我的是匹配的；

3.内存资源不足，导致hive连接spark客户端超时。原文链接：https://blog.csdn.net/FunnyPrince_/article/details/120616109