2、异常原因
出现该异常场景是spark-submit提交master为yarn cluster，yarn client没有这种问题，原因是因为，在代码里指定了master为local（本地测试用），在spark-submit提交程序时忘记删除了
3、异常再现
代码
package com.dkl.leanring.spark.exceptionimport org.apache.spark.sql.SparkSessionobject YarnClusterDemo { def main(args: Array[String]): Unit = { val spark = SparkSession.builder().appName("YarnClusterDemo").master("local").getOrCreate() val sc = spark.sparkContext val rdd = sc.parallelize(Seq(1, 2, 3))
println(rdd.count)
spark.stop()
}
}这段代码在本地是没有问题，输出结果为3，把它打包，然后放在集群上，用spark-submit提交测试一下
4、yarn client
--master yarn 默认的就是client模式，所以用下面的命令
spark-submit --master yarn --class com.dkl.leanring.spark.exception.YarnClusterDemo spark-scala_2.11-1.0.jar
等价于
spark-submit --master yarn --deploy-mode client --class com.dkl.leanring.spark.exception.YarnClusterDemo spark-scala_2.11-1.0.jar
结果也会正常打印出来，因为在代码里指定了master为local所以实际上应该还是用的local，但是没有研究client模式不报错，可能是用的client模式用提交代码的那台机器为Driver，然后再用local模式吧
5、yarn cluster
用下面的命令，即可再现异常
spark-submit --master yarn --deploy-mode cluster --class com.dkl.leanring.spark.exception.YarnClusterDemo spark-scala_2.11-1.0.jar
所以实际用spark-submit提交程序的时候，将master在代码里删掉，然后用命令行--master指定即可
val spark = SparkSession.builder().appName("YarnClusterDemo").getOrCreate()6、附图
image
image
7、更新：其他情况
在我后面用yarn cluster模式的时候，又碰到了一样的异常信息，检查了一下master没有在代码里指定为local，经过一步步的测试，最后发现，是由于有一行代码读取的本地文件，在yarn client模式的时候，提交程序的那台机器即为Driver，会从Driver的机器上对应的目录找本地文件，所以在yarn client的时候不会报错（Driver有该文件）在yarn cluster会随机选择集群上一个节点作为Driver，那么Driver没有该文件，就会产生异常，而yarn cluster模式返回的异常不很明确，只是返回
Exception in thread "main" org.apache.spark.SparkException: Application application_*** finished with failed status
这样的异常，所以不知道是哪里出错了，可以在代码里加上捕获异常的代码，这样就可以在yarn的日志里看到具体的异常信息了，具体的代码我就不贴了，贴一下捕获异常的
try { //此处为你的可能产生异常的代码
} catch { case e: Exception => println(e)
}在加了捕获异常代码后，yarn日志
image
作者：董可伦
链接：https://www.jianshu.com/p/663f7adcb41e
