Java教程

scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object; 错误原因分析

本文主要是介绍scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object; 错误原因分析,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

迁移Spark2.4.2/Scala 2.11 工程项目到Spark 3.0.3/Scala 2.12 的过程,运行工程代码报错:

  User class threw exception: java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object;

 

乍一看是某一行的引用方式取数组元素报错,但是在Spark-shell中运行没有问题。最后经过分析,是编译和运行的Spark/Scala版本不同导致的。有两种情况都可能导致上述报错;

  情况一:低版本scala 2.11的jar包被包含在高版本scala 2.12编译的程序中,这些jar包,可能是 spark-sql_2.11[1]、spark-core_2.11等等

    情况二:高版本scala 2.12编译的jar,使用低版本的scala 2.11的spark_submit 命令进行提交;比如使用spark-2.1.0-bin-hadoop2.6/scala 2.11的工具链,提交 spark3.0.3/scala 2.12 版本的任务到集群。

参考链接:[1] https://www.cnblogs.com/itboys/p/6675075.html

这篇关于scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object; 错误原因分析的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!