重庆分公司,新征程启航

为企业提供网站建设、域名注册、服务器等服务

spark集群无法分配资源怎么办

这篇文章给大家分享的是有关spark集群无法分配资源怎么办的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。

成都创新互联于2013年开始,是专业互联网技术服务公司,拥有项目成都网站制作、成都网站设计网站策划,项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命,1280元璧山做网站,已为上家服务,为璧山各地企业和个人服务,联系电话:028-86922220

问题1:WARN TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory

此时程序会一直loading,running,loading,running…的循环,并持续出现上面的警告。
出现这个错误很有可能是你启动spark的方式有问题。

很多人启动spark直接用start-all.sh,但是如果你在env配置文件里没有指定master的ip,这样启动就会报上面这个问题。如果没有配置可以在启动的时候指定:

在maser上用

./start-master.sh -h “ip地址”

在worker上用

./start-slave.sh spark://"master的ip":7077

其它参数在启动的时候也可以指定,端口号也可以改动。

感谢各位的阅读!关于“spark集群无法分配资源怎么办”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!


本文名称:spark集群无法分配资源怎么办
当前链接:http://cqcxhl.com/article/igeioc.html

其他资讯

在线咨询
服务热线
服务热线:028-86922220
TOP