为什么我们生产上要选择SparkOnYarn模式？-创新互联

为什么我们生产上要选择Spark On Yarn？

创新互联建站公司2013年成立，先为贞丰等服务建站，贞丰等地企业，进行企业商务咨询服务。为贞丰企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

开发上我们选择local[2]模式
生产上跑任务Job，我们选择Spark On Yarn模式 ，

将Spark Application部署到yarn中，有如下优点：

1.部署Application和服务更加方便

• 只需要yarn服务，包括Spark，Storm在内的多种应用程序不要要自带服务，它们经由客户端提交后，由yarn提供的分布式缓存机制分发到各个计算节点上。

2.资源隔离机制

• yarn只负责资源的管理和调度，完全由用户和自己决定在yarn集群上运行哪种服务和Applicatioin，所以在yarn上有可能同时运行多个同类的服务和Application。Yarn利用Cgroups实现资源的隔离，用户在开发新的服务或者Application时，不用担心资源隔离方面的问题。

3.资源弹性管理

• Yarn可以通过队列的方式，管理同时运行在yarn集群种的多个服务，可根据不同类型的应用程序压力情况，调整对应的资源使用量，实现资源弹性管理。

Spark On Yarn有两种模式，一种是cluster模式，一种是client模式。

运行client模式：

• “./spark-shell –master yarn”
• “./spark-shell –master yarn-client”
• “./spark-shell –master yarn –deploy-mode client”

运行的是cluster模式

• “./spark-shell –master yarn-cluster”
• “./spark-shell –master yarn –deploy-mode cluster”

client和cluster模式的主要区别：a. client的driver是运行在客户端进程中b. cluster的driver是运行在Application Master之中

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。

网站栏目：为什么我们生产上要选择SparkOnYarn模式？-创新互联
文章位置：http://6mz.cn/article/cdices.html