marsishandsome / marsishandsome.github.io

Build a Jekyll blog in minutes, without touching the command line.
MIT License
1 stars 2 forks source link

Kubernetes系列4:Spark on Kubernetes – Mars – Software Developer from IQIYI #9

Open marsishandsome opened 6 years ago

marsishandsome commented 6 years ago

https://marsishandsome.github.io/2018/04/Kubernetes_4

Spark on Kubernetes有两种方案:

Standalone模式:将Spark的Master和Worker部署到K8s的Pod中,构建一个Spark Standalone集群,对外提供一个master的地址,用户可以像使用一个普通的Standalone集群一样使用,这种模式不需要Spark修改代码,只需要额外提供部署到k8s上的脚本 Native模式:Spark的每个Executor独立部署到一个Pod,需要修改Spark代码,Spark Driver使用Kubernetes的API进行资源申请