溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Spark on yarn

發布時間:2020-08-10 13:47:35 來源:網絡 閱讀:1373 作者:jethai 欄目:大數據


Spark on yarn


ResourceManager  資源管理   只有一個(資源以Container表示)

ApplicationMaster  應用管理   用戶每提交一個application都包含一個ApplicationMaster
NodeManager 每個節點對應一個


ApplicationMaster 啟動后向ResourceManager要資源


Spark on yarn


每個Executor對應一個Container

每個SparkContext有一個ApplicationMaster


Spark on yarn

spark支持的兩種模式區別 Spark Driver運行在哪兒

yarn-cluster(YarnClusterScheduler) (driverApplicationMaster運行在一起,client看不到運行結果)

yarn-client  (YarnClientClusterScheduler)(driver和client運行在一起,適用于終端返回結果)

Spark on yarn






向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女