溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

使用HBase自帶的import工具導入數據遇到的兩個問題

發布時間:2020-03-04 10:44:52 來源:網絡 閱讀:2506 作者:mr_power 欄目:關系型數據庫

因為開發環境需要遷移,將原來HBase中的表使用 org.apache.hadoop.hbase.mapreduce.Export 工具序列化到hdfs后下載出來,在新的開發環境中導入。導入時遇到了兩個問題。


問題一:導入失敗提示User hbase cannot submit applications to queue root.hbase

使用HBase自帶的import工具導入數據遇到的兩個問題

解決方法:

登錄到yarn集群管理節點Resource Manager機器上/etc/hadoop 路徑 ,修改fair-scheduler.xml 

vi /etc/hadoop/fair-scheduler.xml,新增以下內容(所有的Resource Manager節點都需要修改),保存退出。不需要重啟集群和組件

<queue name='hbase'>
  <weight>1</weight>
  <schedulingPolicy>drf</schedulingPolicy>
  <aclSubmitApps>hdfs,hbase,hive</aclSubmitApps>
  <aclAdministerApps>hbase</aclAdministerApps>
  <minResources>100 mb,10 vcores</minResources>
  <maxResources>10240 mb,50 vcores</maxResources>
  <maxRunningApps>50</maxRunningApps> 
</queue>


問題二:導入失敗,終端沒有按正常進度走,也沒有相關錯誤提示。

查看yarn 中的job日志發現如下信息

使用HBase自帶的import工具導入數據遇到的兩個問題

解決方法:

去系統下查看hbaseiduid=482(hbase)yarn的配置中有一項為“min.user.id”最小用戶id這里配置了1000。修改為300后問題排除。

這個配置的作用是允許的最小 Linux 用戶 ID。用于阻止其他超級用戶。


向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女