溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Ambari 2.4 安裝教程,另附配置 haodoop lzo

發布時間:2020-06-28 10:37:55 來源:網絡 閱讀:3777 作者:Professor哥 欄目:數據庫

準備工作

1. 安裝JDK,集群內各成員主機安裝JDK的路徑和版本必須統一。

2. 在集群內主機安裝一臺MySQL Server (MySQL為選裝,Ambari默認的數據庫為 PostgreSQL)

1. MySQL 配置
創建 ambari-server 的數據庫以及連接用戶,且授權
# mysql -u root -p
CREATE DATABASE ambari DEFAULT CHARSET=utf8;
CREATE USER '<AMBARIUSER>'@'%' IDENTIFIED BY '<AMBARIPASSWORD>';
GRANT ALL PRIVILEGES ON ambari.* TO '<AMBARIUSER>'@'%';
# 刪除MySQL默認的匿名賬戶,此處省略。
FLUSH PRIVILEGES;
2. 連接測試 MySQL 且創建結構表
# mysql -u ambari -p
SHOW DATABASES;
SHOW GRANTS;

# 導入結構表
SOURCE /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql;
3.配置 mysql-jdbc 連接器
wget http://java.com/****/mysql-connector-java-5.1.40.tar.gz
tar xf mysql-connector-java-5.1.40.tar.gz
cd mysql-connector-java-5.1.40
mkdir /usr/share/java
cp mysql-connector-java-5.1.40-bin.jar /usr/share/java/
cd /usr/share/java   
ln -s mysql-connector-java-5.1.40-bin.jar  mysql-connector-java.jar

或者直接 yum 安裝 mysql-connector-java 即可。

1. 配置ambari repo本地源

#VERSION_NUMBER=2.4.2.0-136

[Updates-ambari-2.4.2.0]
name=ambari-2.4.2.0 - Updates
baseurl=http://172.17.20.21/ambari/
gpgcheck=1
gpgkey=http://172.17.20.21/ambari/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

2. 配置HDP本地源

[HDP-2.5.3.0]
name=HDP Version - HDP-2.5.3.0
baseurl=http://172.17.20.21/HDP/centos6/
gpgcheck=1
gpgkey=http://172.17.20.21/HDP/centos6/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1


[HDP-UTILS-2.5.3.0]
name=HDP-UTILS Version - HDP-UTILS-2.5.3.0
baseurl=http://172.17.20.21/HDP-UTILS-1.1.0.21/repos/centos6/
gpgcheck=1
gpgkey=http://172.17.20.21/HDP-UTILS-1.1.0.21/repos/centos6/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

3.安裝ambari-server

yum install ambari-server

yum安裝ambari-server 需要依賴安裝 postgresql,ambari-server 是需要數據庫支持的,默認為PostgreSQL,也可以選擇 MySQL (這里因為依賴關系,先安裝PostgreSQL,后續不用,改用安裝MySQL即可)。

yum install ambari-agent

在集群內所有的成員主機上手動安裝 ambari-agent

4. 初始化ambari

使用命令:

ambari-server  setup

Using python  /usr/bin/python
Setup ambari-server
Checking SELinux...
SELinux status is 'disabled'
Customize user account for ambari-server daemon [y/n] (n)?  # ambari-server以root身份運行
Adjusting ambari-server permissions and ownership...
Checking firewall status...
Checking JDK...
[1] oracle jdk 1.8 + java cryptography extension (jce) policy files 8
[2] oracle jdk 1.7 + java cryptography extension (jce) policy files 7
[3] custom jdk  # 如果本地已經安裝有jdk,那么選擇這一項,否則ambari初始化的時候會通過yum源安裝jdk
==============================================================================
Enter choice (1): 3
WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts.
WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please makesure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts.
Path to JAVA_HOME: /opt/java/jdk        # 指定本地已經安裝好的jdk路徑,也就是環境變量 JAVA_HOME 的值。
Validating JDK on Ambari Server...done.
Completing setup...
Configuring database...
Enter advanced database configuration [y/n] (n)? y  # 是否需要自定義數據庫配置
Configuring database...
==============================================================================
Choose one of the following options:
[1] - PostgreSQL (Embedded)     # 默認使用PostgreSQL
[2] - Oracle
[3] - MySQL / MariaDB           # 我們這里選擇本地安裝的MySQL
[4] - PostgreSQL
[5] - Microsoft SQL Server (Tech Preview)
[6] - SQL Anywhere
[7] - BDB
==============================================================================
Enter choice (1): 3
Hostname (localhost):
Port (3306):        # 是否需要指定數據庫端口,默認3306
Database name (ambari):     # 是否需要指定ambari 的數據庫,默認ambari庫
Username (ambari):      # 是否需要指定ambari-server的數據庫用戶,默認ambari
Enter Database Password (bigdata):  # 是否需要使用默認的數據庫連接密碼,默認為bigdata
Re-enter password:
Configuring ambari database...
Copying JDBC drivers to server resources...
Configuring remote database connection properties...
WARNING: Before starting Ambari Server, you must run the following DDL against the database to create the schema:/var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
Proceed with configuring remote database connection properties [y/n] (y)? y     # 初始化數據庫連接數據
Extracting system views...
.............
Adjusting ambari-server permissions and ownership...
Ambari Server 'setup' completed successfully.       # successfully 配置完成

啟動ambari-server服務:

service ambari-server start

Using python  /usr/bin/python
Starting ambari-server
Ambari Server running with administrator privileges.
Organizing resource files at /var/lib/ambari-server/resources...
Ambari database consistency check started...
No errors were found.
Ambari database consistency check finished
Server PID at: /var/run/ambari-server/ambari-server.pid
Server out at: /var/log/ambari-server/ambari-server.out
Server log at: /var/log/ambari-server/ambari-server.log
Waiting for server start....................
Ambari Server 'start' completed successfully.

配置完成后web頁面打開 http://HOST_IP:8080 即可,安裝完成后默認登錄密碼為 admin Ambari 2.4 安裝教程,另附配置 haodoop lzo

5. ambari-server 的web端配置

Ambari 2.4 安裝教程,另附配置 haodoop lzo

點擊 Launch install Wizard 開始安裝和配置集群。

-1. 集群命名

-2. 選擇 HDP 版本 Ambari 2.4 安裝教程,另附配置 haodoop lzo  我這里由于本地源的版本是2.5,就選擇默認的2.5版本

Ambari 2.4 安裝教程,另附配置 haodoop lzo

選擇 Use Local Repository (各集群主機均要從yum源安裝角色包,默認為官方源)。

刪除其余無關的系統類別

填入HDP源 以及 HDP-UTILS 的 Base URL

-3. 填入集群所有主機的 FQDN 名稱。 上傳或粘貼私鑰(集群內所有主機均信任的 ssh 私鑰)。 Ambari 2.4 安裝教程,另附配置 haodoop lzo

點擊注冊和確認按鈕過后,ambari-server 會通過上一步指定的本地源地址,使用該ssh私鑰 連接到所有的集群內主機安裝必要的 ambari-agent 等包,以及創建各服務運行的系統用戶。

-4. 提交集群初始化配置 Ambari 2.4 安裝教程,另附配置 haodoop lzo

這一步就是檢測集群內各成員主機是否安裝有 ambari-agent ,如果沒有安裝,那么程序會自動通過yum安裝,前提是得事先配置好yum源。

  • 需要配置好集群內各成員主機的ntpd服務,并啟動服務。

  • 推薦關閉內核的 Transparent Huge Pages (THP) 功能,方法是在 grub.conf 的 kenel 啟動參數中追加配置 transparent_hugepage=never 重啟即可。

-5. 選擇需要安裝的服務 Ambari 2.4 安裝教程,另附配置 haodoop lzo

-6. 分配集群內各主機的master角色 Ambari 2.4 安裝教程,另附配置 haodoop lzo

-7. 分配集群內各主機的Slave角色 Ambari 2.4 安裝教程,另附配置 haodoop lzo

-8. 自定義配置各服務的參數 Ambari 2.4 安裝教程,另附配置 haodoop lzo  可以配置DataNode DataNode的存儲目錄,存儲空間大小,內存分配大小等。

-9. 之前的配置匯總預覽 Ambari 2.4 安裝教程,另附配置 haodoop lzo

-10. 開始部署 Ambari 2.4 安裝教程,另附配置 haodoop lzo

如遇錯誤提示,可以點擊 Message 查看報錯詳情。

6. HDP配置lzo

yum -y install lzo lzo-devel hadooplzo hadooplzo-native

Web端的配置: Ambari 2.4 安裝教程,另附配置 haodoop lzo 找到 Advanced core-site 項,在 io.compression.codecs 的原有value值中添加 com.hadoop.compression.lzo.LzoCodec

找到 Custom core-site 項,添加key為 io.compression.codec.lzo.class 且值為 com.hadoop.compression.lzo.LzoCodec 。

保存配置。 重啟集群服務即可。

測試lzo:執行

hbase org.apache.hadoop.hbase.util.CompressionTest hdfs://mycluster/test_lzo lzo


向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女