没长正的技术专栏 勤动手、多思考

Hadoop基础配置

2020-01-03

阅读:

2021-04-19

Hadoop集群

1.场景

核心:熟悉Hadoop集群搭建、网络规划及环境配置

【2019-12-14】 软件地址下载

2.虚拟机安装

略…

3.网络规划

start: 
 硬件配置
    根据实际情况分配内存、硬盘  

        master: 4G、40G    meizhangzheng/mzz123  192.168.1.10
        slave1: 2G、40G    meizhangzheng/mzz123  192.168.1.20
        slave2: 2G、40G    meizhangzheng/mzz123  192.168.1.30
          
       
 虚拟机网络设置 
    NAT8、不自动分配IP、 DHCP 设置
    子网:192.168.1.0
    掩码:255.255.255.0
    网关:192.168.1.2    (NAT配置)

4.Hadoop环境配置

(可创建桌面应用:选择 GUNE)

4.1 用户权限设置

给meizhangzheng用户设置root下的命令

   #在root用户下(su - root 设置密码)
    chmod u+w /etc/sudoers
    vi /etc/sudoers
    meizhangzheng ALL=(ALL) NOPASSWORD:ALL

4.2 关闭SELinux设置

(系统上的某些应用程序可能实际上不支持此安全机制)

可以使用meizhangzhengyong用户设置SELinux信息  (具体设置参数,有示例) ```    sudo vi /etc/sysconfig/selinux

SELINUX=disabled


#### 4.3 IP设置

```shell
   # 4.3.1 通过ifconfig 查看网卡名称:ens33  ,进入网卡配置路径
    cd /etc/sysconfig/network-scripts/

   # 4.3.2 创建网卡
    vi ifcfg-ens33

   # 4.3.3 编辑网卡信息 (注意: **NAME** 、 **DEVICE** 、UUID、
IPADDR、IPADDR、GATEWAY、DNS1、 **HWADDR** ONBOOT=YES 的配置:
 信息可以从ifconfig中查看)
    TYPE=Ethernet
    PROXY_METHOD=none
    BROWSER_ONLY=no
    BOOTPROTO=none
    DEFROUTE=yes
    IPV4_FAILURE_FATAL=no
    IPV6INIT=yes
    IPV6_AUTOCONF=yes
    IPV6_DEFROUTE=yes
    IPV6_FAILURE_FATAL=no
    IPV6_ADDR_GEN_MODE=stable-privacy
    NAME=ens33
    UUID=5cf61487-6084-4445-9cca-c5da7205e984
    DEVICE=ens33
    ONBOOT=YES
    IPADDR=192.168.1.10
    PREFIX=24
    GATEWAY=192.168.1.2
    DNS1=8.8.8.8
    HWADDR=00:0C:29:12:42:E2

  # 4.3.4 重启网卡信息
    
   sudo systemctl restart network

4.4 关闭防火墙

(防止因为防火墙问题,导致集群间通讯问题)

    # 4.4.1 查看防火墙状态

    sudo systemctl staus firewalld.service    

    # 4.4.2 关闭防火墙服务
    sudo systemctl stop firewalld.service

    # 4.4.3 禁止firewall开机启动
    sudo systemctl disable firewalld.service


4.5 检查和开启ssh服务

 (master /node /node 间通讯)
    
    # 4.5.1 查看ssh服务状态
    sudo systemctl status sshd.service

    # 4.5.2 启动ssh服务 (running)
    sudo systemctl start sshd.service

    # 4.5.3 设置开机启动ssh服务

    sudo systemctl enable sshd.service

4.6 配置hosts

    文件信息:  /etc/hosts
     
    # 4.6.1 配置hosts

    vi /etc/hosts

    192.168.1.10 master
    192.168.1.20 slave1
    192.168.1.30 slave2
        

4.7 修改主机名

    
    配置主机名( 需要与与IP对应)
    sudo vi /etc/hostname # 添加内容如下:
    
    master

4.8 配置ntp服务

节点间时间同步
    
    4.8.1 配置ntp服务

    yum install ntpdate (所有节点)

4.9 使用XShell 配置连接信息

本地配置步骤

5. JDK环境配置


    export JAVA_HOME=/home/meizhangzheng/jdk1.8.0_231
    export CLASSPATH=.:$JAVA_HOME/lib/jd.jar;$JAVA_HOME/lib/tools.jar
    export PATH=$JAVA_HOME/bin:$PATH
    

参考资料


Similar Posts

欢迎拍砖,多多交流,转载请注明出处:[没长正的技术专栏](http://blog.meizhangzheng.com) 如涉及侵权问题,请发送邮件到xsj34567@163.com,如情况属实本人将会尽快删除。


下一篇 Hadoop网络配置

Comments