Hadoop集群环境搭建

c/c++

浏览数:119

2019-6-30

AD:资源代下载服务

(1)、在虚拟机中设置静态主机IP
①、获取当前IP地址的网段
②、子网掩码以及网关

③、在虚拟机外部将其Ping通

(2)、修改主机名

临时修改
hostname 主机名称
永久修改
sudo vi /etc/sysconfig/network 文件
修改hostname属性

权限不够时可以通过su root –>sudo vi /etc/sudoers添加权限,如下

(3)、关闭防火墙
查看防火墙运行状态  sudo service iptables status
临时关闭防火墙  sudo service iptables stop

关闭防火墙服务  sudo chkconfig iptables off/on

(4)、安装远程客户端

1.filezilla.exe
2.SecureCRT
3.notepad++  (NTP.dll插件放入Notepad++\plugins下)

(5)、由于使用的时CentOS6.5自带java版本较低需删除,重新配置jdk1.7

①、卸载已有JDK

1.查看java相关的安装文件
sudo rpm -qa|grep java

2.卸载已安装的java文件
sudo rpm -e –nodeps 文件名1 文件名2 …

②、安装JDk
1.上传JDK的安装包 1.7 (使用filezilla来上传安装包)

2.在/opt目录下新建两个子目录
softwares 存放上传的软件
modules 存放执行的文件

3.进入softwares目录
cd softwares

4.移动上传的文件到该目录
sudo mv ~/jdkxxxxx .
sudo mv ~/hadoopxxxx .

5.将文件解压到modules目录
sudo tar -zxvf jdk-7u80-linux-x64.tar.gz -C ../modules/

6.配置Java的环境变量
sudo vi ~/.bash_profile(环境变量配置文件),配置内容如下

7.使新增内容生效
source ~/.bash_profile

8.查看是否配置成功

   java -version  查看已安装的java版本

  javac   查看是否可编译java文件

(6)、SSH免登陆
ssh远程访问协议,用于多台虚拟机直接的交互
1.开启ssh免登录
sudo vi /etc/ssh/sshd_config

2.生成ssh免登录的公钥与密钥
ssh-keygen -t rsa (过程中不停回车,设置密码均为空)

3.查看隐藏文件
ls -al (~目录下有.ssh文件)

4.保存公钥到authorized_keys文件中
cat id_rsa.pub >> authorized_keys

5.对.ssh目录和authorized_keys进行授权
sudo chmod 600 authorized_keys (.ssh)
sudo chmod 750 .ssh (~目录下)

同时将”/”下的opt改为对应的当前用户名所有(sudo chown -R hadoop:hadoop /opt   [-R]表示循环改变)如下

设置主机名对应的ip
sudo vi /etc/hosts
ip地址 主机名

6.测试
  ssh 主机名

  ssh Master

 (7)、在/opt/modules/hadoop-2.6.5/etc/hadoop下的文件修改

①、core-site.xm下添加

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://Master:8020</value>
    </property>
	<property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/modules/hadoop-2.6.5/tmp</value>
    </property>
</configuration>

②、在hadoop-env.sh、mappred-env.sh、yarn-env.sh下修改JAVA_HOME

export JAVA_HOME=/opt/modules/jdk1.7.0_80  

③、在hdfs-site.xml下修改为:

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
	
	<property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>Master:50090</value>
    </property>
</configuration>

④、搭建集群时,主机要管理所有节点,修改slaves

Master
Slave1
Slave2

⑤、修改yarn-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->
	<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
	
	<property>
        <name>yarn.resourcemanager.hostname</name>
        <value>Master</value>
    </property>

</configuration>

 ⑥、按同样的方式搭建好其余两台主机,主机名分别叫Slave1和Slave2,不同的是在slave文件中只有各自对应的Slave1和Slave2一个节点,同时修改修改yarn-site.xml

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

(8)、在三台主机都添加上主机名

  sudo vi /etc/hosts

    192.168.9.111     Master

    192.168.9.112     Slave1

    192.168.9.113     Slave2

(9)、设置多台主机可直接ssh免登入

  ssh-copy-id -i ~/.ssh/id_rsa.pub

(10)、删除hadoop-2.6.5下的tmp和logs文件,格式化硬盘,启动hdfs文件系统以及查看开启的节点

  rm -rf logs

  rm -rf tmp(这两步三台主机都要进行)

  bin/hdfs namenode -format    格式化硬盘

  sbin/start-all.sh       启动HDFS文件关系系统

  jps             查看开启节点数

(11)、登入http://192.168.9.111:50070查看详细信息,可以看到如下信息,说明三台主机可以正常工作了

利用web端实现对HDFS系统的管理

 bin/hdfs dfs -mkdir /user   创建user文件夹

 bin/hdfs dfs -mkdir /user/<username>  创建username文件夹,此处我的是hadoop

bin/hdfs dfs -put etc/hadoop input  将创建的input的复制到HDFS文件管理系统中

其中Dao的写法如下:

package com.gqx.dao;

import java.io.File;
import java.io.IOException;
import java.io.InputStream;
import java.net.URLEncoder;
import java.util.List;

import javax.servlet.http.Part;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

public class FileDao {
	public FileStatus[] getAllFile() throws IOException{
		System.setProperty("HADOOP_USER_NAME","hadoop");
		System.setProperty("hadoop.home.dir","D:\\hadoop-2.6.5");
		Configuration conf = new Configuration();
		FileSystem fs =FileSystem.get(conf);
		FileStatus[] list =fs.listStatus(new Path("/user/hadoop/input"));
		return list;
	}

	public boolean delete(String name) throws IOException{
		System.setProperty("HADOOP_USER_NAME","hadoop");
		System.setProperty("hadoop.home.dir","D:\\hadoop-2.6.5");
		Configuration conf = new Configuration();
		FileSystem fs =FileSystem.get(conf);
		return fs.delete(new Path("/user/hadoop/input/"+name),true);
	}

	public boolean upload(Part part) throws IOException{
		System.setProperty("HADOOP_USER_NAME","hadoop");
		System.setProperty("hadoop.home.dir","D:\\hadoop-2.6.5");
		//创建HDFS文件系统
		Configuration conf = new Configuration();
		FileSystem hadoopFS= FileSystem.get(conf);
		InputStream in=part.getInputStream();
		Path path = new Path("/user/hadoop/input");
		FSDataOutputStream fsout=hadoopFS.create(new Path(path+"/"+part.getSubmittedFileName()));
		byte[] buf=new byte[1024];
		int readbytes=0;
		while((readbytes=in.read(buf))>0){
			fsout.write(buf,0,readbytes);
		}
		in.close();
		fsout.close();
		return true;
	}

	public FSDataInputStream download(String name) throws IOException{
		System.setProperty("HADOOP_USER_NAME","hadoop");
		System.setProperty("hadoop.home.dir","D:\\hadoop-2.6.5");
		//创建HDFS文件系统
		Configuration conf = new Configuration();
		FileSystem hadoopFS= FileSystem.get(conf);
		// 如果文件名是中文,需要进行url编码
		FSDataInputStream fsin = hadoopFS.open(new Path("/user/hadoop/input/"+name));
		return fsin;
	}

}  

文件下载的servlet如下:

package com.gqx.servlet;

import java.io.IOException;
import java.io.OutputStream;
import java.net.URLEncoder;

import javax.servlet.ServletException;
import javax.servlet.annotation.WebServlet;
import javax.servlet.http.HttpServlet;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;

import org.apache.hadoop.fs.FSDataInputStream;

import com.gqx.dao.FileDao;

/**
 * Servlet implementation class DownloadServlet
 */
@WebServlet("/DownloadServlet")
public class DownloadServlet extends HttpServlet {
	private static final long serialVersionUID = 1L;
       
    /**
     * @see HttpServlet#HttpServlet()
     */
    public DownloadServlet() {
        super();
        // TODO Auto-generated constructor stub
    }

	/**
	 * @see HttpServlet#doGet(HttpServletRequest request, HttpServletResponse response)
	 */
	protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
		// TODO Auto-generated method stub
		String name=request.getParameter("name");
		FileDao dao = new FileDao();
		//name = URLEncoder.encode(name, "UTF-8");
		FSDataInputStream fsin = dao.download(name);
		System.out.println(name);
		response.setHeader("content-disposition", "attachment;fileName=" + 
				new String(name.getBytes("GBK"),"ISO-8859-1"));
		OutputStream out = response.getOutputStream();
		byte[] b = new byte[1024];
		int len=-1;
		while((len=fsin.read(b)) != -1){
			out.write(b,0,len);
		}
		out.close();
		fsin.close();
	}

	/**
	 * @see HttpServlet#doPost(HttpServletRequest request, HttpServletResponse response)
	 */
	protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
		// TODO Auto-generated method stub
		doGet(request, response);
	}

}

  

文件的目录和最终效果如下

 

  

  

 

作者:一盏淡酒、醉了夕阳