hadoop在ubuntu下的安装配置
2014-04-26 12:01
197 查看
一.安装ubuntu
我是下载的ubuntu12.04,在64位的虚拟机上使用virtualbox安装的,没错,是在虚拟机上在安装虚拟机,然后安装ubuntu
具体安装过程就不描述了,不过安装过程确实慢,除非你的网络很快。12.04的新主题使用真是别扭,在登陆界面切换到gonme classic,这里可以使用windows共享,可以很方便的从硬盘或者其他机器拉东西回来。
二. 在Ubuntu下创建hadoop用户组和用户;
1. 创建hadoop用户组;
2. 创建hadoop用户;
3. 给hadoop用户添加权限,打开/etc/sudoers文件;
按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。
在root ALL=(ALL:ALL) ALL下添加hadoop ALL=(ALL:ALL) ALL,
三. 在Ubuntu下安装JDK
使用如下命令执行即可:
(1)$ sudo apt-add-repository ppa:flexiondotorg/java
(2)$ sudo apt-get update 一定要执行这个步骤啊,如果更新比较慢,在unbuntu软件中心更新源,操作方面是编辑--源,使用自动测试寻找最快的源,我开始是使用的这个,给我找的一个源后来不稳定,我手工切换到科技大学的源(前面也是这个源稳定啊)
(3)$ sudo apt-get install sun-java6-jre sun-java6-jdk sun-java6-plugin
这一步骤大概花费一点时间,下载几十M的软件,我是在这步就执行成功的,如果执行不成功,还可以使用下面的办法:
$ sudo add-apt-repository "deb http://archive.canonical.com/ubuntu maverick partner"
$ sudo apt-get install python-software-properties
$ sudo apt-get update
$ sudo apt-get install sun-java*
$ sudo apt-get install openjdk-6-jdk openjdk-6-jdk gcj-4.6-jdk ecj default-jdk
(4)配置JAVA环境变量:
sudo gedit /etc/environment
在其中添加如下两行:
JAVA_HOME=/usr/lib/jvm/java-6-sun
CLASSPATH=.:/usr/lib/jvm/java-6-sun/lib
(5)java -version查看不出错说明,成功。
![](http://www.linuxidc.com/upload/2012_06/120605161676393.png)
四. 修改机器名 (这步骤可以省略)
每当ubuntu安装成功时,我们的机器名都默认为:ubuntu ,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。
1. 打开/etc/hostname文件;
2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"dubin-ubuntu"。 重启系统后才会生效。
五. 安装ssh服务
这里的ssh和三大框架:spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体可以参考其他相关资料。
安装openssh-server;
这时假设您已经安装好了ssh,您就可以进行第六步了哦~
六、 建立ssh无密码登录本机
首先要转换成hadoop用户,执行以下命令:
ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。
1. 创建ssh-key,,这里我们采用rsa方式;
(注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)
2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;
如图:
![](http://www.linuxidc.com/upload/2013_08/130801111031136.png)
(完成后就可以无密码登录本机了。)
3. 登录localhost;
如图:
![](http://www.linuxidc.com/upload/2013_08/130801111031137.png)
( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)
4. 执行退出命令;
七. 安装hadoop
我们采用的hadoop版本是:hadoop-0.20.203(http://www.apache.org/dyn/closer.cgi/hadoop/common/),因为该版本比较稳定。最新的alpha版本已经很高,但是还是建议采用稳定的版本。我是在apache站点直接下载的。
1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下;
2. 解压hadoop-0.20.203.tar.gz;
3. 将解压出的文件夹改名为hadoop;
4. 将该hadoop文件夹的属主用户设为hadoop,
5. 打开hadoop/conf/hadoop-env.sh文件;
6. 配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本机jdk的路径);
7. 打开conf/core-site.xml文件;
编辑如下:property后面需要手工敲
8. 打开conf/mapred-site.xml文件;
编辑如下property后面需要手工敲:
9. 打开conf/hdfs-site.xml文件;
编辑如下:
10. 打开conf/masters文件,添加作为secondarynamenode的主机名,作为单机版环境,这里只需填写 localhost 就Ok了。
11. 打开conf/slaves文件,添加作为slave的主机名,一行一个。作为单机版,这里也只需填写 localhost就Ok了。
10.11我自己没敲,默认就是localhost,千万别修改为127.0.0.1 localhost虽然正式的多台机器是这样的写法,但是单台机器不需要前面的ip地址,否则会报错
八. 在单机上运行hadoop
1. 进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,
2. 当你看到下图时,就说明你的hdfs文件系统格式化成功了。
3. 启动bin/start-all.sh
4. 检测hadoop是否启动成功
千万要注意这里,我使用这个命令只能看到jps自己的进程,纠结了很长时间,忽然发现得用 sudo jps果然能出现6个进程,坑爹啊,大家千万要注意。
如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机版环境配置好了!
如下图:
浏览器中输入http://localhost:50030/查看JobTracker
![](http://www.linuxidc.com/upload/2013_08/130801111229234.png)
对,你没有看错不是我们配置的core-site的9000的端口,也不是9001的端口,是50030,我也不知道为什么,有谁知道一下。如果看到下面激动人心的画面,就说明你成功了。
浏览器中输入http://localhost:50070/查看NameNode
bin/stop-all.sh
我是下载的ubuntu12.04,在64位的虚拟机上使用virtualbox安装的,没错,是在虚拟机上在安装虚拟机,然后安装ubuntu
具体安装过程就不描述了,不过安装过程确实慢,除非你的网络很快。12.04的新主题使用真是别扭,在登陆界面切换到gonme classic,这里可以使用windows共享,可以很方便的从硬盘或者其他机器拉东西回来。
二. 在Ubuntu下创建hadoop用户组和用户;
1. 创建hadoop用户组;
在root ALL=(ALL:ALL) ALL下添加hadoop ALL=(ALL:ALL) ALL,
使用如下命令执行即可:
(1)$ sudo apt-add-repository ppa:flexiondotorg/java
(2)$ sudo apt-get update 一定要执行这个步骤啊,如果更新比较慢,在unbuntu软件中心更新源,操作方面是编辑--源,使用自动测试寻找最快的源,我开始是使用的这个,给我找的一个源后来不稳定,我手工切换到科技大学的源(前面也是这个源稳定啊)
(3)$ sudo apt-get install sun-java6-jre sun-java6-jdk sun-java6-plugin
这一步骤大概花费一点时间,下载几十M的软件,我是在这步就执行成功的,如果执行不成功,还可以使用下面的办法:
$ sudo add-apt-repository "deb http://archive.canonical.com/ubuntu maverick partner"
$ sudo apt-get install python-software-properties
$ sudo apt-get update
$ sudo apt-get install sun-java*
$ sudo apt-get install openjdk-6-jdk openjdk-6-jdk gcj-4.6-jdk ecj default-jdk
(4)配置JAVA环境变量:
sudo gedit /etc/environment
在其中添加如下两行:
JAVA_HOME=/usr/lib/jvm/java-6-sun
CLASSPATH=.:/usr/lib/jvm/java-6-sun/lib
(5)java -version查看不出错说明,成功。
![](http://www.linuxidc.com/upload/2012_06/120605161676393.png)
四. 修改机器名 (这步骤可以省略)
每当ubuntu安装成功时,我们的机器名都默认为:ubuntu ,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。
1. 打开/etc/hostname文件;
五. 安装ssh服务
这里的ssh和三大框架:spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体可以参考其他相关资料。
安装openssh-server;
六、 建立ssh无密码登录本机
首先要转换成hadoop用户,执行以下命令:
1. 创建ssh-key,,这里我们采用rsa方式;
2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;
![](http://www.linuxidc.com/upload/2013_08/130801111031136.png)
(完成后就可以无密码登录本机了。)
3. 登录localhost;
![](http://www.linuxidc.com/upload/2013_08/130801111031137.png)
( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)
4. 执行退出命令;
我们采用的hadoop版本是:hadoop-0.20.203(http://www.apache.org/dyn/closer.cgi/hadoop/common/),因为该版本比较稳定。最新的alpha版本已经很高,但是还是建议采用稳定的版本。我是在apache站点直接下载的。
1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下;
八. 在单机上运行hadoop
1. 进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,
3. 启动bin/start-all.sh
如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机版环境配置好了!
如下图:
浏览器中输入http://localhost:50030/查看JobTracker
![](http://www.linuxidc.com/upload/2013_08/130801111229234.png)
对,你没有看错不是我们配置的core-site的9000的端口,也不是9001的端口,是50030,我也不知道为什么,有谁知道一下。如果看到下面激动人心的画面,就说明你成功了。
浏览器中输入http://localhost:50070/查看NameNode
停止hadoop
bin/stop-all.sh
相关文章推荐
- 在Ubuntu下安装与配置hadoop(伪分布)
- Ubuntu 14.04下jdkHadoop2.8集群安装配置教程并运行wordcount实例
- Hadoop学习笔记_Ubuntu下伪分布式安装及配置
- [Hadoop入门] - 2 ubuntu安装与配置 hadoop安装与配置
- Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS
- Hadoop 安装和 单机配置 ( Ubuntu 平台)
- Ubuntu下 Hadoop 1.2.1 配置安装 - 大T的专栏 - 博客频道 - CSDN.NE
- Ubuntu16.04 下 hadoop的安装与配置(伪分布式环境)
- Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04
- 【转】Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04
- Ubuntu系统下的Hadoop集群(1)_Hadoop安装教程_单机/伪分布式配置
- ubuntu 14 .04 LTS 安装配置 hadoop 1.0.4 写给hadoop入门者
- hadoop2.1.0在ubuntu下的安装配置
- hbase,hadoop 在ubuntu 上安装及部署配置
- Ubuntu系统(64位)下安装并配置Hadoop-2.2.0集群
- Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04
- hadoop学习---3.hadoop在ubuntu下的安装配置
- ubuntu环境下eclipse的安装以及hadoop插件的配置
- 64位Ubuntu1404集群安装配置hadoop-2.2.0
- 在Ubuntu 13.10 中安装配置 Hadoop 2.2.0