您的位置:首页 > 运维架构

HADOOP 开发环境的配置

2016-06-02 11:23 489 查看
安装JDK

      下载JDK(jdk-6u45-linux-x64.bin)

       下载地址:http://www.oracle.com/technetwork/java/javasebusiness/downloads/java-archive-downloads-javase6-419409.html

        cp /root/Downloads/jdk-6u45-linux-x64.bin  /usr/local

        ./jdk-6u45-linux-x64.bin

mv jdk-6u45-linux-x64 jdk

配置JDK

使用gedit 命令打开/etc/profile,增加如下:

              export JAVA_HOME=/usr/local/jdk

export PATH=$JAVA_HOME/bin:$PATH

保存关闭后,执行source /etc/profile,使之生效。

使用java -version,看到版本信息,即为有效。

==================================================================================

关闭防火墙

CentOS 7.0默认使用的是firewall作为防火墙,这里改为iptables防火墙。
firewall:
systemctl start firewalld.service#启动firewall
systemctl stop firewalld.service#停止firewall
systemctl disable firewalld.service#禁止firewall开机启动

使用firewall-cmd --state命令查看防火墙是否关闭,显示"not running",即为成功。

设置主机名

修改gedit /etc/hosts,文本最后增加一行 :192.168.206.128 hadoop0(注意IP与主机名之间有空格)

设置SSH 免密码登录 

vi  /etc/selinux/config    设置 SELINUX=disabled

普通用户登录   ssh-keygen -t dsa(或者rsa),一直回车,然后 cd ~/.ssh ,然后 cat id_dsa.pub >>authorized_keys

最后测试ssh localhost,出现last login....字样即为成功。

安装hadoop

	hadoop安装方式有三种:本地方式、伪分布式方式和集群方式,我们本次以自用就用伪分布式方式安装。

hadoop包:hadoop-1.1.2.tar.gz

cp hadoop-1.1.2.tar.gz /usr/local

tar -zxvf hadoop-1.1.2.tar.gz

mv hadoop-1.1.2 hadoop					hadoop 完整目录为/usr/local/hadoop

配置环境变量

gedit /etc/profile

增加 export HADOOP_HOME=/usr/local/hadoop

export PATH=$HADOOP_HOME/bin:$JAVA_HOME/bin:$PATH

修改hadoop的配置文件    $hadoop_home/conf

	1、hadoop-env.sh

export JAVA_HOME=/usr/local/jdk

2、core-site.xml

<configuration>

<property>

<name>fs.default.name</name>

<value>hdfs://hadoop0:9000</value>

<description>change your own hostname</description>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/usr/local/hadoop/tmp</value>

</property>

</configuration>

3、hdfs-site.xml

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

<property>

<name>dfs.permissions</name>

<value>false</value>

</property>

</configuration>

4、mapred-site.xml

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>hadoop0:9001</value>

</property>

</configuration>

启动HADOOP

/usr/local/hadoop/bin/hadoop namenode -format(第一次启动要格式化,以后就不用了)

再执行   /usr/local/hadoop/bin/start-all.sh

再执行JPS,查看进程,namenode,datanode,jobtracker,tasktracker,secondarynamenode

浏览haddoop

http://master:50070/50030[/code] 
                                            
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: