您的位置:首页 > 运维架构 > Linux

centos6.5安装hadoop(单机)

2018-03-05 17:11 976 查看

centos6.5安装hadoop(单机)


关键字:hadoop
      hadoop:是Apache软件基金会旗下的一个开源分布式计算平台。以hadoop分布式文件系统(hadoop distributed file system,HDFS)和MapReduce为核心的hadoop为用户提供了系统底层细节透明的分布式基础架构。HDFS在hadoop集群上实现了分布式文件系统,MapReduce则实现了分布式计算和任务处理。HDFS在MapReduce任务处理过程中提供了对文件操作和存储等支持,MapReduce在HDFS的基础上实现了任务的分发、跟踪、执行等工作,并收集结果,共同完成hadoop分布式集群的主要任务。

1.安装hadoop(前提条件:系统有jdk,不会安装了之前的博客有说到)

步骤①:下载hadoop压缩文件并上传解压到centos系统中去(这是下载的是'hadoop-2.7.5.tar.gz')# cd /usr --切换到usr目录下
# mkdir hadoop --创建hadoop空目录
# tar -azxvf /root/hadoop-2.7.5.tar.gz -C /usr/hadoop --解压到刚刚创建hadoop目录中去步骤②:配置相关的信息
   修改hadoop-env.sh文件,给其jdk的配置,hadoop依赖jdk# vim /usr/hadoop/hadoop-2.7.5/etc/hadoop/hadoop-env.sh --编辑该文件
export JAVA_HOME=$JAVA_HOME  --加入jdk环境变量 按Esc在按:wq即可修改保存退出
  修改core-site.xml文件   vim /usr/hadoop/hadoop-2.7.5/etc/hadoop/core-site.xml

<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>hadoo.tmp.dir</name>
<value>/usr/hadoop/hadoop-2.7.5/tmp</value>
</property>

修改hdfs-site.xml文件   vim /usr/hadoop/hadoop-2.7.5/etc/hadoop/hdfs-site.xml<property>
<name>dfs.http.address</name>
<value>192.168.73.128:50070</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/hadoop/hadoop-2.7.5/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/hadoop/hadoop-2.7.5/tmp/dfs/data</value>
</property>
修改marped-site.xml文件   vim /usr/hadoop/hadoop-2.7.5/etc/hadoop/marped-site.xml<property>
<name>marped.job.tracker</name>
<value>localhost:9001</value>
</property>格式化hadoop的HDFS文件系统,在hadoop文件中输入# bin/Hadoop NameNode -format如果没有异常显示,及说明格式化成功,就可以启动hadoop了
启动hadoop进程# sbin/start-all.sh注意:这里面如果没有进行ssh免密码登录的话就需要输入密码的,由于我是单机的,就没有设置。
# jps


如果出现这几个,就表明hadoop(单机)安装成功了。
注:由于官网下载没有显示hadoop版本是多少位的,下面命令可以帮你识别查看该问题cd /usr/hadoop/hadoop-2.7.1/lib/native
file libhadoop.so.1.0.0
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: