ganglia3.6.0 监控 Hadoop 2.0.0-cdh4.2.0

1. 安装软件包,yum方式,源码方式以后再研究, 注意主节点master与从节点安装的软件包不一致.

主节点: sudo yum install -y ganglia-gmetad ganglia ganglia-web rrdtool-devel rrdtool expat expat-devel pcre pcre-devel apr-util-ldap libconfuse php httpd

从节点: sudo yum install -y ganglia-gmond rrdtool-devel rrdtool expat expat-devel pcre pcre-devel apr-util-ldap libconfuse

2. 配置文件:

a:主节点 安装ganglia-gmetad, 向从节点gmond发送请求,获取监控信息数据

httpd: /etc/httpd/conf.d/*.conf 不用修改,默认即可

gmetad: /etc/ganglia/conf.php 默认即可

/etc/ganglia/gmetad.conf 文件内容改动如下, 修改data_source, fc20_namenode是集群的名字,随意命名,fc20是监控信息所在的机器host名字即gmond所在节点的名字,gmetad要从这里(gmond所在节点)请求收集监控信息,8649是默认端口.

data_source "fc20_namenode" fc20:8649

rrd_rootdir "/var/lib/ganglia/rrds" rrd数据存放目录安装完rrdtool包之后会自动创建,就是默认目录,去掉注释即可,这个目录的用户和组默认都是ganglia,有点说要修改为nobody,我修改后在启动gmetad服务时,提示这个目录的用户必须为ganglia, 改回来就可以了, 打开ganglia监控页面http://fc20/ganglia
时提示无法访问的错误:

There was an error collecting ganglia data (127.0.0.1:8652): fsockopen error: Permission denied

另外也要把selinux特性关掉,否则也提示这个错误, sudo setenforce 0

b:从节点, 安装ganglia-gmond, 收集本节点监控信息数据,以单播(仅一个中央节点保存监控信息数据)或多播形式向其它节点(每个节点都保存监控信息数据)发送监控信息数据, gmetad既可以从gmond多播节点(任意gmond节点,端口为udp端口 8049),也可以从中央节点(指定一个gmond节点,端口为仍然是8649)请求获取监控数据.

gmond: /etc/ganglia/gmond.conf :

/*

* The cluster attributes specified will be used as part of the <CLUSTER>

* tag that will wrap all hosts collected by this instance.

*/

cluster {

name = "fc20_namenode" 修改name为data_source中的名字

owner = "unspecified"

latlong = "unspecified"

url = "unspecified"

}

我的配置为单播方式,即只有一个中央节点收集监控信息数据:

/* Feel free to specify as many udp_send_channels as you like. Gmond

used to only support having a single channel */

udp_send_channel {

#bind_hostname = yes # Highly recommended, soon to be default.

# This option tells gmond to use a source address

# that resolves to the machine's hostname. Without

# this, the metrics may appear to come from any

# interface and the DNS names associated with

# those IPs will be used to create the RRDs.

#mcast_join = 239.2.11.71 ganglia默认的多播地址,手动注释掉了.

host = 192.168.0.100 单播使用的地址和端口, 意思是这个节点的gmond会将监控数据发送这台节点上, 以后gmetad就可以直接去这个节点查询监控数据,如果所有节点的gmond都将数据发送到这个节点, 那么这个节点就是中心节点,收集监控数据, gmetad就可以从这个节点获取所有节点的监控数据.

port = 8649

ttl = 1

}

以上单播方式也可以配置多个udp_send_channel, 那就变成多个数据收集中心了,

/* You can specify as many udp_recv_channels as you like as well. */

udp_recv_channel {

#mcast_join = 239.2.11.71 ganglia默认的多播地址,手动注释掉即可,单播的话只需要在gmond的所有节点中配置一个节点作为数据收集中心即可,不需要所有gmond节点都配置udp_recv_channel,

port = 8649

#bind = 239.2.11.71 注释掉即可, 如果这个节点作为数据收集中心,那么配置bind绑定到本地ip地址即可,其它的gmond节点的udp_send_channel就要配置host = 这个节点的ip地址了,哈哈.

#retry_bind = true 注释掉即可

# Size of the UDP buffer. If you are handling lots of metrics you really

# should bump it up to e.g. 10MB or even higher.

# buffer = 10485760

}

修改配置文件就到这里完成了.

3. 启动服务:

systemctl start httpd

systemctl start gmond

systemctl start gmetad

systemctl
status -l gmetad 查看gmetad启动时的状态信息是否有错误.

如果hadoop的相关ganglia配置没问题,那么/var/lib/ganglia/rrds/目录应该会生成以data_source中的集群名字为名字的目录:fc20_namenode,
该目录下又会生成以被监控节点的主机为名字的目录,比如我的rrds目录:

[ljq@fc20
~]$ ll /var/lib/ganglia/rrds/fc20_namenode/

总用量 20

drwxr-xr-x. 2 ganglia ganglia 4096 7月 9 16:43 fc20

drwxr-xr-x. 2 ganglia ganglia 4096 7月 9 15:50 localhost

drwxr-xr-x. 2 ganglia ganglia 12288 7月 9 16:43 __SummaryInfo__

fc20是从节点, localhost是本地机器,不知道为什么这个localhost也会出现在这里.

4. 总结:

gmetad既可以通过默认udp端口8649从gmond获取数据,也可以通过默认tcp端口8651为其它gmetad提供数据,总之,gmetad和gmond的配置相当灵活,有空了画一张图传上来.

5. hadoop配置文件中的ganglia配置请参考:
http://blog.csdn.net/ljq32/article/details/37662665
附ganglia web监控页面: