如何监控你的Hadoop+Hbase集群？
如何监控你的Hadoop+Hbase集群？
前言
监控Hadoop的框架有不少，如CDH的CM组件和Ambari都可以监控他们自己的hadoop，但是它不能监控apache的hadoop，如果你是使用原生的Apache Hadoop，那么也没关系，原生的Hadoop天生就提供了非常详细的对接Ganglia的jmx接口，里面包含了各个核心组件metrics获取功能，这一点你可以查看hadoop和hbase包括spark的conf下面的metrics文件里面配置，就能得到验证。
（一）Ganglia是什么？
Ganglia 是 UC Berkeley 发起的一个开源监视项目，设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据（如处理器速度、内存使用量等）的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式，才使得 Ganglia 可以实现良好的扩展。gmond 带来的系统负载非常少，这使得它成为在集群中各台计算机上运行的一段代码，而不会影响用户性能。
（二）Ganglia的主要组件
1，gmond （Ganglia Monitioring Daemon）：
gmond是ganglia监控的基于多线程模式的守护进程，它需要安装运行在每个你想要监控的机器上，安装非常简单，你不需要有一个通用的NFS系统或者安装一个数据库后端存储，或者安装指定一个账户，也不需要维护一个繁琐的配置文件。
gmond有4个主要的职责：
A：监控主机状态变化
B：发现或发布相关变化
C：监控其他的所有的ganglia节点通过一个单播（unicast）或者多播（multicast）通道模式
D：答复集群转态通过一个XML描述的信息
2，gmetad（Ganglia Meta Daemon ）
gmetad是ganglia的元数据守护进程，通常只需要一个监控集群只需要一个元数据守护进程即可，当然如果你想实现高可用的数据冗余，你也可以配置多个，gmetad主要是收集汇聚解析从各个gmond进程汇报发送过来的信息，并将其保存至rrd数据库里，供前端查询展示所需。
3，ganglia-web（Ganglia PHP Web Frontend）
ganglia的前端展示框架，负责以图形化的方式，展示集群的一些metics，并且支持分钟，小时，日，月，年，级别的汇总展示，虽然页面丑陋了点，但不不算华而不实，主要是将rrd里面的XML的数据，解析为静态的HTML网页，方便管理员查询集群的cpu，内存，磁盘，网络，等一些自定义的metrics的某个时间段的负载展现图
（三）Ganglia的架构拓扑
（四）Ganglia的安装
假设有3台机器CentOS6.5的系统，分别如下：
192.168.1.187 hadoop hbase gmetad gmond ganglia-web
192.168.1.186 hadoop hbase gmond
192.168.1.184 hadoop hbase gmond
主节点上安装的组件安装gmetad，gmond，ganglia-web
1，安装依赖组件：
yum -y install httpd-devel automake autoconf libtool ncurses-devel libxslt groff pcre-devel pkgconfig
2，安装ganglia的epel源，每台机器上
如果是centos7的系统：
# yum install epel-release
# yum install ganglia-web ganglia-gmetad ganglia-gmond 或者直接 yum install -y ganglia*
如果是centos6的系统：
sudo rpm -Uvh http://dl.Fedoraproject.org/pub/epel/6/i386/epel-release-6-8.noarch.rpm
yum install -y ganglia*
下面关于Hadoop的文章您也可能喜欢，不妨看看：
Ubuntu14.04下Hadoop2.4.1单机/伪分布式安装配置教程
CentOS安装和配置Hadoop2.2.0
Ubuntu 13.04上搭建Hadoop环境
Ubuntu 12.10 +Hadoop 1.2.1版本集群配置
Ubuntu上搭建Hadoop环境（单机模式+伪分布模式）
Ubuntu下Hadoop环境的配置
单机版搭建Hadoop环境图文教程详解
3，配置ganglia
主节点上，需要配置三个东西：
A : /etc/ganglia/gmetad.conf 只需要配置2个核心选项即可
data_source "hadoop" 192.168.1.187 192.168.1.186 192.168.1.184 // 使用单播的方式，加入所有要监控的机器ip，默认端口是8649
case_sensitive_hostnames 1 //是否忽略大小写，1代表不忽略，如果你的机器名里面含有大写的字母，一定要配置1，否则ganglia的前端图形就不能正确的读取rrds里面的每个机器的数据
B : /etc/ganglia/gmond.conf
cluster {
name = "hadoop" #配置的名字与gmetad里面的需要一致
owner = "unspecified"
latlong = "unspecified"
url = "unspecified"
}
udp_send_channel {
#mcast_join = 239.2.11.71 #注释掉默认的多播地址
host = 192.168.1.187 # 使用单播模式，发送消息
port = 8649
ttl = 1
}
udp_recv_channel {
#mcast_join = 239.2.11.71
port = 8649
bind = 192.168.1.187 #主节点的这个配置需要加上，用来接受其他机器上的传输过来的数据 ， 特别注意从节点上的这项配置是
retry_bind = true
}
C : /etc/httpd/conf.d/ganglia.conf
<Location /ganglia>
Order deny,allow
Allow from all #允许所有的机器访问
#Deny from all
#Allow from 127.0.0.1
# Allow from ::1
# Allow from .example.com
</Location>
4，从节点只要安装gmond组件即可
yum install -y ganglia-gmond
然后配置gmond.conf
cluster {
name = "hadoop" #配置的名字与gmetad里面的需要一致
owner = "unspecified"
latlong = "unspecified"
url = "unspecified"
}
udp_send_channel {
#mcast_join = 239.2.11.71 #注释掉默认的多播地址
host = 192.168.1.187 # 使用单播模式，发送消息
port = 8649
ttl = 1
}
udp_recv_channel {
#mcast_join = 239.2.11.71
port = 8649
#bind = 192.168.1.187 仅仅安装gmond的节点上，不需要这项配置，加上会报错
retry_bind = true
}
5，如何改变rrd存储路径：
最好的办法，就是使用软连接，直接改gmetad里面的配置有时候可能不生效
默认的存储路径在/var/lib/ganglia/rrds/
你可以在这个目录，建一个软连接，改变此库的存储路径：
在/var/lib/ganglia/rrds 新建软连接，第一个参数是新路径，第二个参数是默认路径
sudo ln -s /ROOT/server/rrds /var/lib/ganglia/rrds
改变rrds的tools的默认路径：
http://stackoverflow.com/questions/26619473/how-to-change-the-storage-path-from-rrdtool-on-the-ganglia
需要注意改变后的路径的权限和用户赋值
mkdir -p /some/other/place/
chown -R ganglia:ganglia /some/other/place/
chmod -R 777 /some/other/place/
5，如何卸载组件？
sudo yum remove -y ganglia-web ganglia-gmetad
主节点启动
sudo service gmetad start
sudo service gmond start
sudo service httpd start
从节点
sudo service gmond start
出现错误后，可以查看系统log的日志
sudo tail -f /var/log/messages
大部分错误，在这里都能看到提示
更多详情见请继续阅读下一页的精彩内容：
|
评论暂时关闭