文档章节

Graphite简介

摩云菜
 摩云菜
发布于 2016/06/28 09:45
字数 1042
阅读 300
收藏 0

Graphite引入的前提

       之前公司的监控系统使用mysql做过物理设备cpu,内存,磁盘和网卡等资源的数据统计功能,但是效果并不好。因为这些统计数据不适合用mysql来存储,它们的量太大了,量一大,mysql数据库查询响应就变得非常缓慢。所以后来就把cpu,内存,磁盘和网卡等资源的数据统计功能去掉了。

         最近对监控系统又增加了一些需求,主要也是一些数据统计的功能。所以如果还按以前的路来走,使用mysql来做,那么结局必然跟cpu,内存,磁盘和网卡等资源的数据统计功能是一样的。所以我们不能走老路,我们必须寻找新的解决方案。

        后来经过调研,我们找到了Graphite这个工具。它天生就是用来做数据统计功能的,正好满足我们目前的需求,所以我们对它进行了研究。

Graphite简介

       Graphite是一个用Python写的web应用,是一个企业级的系统监控工具,可以在廉价机硬件上运行。它由三个软件组件组成:

1:carbon - 一个Twisted守护进程,监听并接收时间序列数据

2:whisper - 一中固定大小的数据库,用来存储时间序列数据,在设计上类似于RRD

3:graphite-web – 使用Django框架实现的一个webapp,它可以从whisper数据库获取时间序列数据并且进行展示。

Graphite的系统架构如下所示:

        图中的metrics就是发送给Graphite系统的数据指标,这些发送过来的数据指标,首先通过carbon模块进行收集,然后存储在whisper数据库中,最后graphite-web从whisper数据库中获取这些数据指标并进行展示。

如何给Graphite喂数据

         Graphite不负责收集数据,数据的收集工作是由使用Graphite的人来做的。也就是说图中metrics的发送工作是由使用Graphite的人来做的。你想使用Graphite存储什么数据,你就给Graphite发送什么数据。Graphite采用简单的文本协议,给Graphite发送数据指标时,使用它定义好的数据格式给他发送数据指标就可以。

Graphite的指标数据的文本格式定义如下:

metric_path value timestamp\n

1:metric_path : 指标名称

2:value : 指标值

3;timestamp : 时间戳

下面是使用shell给Graphite发送指标的例子:

ORT=2003

SERVER=graphite.your.org

echo "local.random.diceroll 4 `date +%s`" | nc ${SERVER} ${PORT};


   如果要使用代码给Graphite喂数据,那么应该是使用下面几个步骤:

   1:使用Graphite所在机器的IP和端口(2003或者2004)建立一个到Graphite的网络连接

   2:收集数据指标

   3:把收集的数据指标格式化成“metric_path value timestamp\n“格式的字符串

   4:把格式化后的字符串通过之前建立的网络连接发送出去

Graphite跟现有监控系统整合

如果现有的监控系统想使用Graphite来做数据统计相关的功能,需要做以下三件事情:

1:在收集端添加给Graphite发送数据指标的代码

2:在展示端使用graphite-web提供的API接口获取whisper数据库里面的数据,并生成适合现有监控系统的API接口,供监控系统前端页面使用

3:增加各项指标的前端展示页面,展示这些指标

        当然目前对于收集端和展示端,都有很多现成的开源组件可以使用,比如指标收集端的工具有Statsd等,指标展示端口的工具有grafana等。

         使用开源的工具,还是基于graphite做二次开发,视自己的实际情况而定,应该来说都不复杂。

-----------------------------------------------------

欢迎关注我的微信公众号 ^_^

© 著作权归作者所有

共有 人打赏支持
上一篇: whisper数据库
下一篇: 代码极简主义
摩云菜
粉丝 27
博文 34
码字总数 42147
作品 0
闵行
高级程序员
私信 提问
加载中

评论(2)

摩云菜
摩云菜

引用来自“摩云飞”的评论

nms 系统技术栈内容又扩展了啊~~原来那一套东西打算彻底换掉了吧~13
不是换掉,是新增,mysql数据库做不了数据统计,增加的graphite主要用来做数据统计用的
摩云飞
摩云飞
nms 系统技术栈内容又扩展了啊~~原来那一套东西打算彻底换掉了吧~13
如果查看应用性能图表是一种信仰

**Esty 当年发布 statsd 写过一篇文章:[Measure Anything, Measure Everything](https://codeascraft.com/2011/02/15/measure-anything-measure-everything/](https://codeascraft.com/201......

OneAPM蓝海讯通
2015/12/11
47
0
Graphite 介绍

Overview 概述 What Graphite is and is not ? Graphite能做什么和不能做什么? Graphite does two things: Graphite 做两件事情: Store numberic time-series data 存储 numberic time-seri......

nao
2016/08/19
413
0
graphite的搭建

因为公司打算监控kafka队列信息,但是又不想直接安装KafkaOffsetMonitor这个工具,希望能够将kafka的监控信息内嵌到grafana上面,在这个项目的github上面无意中看到这个个工具可以当作一个插...

liuhuang9496
2017/04/01
0
0
使用apache和nginx部署graphite的相关配置

写在前面 我们在测试的时候,可以使用下面的命令来启动graphite 但是这种启动方式只可用于测试,生产环境下,启动graphite不能用这种方式。 生产环境下需要使用apache或者nginx来部署graphit...

摩云菜
2016/07/14
195
0
用graphite diamond做监控

用graphite diamond做监控 文章 开局先贴两个文章,值得一读 很赞的blog 另一篇介绍graphite的文章 恩怨 无论是什么系统,只要上线,就需要运维,这时候很想看一些监控的图表,graphite就很方...

duoduo3_69
2014/10/28
0
0

没有更多内容

加载失败,请刷新页面

加载更多

小论Java泛型机制

何为泛型(Generics) 面向对象编程语言的多态特性包括:任一多态(ad hoc polymorphism,又名重载)、子类型多态(subtype polymorphism,又名覆盖)以及参数多态(parameter polymorphism,...

SamYjy
12分钟前
0
0
通过JS+DIV+CSS排版布局实现选项卡效果

CSS介绍及布局特定 层叠样式表是一种用来表现HTML(标准通用标记语言的一个应用)或XML(标准通用标记语言的一个子集)等文件样式的计算机语言。   CSS目前最新版本为CSS3,是能够真正做到...

青衣霓裳
12分钟前
1
0
看图了解RocksDB

它是一个高性能的Key-Value数据库。设计了完善的持久化机制,同时保证性能和安全性。能够良好的支持范围查询,因为K-V记录就是按照Key来排序的。 下图为写入的流程: 可以看到主要的三个组成...

许此一生
19分钟前
2
0
重磅发布!阿里云推PostgreSQL 10 高可用版

2015年,阿里云宣布正式推出RDS for PostgreSQL服务,届时,阿里云成为国内首家同时支持MySQL、SQL Server 和PostgreSQL关系型数据库的云计算服务商。 用户在云上就能享受PostgreSQL引擎带来的...

迷你芊宝宝
19分钟前
0
0
Mysql show Status参数详解

状态名 作用域 详细解释 Aborted_clients Global 由于客户端没有正确关闭连接导致客户端终止而中断的连接数 Aborted_connects Global 试图连接到MySQL服务器而失败的连接数 Binlog_cache_dis...

若杰
25分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部