文档章节

Graphite简介

摩云菜
 摩云菜
发布于 2016/06/28 09:45
字数 1042
阅读 398
收藏 0

Graphite引入的前提

       之前公司的监控系统使用mysql做过物理设备cpu,内存,磁盘和网卡等资源的数据统计功能,但是效果并不好。因为这些统计数据不适合用mysql来存储,它们的量太大了,量一大,mysql数据库查询响应就变得非常缓慢。所以后来就把cpu,内存,磁盘和网卡等资源的数据统计功能去掉了。

         最近对监控系统又增加了一些需求,主要也是一些数据统计的功能。所以如果还按以前的路来走,使用mysql来做,那么结局必然跟cpu,内存,磁盘和网卡等资源的数据统计功能是一样的。所以我们不能走老路,我们必须寻找新的解决方案。

        后来经过调研,我们找到了Graphite这个工具。它天生就是用来做数据统计功能的,正好满足我们目前的需求,所以我们对它进行了研究。

Graphite简介

       Graphite是一个用Python写的web应用,是一个企业级的系统监控工具,可以在廉价机硬件上运行。它由三个软件组件组成:

1:carbon - 一个Twisted守护进程,监听并接收时间序列数据

2:whisper - 一中固定大小的数据库,用来存储时间序列数据,在设计上类似于RRD

3:graphite-web – 使用Django框架实现的一个webapp,它可以从whisper数据库获取时间序列数据并且进行展示。

Graphite的系统架构如下所示:

        图中的metrics就是发送给Graphite系统的数据指标,这些发送过来的数据指标,首先通过carbon模块进行收集,然后存储在whisper数据库中,最后graphite-web从whisper数据库中获取这些数据指标并进行展示。

如何给Graphite喂数据

         Graphite不负责收集数据,数据的收集工作是由使用Graphite的人来做的。也就是说图中metrics的发送工作是由使用Graphite的人来做的。你想使用Graphite存储什么数据,你就给Graphite发送什么数据。Graphite采用简单的文本协议,给Graphite发送数据指标时,使用它定义好的数据格式给他发送数据指标就可以。

Graphite的指标数据的文本格式定义如下:

metric_path value timestamp\n

1:metric_path : 指标名称

2:value : 指标值

3;timestamp : 时间戳

下面是使用shell给Graphite发送指标的例子:

ORT=2003

SERVER=graphite.your.org

echo "local.random.diceroll 4 `date +%s`" | nc ${SERVER} ${PORT};


   如果要使用代码给Graphite喂数据,那么应该是使用下面几个步骤:

   1:使用Graphite所在机器的IP和端口(2003或者2004)建立一个到Graphite的网络连接

   2:收集数据指标

   3:把收集的数据指标格式化成“metric_path value timestamp\n“格式的字符串

   4:把格式化后的字符串通过之前建立的网络连接发送出去

Graphite跟现有监控系统整合

如果现有的监控系统想使用Graphite来做数据统计相关的功能,需要做以下三件事情:

1:在收集端添加给Graphite发送数据指标的代码

2:在展示端使用graphite-web提供的API接口获取whisper数据库里面的数据,并生成适合现有监控系统的API接口,供监控系统前端页面使用

3:增加各项指标的前端展示页面,展示这些指标

        当然目前对于收集端和展示端,都有很多现成的开源组件可以使用,比如指标收集端的工具有Statsd等,指标展示端口的工具有grafana等。

         使用开源的工具,还是基于graphite做二次开发,视自己的实际情况而定,应该来说都不复杂。

-----------------------------------------------------

欢迎关注我的微信公众号 ^_^

© 著作权归作者所有

共有 人打赏支持
上一篇: whisper数据库
下一篇: 代码极简主义
摩云菜
粉丝 27
博文 34
码字总数 42147
作品 0
闵行
高级程序员
私信 提问
加载中

评论(2)

摩云菜
摩云菜

引用来自“摩云飞”的评论

nms 系统技术栈内容又扩展了啊~~原来那一套东西打算彻底换掉了吧~13
不是换掉,是新增,mysql数据库做不了数据统计,增加的graphite主要用来做数据统计用的
摩云飞
摩云飞
nms 系统技术栈内容又扩展了啊~~原来那一套东西打算彻底换掉了吧~13
如果查看应用性能图表是一种信仰

**Esty 当年发布 statsd 写过一篇文章:[Measure Anything, Measure Everything](https://codeascraft.com/2011/02/15/measure-anything-measure-everything/](https://codeascraft.com/201......

OneAPM蓝海讯通
2015/12/11
47
0
Graphite 介绍

Overview 概述 What Graphite is and is not ? Graphite能做什么和不能做什么? Graphite does two things: Graphite 做两件事情: Store numberic time-series data 存储 numberic time-seri......

nao
2016/08/19
413
0
graphite的搭建

因为公司打算监控kafka队列信息,但是又不想直接安装KafkaOffsetMonitor这个工具,希望能够将kafka的监控信息内嵌到grafana上面,在这个项目的github上面无意中看到这个个工具可以当作一个插...

liuhuang9496
2017/04/01
0
0
使用apache和nginx部署graphite的相关配置

写在前面 我们在测试的时候,可以使用下面的命令来启动graphite 但是这种启动方式只可用于测试,生产环境下,启动graphite不能用这种方式。 生产环境下需要使用apache或者nginx来部署graphit...

摩云菜
2016/07/14
195
0
使用graphite和grafana进行应用程序监控

graphite+grafana 介绍 grafana,按照官方的说法是 。grafana 负责数据的展示,可以配置各种不同的数据源,其中包括 graphite。 graphite 包含多个模块,这里我们使用的模块包括: Whisper:...

ChanningBJ
2016/11/21
631
0

没有更多内容

加载失败,请刷新页面

加载更多

分布式系统关注点—“无状态”详解

一、初识“状态” 我们首先举个例子。 开发 Z 哥对运维 Y 弟喊:“Y 弟,现在系统好卡,刚上了一波活动,赶紧帮我加几台机器上去顶一下。” Y 弟回复说:“没问题,分分钟搞定”。 然后就发现...

微笑向暖wx
7分钟前
0
0
js获取客户端本地ip

使用js获取客户端本地ip,不需要额外引入别的文件 【注:若IE浏览器不进行安全设置,IE浏览器会默认拦截ActiveX控件的使用,将不会返回客户端的IP地址】 下边的代码使用于通用浏览器,但是IE浏...

青衫旧巷
10分钟前
0
0
第四篇:springboot 打成jar包运行

打包成jar包,需要增加maven依赖         <build>            <plugins>                <plugin>                    <groupId>org.spri...

嘴角轻扬30
21分钟前
1
0
scala学习(二)

scala使用 参数类型推断: eclipse集成scala插件: 一些有用的高阶函数: 闭包: 柯里化: indexOf: 集合操作: 不可变的集合: 不可变集合的hashCode,集合改变之后hashCode也会改变: 搞两...

柠檬果过
24分钟前
1
0
VSCode 中支持 .dwt 等文件高亮渲染代码提示方法

点击菜单 文件->首选项->设置 输入如下代码: "files.associations": { "*.dwt": "html"}

晚风0623
26分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部