nCompass-网络流量基础知识及数据源

02/25 20:28
阅读数 89

单击返回:自学N-Compass之路 
nCompass-网络流量基础知识及数据源

1.  流量分析基础知识

1.1  常见的流量分析方式:

  • SNMP: 网管平台通过主动式获取设备接口流量信息。
  • Flow:网络设备将穿越的数据流信息精简压缩打包。
  • 日志:有些设备支持基于业务访问内容生成详细的交互信息。
  • 原包:通常是交换机将穿越的数据包1:1的复制到一个新的物理端口发送至分析平台,然后分析平台进行拆解分析出指标。

SNMP :

网管平台以主动获取MIB-ID的方式读取设备接口硬件级信息,包含接口命名/速率/带宽/流入流出包数/流入流出吞吐量等。

优点: 运维人员最常用的流量分析方式,技术成熟

缺点:

  • 数据精细化颗粒度较差,获取到的数值为最近5分钟平均值;
  • 高频主动式获取可能会对地段设备性能消耗较大,业界内通常采用每5分钟或每1分钟读取一次;
  • 分析内容极少,有效信息仅包含接口实时吞吐量,无法看到明细通讯对。

Flow(NetStream、NetFlow和sFlow)

Flow技术基于“流”提供报文统计功能,可以对网络设备的每个端口上出入方向的流量进行采样,对采样到的报文依据报文中的关键值(例如五元组等)对网络中的流量进行分类统计。

优点:轻量级

缺点:

  • 采样比原因可能会导致数据准确性较差;
  • 有效的分析内容较少,仅包含基本的五元组信息;
  • 传输可能会消耗带宽。

日志:

优点:轻量级

缺点:

  • 传输可能会占用业务带宽(有的日志内容只能从业务端口发出,不能出带外端口发出);
  • 内容精细程度和各设备厂商所支持的分析程度有关。

原包(第一种:流量镜像):

 优点:

  • 非入侵式旁路部署,不会对现网架构造成影响,隔离且独立的网络架构;
  • 高密度镜像端口集中化管理;
  • 良好的可扩展性。

缺点: 可能会对设备处理性能造成极微影响,

原包(第二种:分光器):

 优点:

  • 不会对网络设备的性能造成任何影响;
  • 高密度镜像端口集中化管理;
  • 良好的可扩展性;
  • 分光器为无源设备,异常时会自动bypass,对业务影响几乎为零。

缺点: 初次上线分光器会中断业务。

1.2  nCompass采集口

  • 电口:通用千兆电口模块。
  • 光口:SFP 850nm LC多模模块,支持千/万兆。
  • 注意,对端设备模块要求必须类型一致。

1.3 流量规划

  • 监控节点:同一台设备的同一个物理接口才是一个监控节点。(同一台设备的不同物理接口不能当做一个监控节点。)
  • 避免问题:非同一条数据流无法重组。(安全类设备随机回话序列号)
  • 建议镜像方式:统一监控节点both双向镜像。
  • 如何判定数据是同一监控节点? 通过一条数据流里面两个方向的数据(服务端到客户端,客户端到服务端),查看源目MAC是否是一对。
  • 关键设备重点监控:例如串接的负载、WAF、代理设备、行为管理、防火墙、防水墙、防毒墙。(需分别监控交换机、入关键设备、出关键设备接口,尽可能的避免交换机异常导致故障定位分析的错误。)

1.4 监控原则

  • 关键性:需监控所有4层设备(对数据包具有处理功能的设备,防火墙、负载等)前后端节点;交换机只对数据进行快速转发,通常场景下不会对数据进行处理,不监控交换机的前后端。
  • 全面性:针对各关键业务系统架构特点合理部署监控节点,尽可能监控业务流上的每个关键节点。
  • 准确性:交换机镜像出的流量尽可能的纯净,应避免出现单向流量或重复流量,以减轻设备性能压力。
  • 唯一性:若两个监控点的流量重复,需借助TAP流量汇聚设备分别打上不同的VLAN标签或将以上两个节点的流量分配给不同的设备物理接口分析。
  • 均衡性:针对各区域数据量特点合理分配设备接口及处理性能,做到压力分摊,以保证数据的准确性。例如,东西向数据交互量大、南北向IP通讯对量大等。
  • 分压性:根据数据中心网络内部区域明细划分原则,大流量的不同区域尽可能使用不同的探针进行监控,以降低运维复杂度。
  • 扩展性:设备的部署应考虑峰值流量以及未来一段时间内业务增长蹴球,避免输入到设备的流量
  • 超出设备的实际处理能力。

1.5  nCompass的重要概念

   “我的网络”:

     nCompass流量分析平台是旁路设备,不像是串接的网络设备,很难去判定数据的流入/流出的方向,所以引入“我的网络”的概念。 进入“我的网络”流量为流入,离开“我的网络”流量为流出。

     哪些地址段需要定义为“我的网络”:

  •   公网对外提供服务地址
  •    数据中心内部私有地址
  •    外联第三方单位对外体用服务地址

   “时间戳”:

      nCompass平台会对收到的每个数据包打上nm级时间戳,准确定为100%。

     不建议使用TAP设备打时间戳。

    如何定义分支站点?

      分支站点定义存在一个很大的误区,如何准确的定义分支站点?

      网络工程师可能会对此产生误解,专线的互联地址也就是网络设备的接口地址不应该定义为站点,因为在访问的实际交互过程中,例如一台上海的终端192.21.0.1访问的目的肯定真实的业务IP,而不是网络设备的接口,原始流量中看到的源目IP也是一样。

2. nCompass数据源

2.1 数据源的几个概念

  • 数据模型:nCompass平台的数据分类方式。数据模型之间可以通过共同的维度实现关联。
  • 维度:是指流量分析里的分析对象,比如链路、IP、通讯对、省份、运营商、MAC、Vlan、租户、VXlan等等
  • 指标:对分析对象的行为、状态、数量进行聚类、统计得到的结果。

      维度和指标的区别:

  • 指标随着时间变化、维度不随时间变化
  • 指标有单位,维度没有单位
  • 指标大多是数值,维度大多是名称
  • 时间是特殊的维度

2.2 数据源的使用步骤

  • 选择数据模型
  • 选择维度
  • 选择指标
  • 过滤维度
  • 筛选指标

2.3 常用的数据模型

  • TCPIP:最常见的模型,包括OSI参考模型1-4层的维度:包括数量、延时、大小、成功失败等种指标。
  • HTTP:专门分析HTTP协议的模型,包括域名、URL、useragent等各种维度:包括,延时、返回码的统计。
  • HTTPS:专门FenixSSL握手的协议。
  • Oracle、DB2、SQLserver:各种数据库模型。
  • NetFlow:专门分析Flow的模型,包括netflow、Netstream、sflow等。
  • ICMP模型:专门分析ICMP差错报文的模型。
  • 拨测:主动拨测的模型。

 2.4 数据源的使用(数据表格的方式)

      数据回溯(里面有各种数据表格)

 

 

 2.4.1 具体看一下“接口”数据表格:     

 维度:探针接口

 指标: 总吞吐量、流量吞吐量、流出吞吐量、丢包率、网络时延、建连请求数、新建回话数、建连失败数。

如果想知道这个接口里面各个通讯对的情况?

接口右键---“添加维度”

  • 应用: 应用、应用组、域名、URL
  • 站点:站点、站点组、客户端站点、服务端站点、客户端站点组、服务端站点组
  • IP:IP、服务端IP、客户端IP、IP通讯对、服务端口、客户端端口、服务端IP端口、XFF-IP
  • 采集点:
  • 其他:

现在看一下常用的,在这个探针接口下面的 ” 服务端IP、客户端IP、服务端口”  ,  还可以进行排序。

右上角可以单独 “修改维度” “修改指标” 。

 

“修改指标” 内具体内容:

 

 2.4.2  具体看一下“服务端口”数据表格(数据中心有哪些服务端口):     

 如何具体看都有哪些服务器使用了 80 端口:

如何看一台服务器对外提供了哪些端口服务呢?

此时可以把“服务端IP”也添加进来

 2.5 Dashboard 数据源的使用

 新建一个Dashboard ---  图表区

那么如果想知道曲线上面某一时间点的具体内容是什么?  可以新建一个表格区

此时可以讲“接口流量”的图标区  和 “TopN通讯对”的表格区 做关联 。

如果当你看到IP通讯对之后, 想进一步只看某一个客户端IP访问的所有服务器端IP端口,如何查看?

复制一份表格粘贴在表格区------再原表格右键关联-----

关联的时候把“服务器IP”“服务端口” 去掉,   意思就是当从表格“Top N通讯对”复制到关联表格“客户端访问的所有IP端口”时,会忽略“服务器IP”“服务端口”  。

 

以上为列出所有客户端IP为172.19.16.14访问的所有ip端口。

以上为列出所有客户端IP为172.16.104.8访问的所有ip端口。

 

原文出处:https://www.cnblogs.com/yaoyaojcy/p/12363601.html

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部