文档章节

EMQ X 规则引擎系列(五)存储消息到 Cassandra 数据库

EMQX
 EMQX
发布于 09/03 14:32
字数 1616
阅读 19
收藏 0

Cassandra 介绍与安装

Cassandra 是来自 Apache 的开源分布式数据库系统,它能在支持线性扩展高可用的特性下,不损失原有的读写性能。目前广泛运用于各个大企业的后端服务中,例如 Netflix、Apple 等已部署上千个节点。

Cassandra 的安装参考:http://cassandra.apache.org/doc/latest/getting_started/installing.html

原理概览

通过配置规则引擎,EMQ X 可将指定主题下满足某条件的消息存储到 Cassandra 数据库。其消息流向简图如下:

其中:

  • PUB/SUB:为 EMQ X 中的发布订阅处理逻辑。
  • Rule:IoT 消息规则,提取、筛选、转换消息报文中的数据。
  • Action: 为具体执行的动作。例如存数据库、写 Kafka 等。

场景介绍

为说明规则引擎在 Cassandra 数据库下的使用方式,我们以 将发动机转速超过 8000 的车辆状态存入 Cassandra 中 为例。

假设车辆上报状态信息如下:

  • 上报主题:cmd/state/:id,主题中 id 代表车辆客户端识别码

  • 消息体:

    {
      "id": "NXP-058659730253-963945118132721-22", // 客户端识别码
      "speed": 32.12, // 车辆速度
      "direction": 198.33212, // 行驶方向
      "tachometer": 3211, // 发动机转速,数值大于 8000 时才需存储
      "dynamical": 8.93, // 瞬时油耗
      "location": { // GPS 经纬度数据
        "lng": 116.296011,
        "lat": 40.005091
      },
      "ts": 1563268202 // 上报时间
    }
    

准备工作

创建数据库

创建 emqx_rule_engine_output 表空间以存储消息数据:

CREATE KEYSPACE emqx_rule_engine_output WITH replication = {'class': 'SimpleStrategy', 'replication_factor': '1'}  AND durable_writes = true;

创建数据表

根据场景需求,创建数据表 use_statistics 结构及字段注释如下:

USE emqx_rule_engine_output;

CREATE TABLE use_statistics (
  msgid text,
  client_id text,
  speed double,
  tachometer int,
  ts int,
  PRIMARY KEY (msgid)
);

创建成功后确认数据表是否存在:

root@cqlsh:emqx_rule_engine_output> use emqx_rule_engine_output ;
root@cqlsh:emqx_rule_engine_output> desc use_statistics ;

CREATE TABLE emqx_rule_engine_output.use_statistics (
    msgid text PRIMARY KEY,
    client_id text,
    speed double,
    tachometer int,
    ts int
) WITH bloom_filter_fp_chance = 0.01
    AND caching = {'keys': 'ALL', 'rows_per_partition': 'NONE'}
    AND comment = ''
    AND compaction = {'class': 'org.apache.cassandra.db.compaction.SizeTieredCompactionStrategy', 'max_threshold': '32', 'min_threshold': '4'}
    AND compression = {'chunk_length_in_kb': '64', 'class': 'org.apache.cassandra.io.compress.LZ4Compressor'}
    AND crc_check_chance = 1.0
    AND dclocal_read_repair_chance = 0.1
    AND default_time_to_live = 0
    AND gc_grace_seconds = 864000
    AND max_index_interval = 2048
    AND memtable_flush_period_in_ms = 0
    AND min_index_interval = 128
    AND read_repair_chance = 0.0
    AND speculative_retry = '99PERCENTILE';

配置规则引擎

创建资源

打开 EMQ X Dashboard,进入左侧菜单的 资源 页面,点击 新建 按钮,选择 Cassandra 资源类型进行创建:

EMQ X 集群中节点所在网络环境可能互不相同,资源创建成功后点击列表中 状态按钮,查看各个节点资源连接状况,如果节点上资源不可用,请检查配置是否正确、网络连通性,并点击 重连 按钮手动重连。

创建规则

进入左侧菜单的 规则 页面,点击 新建 按钮,进行规则创建。这里选择触发事件 消息发布,在消息发布时触发该规则进行数据处理。

选定触发事件后,我们可在界面上看到可选字段及示例 SQL:

筛选所需字段

规则引擎使用 SQL 语句处理规则条件,该业务中我们需要将 payload 中所有字段单独选择出来,使用 payload.<fieldName> 格式进行选择,还需要消息上下文的 topicqosid 信息,当前 SQL 如下:

SELECT
  payload.id as client_id, payload.speed as speed, 
  payload.tachometer as tachometer,
  payload.ts as ts, id
FROM
  "message.publish"
WHERE
  topic =~ 't/#'

确立筛选条件

使用 SQL 语句 WHERE 字句进行条件筛选,该业务中我们需要定义两个条件:

  • 仅处理 cmd/state/:id 主题,使用主题通配符 =~topic 进行筛选:topic =~ 'cmd/state/+'
  • 仅处理 tachometer > 8000 的消息,使用比较符对 tachometer 进行筛选:payload.tachometer > 8000

组合上一步骤得到 SQL 如下:

SELECT
  payload.id as client_id, payload.speed as speed, 
  payload.tachometer as tachometer,
  payload.ts as ts,
  id
FROM
  "message.publish"
WHERE
  topic =~ 'cmd/state/+'
  AND payload.tachometer > 8000

使用 SQL 测试功能进行输出测试

借助 SQL 测试功能,我们可以实时查看当前 SQL 处理后的数据输出,该功能需要我们指定 payload 等模拟原始数据。

payload 数据如下,注意更改 tachometer 数值大小,以满足 SQL 条件:

{
  "id": "NXP-058659730253-963945118132721-22",
  "speed": 32.12,
  "direction": 198.33212,
  "tachometer": 9001,
  "dynamical": 8.93,
  "location": {
    "lng": 116.296011,
    "lat": 40.005091
  },
  "ts": 1563268202
}

点击 SQL 测试 切换按钮,更改 topicpayload 为场景中的信息,点击 测试 按钮查看数据输出:

测试输出数据为:

{
  "client_id": "NXP-058659730253-963945118132721-22",
  "id": "589A429E9572FB44B0000057C0001",
  "speed": 32.12,
  "tachometer": 9001,
  "ts": 1563268202
}

测试输出与预期相符,我们可以进行后续步骤。

添加响应动作,存储消息到 Cassandra

SQL 条件输入输出无误后,我们继续添加相应动作,配置写入 SQL 语句,将筛选结果存储到 Cassandra。

点击响应动作中的 添加 按钮,选择 保存数据到 Cassandra 动作,选取刚刚选定的资源,我们使用 ${fieldName} 语法填充 SQL 语句,将数据插入到数据库,最后点击 新建 按钮完成规则创建。

动作的 SQL 配置如下:

INSERT INTO use_statistics (msgid, client_id, speed, tachometer, ts) VALUES (${id}, ${client_id}, ${speed}, ${tachometer}, ${ts});

测试

预期结果

我们成功创建了一条规则,包含一个处理动作,动作期望效果如下:

  1. 设备向 cmd/state/:id 主题上报消息,当消息中的 tachometer 数值超过 8000 时将命中 SQL,规则列表中 已命中 数字增加 1;
  2. Cassandra emqx_rule_engine_output 数据库的 use_statistics 表中将增加一条数据,数值与当前消息一致。

使用 Dashboard 中的 Websocket 工具测试

切换到 工具 => Websocket 页面,使用任意信息客户端连接到 EMQ X,连接成功后在 消息 卡片发送如下信息:

  • 主题:cmd/state/NXP-058659730253-963945118132721-22

  • 消息体:

    {
      "id": "NXP-058659730253-963945118132721-22",
      "speed": 32.12,
      "direction": 198.33212,
      "tachometer": 8081,
      "dynamical": 8.93,
      "location": {
        "lng": 116.296011,
        "lat": 40.005091
      },
      "ts": 1563268202
    }
    

点击 发送 按钮,此时消息体中的 tachometer 数值,满足上面设置的 tachometer > 8000 的条件,当前规则已命中统计值为加 1。

Cassandra 命令行中查看数据表记录得到数据如下:

至此,我们通过规则引擎实现了使用规则引擎存储消息到 Cassandra 数据库的业务开发。


更多信息请访问我们的官网 emqx.io,或关注我们的开源项目 github.com/emqx/emqx ,详细文档请访问 官方文档

© 著作权归作者所有

EMQX
粉丝 4
博文 54
码字总数 71436
作品 0
杭州
私信 提问
2019重庆智博会 - EMQ 联合 Intel 展示物联网 MEC 边缘设备接入及管理平台

2019中国国际智能产业博览会(以下简称2019智博会),于2019年8月26日至29日在重庆国际博览中心举行。应智博会组委会邀请,英特尔公司在出席展会并打造了“英特尔智能创新展区”。 英特尔智能创...

EMQX
09/04
26
0
Mosquitto 上建立到 EMQ X 的桥接

EMQ X 节点可以被其他类型的 MQTT 消息中间件桥接,实现跨平台的消息订阅和发送。本文我们以一个配置实例来说明如何配置 Mosquitto 到 EMQ X 的桥接。 Mosquitto 是一个小型轻量的开源 MQTT...

EMQX
08/28
48
0
为互联网业务而生:阿里云全球首发云Cassandra服务!

引言:十年沉淀、全球宽表排名第一、阿里云首发云Cassandra服务 ApsaraDB for Cassandra是基于开源Apache Cassandra,融合阿里云数据库DBaaS能力的分布式NoSQL数据库。Cassandra已有10年+的沉...

阿里云官方博客
09/04
32
0
EMQ X Meetup 深圳

活动简介: Since the EMQ X open source project first launch in 2013, EMQ has rapidly became a global leader of providing messaging and streaming solutions for IoT in 5G era. Its ......

映云科技
03/26
26
0
如何实现节点间数据同步

Apache Cassandra3.X 系列,第 4 部分 如何实现节点间数据同步 周 明耀 2017 年 12 月 06 日发布 系列内容: 此内容是该系列 6 部分中的第 # 部分: Apache Cassandra3.X 系列,第 4 部分 ht...

周 明耀
2017/12/06
0
0

没有更多内容

加载失败,请刷新页面

加载更多

layui table 加载数据后默认选中第一行的radio

$(".layui-table-view[lay-id='table表格的Id'] .layui-table-body tr[data-index=0] .layui-form-radio").click(); data-index=0 表示第一行数据。 将上面这句话写在done回调函数里面。 , ......

SummerGao
9分钟前
1
0
mongoDB 慢查询日志 locks 解读

因为在使用 mongoDB 的时候有性能问题,有比较慢的情况,然后我们可以看慢查询的日志,然后不是很明白,所以记录一下 日志可能是这样的形式: 然后在 mongoDB 的文档中: 这里锁的类型 type...

woshixin
19分钟前
1
0
当金融科技遇上云原生,蚂蚁金服是怎么做安全架构的?

蚂蚁金服在过去十五年重塑支付改变生活,为全球超过十二亿人提供服务,这些背后离不开技术的支撑。在 2019 杭州云栖大会上,蚂蚁金服将十五年来的技术沉淀,以及面向未来的金融技术创新和参会...

SOFAStack
22分钟前
2
0
mssql用cp实现数据表按年月归档备份

工作上用到了mssql,为了实现数据表按年月归档备份,特意写了个python的demo测试了一下,效率不错,归档备份规则、归档记录采用的是sqlite3数据库,可以实现任意表的归档操作,只需要在配置表...

禾木同荚
24分钟前
1
0
1.UML类图及类图关系

类、接口和类图 类 类(Class)是指具有相同属性、方法和关系的对象的抽象,它封装了数据和行为,是面向对象程序设计(OOP)的基础,具有封装性、继承性和多态性等三大特性。 (1) 类名(Nam...

Eappo_Geng
28分钟前
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部