为什么说ETL数据集成无法满足企业当下的业务需求呢?

原创
09/16 17:27
阅读数 36

长期以来,IT团队一直依赖企业数据仓库作为其业务工作流程的中央数据基础设施。所有的东西都是通过这个仓库运行的,ETL是数据集成的可靠工具,从源应用程序和系统中提取数据,将其加载到目标仓库中,并将其转换为可访问的形式。

但仅有ETL工具是不够的。随着企业使用更多的数据系统,意味着需要更大的数据量和可访问性,IT团队需要处理ETL无法提供的复杂数据转换以及更多的复杂需求。针对上文提到的需求,我们需要考虑以下场景:

  • 复杂的业务逻辑和验证
  • B2B系统集成
  • 实时集成

本文讨论了为什么ETL工具可能不足以满足这些业务需求,以及iPaaS集成解决方案如何解决这些复杂的需求。

1.复杂的业务逻辑和应用集成

在某些情况下,当您将数据从一个应用程序移动到另一个应用程序时,可能无法在源系统和目标系统之间执行简单的 1:1 数据集成。数据可能有多个来源或目的地,需要业务逻辑根据预先确定的变量来确定将数据发送到何处以及如何处理数据。

例如,让我们看一个典型的电子商务交易。当客户下订单时,系统可以触发在库存数据库中的查找操作,以检查物品是否存在,将商品标记为已售,将销售价添加到会计系统,并将发货订单发送到物流系统。这个过程涉及到您的业务逻辑。如果该商品在仓库中,并且是可提供的,您可以发送发货通知并触发订单发货的工作流程。如果物品不在仓库中,则可能需要不同的工作流程来指导您的 ERP 系统重新进货,然后开始发货。

您可能还需要业务逻辑来验证数据。例如,一个工作流程可以确定一个订单是否包含您不再提供的物品。或者您可能想要调用 USPS 地址验证服务以确保收货地址正确。

一个简单移动数据的ETL解决方案将无法提供必要的业务逻辑来创建这些复杂的工作流或执行必要的数据验证。

2.B2B 系统集成

你的交易伙伴每天都会产生大量的数据,这些数据都存储在他们自己的数据库、ERP、CRM或者其他业务管理系统中。为了利用这些数据,你需要将这些外部应用程序和数据库连接到你自己的数据仓库和应用程序。这个过程不仅涉及数据转换,还涉及企业网络之间的安全数据移动。

以一家全球领先的轮胎制造商——米其林为例。他们在很大程度上依赖于一个物流合作伙伴的车队,将他们的轮胎分销到世界各地并连接他们的供应链。为了集中和利用隐藏在他们合作伙伴的个人数据存储和应用程序中的数据,米其林需要将这些数据导入他们的中央PostgreSQL数据库。他们还需要安全、大量的企业文件传输和高度复杂的数据映射,以便将来自众多系统的数据转化为PostgreSQL系统的通用数据模型。

3.实时集成

在某些情况下,数据可能是时间敏感的。例如,假设一家酒店需要在客户预订后立即更新其预订数据库,以避免重复预订房间的风险。酒店不能容忍预订房间和更新系统之间的时间滞后。

大多数 ETL 工具使用预定或者轮询的方式来移动数据。在指定的时间间隔内,ETL 解决方案会询问源应用程序是否有任何更改,如果有,则将更新的数据推送到目标数据库。

如果过于频繁地拉取数据,则会造成不必要地资源消耗。但如果您的提取频率过低,则可能会导致数据不准确。

相反,您需要一个由特定事件触发的工作流。包含 webhooks 的应用程序集成解决方案可以不断监听源系统中的变化。当收到需要特定数据集的请求时,webhooks 会立即集成必要的数据,以消除轮询间隔并实时提供数据。

iPaaS 解决方案

虽然 ETL 无法解决上述场景,但集成平台即服务 (iPaaS) 解决方案可以满足您和您的企业当下的数据需求。

知行之桥是一种轻量级、轻代码的iPaaS 应用程序,可让您执行复杂的实时集成并填补 ETL 功能的空白。

知行之桥提供了一个直观的拖放式工作流界面,让您无需编码即可快速构建应用程序集成流程。它可以在一个地方支持所有复杂的集成,具有 B2B 系统集成、高级业务逻辑、数据验证和通过 Webhook 实时集成的功能。

它还简化了工作流管理,为您提供一个集中的位置来协调您的集成,包括:

  • 过程监控
  • 便于审计的日志
  • 安全和加密
  • 用户管理
  • 拖放数据映射用于 XML 驱动的数据转换
  • 用于高级映射和集成的内置脚本引擎
  • 用于远程管理的开发人员友好的管理 API

知行之桥可在本地、云端以及 AWS 和 Azure 上使用。

注:文案部分图片及内容来源于网络,版权归原创作者所有,如有侵犯到您的权益,请您联系我们进行删除,给您带来困扰,我们深感抱歉。

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部