加载中
成为 Apache 贡献者,So easy!

 1 缘起 大概是今年 4 月份的时候,忽然间看到 ShardingSphere 毕业的消息,其中也顺带提到了我们的主角 DolpshinScheduler, 于是去 Github 看了看,堆积的 PR 不多,在 Apache 孵化器中的...

DolphinScheduler自身容错导致的服务器持续崩溃重大问题的排查与解决

01 问题复现 在DolphinScheduler中有如下一个Shell任务: current_timestamp() { date +"%Y-%m-%d %H:%M:%S" } TIMESTAMP=$(current_timestamp) echo $TIMESTAMP sleep 60 在DolphinSchedule...

化工巨头的选择:惠生工程如何用DolphinScheduler点燃数据集成新火花

在数字化转型的大潮中,企业面临着数据爆炸性增长的挑战。如何有效地整合和管理来自不同来源的数据,成为企业提升竞争力的关键。本文将详细介绍惠生工程(中国)基于Apache DolphinScheduler...

白鲸数据集成调度和集成系统与统信软件通过互认认证,共促国产软硬件生态发展

在国产软硬件生态建设的征程中,又迎来重要成果。北京白鲸开源科技有限公司与统信软件技术有限公司联合宣布,白鲸数据集成系统V2.6和数据调度系统V2.6分别在统信服务器操作系统V25上通过了严...

基于海豚调度功能开发——推送下游系统数据库连接信息批量修改方案与实现

功能需求背景 由于信创(信息技术应用创新产业)改造要求,上个月已将从数据仓库推送下游官网系统的ORACLE数据库相关数据推送任务迁移到信创人大金仓临时数据库,整体任务完成切换上线并试运...

白鲸开源WhaleStudio荣获2024星空奖!

在2024年,白鲸开源的“新一代数据集成调度平台WhaleStudio”荣获了DataFun社区颁发的第二届星空奖-数智技术最佳探索奖。这一奖项是针对在数智技术领域取得显著成就的技术产品而设立,特别关...

每年一问:Java日期格式化中周所在年引发的bug

作者 | 袁丙泽 编辑 | Debra Chen 在处理涉及每年周数问题时,如果处于不同的地区或文化中,总会遇见一些标准问题。比如基督教信徒喜欢把周日当做每周的第一天。而不同的编程语言,也会有自己...

2024年社区高光时刻总结!

亲爱的朋友们,让我们把时间的快门按下,一起回顾这一年的点点滴滴。就像翻阅一本精彩的相册,每一张照片都记录着我们Apache DolphinScheduler社区的欢笑和泪水。那么,准备好了吗?让我们一...

DolphinScheduler、SeaTunnel VS. AirFlow、 NiFi

在当今的数据驱动时代,企业面临着日益复杂的数据处理和工作流管理需求。为了满足这些需求,市场上出现了多种工具,其中DolphinScheduler和SeaTunnel与AirFlow和NiFi是两组经常被提及的解决方...

2024年终福利 | Apache DolphinScheduler案例合集,附PDF下载

仅展示部分案例,文末附完整版🔻 引言 数据驱动时代,高效的数据处理和分析能力已成为各行各业的核心竞争力。而高效的数据处理离不开强大的工作流调度系统。Apache DolphinScheduler 正是这...

作业帮基于 Apache DolphinScheduler 3_0_0 的缺陷修复与优化

文|作业帮大数据团队(阮文俊、孙建业) 背 景 基于 Apache DolphinScheduler (以下简称DolphinScheduler)搭建的 UDA 任务调度平台有效支撑了公司的业务数据开发需求,处理着日均百万级别的...

博世智驾新动力:Apache DolphinScheduler如何征服数据处理挑战

视频及PPT等相关资料:点击查看 讲师介绍 陶超权,博世智驾(中国)后端工程师,负责数据处理和数据调度方面工作,在智能驾驶数据处理领域具有丰富的实践经验。在2024年12月Apache DolphinS...

Apache DolphinScheduler 限制秒级别的定时调度

背景 Apache DolphinScheduler 定时任务配置采用的 7 位 Crontab 表达式,分别对应秒、分、时、月天、月、周天、年。 在团队日常开发工作中,工作流的定时调度一般不会细化到秒级别。但历史上...

基于 Apache Dolphinscheduler3.1.9中的Task 处理流程解析

实现一个调度任务,可能很简单。但是如何让工作流下的任务跑得更好、更快、更稳定、更具有扩展性,同时可视化,是值得我们去思考得问题。 Apache DolphinScheduler是一个分布式和可扩展的开源...

【技巧帖】 DolphinScheduler 任务数据清理与备份策略,确保页面不卡顿

问题描述 由于 Apache DolphinScheduler 长期运行,任务数量不断增加,相关任务数据主要存储在数据库中的 t_ds_task_instance 和 t_ds_process_instance 两张表中。 随着这两张表数据量的持续...

11月 | Apache DolphinScheduler月度进展总结

各位热爱 Apache DolphinScheduler 的小伙伴们,社区10月份月报更新啦!这里将记录 DolphinScheduler 社区每月的重要更新,欢迎关注! 月度Merge之星 感谢以下小伙伴11月份为 Apache Dolphin...

Dolphinscheduler DAG核心源码剖析

背景描述 注意 : 在 Dolphinscheduler 中,离线任务是有完整的声明周期的,比如说停止、暂停、暂停恢复、重跑等等,都是以DAG(有向无环图的形式进行任务组织)T+1离线任务的。 Dolphinschedul...

能源投资工程VS智能驾驶,DolphinScheduler如何当好传统行业与前沿科技的桥梁?

在数字化转型的浪潮中,Apache DolphinScheduler以其强大的调度能力,成为连接传统行业与前沿科技的桥梁。2024年12月17日14:00, Apache DolphinScheduler社区将举办一场线上用户交流活动,届...

DolphinScheduler JavaTask动态传参秘籍:轻松实现任务间数据流动

Apache DolphinScheduler的JavaTask可以通过在任务执行日志中输出特定格式的参数来支持OUT参数的下游传输,通过捕捉日志并将其作为参数传递给下游任务。这种机制允许任务间的数据流动和通信,...

占用磁盘100%?Apache DolphinScheduler 日志如何定时清理!

当 Apache DolphinScheduler 运行几个月后,大部分朋友会发现 Logs 下的运行日志越来越多,这时可以考虑清理下 Logs/ 目录下的日志文件,比如设置只保留最近 3 天的日志,怎么操作呢? 可以通...

没有更多内容

加载失败,请刷新页面

返回顶部
顶部