文档章节

简简单单检测oozie任务

RoseRougE
 RoseRougE
发布于 2016/12/08 17:34
字数 135
阅读 29
收藏 0

oozie就是个大坑,如果避不开,好歹也简简单单地检测任务状态。

列出当前所有waiting和timeout任务依赖的数据,

oozie jobs -jobtype coordinator | grep -iE '(running)' | sed -r 's/ +/ /g' | sed -r 's/^([^ ]+-C).+/\1/g' | while read coord; do echo $coord; oozie job -len 99999 -info $coord | sed -r '1,/^-+/d;1,/^-+/d' | grep -iE '(running|waiting|timeout)' | sed -r 's/^([^ ]+-C@[0-9]+).+/\1/g' | while read wf; do oozie job -info $wf | grep -E '^(ID|Created|Nominal Time|Status|Last Modified|First Missing Dependency)'; echo; done; done | grep 'First Missing Dependency' | grep -vE '\-$' | sed -r 's/^.+ hdfs:/hdfs:/g' | sort | uniq

 

© 著作权归作者所有

共有 人打赏支持
RoseRougE
粉丝 1
博文 2
码字总数 758
作品 0
朝阳
后端工程师
私信 提问
图文并茂 —— 基于Oozie调度Sqoop

利用大数据来做BI分析的时候,必不可少需要设置一些调度任务。 本篇就讲述一下如何利用hue来编辑shell操作,这里面的很多操作在其他的调度操作里面也是可以借鉴的。 如果是linux里面可以直接...

青夜之衫
2017/12/04
0
0
Oozie分布式工作流——Action节点

前篇讲述了下什么是流控制节点,本篇继续来说一下什么是 Action Nodes操作节点。Action节点有一些比较通用的特性: Action节点是远程的 所有oozie创建的计算和处理任务都是异步的,没有任何应...

青夜之衫
2017/12/04
0
0
基于Hadoop生态圈的数据仓库实践 —— ETL(三)

三、使用Oozie定期自动执行ETL 1. Oozie简介 (1)Oozie是什么 Oozie是一个管理Hadoop作业、可伸缩、可扩展、可靠的工作流调度系统,其工作流作业是由一系列动作构成的有向无环图(DAGs),协...

wzy0623
2016/07/11
0
0
oozie使用中的一些小结(持续完善)

0 关于oozie 寻找包寻找位置原则: oozie在运行的时候 只会去两个地方寻找自己需要的lib eg: /user/root/examples/apps/fork-merge的workflow下有 job.properties lib workflow.xml三个目录 ...

Zero零_度
2016/09/23
12
0
HAWQ取代传统数仓实践(五)——自动调度工作流(Oozie、Falcon)

一旦数据仓库开始使用,就需要不断从源系统给数据仓库提供新数据。为了确保数据流的稳定,需要使用所在平台上可用的任务调度器来调度ETL定期执行。调度模块是ETL系统必不可少的组成部分,它不...

wzy0623
2017/05/18
0
0

没有更多内容

加载失败,请刷新页面

加载更多

嵌入式应用选择合适的微控制器

准备所需硬件接口列表 使用微控制器的基本硬件框图,准备一份微控制器需要支持的所有外设接口的列表。微控制器中有两种常见的接口类型需要列出。第一种是通信接口,这些是外围设备,如USB,S...

linuxCool
12分钟前
2
0
Group by使用

概述 GROUP BY我们可以先从字面上来理解,GROUP表示分组,BY后面写字段名,就表示根据哪个字段进行分组,如果有用Excel比较多的话,GROUP BY比较类似Excel里面的透视表。 GROUP BY必须得配合...

小橙子的曼曼
24分钟前
3
0
机械臂写中文

Make Me a Hanzi https://www.skishore.me/makemeahanzi/ 使用uArm Swift Pro机械臂写中文-毛笔字 https://github.com/makelove/Robot_Arm_Write_Chinese...

itfanr
35分钟前
4
0
OSChina 周三乱弹 —— 孤独到都和病毒发生了感情了

Osc乱弹歌单(2019)请戳(这里) 【今日歌曲】 @-冰冰棒- :#今日歌曲推荐# 逃跑计划《一万次悲伤 (Live)》 《一万次悲伤 (Live)》- 逃跑计划 手机党少年们想听歌,请使劲儿戳(这里) 现在...

小小编辑
今天
1K
14
test

//// main.c// Test//// Created by 吕颖 on 2019/1/16.// Copyright © 2019年 carmen. All rights reserved.//#include <stdio.h>#include <stdlib.h>#include <t......

carmen-ly
今天
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部