文档章节

简简单单检测oozie任务

RoseRougE
 RoseRougE
发布于 2016/12/08 17:34
字数 135
阅读 25
收藏 0

oozie就是个大坑,如果避不开,好歹也简简单单地检测任务状态。

列出当前所有waiting和timeout任务依赖的数据,

oozie jobs -jobtype coordinator | grep -iE '(running)' | sed -r 's/ +/ /g' | sed -r 's/^([^ ]+-C).+/\1/g' | while read coord; do echo $coord; oozie job -len 99999 -info $coord | sed -r '1,/^-+/d;1,/^-+/d' | grep -iE '(running|waiting|timeout)' | sed -r 's/^([^ ]+-C@[0-9]+).+/\1/g' | while read wf; do oozie job -info $wf | grep -E '^(ID|Created|Nominal Time|Status|Last Modified|First Missing Dependency)'; echo; done; done | grep 'First Missing Dependency' | grep -vE '\-$' | sed -r 's/^.+ hdfs:/hdfs:/g' | sort | uniq

 

© 著作权归作者所有

共有 人打赏支持
RoseRougE
粉丝 1
博文 2
码字总数 758
作品 0
朝阳
后端工程师
Oozie分布式工作流——Action节点

前篇讲述了下什么是流控制节点,本篇继续来说一下什么是 Action Nodes操作节点。Action节点有一些比较通用的特性: Action节点是远程的 所有oozie创建的计算和处理任务都是异步的,没有任何应...

青夜之衫
2017/12/04
0
0
图文并茂 —— 基于Oozie调度Sqoop

利用大数据来做BI分析的时候,必不可少需要设置一些调度任务。 本篇就讲述一下如何利用hue来编辑shell操作,这里面的很多操作在其他的调度操作里面也是可以借鉴的。 如果是linux里面可以直接...

青夜之衫
2017/12/04
0
0
基于Hadoop生态圈的数据仓库实践 —— ETL(三)

三、使用Oozie定期自动执行ETL 1. Oozie简介 (1)Oozie是什么 Oozie是一个管理Hadoop作业、可伸缩、可扩展、可靠的工作流调度系统,其工作流作业是由一系列动作构成的有向无环图(DAGs),协...

wzy0623
2016/07/11
0
0
oozie使用中的一些小结(持续完善)

0 关于oozie 寻找包寻找位置原则: oozie在运行的时候 只会去两个地方寻找自己需要的lib eg: /user/root/examples/apps/fork-merge的workflow下有 job.properties lib workflow.xml三个目录 ...

Zero零_度
2016/09/23
12
0
HAWQ取代传统数仓实践(五)——自动调度工作流(Oozie、Falcon)

一旦数据仓库开始使用,就需要不断从源系统给数据仓库提供新数据。为了确保数据流的稳定,需要使用所在平台上可用的任务调度器来调度ETL定期执行。调度模块是ETL系统必不可少的组成部分,它不...

wzy0623
2017/05/18
0
0

没有更多内容

加载失败,请刷新页面

加载更多

docker多容器部署lnmp环境

环境:RHEL7.5 ip:192.168.10.102,主机名:lb02 一、创建web、数据库目录 web网站目录为:/wwwroot,属主属组:www [root@lb02 ~]# mkdir /wwwroot[root@lb02 ~]# useradd -s /sbin/nolo...

人在艹木中
11分钟前
0
0
eclipse运行springboot项目报错‘找不到或无法加载主类’

这是一个很烦躁的问题~,往往困住大家好长时间,然后各种百度。借此,咱将这个问题有可能产生的原因进行一下总结。若有不完善之处欢迎大家在下面留言指出~~ Duang!问题出现 然后开始尝试解决...

Code辉
31分钟前
0
0
springboot oauth2 跨域设置

@Overridepublic void configure(HttpSecurity http) throws Exception { http .authorizeRequests() .antMatchers("/security/**") .authentica......

昆虫大侠
33分钟前
0
0
08-利用思维导图梳理JavaSE-泛型

08-利用思维导图梳理JavaSE-泛型 主要内容 1.泛型的基本概念 1.1.定义 1.2.使用前提 1.3.使用泛型的好处 2.泛型的使用 2.1.泛型类定义 2.2.泛型对象定义 2.3.泛型中的构造方法 2.4.泛型方法的...

飞鱼说编程
35分钟前
0
0
Docker 部署 Spring Boot 项目指南

仅想在Docker里运行一个Spring Boot项目,捣鼓了许久。。。 本文主要适用于Windows环境下的Docker 一、运行环境 Windows 10 Maven 3.5 Docker 18.06.1-ce-win73 (19507) 二、创建Spring Boot...

AmosWang
41分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部