文档章节

ETL作业调度软件TASKCTL4.5软件分布式集群架构安装部署详解-笔记分享

 老衲大海
发布于 2017/08/07 11:43
字数 1104
阅读 12
收藏 0

在这里我们说一下TASKCTL的部署过程,TASKCTL部署可以分为单机部署和联机部署(集群部署)。先说一下我们需要准备的东西,首先我们需要到官方网站去下载服务端与客户端的安装包,然后准备一个Windows端的FTP工具和解压缩工具。我们这里用VMWare Player虚拟机安装一个Linux系统来当做我们的服务器,在这个系统中创建4个账户(taskctl,magent,sagent1,sagent2),用来模拟TASKCTL的集群部署,虽然各节点都是安装到同一台服务器的,但是无论安装方式还是软件的执行方式,都与正式环境是一样的,也能从侧面说明TASKCTL所占用的服务器资源很少。

       因为虚拟机使用的是Red Hat Enterprise Linux 5这个发行版,所以在下载服务端的时候,我们选择For Linux 4.5这个版本。桌面客户端的话,如果在Windows系统中安装有.net framework4.5的话,就直接选择TASKCTL4.5,如果没有,则先安装.net framework4.5。下载以后,服务端解压缩,然后上传至taskctl账户,下面就进入正式的安装过程。

·         单机部署

TASKCTL单机部署

·         安装Windows客户端

Windows客户端安装十分简单,首先把下载好的客户端压缩包解压出来,然后双击Taskctl 4.5.1 Setup.exe程序进入安装,如果不需要更换目录,就可以一路的下一步直到完成安装。解释一下TASKCTL的Windows客户端的构成,客户端分为3个软件:Admin、Designer、Monitor。

Admin主要用于管理TASKCTL平台,比如:各节点的启停,全局变量管理,工程导入导出,工程管理等等平台级维护操作。

Designer主要用于各种流程和定时器的设计。

Monitor是TASKCTL平台的监控运维软件,主要用于监控运维流程和定时器的运行情况。

为了验证我们的服务端是否安装成功,我们需要打开的Admin客户端来验证一下。

选择服务器登录,然后输入服务节点的IP地址和端口号,用户名与密码都是默认的admin,然后点击登录,进入主界面

我们就能看到已经部署好的节点了,之所以能看到这么多节点,是因为在安装的时候内置了一些节点配置的范例,真正部署到位的只有Server节点。下面,我们选中Server节点,然后点击右下角的停止按钮,如果提示说“停止成功”,则说明我们的部署成功。

·         集群部署

TASKCTL集群部署

·         负载均衡

在上面的集群部署的基础上,才能够实现TASKCTL的负载均衡,要求最少拥有一个主代理节点(MAgent)和一个从代理节点(SAgent),实现起来非常的简单,只需要在Designer中设计的时候,将任务的agentid属性设置为主代理节点(MAgent)的名字加上一对中括号“[magent]”,然后,将需要做负载均衡处理的所有任务,分别放在主代理和从代理上面,任务的环境必须一致,比如说:在主代理服务器上我们放了一个叫做test.sh的shell脚本在$HOME目录下面,那么,从代理服务器的test.sh脚本也要放在$HOME目录下。在这样的前提之下,TASKCTL的调度核心会判断用哪一台代理服务器处理任务。例如:

<serial>
  <name>MainModul_rootnode</name>
  <begin>
    <name>MainModul_beginjob</name>
  </begin>
  <parallel>
    <name>test</name>
    <!-- 在组节点下设置的一些属性,组节点内的任务在没有自己的私有属性的情况下,会默认的继承,这里就会继承agentid属性 -->
    <agentid>[magent]</agentid>
    <sh>
      <name>MainModul_JobNode0</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode1</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode2</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode3</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode4</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode5</name>
      <progname>$HOME/test.sh</progname>
    </sh>
  </parallel>
  <end>
    <name>MainModul_endjob</name>
  </end>
</serial>

 

© 著作权归作者所有

共有 人打赏支持
粉丝 2
博文 20
码字总数 13635
作品 0
石家庄
ETL调度技术平台--TASKCTL

ETL的技术本质是:通过调度管理控制一系列具有数据处理功能的各种程序有序地运行。因此,有人总结:“ETL是BI(商业智能)的基础,调度是ETL的灵魂”。从功能层面讲,调度是ETL技术体系的重要...

施鹏飞
2013/01/26
18.3K
14
Hadoop生态系统

首先我们先了解一下Hadoop的起源。然后介绍一些关于Hadoop生态系统中的具体工具的使用方法。如:HDFS、MapReduce、Yarn、Zookeeper、Hive、HBase、Oozie、Mahout、Pig、Flume、Sqoop。 Hadoop...

huojiao2006
2017/03/06
0
0
spark架构详解

hadoop和spark Hadoop这项大数据处理技术大概已有十年历史,而且被看做是首选的大数据集合处理的解决方案。MapReduce是一路计算的优秀解决方案,不过对于需要多路计算和算法的用例来说,并非...

张欢19933
2016/02/18
711
0
深入浅出、点金赋能!Hadoop体系大数据开发案例实战

感谢关注天善智能,走好数据之路↑↑↑ 欢迎关注天善智能,我们是专注于商业智能BI,人工智能AI,大数据分析与挖掘领域的垂直社区,学习,问答、求职一站式搞定! 课程名称:深入浅出、点金赋...

天善智能
01/03
0
0
《Linux云计算从入门到精通》系列实战笔记全放送

为了方便Linux云计算爱好者的学习查看,马哥Linx云计算团队特别整理了《Linux云计算从入门到精通》年度重磅大放送,囊括了整个学习过程的学习精华,内容全部由马哥Linux云计算学员撰写,欢迎...

898009427
2017/11/21
0
0

没有更多内容

加载失败,请刷新页面

加载更多

Cointext在阿根廷和土耳其推出比特币现金短信钱包

Cointext于10月15日开始在土耳其和阿根廷提供新的基于SMS的比特币现金钱包服务,这两个国家的加密货币使用量急剧上升,以应对严峻的经济形势。 移动钱包 通过短信处理BCH交易 “比特币是更好...

lpy411
31分钟前
1
0
大数据早课-0918

9.18日早课 1.全局搜索含有abc的文件名称或文件夹的命令 2.当前目录一般用什么表示 3.切换到上一次和上一层命令分别是什么 4.pwd是查看当前目录的什么 5.隐藏文件或文件夹的标识是什么? 怎样...

hnairdb
31分钟前
1
0
mybatis学习笔记一

一、mybaits需要的项目依赖 <!-- https://mvnrepository.com/artifact/org.mybatis/mybatis --> <dependency> <groupId>org.mybatis</groupId> <artif......

wuyiyi
32分钟前
2
0
CentOS6 安装 GraphicsMagick

1.安装相关依赖: yum install -y gcc libpng libjpeg libpng-devel libjpeg-devel ghostscript libtiff libtiff-devel freetype freetype-devel 2.下载并解压到目录/usr/local/ wget ft......

凯文加内特
34分钟前
1
0
RabbitMq集群使用Nginx做负载均衡

1.配置rabbitmq集群(可以参考前一篇RabbitMq之部署集群) 2.Nginx做负载均衡 注意:Nginx1.90版本后 新增了stream 模块用于一般的 TCP 代理和负载均衡,之前版本不支持 修改Nginx配置文件ngi...

zhaochaochao
39分钟前
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部