文档章节

ETL作业调度软件TASKCTL4.5软件分布式集群架构安装部署详解-笔记分享

 老衲大海
发布于 2017/08/07 11:43
字数 1104
阅读 12
收藏 0

在这里我们说一下TASKCTL的部署过程,TASKCTL部署可以分为单机部署和联机部署(集群部署)。先说一下我们需要准备的东西,首先我们需要到官方网站去下载服务端与客户端的安装包,然后准备一个Windows端的FTP工具和解压缩工具。我们这里用VMWare Player虚拟机安装一个Linux系统来当做我们的服务器,在这个系统中创建4个账户(taskctl,magent,sagent1,sagent2),用来模拟TASKCTL的集群部署,虽然各节点都是安装到同一台服务器的,但是无论安装方式还是软件的执行方式,都与正式环境是一样的,也能从侧面说明TASKCTL所占用的服务器资源很少。

       因为虚拟机使用的是Red Hat Enterprise Linux 5这个发行版,所以在下载服务端的时候,我们选择For Linux 4.5这个版本。桌面客户端的话,如果在Windows系统中安装有.net framework4.5的话,就直接选择TASKCTL4.5,如果没有,则先安装.net framework4.5。下载以后,服务端解压缩,然后上传至taskctl账户,下面就进入正式的安装过程。

·         单机部署

TASKCTL单机部署

·         安装Windows客户端

Windows客户端安装十分简单,首先把下载好的客户端压缩包解压出来,然后双击Taskctl 4.5.1 Setup.exe程序进入安装,如果不需要更换目录,就可以一路的下一步直到完成安装。解释一下TASKCTL的Windows客户端的构成,客户端分为3个软件:Admin、Designer、Monitor。

Admin主要用于管理TASKCTL平台,比如:各节点的启停,全局变量管理,工程导入导出,工程管理等等平台级维护操作。

Designer主要用于各种流程和定时器的设计。

Monitor是TASKCTL平台的监控运维软件,主要用于监控运维流程和定时器的运行情况。

为了验证我们的服务端是否安装成功,我们需要打开的Admin客户端来验证一下。

选择服务器登录,然后输入服务节点的IP地址和端口号,用户名与密码都是默认的admin,然后点击登录,进入主界面

我们就能看到已经部署好的节点了,之所以能看到这么多节点,是因为在安装的时候内置了一些节点配置的范例,真正部署到位的只有Server节点。下面,我们选中Server节点,然后点击右下角的停止按钮,如果提示说“停止成功”,则说明我们的部署成功。

·         集群部署

TASKCTL集群部署

·         负载均衡

在上面的集群部署的基础上,才能够实现TASKCTL的负载均衡,要求最少拥有一个主代理节点(MAgent)和一个从代理节点(SAgent),实现起来非常的简单,只需要在Designer中设计的时候,将任务的agentid属性设置为主代理节点(MAgent)的名字加上一对中括号“[magent]”,然后,将需要做负载均衡处理的所有任务,分别放在主代理和从代理上面,任务的环境必须一致,比如说:在主代理服务器上我们放了一个叫做test.sh的shell脚本在$HOME目录下面,那么,从代理服务器的test.sh脚本也要放在$HOME目录下。在这样的前提之下,TASKCTL的调度核心会判断用哪一台代理服务器处理任务。例如:

<serial>
  <name>MainModul_rootnode</name>
  <begin>
    <name>MainModul_beginjob</name>
  </begin>
  <parallel>
    <name>test</name>
    <!-- 在组节点下设置的一些属性,组节点内的任务在没有自己的私有属性的情况下,会默认的继承,这里就会继承agentid属性 -->
    <agentid>[magent]</agentid>
    <sh>
      <name>MainModul_JobNode0</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode1</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode2</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode3</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode4</name>
      <progname>$HOME/test.sh</progname>
    </sh>
    <sh>
      <name>MainModul_JobNode5</name>
      <progname>$HOME/test.sh</progname>
    </sh>
  </parallel>
  <end>
    <name>MainModul_endjob</name>
  </end>
</serial>

 

© 著作权归作者所有

共有 人打赏支持
粉丝 2
博文 20
码字总数 13635
作品 0
石家庄
私信 提问
ETL调度技术平台--TASKCTL

ETL的技术本质是:通过调度管理控制一系列具有数据处理功能的各种程序有序地运行。因此,有人总结:“ETL是BI(商业智能)的基础,调度是ETL的灵魂”。从功能层面讲,调度是ETL技术体系的重要...

施鹏飞
2013/01/26
18.3K
14
Hadoop生态系统

首先我们先了解一下Hadoop的起源。然后介绍一些关于Hadoop生态系统中的具体工具的使用方法。如:HDFS、MapReduce、Yarn、Zookeeper、Hive、HBase、Oozie、Mahout、Pig、Flume、Sqoop。 Hadoop...

huojiao2006
2017/03/06
0
0
spark架构详解

hadoop和spark Hadoop这项大数据处理技术大概已有十年历史,而且被看做是首选的大数据集合处理的解决方案。MapReduce是一路计算的优秀解决方案,不过对于需要多路计算和算法的用例来说,并非...

张欢19933
2016/02/18
711
0
深入浅出、点金赋能!Hadoop体系大数据开发案例实战

感谢关注天善智能,走好数据之路↑↑↑ 欢迎关注天善智能,我们是专注于商业智能BI,人工智能AI,大数据分析与挖掘领域的垂直社区,学习,问答、求职一站式搞定! 课程名称:深入浅出、点金赋...

天善智能
2018/01/03
0
0
《Linux云计算从入门到精通》系列实战笔记全放送

为了方便Linux云计算爱好者的学习查看,马哥Linx云计算团队特别整理了《Linux云计算从入门到精通》年度重磅大放送,囊括了整个学习过程的学习精华,内容全部由马哥Linux云计算学员撰写,欢迎...

898009427
2017/11/21
0
0

没有更多内容

加载失败,请刷新页面

加载更多

多表查询

第1章 多表关系实战 1.1 实战1:省和市  方案1:多张表,一对多  方案2:一张表,自关联一对多 1.2 实战2:用户和角色 (比如演员和扮演人物)  多对多关系 1.3 实战3:角色和权限 (比如...

stars永恒
今天
2
0
求推广,德邦快递坑人!!!!

完全没想好怎么来吐槽自己这次苦逼的德邦物流过程了,只好来记一个流水账。 从寄快递开始: 2019年1月15日从 德邦物流 微信小app上下单,截图如下: 可笑的是什么,我预约的是17号上门收件,...

o0无忧亦无怖
昨天
6
0
Mac Vim配置

1.升级 vim   我自己 MacBook Pro 的系统还是 10.11 ,其自带的 vim 版本为 7.3 ,我们将其升至最新版: 使用 homebrew : brew install vim --with-lua --with-override-system-vim 这将下...

Pasenger
昨天
8
0
vmware安装Ubuntu上不了网?上网了安装不了net-tools,无法执行ifconfig?

1.重新设置网络适配器还是不行,如下指定nat 2.还需要指定共享网络,我是在无线环境下 3.无法执行ifconfig https://packages.ubuntu.com/bionic/net-tools到这个网站下载net-tools的deb文件...

noob_chr
昨天
3
0
解决SVN:E210007无法协商认证机制

svn:E210007 svn: Cannot negotiate authentication mechanism 执行下面代码即可 sudo yum install cyrus-sasl cyrus-sasl-plain cyrus-sasl-ldap...

临江仙卜算子
昨天
4
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部