文档章节

rsyslog队列参数

MrYx3en
 MrYx3en
发布于 2015/11/18 10:17
字数 1751
阅读 222
收藏 0

global (

    maxMessageSize="32m"

    workDirectory="/data1/sinawap/rsyslog"        #定义工作目录。列队写磁盘文件的存储文件夹

    preserveFQDN="on"

    action.reportSuspension="on"

)

main_queue (

    queue.filename="mainQ"

    queue.type="linkedlist"        #选择使用内存队列模式

    queue.size="600000"        #队列大小

    queue.timeoutenqueue="1000"        #进队列超时时间(1000ms)

    queue.maxfilesize="512M"        #队列单文件尺寸大小

    queue.maxdiskspace="50G"        #限制磁盘队列大小,最大50G

    queue.dequeuebatchsize="50000"        #优化宽带,设置每批次传输元素量,尽可能每次传输更多的数据

    queue.workerthreads="4"        #队列工作线程数

    queue.workerthreadminimummessages="100000"

    queue.discardseverity="3"        #丢弃消息等级设定,数字越低丢的越多,设置为8代表禁止丢弃消息

    queue.highwatermark="480000"        #当内存队列数量达到设置的值时,开始回写磁盘

    queue.lowwatermark="120000"        #当内存队列小于设置的值时,停止回写磁盘

    queue.checkpointinterval="10"

    queue.timeoutshutdown="10"

    queue.timeoutactioncompletion="10"

    queue.timeoutworkerthreadshutdown="10"

    queue.saveonshutdown="on"

)


----------------------------------------------------------------分割线--------------------------------------------------------------------------

1、客户端

$ModLoad immark # provides --MARK-- message capability

$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)

$ModLoad imklog # kernel logging (formerly provided by rklogd)

$ModLoad lmregexp

#$ModLoad omhdfs

#$ModLoad imudp

#$UDPServerRun 514

$SystemLogRateLimitInterval 0

*.info;mail.none;authpriv.none; cron .none;local5.none;local6.none - /var/log/messages

authpriv.* - /var/log/secure

mail.* - /var/log/maillog

# Log cron stuff

cron .* - /var/log/cron

# Everybody gets emergency messages

*.emerg *

uucp,news.crit - /var/log/spooler

local7.* /var/log/boot .log

#real tran log

$ModLoad imfile #装载imfile模块

$InputFileName /data2/logs/ssologs .log #读取日志文件

$InputFileTag login.sina.com.cn: #日志写入日志附加标签字符串

$InputFileFacility local5 #日志类型

$InputFileSeverity info #日志等级

$InputFileStateFile ssologs.log_state #定义记录偏移量数据文件名

$InputFilePollInterval 1 #检查日志文件间隔(秒)

$InputFilePersistStateInterval 1 #回写偏移量数据到文件间隔时间(秒)

$InputRunFileMonitor #激活读取,可以设置多组日志读取,每组结束时设置本参数。以示生效。


#接收队列

$WorkDirectory /data2/logs/ #定义工作目录。例如队列文件存储存储文件夹。

$MainMsgQueueType LinkedList #选择使用内存队列模式。

$MainMsgQueueFileName local5.main #如果队列模式使用内存模式,同时在配置这个参数,意味激活磁盘附加队列。

$MainMsgQueueHighWatermark 10000 #当内存队列达到这些元素时,开始回写磁盘。

$MainMsgQueueLowWatermark 1000 #当内存队列小于这些元素时,停止回写磁盘。

$MainMsgQueueMaxDiskSpace 20g #限制磁盘队列大小,参数疑似20GByte。

$MainMsgQueueMaxFileSize 200m #队列单文件尺寸大小。

$MainMsgQueueSaveOnShutdown on #在rsyslogd关闭时,要保存队列中数据。

$MainMsgQueueDiscardSeverity 8 #丢弃消息等级设定,数字越低丟的越多,设置8代表禁止丢弃消息。

$MainMsgQueueDiscardMark 1000000000 #超出10亿后,会禁止新消息入队,丢弃消息。如果前一个被禁止, #那么丢弃数据将无针对性,如果

$MainMsgQueueTimeoutEnqueue 3000 #超时3秒,TCP或local_socket方式下,预防资源夯住,引起崩溃。

$MainMsgQueueDequeueBatchSize 500 #优化带宽,设置每批次传输元素量,尽可能每次传输更多的数据。


#发送队列(可以部署多个)

$ActionForwardDefaultTemplate RSYSLOG_ForwardFormat #定义转发消息格式模板,使用系统默认转发格式。

$WorkDirectory /data2/logs/ #定义工作目录。例如队列文件存储存储文件夹。

$ActionQueueType LinkedList #选择使用内存队列模式。

$ActionQueueFileName local5.forward #如果队列模式使用内存模式,同时在配置这个参数,意味激活磁盘附加队列。

$ActionQueueHighWatermark 10000 #当内存队列达到这些元素时,开始回写磁盘。

$ActionQueueLowWatermark 1000 #当内存队列小于这些元素时,停止回写磁盘。

$ActionQueueMaxDiskSpace 20g #限制磁盘队列大小,参数疑似20GByte。

$ActionQueueMaxFileSize 200m #队列单文件尺寸大小。

$ActionResumeRetryCount -1 #失败后重试次数,-1 代表无限。

$ActionQueueSaveOnShutdown on #在rsyslogd关闭时,要保存队列中数据。

$ActionQueueDiscardSeverity 8 #丢弃消息等级设定,数字越低丟的越多,设置8代表禁止丢弃消息。

$ActionQueueDiscardMark 1000000000 #超出10亿后,会禁止新消息入队,丢弃消息。如果前一个被禁止,

  #那么丢弃数据将无针对性,如果

$ActionQueueTimeoutEnqueue 3000 #超时3秒,TCP或local_socket方式下,预防资源夯住,引起崩溃。

$ActionQueueDequeueBatchSize 500 #优化带宽,设置每批次传输元素量,尽可能每次传输更多的数据。

local5.* @@10.69.56.39;RSYSLOG_ForwardFormat #发送local5类型数据,以系统默认格式转发到目标服务器。


2. 服务器端

$ModLoad immark # provides --MARK-- message capability

$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)

$ModLoad imklog # kernel logging (formerly provided by rklogd)

$ModLoad lmregexp

$ModLoad omhdfs

#$ModLoad imudp

#$UDPServerRun 514

*.info;mail.none;authpriv.none; cron .none;local5.none;local6.none - /var/log/messages

authpriv.* /var/log/secure

mail.* - /var/log/maillog

# Log cron stuff

cron .* - /var/log/cron

# Everybody gets emergency messages

*.emerg *

uucp,news.crit - /var/log/spooler

local7.* /var/log/boot .log

# TCP Syslog Server:

$ModLoad imtcp.so # load module

$InputTCPServerRun 514 # start up TCP listener at port 514

$InputTCPMaxSessions 1000

# UDP Syslog Server:


#接收队列

$WorkDirectory /data2/logs/ #定义工作目录。例如队列文件存储存储文件夹。

$MainMsgQueueType LinkedList #选择使用内存队列模式。

$MainMsgQueueFileName local5.main #如果队列模式使用内存模式,同时在配置这个参数,意味激活磁盘附加队列。

$MainMsgQueueHighWatermark 10000 #当内存队列达到这些元素时,开始回写磁盘。

$MainMsgQueueLowWatermark 1000 #当内存队列小于这些元素时,停止回写磁盘。

$MainMsgQueueMaxDiskSpace 20g #限制磁盘队列大小,参数疑似20GByte。

$MainMsgQueueMaxFileSize 200m #队列单文件尺寸大小。

$MainMsgQueueSaveOnShutdown on #在rsyslogd关闭时,要保存队列中数据。

$MainMsgQueueDiscardSeverity 8 #丢弃消息等级设定,数字越低丟的越多,设置8代表禁止丢弃消息。

$MainMsgQueueDiscardMark 1000000000 #超出10亿后,会禁止新消息入队,丢弃消息。如果前一个被禁止, #那么丢弃数据将无针对性,如果

$MainMsgQueueTimeoutEnqueue 3000 #超时3秒,TCP或local_socket方式下,预防资源夯住,引起崩溃。

$MainMsgQueueDequeueBatchSize 500 #优化带宽,设置每批次传输元素量,尽可能每次传输更多的数据。


#发送队列(可以部署多个)

$ActionForwardDefaultTemplate RSYSLOG_ForwardFormat #定义转发消息格式模板,使用系统默认转发格式。

$WorkDirectory /data2/logs/ #定义工作目录。例如队列文件存储存储文件夹。

$ActionQueueType LinkedList #选择使用内存队列模式。

$ActionQueueFileName local5.forward #如果队列模式使用内存模式,同时在配置这个参数,意味激活磁盘附加队列。

$ActionQueueHighWatermark 10000 #当内存队列达到这些元素时,开始回写磁盘。

$ActionQueueLowWatermark 1000 #当内存队列小于这些元素时,停止回写磁盘。

$ActionQueueMaxDiskSpace 20g #限制磁盘队列大小,参数疑似20GByte。

$ActionQueueMaxFileSize 200m #队列单文件尺寸大小。

$ActionResumeRetryCount -1 #失败后重试次数,-1 代表无限。

$ActionQueueSaveOnShutdown on #在rsyslogd关闭时,要保存队列中数据。

$ActionQueueDiscardSeverity 8 #丢弃消息等级设定,数字越低丟的越多,设置8代表禁止丢弃消息。

$ActionQueueDiscardMark 1000000000 #超出10亿后,会禁止新消息入队,丢弃消息。如果前一个被禁止,

  #那么丢弃数据将无针对性,如果


$ActionQueueTimeoutEnqueue 3000 #超时3秒,TCP或local_socket方式下,预防资源夯住,引起崩溃。

$ActionQueueDequeueBatchSize 500 #优化带宽,设置每批次传输元素量,尽可能每次传输更多的数据。

$ModLoad omprog

$template ssolog, "%fromhost-ip% %syslogtag% %msg%\n"

$ActionOMProgBinary /etc/dAppCluster/rsyslog .receiver.php

if $syslogfacility-text == 'local5' and $syslogtag startswith 'login.sina.com.cn' then :omprog:;ssolog

local5.* /data1/logs/rsyslog/ssologs .log;ssolog


本文转载自:http://www.tuicool.com/articles/Jv2eUvn

共有 人打赏支持
MrYx3en
粉丝 9
博文 132
码字总数 30598
作品 0
宝鸡
系统管理员
RSYSLOG服务实时传输日志配置

RSYSLOG服务实时传输日志配置 一个项目中涉及到rsyslog的使用,配置。 简单介绍一下,就是读取本地一个文件,通过rsyslog实时传输到远端的服务器,然后使用rsyslog.receiver.php分拣处理。 ...

憬薇
2017/08/15
0
0
rsyslog 日志服务器使用

简介 准备 详解 日志类型 日志级别 主要配置文件和意义 增加讲解一个重要特性(队列) 队列是 rsyslog 的核心。下图展示了rsyslog处理消息的流程: 队列分为 Main Queue 和 Action Queue 队列,...

2688
2016/01/21
278
0
rsyslog参数说明

下文出现的配置指令中,请将 “<object>” 根据情况替换为 “MainMsg” 或 “Action”。 前者对应主消息队列,后者对应将要创建的动作对应的队列。 每定义一个动作都会相应的创建一个动作队列...

木头
2016/07/02
351
0
rsyslog配置解析

RSYSLOG is the rocket-fast system for log processing. 本地Rsyslog版本: 配置 基本语法 Rsyslog 现在支持三种配置语法格式: sysklogd legacy rsyslog RainerScript sysklogd 是老的简单格......

憬薇
2017/09/19
0
0
rsyslog 8.6.0 (v8-stable) 发布

Rsyslog 是一个 syslogd 的多线程增强版。 rsyslog 8.6.0 (v8-stable) 发布,此版本是新发布版本周期的第一个稳定版本。 新版本周期和新模式详情请看这里: http://www.rsyslog.com/rsyslog...

oschina
2014/12/03
499
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

OSChina 周三乱弹 —— 我居然在 osc 里追剧

Osc乱弹歌单(2018)请戳(这里) 【今日歌曲】 @舆情风控小组 :分享王菲的单曲《笑忘书》 《笑忘书》- 王菲 手机党少年们想听歌,请使劲儿戳(这里) @艾尔库鲁斯:如果给大家一个选择的机...

小小编辑
38分钟前
45
4
rabbitMq的客户端使用笔记

1、channel声明队列的queueDeclare方法的参数解析 durable: 是否持久化, 队列的声明默认是存放到内存中的,如果rabbitmq重启会丢失,如果想重启之后还存在就要使队列持久化,保存到Erlang自...

DemonsI
46分钟前
0
0
“全新” 编程语言 Julia开箱体验

本文共 851字,阅读大约需要 3分钟 ! 概 述 Julia 是一个 “全新”的高性能动态编程语言,前两天迎来了其 1.0 正式版的重大更新。Julia集 Python、C、R、Ruby 之所长,感觉就像一种脚本语言...

CodeSheep
今天
11
0
软件自动化测试初学者忠告

题外话 测试入门 很多受过高等教育的大学生经常问要不要去报测试培训班来入门测试。 答案是否。 高等教育的合格毕业生要具备自学能力,如果你不具备自学能力,要好好地反省一下,为什么自己受...

python测试开发人工智能安全
今天
5
0
java并发备忘

不安全的“先检查后执行”,代码形式如下: if(条件满足){ //这里容易出现线程安全问题//doSomething}else{//doOther} 读取-修改-写入 原子操作:使用CAS技术,即首先从V中读取...

Funcy1122
今天
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部