文档章节

Linux 大规模请求服务器连接数相关设置

中成才
 中成才
发布于 2016/08/29 12:14
字数 1750
阅读 22
收藏 2

一般一个大规模Linux服务器请求数可能是几十万上百万的情况,需要足够的连接数来使用,所以务必进行相应的设置。 默认的Linux服务器文件描述符等打开最大是1024,用ulimit -a 查看: [viewuser@~]$ ulimit -a core file size (blocks, -c) 0 #coredump 文件大小 data seg size (kbytes, -d) unlimited scheduling priority (-e) 0 file size (blocks, -f) unlimited pending signals (-i) 255622 max locked memory (kbytes, -l) 64 max memory size (kbytes, -m) unlimited open files (-n) 1024 #打开文件数量,root账户无限制 pipe size (512 bytes, -p) 8 POSIX message queues (bytes, -q) 819200 real-time priority (-r) 0 stack size (kbytes, -s) 8192 cpu time (seconds, -t) unlimited max user processes (-u) 4096 #root用户本项是无限 virtual memory (kbytes, -v) unlimited file locks (-x) unlimited

设置要求:假设我们要设置为200W最大打开文件描述符

  1. 修改 nr_open 限制 (用途:能够配置nofile最大数)

cat /proc/sys/fs/nr_open Linux 内核 2.6.25 以前,在内核里面宏定义是1024*1024,最大只能是100w(1048576),所以不要设置更大的值,如果Linux内核大于 2.6.25 则可以设置更大值。 设置方法: sudo bash -c 'echo 2000000 > /proc/sys/fs/nr_open' 注意:只有修改了 nr_open 限制,才能修改下面的限制。

  1. 打开文件描述符限制:修改 limits.conf 的nofile软硬打开文件限制(用途:tcp连接数)

文件位置:/etc/security/limits.conf 查找 nofile ,如果没有,则在自己最后加上: 2.6.25 及以前内核设置为100W:

  • soft nofile 1000000
  • hard nofile 1000000

2.6.25 以后版本内核可以设置为200W:

  • soft nofile 2000000
  • hard nofile 2000000

设置后保存本文件。(本操作必须重启才生效,如果无法重启,会无法生效,不确定是否使用 /sbin/sysctl -p 是否可以直接生效)

  1. 打开进程限制:修改 limits.conf 中的nproc限制 (用途:进程数)

说明:如果你对进程总数量没有特殊要求,可以不修改本选项,如果你是一个高性能多进程的server,需要很多进程来处理,那么可以修改本选项。 ulimit -a 里可以看到 max user processes 如果值是比较大的,可以不用设置 nproc 项。 配置文件:/etc/security/limits.d/20-nproc.conf (RHEL 7/CentOS 7)

  • soft nproc 4096 root soft nproc unlimited

就是root无限(实际root用户限制是:255622),其他非root用户是4096个进程。

说明: 硬限制表明soft限制中所能设定的最大值。 soft限制指的是当前系统生效的设置值。 hard限制值可以被普通用户降低。但是不能增加。 soft限制不能设置的比hard限制更高。 只有root用户才能够增加hard限制值。 当增加文件限制描述,可以简单的把当前值双倍。 例子如下, 如果你要提高默认值1024, 最好提高到2048, 如果还要继续增加, 就需要设置成4096。

  1. 修改 file-max 选项 (用途:可分配文件句柄数目)

file-max 价值:指定了可以分配的文件句柄的最大数目(可以使用 /proc/sys/fs/file-nr 文件查看到当前已经使用的文件句柄和总句柄数。)

(1) 临时生效: 文件路径:/proc/sys/fs/file-max cat /proc/sys/fs/file-max 3252210 如果要修改,直接覆盖文件:(比如改成200w) sudo echo 2000000 > /proc/sys/fs/file-max 注意:如果你想每次启动都自动执行上面的命令,可以在系统启动配置文件/etc/rc.local里面添加一句命令:(跟永久生效差不多) echo 2000000 > /proc/sys/fs/file-max 或者直接Shell全搞定: echo "echo 2000000 > /proc/sys/fs/file-max" >> /etc/rc.local (2) 永久生效: 修改配置文件,文件位置:/etc/sysctl.conf 打开配置文件到最末尾,如果配置文件里没有则可以直接添加: sudo echo "fs.file-max = 2000000" >>/etc/sysctl.conf 配置文件生效:sudo /sbin/sysctl -p

  1. 修改TCP等相关选项

配置文件:/etc/sysctl.conf 修改选项: net.core.somaxconn = 2048 net.core.rmem_default = 262144 net.core.wmem_default = 262144 net.core.rmem_max = 16777216 net.core.wmem_max = 16777216 net.ipv4.tcp_rmem = 4096 4096 16777216 net.ipv4.tcp_wmem = 4096 4096 16777216 net.ipv4.tcp_mem = 786432 2097152 3145728 net.ipv4.tcp_max_syn_backlog = 16384 net.core.netdev_max_backlog = 20000 net.ipv4.tcp_fin_timeout = 15 net.ipv4.tcp_max_syn_backlog = 16384 net.ipv4.tcp_tw_reuse = 1 net.ipv4.tcp_tw_recycle = 1 net.ipv4.tcp_max_orphans = 131072 配置文件生效:sudo /sbin/sysctl -p

以上选项也可以直接给 /proc/sys/net/ 目录下面按照各个选项可以直接使用 echo VALUE > /proc/sys/net/core/wmem_max 来直接修改内存临时值生效。

主要看这几项: net.ipv4.tcp_rmem 用来配置读缓冲的大小,三个值,第一个是这个读缓冲的最小值,第三个是最大值,中间的是默认值。我们可以在程序中修改读缓冲的大小,但是不能超过最小与最大。为了使每个socket所使用的内存数最小,我这里设置默认值为4096。 net.ipv4.tcp_wmem 用来配置写缓冲的大小。读缓冲与写缓冲在大小,直接影响到socket在内核中内存的占用。 net.ipv4.tcp_mem 则是配置tcp的内存大小,其单位是页,而不是字节。当超过第二个值时,TCP进入 pressure模式,此时TCP尝试稳定其内存的使用,当小于第一个值时,就退出pressure模式。当内存占用超过第三个值时,TCP就拒绝分配 socket了,查看dmesg,会打出很多的日志“TCP: too many of orphaned sockets”。 net.ipv4.tcp_max_orphans 这个值也要设置一下,这个值表示系统所能处理不属于任何进程的 socket数量,当我们需要快速建立大量连接时,就需要关注下这个值了。当不属于任何进程的socket的数量大于这个值时,dmesg就会看 到”too many of orphaned sockets”。

注意:如果是客户端程序,为了更好的访问server程序不是卡在端口分配上,建议把客户端的端口(port_range)范围开大一些: 修改文件:/etc/sysctl.conf net.ipv4.ip_local_port_range = 1024 65535

配置生效:sudo /sbin/sysctl -p 如果是客户端,其他文件打开限制等可以参考上面的来设置。

  1. 其他一些配置

(1) 打开core文件

如果为了观察程序是否正常,出现问题后生成相应映像文件,可以开启coredump相关的操作,可以打开:(非必须,如果线上环境,担心影响稳定性,可以考虑不开启) 配置文件:/etc/security/limits.conf 修改配置文件: 增加:

  • soft core 102400
  • hard core 2048003

建议设置为无限大小:

  • soft core unlimited
  • hard core unlimited 然后重启机器生效(不确定是否可以使用 /sbin/sysctl -p 生效),使用: ulimit -a 或 ulimit -c 查看结果,后续如果程序出现栈溢出等都会生成coredump文件,方便用gdb等追查问题原因。

参考URL: http://www.tuicool.com/articles/r6NvQr http://blog.yufeng.info/archives/2568#more-2568 http://heylinux.com/archives/2938.html http://club.1688.com/article/8964198.html http://blog.csdn.net/qxk1989/article/details/7822792 http://blog.csdn.net/unix21/article/details/8743537 http://blog.csdn.net/force_eagle/article/details/6725243 转自黑夜路人微信公众号文章http://mp.weixin.qq.com/s?__biz=MjM5MDg2NjIyMA==&mid=207150100&idx=1&sn=92a20b281613d7d8eebd10458aa183be&scene=5#rd

本文转载自:http://blog.csdn.net/my_yang/article/details/45788717

中成才
粉丝 54
博文 127
码字总数 49091
作品 0
海淀
架构师
私信 提问
tomcat的内存及加大TOMCAT的连接数

如何加大tomcat的内存及加大TOMCAT的连接数 注: 如果在测试的时候可能会用Eclispe 这时候就需要在Eclipse ->run -arguments 中的VM arguments 中输入-Xms32m -Xmx800m这个参数就可以了。 项...

again-Y
2013/07/22
0
0
Apache优化:修改最大并发连接数

Apache是一个跨平台的web服务器,由于其简单高效、稳定安全的特性,被广泛应用于计算机技术的各个领域。现在,Apache凭借其庞大的用户数,已成为用户数排名第一的web服务器。 尽管如此,在实...

EDIAGD
2014/02/13
0
0
【转】查看Apache并发请求数及其TCP连接状态

这两天搭建了一组Apache服务器,每台服务器4G内存,采用的是prefork模式,一开始设置的连接数太少了,需要较长的时间去响应用户的请求,后来修改了一下Apache 2.0.59的配置文件httpd.conf: ...

mj4738
2011/11/03
0
1
linux的守护进程init.d和xinetd.d

Linux 服务器在启动时需要启动很多系统服务,它们向本地和网络用户提供了Linux的系统功能接口,直接面向应用程序和用户。提供这些服务的程序是由运行在后台的守护进程来执行的。守护进程是生...

学习环境
2015/07/16
0
0
说说 NGINX 的配置及优化

最近感觉很多东西在运用到一定的程度之后,会发现原来是自己了解到的不够。一方面限于实际运用到的不多,一方面可能是因为一开始没有进行全面认识。遂这里搜集整理了一番NGINX。 一、nginx启...

blackfoxya
2018/06/28
0
0

没有更多内容

加载失败,请刷新页面

加载更多

微信小程序和百度小程序开发的一些不同点

1: initActive从onload放到onready中 2: bindtap='{{childTickeData.freeadd?"childticket":""}}',语法错误。会导致页面加载不出来,而且也不报任何错。 3:使用搬家工具,支付api名称转换......

醉雨
14分钟前
0
0
最近执行过的SQL语句查询

SELECT TOP 1000 ST.text AS '执行的SQL语句' , QS.execution_count AS '执行次数' , QS.total_elapsed_time / 10000 AS '耗时' , QS.total_logical_reads AS '逻辑读取次数' , QS.total_lo......

神手--追魂
15分钟前
0
0
从濒临解散到浴火重生,OceanBase 这十年经历了什么?

阿里妹导读:谈及国产自研数据库,就不得不提 OceanBase。与很多人想象不同的是,OceanBase 并非衔着金钥匙出生的宠儿。相反,它曾无人看好、困难重重,整个团队甚至数度濒临解散。 从危在旦...

阿里云官方博客
19分钟前
0
0
阿里开发者招聘节 | 面试题02-04:给定一个二叉搜索树(BST),找到树中第K小的节点

为帮助开发者们提升面试技能、有机会入职阿里,云栖社区特别制作了这个专辑——阿里巴巴资深技术专家们结合多年的工作、面试经验总结提炼而成的面试真题这一次将陆续放出(面试题官方参考答案...

阿里云云栖社区
35分钟前
1
0
使用Redis SETNX 命令实现分布式锁

基于setnx和getset http://blog.csdn.net/lihao21/article/details/49104695 使用Redis的 SETNX 命令可以实现分布式锁,下文介绍其实现方法。 SETNX命令简介 命令格式 SETNX key value 将 ke...

彬彬公子
36分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部