精华内容
下载资源
问答
  • 服务器并发数取决于那些?

    千次阅读 2018-01-26 18:41:17
    一:服务器并发数取决于那些? 1. CPU 处理性能 CPU 核数,假如 CPU有4个核,处理每个访问请求用线程去处理,那么4核每次最大能处理不超过8个线程,处理时间看单个线程处理完数据的时间,假如一个线程处理时间是...

    一:服务器并发数取决于那些?

    1. CPU 处理性能

    CPU 核数,假如 CPU4个核,处理每个访问请求用线程去处理,那么4核每次最大能处理不超过8个线程,处理时间看单个线程处理完数据的时间,假如一个线程处理时间是40ms(毫秒),那么最高秒级并发计算那就是 1000/40*8=200 那么每秒最高处理并发是200个,如果服务器只收不处理数据的话处理时间还能大幅度下降, 并发数还鞥你大幅度提升。

    2. 内存容量

    假设目前服务器有4G空闲内存,每次处理一个请求占用1MB内存,那么一秒就是200MB,假设服务器宕机时间为:1024MB*4/200=20.48秒会把服务器内存资源耗尽,如果长时间占用内存资源那么内存泄漏是一定多少会出现些,如果内存及时释放和内存泄漏降到最低,服务器程序异常退出的情况会大大降低,合理使用服务器自带的内存释放服务也会大大降低服务器程序异常退出情况,当服务器程序出现异常退出情况时,内存会自动释放恢复到4G空闲状态,使用自动监测脚本服务当服务器程序异常退出时自动调起相应的服务,保证服务器对外的使用率,服务器程序异常退出和服务器宕机是两个情况,服务器程序异常退出代表服务器可能正常运行,再次调起相关的程序即可;服务器宕机代表服务器系统出现异常,关机或者不在运行,需要人为的去操控;宕机属于重大服务器问题。

    3. 网络带宽

    并发的第三个因素网络带宽因素,假设服务器上下行带宽一共是5MB,假设一次请求数据大小字节占200字节,如果不需要回复 则支持最大的并发数为:1024MB*5/8=640KB*1024=655360字节/200=3276.8,则服务器只接受数据请求不回复的话能支持并发数为 3276.8个,如果服务器需要返回数据,假设返回的数据也是200字节,那么并发数为3276.8/2=1638.4个并发。

    4. 硬盘读写速度

    硬盘读写速度也从一个方面影响了数据的处理速度。

     

    二、并发策略

    1. 服务器压力分流,现在市面上BAT都采用的是负载均衡技术,负载均衡有多个策略,最常用的是RR(轮巡)策略,RR+keepalived技术可以有效的保存用户的cookiesession,从链路层转换网络请求指向,用iptable保存用户IP表和指向的历史记录等等信息,负载均衡的存在意义是把单台服务器处理的压力分散,路由到多台服务器上,减轻单台服务器的压力,降低服务器宕机的几率和访问延迟的问题等等;

    2. 假如服务器遭受到攻击可以随时变换策略,比如masterslave角色互换,IP变化,域名重定向,可以使攻击者攻击目标变成无效或者丢失,这样可以保护用户正常的访问,但是不能有效的杜绝彻底攻击,可以加上IP访问限制等方式可以暂时拒绝攻击者的攻击。

    3. 多台服务器部署成集群后有效的提升服务器的处理能力和并发数量。

    4. 数据库和缓存的能力,不断的对数据库进行刷写无意会大量消耗服务器的资源,使用中间件和缓存技术有效的防止对数据库进行大量的刷写操作,保护服务器资源不被大量消耗。

    5. 使用WebRPC服务,模块拆分部署到不同的服务器,比如ABC 3个功能,如果3个功能在同一台服务器,那么服务器在处理各式各样的请求是会造成不同的资源消耗和处理瓶颈问题,如果把A B C 分别部署到3台不同的服务器,并且内网打通,这样会大面积降低耦合率,提升并发数,保护服务器。


    展开全文
  • 因为AWS 服务很多都具有自动扩容的功能,所以为了保护服务器的安全,防止某些ip恶意高并发访问服务器,需要对ip并发和速度进行限制。 但这特别要说明一点,关于公网ip,实际测试中,如果将某个ip并发设置为1,公网...

    因为AWS 服务很多都具有自动扩容的功能,所以为了保护服务器的安全,防止某些ip恶意高并发访问服务器,需要对ip并发和速度进行限制。

    但这特别要说明一点,关于公网ip,实际测试中,如果将某个ip并发设置为1,公网ip下的所以设备均被认为是同一个ip的并发,就会造成公网ip下只能有一个设备可以访问成功的现象,所以不能将并发设置过小。(实际测试现象可能就是一个公司可能只有一个公网ip,下面很多电脑同时访问nginx均为被认为同一个ip的并发)。 
    现在突然对这个有了深刻认识,某人游戏开挂整个网吧被封理解了。

    在网上查到nginx提供了limit_zone及limit_rate模块用于处理这种问题。 
    ngx_http_limit_conn_module模块文档: 
    http://nginx.org/en/docs/http/ngx_http_limit_conn_module.html 
    ngx_http_limit_req_module模块文档: 
    http://nginx.org/en/docs/http/ngx_http_limit_conn_module.html

    1 限制单IP并发访问数量
    2 限制单IP访问速度
    3 测试
    3.1 未配置nginx时测试
    3.2 配置参数
    3.3 配置后测试结果
    1 限制单IP并发访问数量
    我们采用nginx提供的的ngx_http_limit_conn_module模块实现该功能。

    ngx_http_limit_conn_module模块用于限制连接数量,特别是来自单个IP地址的连接数量。并非所有的连接都被计数。只有当服务器处理了请求并且已经读取了整个请求头时,连接才被计数。

    示例配置:

    http {
        limit_conn_zone $binary_remote_addr zone=addr:10m;
        ...
        server {
            ...
            location /download/ {
                limit_conn addr 1;
            }
    }

     

    limit_conn_zone $binary_remote_addr zone=addr:10m;


    为共享内存区域设置参数,该区域将保留各种键的状态。特别是,该状态包含当前的连接数。该key可以包含文本,变量,他们的组合。 
    语境用于http语法块

    $binary_remote_addr对于IPv4地址,变量的大小始终为4个字节,对于IPv6地址则为16个字节。存储状态在32位平台上始终占用32或64个字节,在64位平台上占用64个字节。一个兆字节的区域可以保持大约32000个32字节的状态或大约16000个64字节的状态。如果区域存储耗尽,服务器会将错误返回 给所有其他请求。10M可存储160000个状态

     limit_conn addr 1 


    设置给定键值的共享内存区域和最大允许连接数。超过此限制时,服务器将返回 错误以回复请求。 
    语境用于http, server, location这些语法块内

    2 限制单IP访问速度
    ngx_http_limit_req_module模块(0.7.21)用于限制每一个请求的处理速率,特别是从一个单一的IP地址的请求的处理速率。

    示例配置:

    http {
        limit_req_zone $binary_remote_addr zone=one:10m rate=1r/s;
        ...
        server {
            ...
            location /search/ {
                limit_req zone=one burst=5;
            }
    }


    平均每秒不超过1个请求,并且突发不超过5个请求。

     limit_req_zone $binary_remote_addr zone=one:10m rate=10r/s;


    为共享内存区域设置参数,该区域将保留各种键的状态。特别是,存储当前的过多请求数。该key可以包含文本,变量,他们的组合。

     limit_req zone=one burst=5;


    设置共享内存区域和请求的最大突发大小。如果请求速率超过为某个区域配置的速率,则它们的处理会延迟,从而使请求按指定速率处理。过多的请求被延迟,直到它们的数量超过最大突发大小,在这种情况下请求被终止并出现错误。

    3 测试
    3.1 未配置nginx时测试
    首先 使用ab 工具模拟下并发访问API 
    并发数测试:

    ab -r -k -c 50 -n 100 http://172.28.28.4:3006/files/abtest

    请求速度测试: 

    ab -r -k -c 10 -n 100 http://172.28.28.4:3006/abtest 


    3.2 配置参数
    在http块下添加

    http {
        limit_conn_zone $binary_remote_addr zone=addr:10m;#记录160000个请求 超过将返回失败 
        limit_req_zone $binary_remote_addr zone=one:10m rate=30r/s;#单个请求小于30r/s
        server {
                   limit_conn addr 10;
                    limit_req zone=one burst=50;
            }
    }
      limit_conn addr 50;
      limit_req zone=one burst=150;


    3.3 配置后测试结果
    并发数测试 

    ab -r -k -c 20 -n 100 http://172.28.28.4:3006/abtest 


    并发数超过后出现了失败

    请求速度测试 

    ab -r -k -c 10 -n 100 http://172.28.28.4:3006/abtest 


    可以看出100个请求在3.3秒完成符合30r/s

    原文:https://blog.csdn.net/m0_37263637/article/details/80764896 
     

    展开全文
  • 服务器并发数

    千次阅读 2019-05-12 21:39:19
    一:服务器并发数取决于那些? 1.CPU 处理性能 CPU 核数,假如 CPU有4个核,处理每个访问请求用线程去处理,那么4核每次最大能处理不超过8个线程,处理时间看单个线程处理完数据的时间,假如一个线程处理时间是40...

    一:服务器并发数取决于那些?

    1. CPU 处理性能

    CPU 核数,假如 CPU有4个核,处理每个访问请求用线程去处理,那么4核每次最大能处理不超过8个线程,处理时间看单个线程处理完数据的时间,假如一个线程处理时间是40ms(毫秒),那么最高秒级并发计算那就是 1000/40*8=200 那么每秒最高处理并发是200个,如果服务器只收不处理数据的话处理时间还能大幅度下降, 并发数还鞥你大幅度提升。

    2. 内存容量

    假设目前服务器有4G空闲内存,每次处理一个请求占用1MB内存,那么一秒就是200MB,假设服务器宕机时间为:1024MB*4/200=20.48秒会把服务器内存资源耗尽,如果长时间占用内存资源那么内存泄漏是一定多少会出现些,如果内存及时释放和内存泄漏降到最低,服务器程序异常退出的情况会大大降低,合理使用服务器自带的内存释放服务也会大大降低服务器程序异常退出情况,当服务器程序出现异常退出情况时,内存会自动释放恢复到4G空闲状态,使用自动监测脚本服务当服务器程序异常退出时自动调起相应的服务,保证服务器对外的使用率,服务器程序异常退出和服务器宕机是两个情况,服务器程序异常退出代表服务器可能正常运行,再次调起相关的程序即可;服务器宕机代表服务器系统出现异常,关机或者不在运行,需要人为的去操控;宕机属于重大服务器问题。

    3. 网络带宽

    并发的第三个因素网络带宽因素,假设服务器上下行带宽一共是5MB,假设一次请求数据大小字节占200字节,如果不需要回复 则支持最大的并发数为:1024MB*5/8=640KB*1024=655360字节/200=3276.8,则服务器只接受数据请求不回复的话能支持并发数为 3276.8个,如果服务器需要返回数据,假设返回的数据也是200字节,那么并发数为3276.8/2=1638.4个并发。

    4. 硬盘读写速度

    硬盘读写速度也从一个方面影响了数据的处理速度。

     

    二、并发策略

    1. 服务器压力分流,现在市面上BAT都采用的是负载均衡技术,负载均衡有多个策略,最常用的是RR(轮巡)策略,RR+keepalived技术可以有效的保存用户的cookie和session,从链路层转换网络请求指向,用iptable保存用户IP表和指向的历史记录等等信息,负载均衡的存在意义是把单台服务器处理的压力分散,路由到多台服务器上,减轻单台服务器的压力,降低服务器宕机的几率和访问延迟的问题等等;

    2. 假如服务器遭受到攻击可以随时变换策略,比如master和slave角色互换,IP变化,域名重定向,可以使攻击者攻击目标变成无效或者丢失,这样可以保护用户正常的访问,但是不能有效的杜绝彻底攻击,可以加上IP访问限制等方式可以暂时拒绝攻击者的攻击。

    3. 多台服务器部署成集群后有效的提升服务器的处理能力和并发数量。

    4. 数据库和缓存的能力,不断的对数据库进行刷写无意会大量消耗服务器的资源,使用中间件和缓存技术有效的防止对数据库进行大量的刷写操作,保护服务器资源不被大量消耗。

    5. 使用WebRPC服务,模块拆分部署到不同的服务器,比如ABC 3个功能,如果3个功能在同一台服务器,那么服务器在处理各式各样的请求是会造成不同的资源消耗和处理瓶颈问题,如果把A B C 分别部署到3台不同的服务器,并且内网打通,这样会大面积降低耦合率,提升并发数,保护服务器。
    ---------------------
    作者:创新境界
    来源:CSDN
    原文:https://blog.csdn.net/innovation_miracle/article/details/79175660
    版权声明:本文为博主原创文章,转载请附上博文链接!

    展开全文
  • 如果是前者,以在10分钟内,100人每人平均访问10个pv,那么每秒请求就是100*10/10/60=1.66,对服务器压力几乎就没有啦,用个单路双核的服务器轻松搞定。  如果是后者,至少就得一个四核处理器,2G内存,10M独享...
    并发访问量是10分钟100人在线?还是每秒100个并发请求? 
    如果是前者,以在10分钟内,100人每人平均访问10个pv,那么每秒请求数就是100*10/10/60=1.66,对服务器压力几乎就没有啦,用个单路双核的服务器轻松搞定。 
    如果是后者,至少就得一个四核处理器,2G内存,10M独享带宽以上,才可以流畅。如果数据库的文件在1G或更多,那么建议你扩展至两颗处理器,达成8颗处理核心,4G内存,用SAS 15000的硬盘。因为SQL Server的工作流程是必须是把SQL Server的页面文件读进内存,才可以通过处理器进行计算,因为当数据量大了后,内存不够用时,就需要频繁的读取硬盘内的数据进内存,再清空,再读取,磁盘的速度就会成为一个瓶颈,所以需要15000转SAS硬盘。 
    如果你还有疑问的话,可以在windows里运行perfmon对磁盘,处理器,内存进行跟踪,就可以分析出瓶颈 

    总结: 
    推荐性价比很高的组装服务器,在初期数据量不大,不执行SQL大表模糊查询的时候,100并发请求足够了。如果以后访问量增加,数据量增加,还可以扩展至2颗处理器,达成8颗处理核心,
    推荐组装服务器配置:  
    主板:intelS5000VSA 
    处理器 Xeon E5405 (1/2)
    内存 2G FB-DIMM DDR2 ECC (最大32GB)
    硬盘 SAS 146G 
    机构 1U机架式  
    本配置由服务器硬件专家提供,联系QQ:454636272
    展开全文
  • Weblogic服务器并发数查看与修改

    千次阅读 2019-02-21 09:04:31
    目录: 1. 描述 2. 解决方案 ...服务器响应能力就会减弱,所以我们需要合理控制服务器线程个。 2. 解决方案编辑 Weblogic服务器可以通过配置config.xml文件来达到效果的。 2.1 查看Weblogic并发 ...
  • 做完假设,现在做限制,设置站点保持HTTP连接,超时设置成0,就是不会超时。在站点请求的default.aspx页面设置线程Thread.Sleep(int.MaxValue),接下来开发一个用来保持连接的小程序。
  • 服务器并发数规律研究

    千次阅读 2013-01-02 15:41:50
    在web服务器性能测试中,并发数是一个很多人比较关心的话题之一,web服务器软件中也有很多并发数设置的地方。但是怎样的并发数设置才是合理的呢,这就涉及到并发数调优了。本文在前人研究的并发数规律的基础上进行了...
  • 服务器并发量计算

    千次阅读 2020-05-07 18:02:23
    并发 理论 在操作系统中,是指一个时间段中有几个程序都处于已启动运行到...服务器并发量分为 1.业务并发用户; 2.最大并发访问; 3.系统用户; 4.同时在线用户; 并发限制因素 带宽: 总带宽 / 8*单个...
  • 阿里云服务器4核8G10M带宽要分开来看,首先阿里云4核8G服务器配置可选的ECS实例规格有很多,ECS实例规格不同服务器性能参数也不同,然后新手站长网再来说说阿里云10M带宽并发数计算: 阿里云4核8G服务器 阿里云...
  • 查看tomcat 并发数

    千次阅读 2020-09-19 14:20:48
    查看tomcat并发连接有两个方式: 方式1:通过tomcat自带的管理控制台查看: 启动tomcat后,在浏览器输入:http://localhost:8888/manager/status 8888是自己的端口号 用的是 tomcat 8.5.56 tomcat7以后需要...
  • 虽然现在的集群,分布式技术可以为我们将并发负载分担在多台服务器上,那我们只需要扩展出十台电脑就可以解决问题,但是我们更希望能更大的挖掘单台服务器的资源,先努力垂直扩展,再进行水平扩展,这样可以有效...
  • SELECT实现并发服务器

    2014-05-24 22:54:44
    SELECT实现并发服务器,TCP服务器
  • 好奇1核1G ,2核4G 服务能抗多少并发, 上网一直没找到合适的答案,局限于经济问题,也无法实践。 终于跟朋友借了几台服务器测试: 压测工具 :ab工具 注意:压测环境带宽要 >= 项目服务器带宽 原生php 输出...
  • 关于服务器并发量的简单计算

    万次阅读 2018-12-30 17:01:22
    最简单的计算方式就是根据服务器带宽与页面的大小 1.假设机房带宽为10Mbs,页面的大小为20KB(包含所有的js、css、图片)  同时并发量的理论值: 10*1024/(8*20) = 64个请求/秒  理论上1秒钟同时可以有64个...
  • Nginx高性能WEB 5万并发连接秘笈
  • 如何查看服务器当前的并发访问量

    千次阅读 2020-04-14 08:37:06
    服务器访问人数可以通过命令:netstat -pnt |grep:80列出 比如此时请求服务器上一个页面,通过该命令可以查看结果,后面的ESTABLISHED表示服务器正在被访问,可以...因为服务器本身占用一个连接,所以此时并发...
  • Centos服务器查看当前的并发数

    千次阅读 2015-04-29 20:16:31
    作为运维人员我们经常需要看下Centos服务器的当前并发数,来了解下服务器当前是否达到并发瓶颈。 那么如何查看呢?使用下面的命令可以分组查看各种连接状态。     netstat -n | awk '/^tcp/...
  • 一般来说,就这两个参数,再加上PV的时间分布,即一天的多少小时内产生这些PV,就可以估计网站的并发数了。计算公式如下: PC=PV/T*C*t 其中,PC是并发数,T是观测时间,即产生PV的时间长度,比如一天中的1
  • 查看服务器并发连接

    千次阅读 2020-06-17 14:05:42
    1、查看TCP的并发请求及其TCP连接状态: netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' netstat -n|grep ^tcp|awk '{print $NF}'|sort -nr|uniq -c 或者 netstat -n | awk '/^tcp/ {+...
  • 阿里云服务器|centos查看并发数&调优

    万次阅读 2019-12-05 18:25:40
    centos查看并发数&调优
  • # -c指定并发数,-n指定请求数量 ab -c 100 -n 1000 http://127.0.0.1/index.html 查看结果: 上面可以看出我自己的1核2G内存的云服务器是1万1的并发量。我的web就只有一个静态页面,没有动态请求,理论上...
  • 主要通过对服务器下载文件的并发响应进行统计。 使用多线程对服务器提供的链接地址下载文件, 能统计出并发情况下的下载速度,请不要开辟开多线程,以免导致服务器受受不了而崩溃。 开发工具(vs2008 C#)
  • web服务器 并发 基本概念

    千次阅读 2016-04-10 20:17:11
    序:  这里指的服务器是指提供HTTP服务的服务器,...更关心的是服务器并发处理能力的上限即最大吞吐率。  Web服务器在实际工作中,其处理的Http请求包括对很多不同资源的请求即请求的url不一样。正因为这种请
  • 服务器托管更便宜,性能好得多,单台千万级PV不是问题。
  •  对于web服务器,不断得挖掘潜力和优化服务是工程师的一直孜孜不倦的目标。优化的方法和思路其实很简单,分析应用的瓶颈在哪里?然后用合适的策略来解决它。下面就分析一下服务器可能会出现什么问题?如何解决这些...
  • 利用autobench测试web服务器极限并发数.pdf
  • 腾讯云4核8G服务器并发数计算需要考虑到服务器带宽、后端程序性能及CVM实例规格,4核8G服务器网来详细说下腾讯云服务器并发用户数计算: 腾讯云4核8G服务器并发量 先不说云服务器性能,云服务器后端运行程序直接...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 361,013
精华内容 144,405
关键字:

服务器并发数