精华内容
下载资源
问答
  • 如题:该服务器要实现负载均衡,但问题同时访问40000不是已经超出服务器承受能力了吗,那服务器还如何工作?
  • 服务器并发计算

    千次阅读 2020-05-07 18:02:23
    并发 理论 在操作系统中,是指个时间段中有几个程序都处于已启动运行到...服务器并发量分为 1.业务并发用户数; 2.最大并发访问数; 3.系统用户数; 4.同时在线用户数; 并发限制因素 带宽: 总带宽 / 8*单个...

    并发

    理论

    在操作系统中,是指一个时间段中有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理机上运行,但是任一个时刻点上只有一个程序在处理机上运行。

    实际

    在实际业务中,是指服务器在同一时间访问的人数,人数越大,瞬间带宽要求更高。

    服务器并发量分为

    • 1.业务并发用户数;
    • 2.最大并发访问数;
    • 3.系统用户数;
    • 4.同时在线用户数;

    并发限制因素

    带宽: 总带宽 / 8*单个请求大小=允许最大连接数

    端口:已经固定了,服务器监听的端口

    内存:(总内存 - 系统需要的内存) / 每个线程或者进程需要的内存=支持最大连接数

    CPU:1 / 处理每个请求需要的时间 = 单位之间内处理多少个请求

    求上述几个限制条件的最小值就是并发数最大值。

    经典公式

    理论

    一般来说,利用以下经验公式进行估算系统的平均并发用户数和峰值数据

    1)平均并发用户数为 C = nL/T
    2)并发用户数峰值 C‘ = C + 3*根号C
    C是平均并发用户数,n是login session的数量,L是login session的平均长度,T是值考察的时间长度
    C’是并发用户数峰值
    

    举例:

    如用外卖点餐APP套入这个公式计计算下并发用户数100W用户下并发用户数大致范围:
    假设外卖APP有100W个用户,而日活用户假设占12.5%即12.5W个日活用户,而每个日活用户打开APP到点餐平均时间大概为5分钟,而假设早上8点到晚上12点都会有用户使用该APP。则可以计算出一个值:
    
    平均并发用户数C=125000*5/16*60=651
    并发用户数峰值C`=651+3*根号 651=726
    

    实际

    对绝大多数场景,可以用 (用户总量/统计时间)*影响因子(一般为3)来进行估算并发量

    举例:

    作为外卖APP大部分人都会在高峰期进行点餐,所以对于外卖APP这类应该单独进行考虑。
    我们采用2/8原则来估算并发用户数,即80%的用户数会在高峰期点餐,而高峰期设定为11-12,17-19点一共5个小时,在这种情况下估算并发用户数:
    
    平均并发用户数C=125000*5*0.8/5*60=1666
    并发用户数峰值C`=1666+3*根号 1666=1788
    

    本文来自网络收集

    展开全文
  • 服务器并发量分为:1.业务并发用户数;2.最大并发访问数;3.系统用户数;4.同时在线用户数; 并发的意思是指网站在同一时间访问的人数,人数越大,瞬间带宽要求更高。服务器并发量分为:1.业务并发用户数;2.最大...

    服务器并发量分为:1.业务并发用户数;2.最大并发访问数;3.系统用户数;4.同时在线用户数;

    并发的意思是指网站在同一时间访问的人数,人数越大,瞬间带宽要求更高。服务器并发量分为:1.业务并发用户数;2.最大并发访问数;3.系统用户数;4.同时在线用户数;

    假设一个OA系统有1000用户,这是系统用户数;最高峰同时有500人在线,是“同时在线人数”,也称作“最大业务并发用户数”;500个同时使用系统用户中20%查看系统公告,不构成压力;20%填写表格(只在提交时才会请求,填写对服务器不构成压力);40%在发呆(什么都没做);20%用户不停从一个页面跳转另一个页面(只有这20%对服务器产生了压力)。

    说明服务器实际压力,能承受的最大并发访问数,既取决于业务并发用户数,还取决于用户的业务场景,这些可以通过对服务器日志的分析得到。

    一般只需要分析出典型业务(用户常用,最关注的业务操作)

    给出一个估算业务并发用户数的公式(测试人员一般只关心业务并发用户数)

    C=nL/T

    C^=C+3×(C的平方根)

    C是平均的业务并发用户数、n是login session的数量、L是login session的平均长度、T是指考察的时间段长度、C^是指业务并发用户数的峰值。

    该公式的得出是假设用户的login session产生符合泊松分布而估算得到。

    假设OA系统有1000用户,每天400个用户发访问,每个登录到退出平均时间2小时,在1天时间内用户只在8小时内使用该系统。

    C=400×2/8=100

    C^=100+3×(100的平方根)=100+3×10=130

    另外,如果知道平均每个用户发出的请求数u,则系统吞吐量可以估算为u×C

    请注意:精确估算,还要考虑用户业务操作存在一定的时间集中性(比如上班后1小时内是OA系统高峰期),采用公式计算仍然会存在偏差。针对例子OA系统可以把1小时设定为考察时间的粒度,将一天8小时划分为8个区间,这样可以解决业务操作存在集中性问题,更趋于精准,偏差更小。

    展开全文
  • 并发计算服务器数量

    千次阅读 2018-03-20 14:08:17
    QPS = req/sec = 请求数/秒【QPS计算PV和机器的方式】QPS统计方式 [一般使用 http_load 进行统计]QPS = 总请求数 / ( 进程总数 * 请求时间 )QPS: 单个进程每秒请求服务器的成功次数单台服务器每天PV计算公式1:每天...

    QPS = req/sec = 请求数/秒

    【QPS计算PV和机器的方式】

    QPS统计方式 [一般使用 http_load 进行统计]
    QPS = 总请求数 / ( 进程总数 *   请求时间 )
    QPS: 单个进程每秒请求服务器的成功次数

    单台服务器每天PV计算
    公式1:每天总PV = QPS * 3600 * 6
    公式2:每天总PV = QPS * 3600 * 8

    服务器计算
    服务器数量 =   ceil( 每天总PV / 单台服务器每天总PV )

    【峰值QPS和机器计算公式】

    原理:每天80%的访问集中在20%的时间里,这20%时间叫做峰值时间
    公式:( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS)
    机器:峰值时间每秒QPS / 单台机器的QPS   = 需要的机器

    问:每天300w PV 的在单台机器上,这台机器需要多少QPS?
    答:( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

    问:如果一台机器的QPS是58,需要几台机器来支持?
    答:139 / 58 = 3

     

     

    关于并发用户数和QPS,自己一直被这两个概念纠结,阅读了一下相关资料,总结如下:并发用户数和QPS两个概念没有直接关系,但是如果要说QPS时,一定需要指明是多少并发用户数下的QPS,否则豪无意义,因为单用户数的40QPS和20并发用户数下的40QPS是两个不同的概念。前者说明该应用可以在一秒内串行执行40个请求,而后者说明在并发20个请求的情况下,一秒内该应用能处理40个请求,当QPS相同时,越大的并发用户数,代表了网站并发处理能力越好。对于当前的web服务器,其处理单个用户的请求肯定戳戳有余,这个时候会存在资源浪费的情况(一方面该服务器可能有多个cpu,但是只处理单个进程,另一方面,在处理一个进程中,有些阶段可能是IO阶段,这个时候会造成CPU等待,但是有没有其他请求进程可以被处理)。而当并发数设置的过大时,每秒钟都会有很多请求需要处理,会造成进程(线程)频繁切换,反正真正用于处理请求的时间变少,每秒能够处理的请求数反而变少,同时用户的请求等待时间也会变大,甚至超过用户的心理底线。所以在最小并发数和最大并发数之间,一定有一个最合适的并发数值,在并发数下,QPS能够达到最大。但是,这个并发并非是一个最佳的并发,因为当QPS到达最大时的并发,可能已经造成用户的等待时间变得超过了其最优值,所以对于一个系统,其最佳的并发数,一定需要结合QPS,用户的等待时间来综合确定。

    图1 并发用户数,QPS,用户平均等待时间(响应时间关系图)

    上面这张图是应用其他人的关于并发用户数,QPS,用户平均等待时间的一张关系图,对于实际的系统,也应该是对于不同的并发数,进行多次测试,获取到这些数值后,画出这样一张图出来,以便于分析出系统的最佳并发用户数。

    展开全文
  • 关于服务器并发量的简单计算

    万次阅读 2018-12-30 17:01:22
    最简单的计算方式就是根据服务器带宽与页面的大小 1.假设机房带宽为10Mbs,页面的大小为20KB(包含所有的js、css、图片)  同时并发量的理论值: 10*1024/(8*20) = 64个请求/秒  理论上1秒钟同时可以有64个...

    最简单的计算方式就是根据服务器带宽与页面的大小

    1.假设机房带宽为10Mbs,页面的大小为20KB(包含所有的js、css、图片)

        同时并发量的理论值: 10*1024/(8*20)  = 64个请求/秒  

        理论上1秒钟同时可以有64个请求访问页面。

         注意:10Mbs是位(b),1个字节8位,所以要除8。

    2. 假设进来的人是匀速的增加,

       根据”三秒定律”(页面打开速度3秒),可得出并发量在单位时间内应是192个请求;

        一分钟的请求量在3840。

    3.根据二八定律,即80%的访问量发生在20%的时间里

         3840*24*60*0.2/0.8=1382400 人次

         而发生在每天的高峰期(大约5小时)内的在线人次在110万人次,一个小时为22W人次。

    4.当然以上的计算都是理论值,如每个访问者停留页面的平均时间为1分钟左右,访问者的进入和退出都是比较符合正态分布.。

      如果是特殊情况服务器肯定是支撑不了这么多人的,例如同一时间有大批量的访问者进入,例如考试系统。又或者同时刷新页面。

    而且在实际过程中,现在的页面都肯定超过20KB,那么对带宽的要求也就更大,还有同一个局域网访问情况也要考虑。

     

     

    以笔者的实际项目来说,我的项目是考试系统。出现过2次比较极端的情况。

    本考试系统,登陆的页面容量比较大,所有的js,css以及图片未优化前在400KB左右,我们就以400KB为基准,所有后面要用的文件是在首页一次性加载下来的。

    我用的是2台服务器,均为10Mbs带宽。 按照上面的计算方式可得出

    2台服务器单位时间内应可以处理19个请求,一天能承载的测评人次是14W左右,而发生在每天的峰值时间(大约5小时)内在线人次在11W左右。

    高峰期一个小时的在线人次在2.2W左右。

    第一次我们测评人数是7949人,而这些测评者主要使用的是自己的手机分散测评,测评的时间线如下

    高峰期是在11点期间,而从这一个小时的日志中查到与实际的服务器数据库的写入人次是17783人次(测评系统的特点是除了极少的几个页面不参数数据库数据写入,其他都是要写入答案或者个人信息)。这一天的测评情况非常顺利,服务器没有任何压力。

    第二次,总共只测了2433人,但其中有1200人左右是在局域网且同时登陆系统,第一次导致其中一台机器几乎卡死,后来查看服务器日志,发现瞬时峰值有150个请求/秒,并且我是将所有的静态资源如 JS\CSS\图片都存放在一台服务器中的,也导致这台服务器的带宽一直很高。为了解决这个问题,只好每隔10秒登陆200个考生,一分钟内全部登陆完毕,后面1200人同时进行测评没有任何问题。主要瓶颈就是集中登陆环节。第一次出现问题的时间是下午13点,第二次分批次登陆是17点。测评的时间线如下

    而这2个时间段的测评人次分别是

    可以看出,出问题的时段,与数据库交互的次数其实很少,而下午17点有近27000次的交互,由此也可以得出主要瓶颈就是集中登陆系统导致的,而实际的数据也符合上面的通过计算得出的结果。

     

     

     

     

    展开全文
  • 如果是前者,以在10分钟内,100人每人平均访问10个pv,那么每秒请求数就是100*10/10/60=1.66,对服务器压力几乎就没有啦,用个单路双核的服务器轻松搞定。  如果是后者,至少就得个四核处理器,2G内存,10M独享...
  • 部署多少台服务器才合适? 所以,今天就来聊聊PV和并发,还有计算web服务器的数量 的等方法。这些都是自己的想法加上一些网上的总结,如有不对,欢迎拍砖。 几个概念 网站流量是指网站的访问量,用来描述访问...
  • PV和并发以及服务器数量计算

    千次阅读 2018-05-04 00:28:28
    网站流量是指网站的访问量...网站访问量的常用衡量标准:独立访客(UV) 和 综合浏览量(PV),一般以日为单位来衡量和计算。独立访客(UV):指一定时间范围内相同访客多次访问网站,只计算为1个独立访客。综合浏览量...
  • 阿里云2核4G服务器并发量不仅取决于计算性能,还受限于云服务器公网带宽,另外同为2核4G云服务器ECS实例规格不同并发量也不同,2核4G服务器网来详细说下阿里云服务器2核4G并发数以及不同ECS实例规格下的云服务器性能...
  • 单台服务器上并发TCP连接数 问题:一台服务器到底能够支持多少TCP并发连接呢?1. 文件描述符限制: 对于服务器来说,每一个TCP连接都要占用一个文件描述符,一旦文件描述符使用完,新的连接到来返回给我们的错误是...
  • 服务器并发量估算

    千次阅读 2019-03-18 20:21:18
    最近需要对再次对服务器进行压力测试,这里整一下最近学习到的估算方案和估算方式。 1 并发值估算 1.1 经典公式 一般来说,利用以下经验公式进行估算系统的平均并发用户数和峰值数据 1)平均并发用户数为 C = nL/T...
  • 如何提高服务器并发能力

    千次阅读 2016-05-07 22:43:45
     一台服务器在单位时间里能处理的请求越多,服务器的能力越高,也就是服务器并发处理能力越强。如何提高服务器的处理能力,是目前计算机界的一个关键问题。服务器的本质工作就是,争取以最快的速度将内核缓冲区中的...
  • 服务器并发数取决于那些?

    千次阅读 2018-01-26 18:41:17
    服务器并发数取决于那些? 1. CPU 处理性能 CPU 核数,假如 CPU有4个核,处理每个访问请求用线程去处理,那么4核每次最大能处理不超过8个线程,处理时间看单个线程处理完数据的时间,假如个线程处理时间是...
  • 服务器并发处理能力

    万次阅读 2011-11-30 14:38:16
    序:  这里指的服务器是指提供HTTP服务...更关心的是服务器并发处理能力的上限即最大吞吐率。  Web服务器在实际工作中,其处理的Http请求包括对很多不同资源的请求即请求的url不一样。正因为这种请求性质的不同,W
  • 台服务器百万并发长连接支持

    万次阅读 多人点赞 2016-07-18 14:31:52
    对于服务端,由于之前的假想,我们需要一台大内存的服务器,用于部署 Nginx 的comet应用。下面是我用的服务端的情况: Summary: Dell R710, 2 x Xeon E5520 2.27GHz, 23.5GB / 24GB 1333MHz System: Dell ...
  • 如何提高服务器并发处理能力

    千次阅读 2016-03-30 13:46:18
    August 16, 2014 说明 以下内容为入门级介绍,意在对老技术作较全的总结而不是较深的研究。主要参考《构建高性能Web站点》...提高CPU并发计算能力 多进程 & 多线程 减少进程切换,使用线程,考虑进程绑定
  • web服务器 并发 基本概念

    千次阅读 2016-04-10 20:17:11
    序:  这里指的服务器是指提供HTTP服务的服务器,...更关心的是服务器并发处理能力的上限即最大吞吐率。  Web服务器在实际工作中,其处理的Http请求包括对很多不同资源的请求即请求的url不一样。正因为这种请
  • nginx最多只能维持(65535*后端服务器IP个数)条websocket的长连接,如果后端websocket服务器IP只有个,那么就只能最多支持65535条连接。瓶颈就产生在了nginx上 建议采用LVS的DR模式来做负载均衡,这样最大长连接...
  • 服务器并发

    千次阅读 2019-05-12 21:39:19
    服务器并发数取决于那些? 1.CPU 处理性能 CPU 核数,假如 CPU有4个核,处理每个访问请求用线程去处理,那么4核每次最大能处理不超过8个线程,处理时间看单个线程处理完数据的时间,假如个线程处理时间是40...
  • 浅谈如何提高服务器并发处理能力

    千次阅读 2017-08-29 21:13:33
    ()什么是服务器并发处理能力 (二)有什么方法衡量服务器并发处理能力 1.吞吐率 2.压力测试 (三)怎么提高服务器的并发处理能力 1,提高CPU并发计算能力 (1)多进程&多线程 (2)减少进程切换...
  • 并行计算&并发计算

    千次阅读 2017-03-16 12:38:09
    1. 概念 ...Parallel computing(并行计算) is a type of computation in which many calculations are carried out simultaneously, operating on the principle that large problems can of
  • 并发环境下服务器该如何优化

    千次阅读 2018-07-18 22:58:49
    一台服务器在单位时间里能处理的请求越多,服务器的能力越高,也就是服务器并发处理能力越强。   有什么方法衡量服务器并发处理能力 1. 吞吐率 吞吐率,单位时间里服务器处理的最大请求数,单位req/s。   从...
  • ()什么是服务器并发处理能力 (二)有什么方法衡量服务器并发处理能力 1.吞吐率 2.压力测试 (三)怎么提高服务器的并发处理能力 1,提高CPU并发计算能力 (1)多进程&多线程 (2)减少进程切换...
  • 怎么根据QPS计算需多少台服务器

    千次阅读 2020-06-03 14:28:20
    因特网上,经常用每秒查询率来衡量域名系统服务器的机器的性能,其即为QPS。 对应fetches/sec,即每秒的响应请求数,也即是最大吞吐能力。 计算关系: QPS = 并发量 / 平均响应时间 并发量 = QPS * 平均响应时间...
  • 一般来说,就这两个参数,再加上PV的时间分布,即天的多少小时内产生这些PV,就可以估计网站的并发数了。计算公式如下: PC=PV/T*C*t 其中,PC是并发数,T是观测时间,即产生PV的时间长度,比如天中的1
  • QPS,并发计算

    2020-08-04 18:19:05
    PV=page view TPS=transactions per second QPS=queries per second RPS=requests per second RPS=并发数/平均响应时间 QPS = req/sec = 请求数/秒 ...服务器数量 = ceil( 每天总PV / 单台服务器
  • 网站并发量的计算

    千次阅读 2018-08-25 09:46:07
    你想建设个能承受500万PV/每天的网站吗? 500万PV是什么概念?服务器每秒要处理多少个...每台服务器每秒处理请求的数量=((80%*总PV量)/(24小时*60分*60秒*40%)) / 服务器数量 。 其中关键的参数是80%、40%。表示...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 140,706
精华内容 56,282
关键字:

一台服务器并发计算