精华内容
下载资源
问答
  • 刚开始使用mongodb的时候,不太注意mongodb的内存使用,但通过查资料发现mongodb对内存占用是巨大的,在本地测试服务器中,8G的内存居然被占用了45%。汗呀。本文就来剖析一下mongodb对内存的具体使用方法,以及...

    刚开始使用mongodb的时候,不太注意mongodb的内存使用,但通过查资料发现mongodb对内存的占用是巨大的,在本地测试服务器中,8G的内存居然被占用了45%。汗呀。

    本文就来剖析一下mongodb对内存的具体使用方法,以及生产环境针对mongodb占大量内存的问题的解决。

    先看一个MongoDB服务器的top命令结果

    shell> top -p $(pidof mongod)

    Mem: 32872124k total, 30065320k used, 2806804k free, 245020k buffers

    Swap: 2097144k total, 100k used, 2097044k free, 26482048k cached

    VIRT RES SHR %MEM

    1892g 21g 21g 69.6

    或者 先top后,然后 shift+m 把当前进场按占用内存的多少排序。看看你的mongodb能占用多少内存。

    先了解一下linux对内存的管理方式:

    在Linux里(别的系统也差不多),内存有物理内存和虚拟内存之说,物理内存是什么自然无需解释,虚拟内存实际是物理内存的抽象,多数情况下,出于方便性的考虑,程序访问的都是虚拟内存地址,然后操作系统会把它翻译成物理内存地址。

    很多人会把虚拟内存和Swap混为一谈,实际上Swap只是虚拟内存引申出的一种技术而已:操作系统一旦物理内存不足,为了腾出内存空间存放新内容,就会把当前物理内存中的内容放到交换分区里,稍后用到的时候再取回来,需要注意的是,Swap的使用可能会带来性能问题,偶尔为之无需紧张,糟糕的是物理内存和交换分区频繁的发生数据交换,这被称之为Swap颠簸,一旦发生这种情况,先要明确是什么原因造成的,如果是内存不足就好办了,加内存就可以解决,不过有的时候即使内存充足也可能会出现这种问题,比如MySQL就有可能出现这样的情况,解决方法是限制使用Swap:

    shell> sysctl -w vm.swappiness=0

    查看内存情况最常用的是free命令:

    shell> free -m

    total used free shared buffers cached

    Mem: 32101 29377 2723 0 239 25880

    -/+ buffers/cache: 3258 28842

    Swap: 2047 0 2047

    新手看到used一栏数值偏大,free一栏数值偏小,往往会认为内存要用光了。其实并非如此,之所以这样是因为每当我们操作文件的时候,Linux都会尽可能的把文件缓存到内存里,这样下次访问的时候,就可以直接从内存中取结果,所以cached一栏的数值非常的大,不过不用担心,这部分内存是可回收的,操作系统会按照LRU算法淘汰冷数据。除了cached,还有一个buffers,它和cached类似,也是可回收的,不过它的侧重点在于缓解不同设备的操作速度不一致造成的阻塞,这里就不多做解释了。

    知道了原理,我们就可以推算出系统可用的内存是free + buffers + cached:

    shell> echo "2723 + 239 + 25880" | bc -l

    28842

    至于系统实际使用的内存是used – buffers – cached:

    shell> echo "29377 - 239 - 25880" | bc -l

    3258

    除了free命令,还可以使用sar命令:

    shell> sar -r

    kbmemfree kbmemused %memused kbbuffers kbcached

    3224392 29647732 90.19 246116 26070160

    3116324 29755800 90.52 245992 26157372

    2959520 29912604 91.00 245556 26316396

    2792248 30079876 91.51 245680 26485672

    2718260 30153864 91.73 245684 26563540

    shell> sar -W

    pswpin/s pswpout/s

    0.00 0.00

    0.00 0.00

    0.00 0.00

    0.00 0.00

    0.00 0.00

    希望你没有被%memused吓到,如果不幸言中,请参考free命令的解释。

    接着咱们分析一下mongodb是怎么使用内存的:

    目前,MongoDB使用的是内存映射存储引擎,它会把磁盘IO操作转换成内存操作,如果是读操作,内存中的数据起到缓存的作用,如果是写操作,内存还可以把随机的写操作转换成顺序的写操作,总之可以大幅度提升性能。MongoDB并不干涉内存管理工作,而是把这些工作留给操作系统的虚拟缓存管理器去处理,这样的好处是简化了MongoDB的工作,但坏处是你没有方法很方便的控制MongoDB占多大内存,事实上MongoDB会占用所有能用的内存,所以最好不要把别的服务和MongoDB放一起。

    有时候,即便MongoDB使用的是64位操作系统,也可能会遭遇臭名昭著的OOM问题,出现这种情况,多半是因为限制了虚拟内存的大小所致,可以这样查看当前值:

    shell> ulimit -a | grep 'virtual'

    多数操作系统缺省都是把它设置成unlimited的,如果你的操作系统不是,可以这样修改:

    shell> ulimit -v unlimited

    不过要注意的是,ulimit的使用是有上下文的,最好放在MongoDB的启动脚本里。

    有时候,出于某些原因,你可能想释放掉MongoDB占用的内存,不过前面说了,内存管理工作是由虚拟内存管理器控制的,所以通常你只能通过重启服务来释放内存,你一定不齿于这样的方法,幸好可以使用MongoDB内置的closeAllDatabases命令达到目的:

    mongo> use admin

    mongo> db.runCommand({closeAllDatabases:1})

    另外,通过调整内核参数drop_caches也可以释放缓存:

    shell> sysctl -w vm.drop_caches=1

    平时可以通过mongo命令行来监控MongoDB的内存使用情况,如下所示:

    mongo> db.serverStatus().mem:

    {

    "resident" : 22346,

    "virtual" : 1938524,

    "mapped" : 962283

    }

    还可以通过mongostat命令来监控MongoDB的内存使用情况,如下所示:

    shell> mongostat

    mapped vsize res faults

    940g 1893g 21.9g 0

    940g 1893g 21.9g 0

    940g 1893g 21.9g 0

    940g 1893g 21.9g 0

    940g 1893g 21.9g 0

    其中内存相关字段的含义是:

    mapped:映射到内存的数据大小

    visze:占用的虚拟内存大小

    res:实际使用的内存大小

    注:如果操作不能再内存中完成,结果faults列的数值不会是0,视大小可能有性能问题。

    在上面的结果中,vsize是mapped的两倍,而mapped等于数据文件的大小,所以说vsize是数据文件的两倍,之所以会这样,是因为本例中,MongoDB开启了journal,需要在内存里多映射一次数据文件,如果关闭journal,则vsize和mapped大致相当。

    如果想验证这一点,可以在开启或关闭journal后,通过pmap命令来观察文件映射情况:

    shell> pmap $(pidof mongod)

    到底MongoDB配备多大内存合适?宽泛点来说,×××,如果要确切点来说,这实际取决于你的数据及索引的大小,内存如果能够装下全部数据加索引是最佳情况,不过很多时候,数据都会比内存大,比如本文说涉及的MongoDB实例:

    mongo> db.stats()

    {

    "dataSize" : 1004862191980,

    "indexSize" : 1335929664

    }

    本例中索引只有1G多,内存完全能装下,而数据文件则达到了1T,估计很难找到这么大内存,此时保证内存能装下热数据即可,至于热数据有多少,这就是个比例问题了,取决于具体的应用。如此一来内存大小就明确了:内存 > 索引 + 热数据。

    根据以上的分析我们可以得出几点结论:

    1. mongodb 直接用操作系统的内存管理器来管理内存。而操作系统采用的是LRU算法淘汰冷数据。

    2. mongodb可以用重启服务、调整内核参数以及mongodb内部的语法去清理mongodb对内存的缓存。可能存在的问题是:这几种清理方式都是全部清理,这样的话mongodb的内存缓存就失效了。

    3. mongodb 对内存的使用是可以被监控的,在生产环境中要定时的去监控这些数据。

    4. mongodb 对内存这种占用方式使其尽量的和其他占用内存的业务分开部署,例如memcahe,sphinx,mysql等。

    5. 操作系统中的交换分区swap 如果操作频繁的话,会严重降低系统效率。要解决可以禁用交换分区,以及增加内存以及做分布式。

    6. 生产环境中mongodb所在的主机应该尽量的大内存。

    展开全文
  • 很多内存的服务器比如1G或者更服务器,安装宝塔面板后发现经常内存爆满,很多用户误以为是宝塔占用较大的内存导致的问题,其实不然,宝塔本身占用的系统内存并不高的,大约70M左右的内存占用,以linux为例所以...

    很多低内存的服务器比如1G或者更低的服务器,安装宝塔面板后发现经常内存爆满,很多用户误以为是宝塔占用较大的内存导致的问题,其实不然,宝塔本身占用的系统内存并不高的,大约70M左右的内存占用,以linux为例所以我们要如何优化降低服务器的内存消耗呢。

    1、优化mysql内存占用

    mysql服务通常是占用内存较高的服务之一,最消耗内存的,因此我们需要调整优化性能,点击mysql设置-性能调整。key_buffer_size,query_cache_size等各个参数的设置。我们需要结合当前状态下的活动/峰值连接数,线程缓存命中率,索引命中率,Innodb索引命中率,查询缓存命中率等值来做调整和优化,比如活动/峰值连接数连接数只有20,把最大连接数设置为30-50只有即可,这样可以大大降低mysql的最大内存占用,其他参数也可以市场最一些调整和降低。

    7af14c9f6b8ea1002dbe9083595f9eba.png

    2、优化php性能参数

    降低max_children,【max_children最大子进程数量】越大,并发能力越强,但max_children最大不要超过5000,可以参考并发方案选择对应的内存对应的方案,然后适当降低max_children,原文地址:https://zouaw.com/9191.html

    8b0fc4ec7f936a34ff9b30c10e711fdc.png

    3、卸载不需要的一些软件

    以阿里云为例,阿里云服务器会自动运行阿里云盾。比如安装了多个版本的php,但是使用的却使用一个,则保留一个版本的即可,去掉多余的php

    4、添加计划任务,定期清理系统内存

    建议在宝塔面板-计划任务中设置定期任务,如每天释放一次内存,释放PHP、MYSQL、PURE-FTPD、APACHE、NGINX的内存占用,建议在每天半夜执行,这样不会对已网站用户带来影响。

    7091fea3531f3d368129a1838199fb0d.png

    5、启用流量控制方案,安装防火墙

    网站被频繁的高并发访问也会带来高内存的占用,因此要注意屏蔽恶意访问,非正常的访问流量,避免服务器和网站被攻击导致高内存的占用

    53baeaf60dffb869701bdeae161f46d8.png

    展开全文
  • 方法一:使用 show processlist语句,查找负荷最重的 SQL 语句,优化该SQL,比如适当建立某字段的索引。方法二:#查看慢SQL日志是否启用mysql>showvariableslike'log_slow_queries';#查看执行慢于多少秒的SQL会...

    方法一:

    使用 show processlist 语句,查找负荷最重的 SQL 语句,优化该SQL,比如适当建立某字段的索引。

    方法二:

    #查看慢SQL日志是否启用

    mysql> show variables like 'log_slow_queries';

    #查看执行慢于多少秒的SQL会记录到日志文件中

    mysql> show variables like 'long_query_time';

    #配置my.ini文件(inux下文件名为my.cnf), 查找到[mysqld]区段,增加日志的配置,如下示例:

    [mysqld]

    log="C:/temp/mysql.log"

    log_slow_queries="C:/temp/mysql_slow.log"

    long_query_time=1

    #log指示日志文件存放目录;

    log_slow_queries指示记录执行时间长的sql日志目录;

    long_query_time指示多长时间算是执行时间长,单位秒。

    展开全文
  • 购买了阿里云服务器,苦于内存太小,Mysql进程总是无端的自动结束,便着手于服务器的内存优化了。...优化后,服务器内存一般占用在256M-378M之间,并稳定运行。所以呢,我应该来分享一下我的配置过程...

    购买了阿里云服务器,苦于内存太小,Mysql进程总是无端的自动结束,便着手于服务器的内存优化了。你完全可以按照我如下的操作来进行一步步的优化,最终让你的网站日访问量在1W PV时,也能稳定的运行。

    我使用的服务器操作系统是Ubuntu 12.04  64位 LTS,内存为512M并且没有启用虚拟内存。优化后,服务器内存一般占用在256M-378M之间,并稳定运行。所以呢,我应该来分享一下我的配置过程。

    确定空闲的内存和虚拟内存是否开启

    要着手配置服务器之前,先来看一下服务器内存的使用情况。你可以通过如下命令来进行查看:

    free -m

    当然,你也可以通过如下命令来查看内存都用到哪了(根据各进程内存占用大小排序的一个列表)!

    ps -eo pmem,pcpu,rss,vsize,args | sort -k 1 -r | less

    关闭不用的服务,让LAMP处于低内存占用状态

    在关闭不用的服务之前,我们需要知道哪些服务项是不必要的。我找到了一款开机启动服务管理的软件:sysv-rc-conf,图开操作界面,很实用。其安装命令如下:

    sudo apt-get install sysv-rc-conf

    接着通过如下命令来打开sysv-rc-conf的图形操作界面(如何操作在图片界面中有说的),如下

    sudo sysv-rc-conf

    其图形界面如下:


    下图中所示的服务是我关闭的,你可以退据实际情况定夺:

    • sendmail:这是一个邮件服务,因为我使用的是163邮箱stmp服务,所以就没有必要开启。如果你需要你的服务器,能通过php mail()函数发送邮件,那就不要关闭了。
    • dns-clean:使用拨号上网时,清除DNS信息。这在服务器上一般用不到。故直接关闭其启动。

    关于更多的linux服务介绍,你可以移步到:ubuntu 服务优化

    配置APACHE

    在内存占用中,apache是最大的内存占用户。安装LAMP环境后,默认的相关配置是很不适合于小内存服务运行的,所以很有必要做一定的修改。我将用如下的技术点来让apache占用更低的内存,保持原有的速度。

    • 处理少量的并发请求
    • 加载必要的模块
    • 记录必要的日志信息

    减少APACHE子进程的数量

    prefork模式是由多路处理模块(MPM)实现了一个非线程型的、预派生的web服务器。它具有很强的自我调节能力,只要很少的配置就可以了。最重要是将MaxClients设置为一个适合的值以处理潜在的访问高峰其,但其值不能太大,以致超出了物理内存的大小。如下是我的配置内容:

    <IfModule mpm_prefork_module>
        StartServers          1
        MinSpareServers       1
        MaxSpareServers       3
        MaxClients            15
        MaxRequestsPerChild   3000

    </IfModule>

    当Apache被启动时,Apache会自动创建StartServers个进程,并且尽力将空闲进程数保持在MinSpareServers和MaxSpareServers之间。当空闲进程小于MinsPareServers时,Apache会以大约1s钟的时间来创建进程;当小于MaxSpareServers时,Apache将会删除多余的空闲进程,释放服务器资源。进程数的最大值是由MaxClients决定。MaxRequestsPerChild用来控制每个进程在处理了多少次请求之后自动销毁,若这个参数的值为0表示无限(即不销毁进程)。

    worker模式是由多路处理模块(MPM)使网络服务器支持混合的多线程多进程。由于采用的是线程处理,所以可以处理大量的请求的同时,系统资源的占用小于基于进程的MPM。我的控制指领配置如下:

    <IfModule mpm_worker_module>
        StartServers          1
        MinSpareThreads       5
        MaxSpareThreads      15
        ThreadLimit          25
        ThreadsPerChild      5
        MaxClients           25
        MaxRequestsPerChild  200

    </IfModule>

    StartServers指令设置了服务器启动时建立的子进程数量。MinSpareThreads最小空闲进程数。MaxSpareThreads配置最大空闲线程数。ThreadLimit每个子进程可配置的线程数上限。MaxClients允许同时伺服的最大接入请求数量(最大线程数量)。ThreadsPerChild每个子进程建立的常驻的执行线程数。MaxRequestsPerChild配置每个子进程在其生存期内允许伺服的最大请求数量。

    除了更改以上配置外,我还更改了“KeepAliveTimeOut(连接存活时间)”,将其值调整为15,默认值为5。

    接下来还有下一篇



    展开全文
  • WindowsServer 2008R2系统内存占用率过大,而在任务管理器中各进程内存占用总和都远不到此占用率。 相关现象: 1. 内存占用率90%以上 2.任务管理器中所有进程内存和较,远不到90%,有二十多G的内存偏差 分析...
  • 刚开始使用mongodb的时候,不太注意mongodb的内存使用,但通过查资料发现mongodb对内存占用是巨大的,在本地测试服务器中,8G的内存居然被占用了45%。汗呀。本文就来剖析一下mongodb对内存的具体使用方法,以及...
  • mongodb 对内存的严重占用以及解决方法【转载】刚开始使用mongodb的时候,不太注意mongodb的内存使用,但通过查资料发现mongodb对内存占用是巨大的,在本地测试服务器中,8G的内存居然被占用了45%。汗呀。本文就来...
  • 微服务架构下的子服务器内存波动

    千次阅读 2021-01-08 15:59:48
    springcloud架构下的子服务器内存波动是正常的服务器内存波动本人验证了eureka 和 nacos 两种注册中心nacos 最低内存占用为 60M 最高内存占用为 450M,波动值为400M左右eureka 最低内存占用为 60M 最高内存占用为 ...
  • 相信有许多轻度游戏玩家和办公用户,都更愿意花更少的钱来...AMD R5 2400G,4核8线程频率3.6~3.8G,核显是VEGA 11,非常适合预算办公娱乐。因此我装了个AMD R5 2400G+B450M平台的办公电脑。但是由于AMD R5 2400...
  • 简介该文章适用于配置,特别是内存服务器,在用容器部署服务时有可能会因为容器占用内存过高导致服务挂掉时参考解决(不是运行在容器里的话,同理也可以修改mysql的配置文件限制内存占用)docker部署mysql拉下来...
  • 解决服务器上 w3wp.exe 和 sqlservr.exe 的内存占用率居高不下的方案 SQL Server是如何使用内存 最大的开销一般是用于数据缓存,如果内存足够,它会把用过的数据和觉得你会用到的数据统统扔到内存中,直到内存...
  • 相信有许多轻度游戏玩家和办公用户,都更愿意花更少的钱来...AMD R5 2400G,4核8线程频率3.6~3.8G,核显是VEGA 11,非常适合预算办公娱乐。因此我装了个AMD R5 2400G+B450M平台的办公电脑。但是由于AMD R5 2400...
  • 简介该文章适用于配置,特别是内存服务器,在用容器部署服务时有可能会因为容器占用内存过高导致服务挂掉时参考解决(不是运行在容器里的话,也是可以修改mysql的配置文件限制内存占用)最近用docker部署了个...
  • 简介该文章适用于配置,特别是内存服务器,在用容器部署服务时有可能会因为容器占用内存过高导致服务挂掉时参考解决(不是运行在容器里的话,也是可以修改mysql的配置文件限制内存占用)最近用docker部署了个...
  • 1、问题:MySQL内存占用超过45%,最低配的腾讯云1核1G的云服务器2、解决方法:优化MySQL配置 执行sql: SHOW VARIABLES LIKE '%table_open_cache%'; 结果:table_open_cache值为2000参考博文:MySQL 5.6下table_open_...
  • Centos 7 查看内存占用情况相关命令

    万次阅读 2016-09-06 20:30:53
     本人租用的云服务器,为了节约成本,各项配置都是比较的,但是又运行了很多的服务,所以要经常查看内存占用情况以检查哪些服务存在问题并调整参数作调优。当然,实际的生成服务器,也可能会需要做些类似的操作的...
  • 最大的开销一般是用于数据缓存,如果内存足够,它会把用过的数据和觉得你会用到的数据统统扔到内存中,直到内存不足的时候,才把命中率的数据给清掉。所以一般我们在看statistics io的时候,看到的physics read都...
  • 简介该文章适用于配置,特别是内存服务器,在用容器部署服务时有可能会因为容器占用内存过高导致服务挂掉时参考解决(不是运行在容器里的话,也是可以修改mysql的配置文件限制内存占用)最近用docker部署了个...
  • 所以到tomcat服务器上查看下catalina.out输出日志。却没发现任务错误信息。分析:想了想,视频加载慢,会不会是数据库问题呢?果断上mysql数据库(从库)看下top如下:PIDUSERPRNIVIRTRESSHRS%CPU%MEM...
  • 最近在阿里云购买了一台云服务器,...MySQL会经常停止运行,而且启动都起不起来,要reboot才行,常看MySQL保存日志,发现是内存不够,看了一下,环境全部开启以后,内存占用基本都在90%以上,通过htop仔细查看内存占...
  • SQLServer是如何使用内存最大的开销一般是用于数据缓存,如果内存足够,它会把用过的数据和觉得你会用到的数据统统扔到内存中,直到内存不足的时候,才把命中率的数据给清掉。所以一般我们在看statisticsio的时候...
  • 分布式单服务器实例内存缓存

    千次阅读 2016-05-27 22:03:41
    把一些被大量访问的,变化频次很的,占用内存不多的内容预先加载到服务器实例的内存中来加快服务器的响应速度!
  • Mysql内存占用过高解决方法

    千次阅读 2014-09-25 17:03:54
    刚在阿里云免费试用了一下服务器,配置很

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 1,098
精华内容 439
关键字:

服务器内存占用低