精华内容
下载资源
问答
  • H2 内存数据库

    2013-01-17 11:33:00
    h2 database 是一个开源免费的Java SQL内存数据库数据库分为嵌入式(Embedding)和Server模式。 持续关注中...

    h2 database 是一个开源免费的Java SQL内存数据库。数据库分为嵌入式(Embedding)和Server模式。

    持续关注中...

    展开全文
  • 内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能,作用类似于缓存,并不注重数据完整性和数据一致性。基于键值型的...

    内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能,作用类似于缓存,并不注重数据完整性和数据一致性。基于键值型的内存数据库比关系型更加易于使用,性能和可扩展性更好,因此在应用上比关系型的内存数据库使用更多。本文首先比较FastDB、Memcached和Redis主流内存数据库的功能特性,再从性能上比较H2、Memcached和Redis三种内存数据库,希望大家能够根据自己业务需求的具体特点,选择合适的开源产品。

    主流内存数据库功能比较
    FastDB
    FastDb是高效的关系型内存数据库系统,具备实时能力及便利的C++接口。FastDB针对应用程序通过控制读访问模式作了优化。通过降低数据传输的开销和非常有效的锁机制提供了高速的查询。对每一个使用数据库的应用数据库文件被影射到虚拟内存空间中。因此查询在应用的上下文中执行而不需要切换上下文以及数据传输。fastdb中并发访问数据库的同步机制通过原子指令实现,几乎不增加查询的开销。

        FastDB的特点包括如下方面:
    

    1、FastDB不支持client-server架构因而所有使用FastDB的应用程序必须运行在同一主机上;

    2、fastdb假定整个数据库存在于RAM中,并且依据这个假定优化了查询算法和接口。

    3、fastdb没有数据库缓冲管理开销,不需要在数据库文件和缓冲池之间传输数据。

    4、整个fastdb的搜索算法和结构是建立在假定所有的数据都存在于内存中的,因此数据换出的效率不会很高。

    5、Fastdb支持事务、在线备份以及系统崩溃后的自动恢复。

    6、fastdb是一个面向应用的数据库,数据库表通过应用程序的类信息来构造。

        FastDB不能支持Java API接口,这使得在本应用下不适合使用FastDB。
    

    Memcached
    Memcached是一种基于Key-Value开源缓存服务器系统,主要用做数据库的数据高速缓冲,并不能完全称为数据库。

        memcached的API使用三十二位元的循环冗余校验(CRC-32)计算键值后,将资料分散在不同的机器上。当表格满了以后,接下来新增的资料会以LRU机制替换掉。由于    memcached通常只是当作缓存系统使用,所以使用memcached的应用程式在写回较慢的系统时(像是后端的数据库)需要额外的程序更新memcached内的资料。
    
        memcached具有多种语言的客户端开发包,包括:Perl、PHP、JAVA、C、Python、Ruby、C#。
    

    Redis
    Redis是一个高性能的key-value数据库。redis的出现,很大程度补偿了memcached这类keyvalue存储的不足,在部分场合可以对关系数据库起到很好的补充作用。它提供了C++、Java、Python,Ruby,Erlang,PHP客户端。

    小结
    由于不支持Java客户端,因此FastDB并不合适。在Memcached和Redis的比较上,分为性能和功能两个方面。

        关于性能方面的详细内容建议继续阅读后面的内容,我对H2、Memcached和Redis亲自从读写删三方面进行了性能测试。
    
        因此从内存数据库功能特性方面综合来看,推荐使用Redis。
    

    主流内存数据库性能比较
    测试目的
    本次性能测试选择目前成熟度和使用度都比较高的内存数据库,通过读写的性能测试比较这些主流数据库中的性能优劣。在性能测试过程中同时记录各个产品的稳定性。

        比较的内存数据库包括Memcached、Redis、H2。
    

    测试方法
    性能测试主要包括对内存数据库读、写、删除的测试。

        使用单个线程将一定量的记录插入内存数据库,记录插入时间,每条记录的数据大小相同;然后在进行一定量的读操作,记录读出时间;最后将这些数据删除,记录时间。
    

    根据读写效率综合评估内存数据库性能。

        具体的测试数据量为:
    

    1、插入10000条数据,记录时间;

    2、读取上述10000条数据,记录时间;

    3、将上述10000条数据逐条删除,记录时间。

    测试环境
    本次测试共需要使用一台联系服务器,配置如下:

    CPU:Intel® Xeon® CPU E7-4830 @ 2.13GHz,共32个CPU,每个CPU8核;

    内存:物理内存8G,交换分区9G;

    磁盘:物理磁盘250G;

    网卡:单网卡,带宽上限1000Mbps,全双工

        在该服务器上搭建中标云平台,并创建虚拟机,三种内存数据库均部署在该虚拟机中,虚拟机配置为:
    

    CPU:Intel® Xeon® CPU E7-4830 @ 2.13GHz,共2个CPU,每个CPU8核;

    内存:物理内存1G,交换分区5G;

    磁盘:物理磁盘50G;

    网卡:单网卡,带宽上限1000Mbps,全双工

        测试应用部署在一台普通台式机中,台式机配置为:
    

    CPU:Intel® Xeon® CPU E7-4830 @ 2.13GHz,共2个CPU,每个CPU2核;

    内存:物理内存1G,交换分区2G;

    磁盘:物理磁盘64G;

    网卡:单网卡,带宽上限1000Mbps(共享),全双工

        台式机和服务器采用普通内部局域网连接。
    

    内存数据库部署
    Memcached
    Memcached的安装前先安装依赖的libevent库,步骤如下:

    tar -zxvf libevent-2.0.12.stable.tar.gz

    cd libevent-2.0.12.stable

    ./configure –prefix=/usr/libevent

    make

    make install

        安装的memcached需要从源码编译安装,步骤如下:
    

    tar -zxvf memcached-1.4.15.tar.gz

    cd ./memcached-1.4.15

    ./configure –with-libevent=/usr/libevent

    make

    make install

    Redis
    Redis的安装也是从源码开始,将Redis源码压缩包拷贝到/usr/local/目录下,安装步骤如下:

    tar -zxvf redis-2.6.14.tar.gz

    cd ./redis-2.6.14

    make

        开启Redis服务器和Redis自带的客户端访问工具如下:
    

    src/redis-server

    src/redis-cli

    H2
    H2的安装较为简单,直接使用unzip命令进行解压即可。

        解压之后进入bin目录,并修改h2.sh文件中的Java命令启动的主类和选项为:
    

    org.h2.tools.Server -tcpAllowOthers -webAllowOthers

        然后执行脚本h2.sh即可启动数据库。H2提供本地命令行控制台,启动方式为:
    

    java -cp *.jar org.h2.tools.Shell

        一般来说,使用图形化的Web界面更为方便。
    

    测试结果
    Memcached的测试结果如下:

    Benchmark result has listed as follow:

    Set Data spent time (ms): 344

    Get Data spent time (ms): 8297

    Delete Data spent time (ms): 187

        Redis的测试结果如下:
    

    Benchmark result has listed as follow:

    Set Data spent time (ms): 5594

    Get Data spent time (ms): 6312

    Delete Data spent time (ms): 3969

        H2的测试结果如下:
    

    Benchmark result has listed as follow:

    Set Data spent time (ms): 14609

    Get Data spent time (ms): 14859

    Delete Data spent time (ms): 10469

    结果分析
    从结果来看,Memcached的性能最好,Redis其次,而H2的性能则最差。细节方面,Redis的读性能要略好于Memcached。

        在执行本次测试之前并没有对各个软件进行优化,因为测试数据总量10000条,每条不到1KB,总共不过10MB,而且单个线程,所以默认配置应该都是足够的,因此测试结果能够反映各自的性能情况。
    
        产生这个结果的原因主要是三种软件的功能丰富程度不同,以及使用内存的情况不同。H2作为关系型数据库,具有持久存储功能,因此还是大量使用了磁盘,而且H2也要考虑数据完整性和原子性等关系数据库的关键特性;而Redis采用Key-Value范型,不能达到关系型数据库那样的可靠性,实现的特性少,可以更加关注性能,但是为了防止数据丢失,支持持久存储机制;而同样是Key-Value方式的Memcached则不支持持久存储,纯内存软件。
    
        还有一项与性能无关的情况需要指出,在编写测试应用的时候,Memcached操作的代码量最少,其次为Redis,H2所需代码最多。
    

    结论
    综合上述功能特性的分析和性能测试结果分析,对于内存数据库的选型结论如下:

    1、如果无特殊要求,则Memcached综合性能最好,编程最方便,推荐使用;

    2、如果读操作很多,而且需要内存数据库提供持久存储以避免重启之后数据丢失,则推荐使用Redis。

        在性能方面,可以参考资料[6]中的比较。最终的比较结果表明,在小文件和大文件的读写性能上,Redis都要胜过Memcached,特别是在大文件读写方面,memcached性能不高。
    
        在功能方面,可以参考资料[7]中的分析。该分析中指出Redis对Memcached的最大的补充是对持久化的支持,这使得在机器重启或者升级时数据不至于丢失。
    
        我的测试代码采用Java开发,开发环境为Eclipse 3.7,如果需要我的全部测试代码,可以在评论里留下邮箱,我会发过去。
    

    参考资料
    [1] Memcached Build from Source.http://code.google.com/p/memcached/wiki/NewInstallFromSource.

    [2] Configure Memcached.http://code.google.com/p/memcached/wiki/NewConfiguringServer.

    [3] Redis Document.http://redis.io/documentation.

    [4] Jedis 2.0 API.http://www.jarvana.com/jarvana/view/redis/clients/jedis/2.0.0/jedis-2.0.0-javadoc.jar!/index.html.

    [5] H2 Database Engine Version 1.3.172 (2013-5-25).http://www.h2database.com/html/main.html.

    [6] Memcache and Redis Performance Compare.http://timyang.net/data/mcdb-tt-redis/.

    [7] Memcache and Redis Functional Analysis.http://www.oschina.net/news/26691/memcached-timeout.

    展开全文
  • 内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能,作用类似于缓存,并不注重数据完整性和数据一致性。基于键值型的...

    转载自品略图书馆 http://www.pinlue.com/article/2018/09/1505/067175035845.html

     

    内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能,作用类似于缓存,并不注重数据完整性和数据一致性。基于键值型的内存数据库比关系型更加易于使用,性能和可扩展性更好,因此在应用上比关系型的内存数据库使用更多。本文首先比较FastDB、Memcached和Redis主流内存数据库的功能特性,再从性能上比较H2、Memcached和Redis三种内存数据库,希望大家能够根据自己业务需求的具体特点,选择合适的开源产品。

    主流内存数据库功能比较

    FastDB

    FastDb是高效的关系型内存数据库系统,具备实时能力及便利的C++接口。FastDB针对应用程序通过控制读访问模式作了优化。通过降低数据传输的开销和非常有效的锁机制提供了高速的查询。对每一个使用数据库的应用数据库文件被影射到虚拟内存空间中。因此查询在应用的上下文中执行而不需要切换上下文以及数据传输。fastdb中并发访问数据库的同步机制通过原子指令实现,几乎不增加查询的开销。

    FastDB的特点包括如下方面:

    1、FastDB不支持client-server架构因而所有使用FastDB的应用程序必须运行在同一主机上;

    2、fastdb假定整个数据库存在于RAM中,并且依据这个假定优化了查询算法和接口。

    3、fastdb没有数据库缓冲管理开销,不需要在数据库文件和缓冲池之间传输数据。

    4、整个fastdb的搜索算法和结构是建立在假定所有的数据都存在于内存中的,因此数据换出的效率不会很高。

    5、Fastdb支持事务、在线备份以及系统崩溃后的自动恢复。

    6、fastdb是一个面向应用的数据库,数据库表通过应用程序的类信息来构造。

    FastDB不能支持Java API接口,这使得在本应用下不适合使用FastDB。

    Memcached

    Memcached是一种基于Key-Value开源缓存服务器系统,主要用做数据库的数据高速缓冲,并不能完全称为数据库。

    memcached的API使用三十二位元的循环冗余校验(CRC-32)计算键值后,将资料分散在不同的机器上。当表格满了以后,接下来新增的资料会以LRU机制替换掉。由于    memcached通常只是当作缓存系统使用,所以使用memcached的应用程式在写回较慢的系统时(像是后端的数据库)需要额外的程序更新memcached内的资料。

    memcached具有多种语言的客户端开发包,包括:Perl、PHP、JAVA、C、Python、Ruby、C#。

    Redis

    Redis是一个高性能的key-value数据库。redis的出现,很大程度补偿了memcached这类keyvalue存储的不足,在部分场合可以对关系数据库起到很好的补充作用。它提供了C++、Java、Python,Ruby,Erlang,PHP客户端。

    小结

    由于不支持Java客户端,因此FastDB并不合适。在Memcached和Redis的比较上,分为性能和功能两个方面。

    关于性能方面的详细内容建议继续阅读后面的内容,我对H2、Memcached和Redis亲自从读写删三方面进行了性能测试。

    因此从内存数据库功能特性方面综合来看,推荐使用Redis。

    主流内存数据库性能比较

    测试目的

    本次性能测试选择目前成熟度和使用度都比较高的内存数据库,通过读写的性能测试比较这些主流数据库中的性能优劣。在性能测试过程中同时记录各个产品的稳定性。

    比较的内存数据库包括Memcached、Redis、H2。

    测试方法

    性能测试主要包括对内存数据库读、写、删除的测试。

    使用单个线程将一定量的记录插入内存数据库,记录插入时间,每条记录的数据大小相同;然后在进行一定量的读操作,记录读出时间;最后将这些数据删除,记录时间。

    根据读写效率综合评估内存数据库性能。

    具体的测试数据量为:

    1、插入10000条数据,记录时间;

    2、读取上述10000条数据,记录时间;

    3、将上述10000条数据逐条删除,记录时间。

    测试环境

    本次测试共需要使用一台联系服务器,配置如下:

    CPU:Intel(R) Xeon(R) CPU E7-4830 @ 2.13GHz,共32个CPU,每个CPU8核;

    内存:物理内存8G,交换分区9G;

    磁盘:物理磁盘250G;

    网卡:单网卡,带宽上限1000Mbps,全双工

    在该服务器上搭建中标云平台,并创建虚拟机,三种内存数据库均部署在该虚拟机中,虚拟机配置为:

    CPU:Intel(R) Xeon(R) CPU E7-4830 @ 2.13GHz,共2个CPU,每个CPU8核;

    内存:物理内存1G,交换分区5G;

    磁盘:物理磁盘50G;

    网卡:单网卡,带宽上限1000Mbps,全双工

    测试应用部署在一台普通台式机中,台式机配置为:

    CPU:Intel(R) Xeon(R) CPU E7-4830 @ 2.13GHz,共2个CPU,每个CPU2核;

    内存:物理内存1G,交换分区2G;

    磁盘:物理磁盘64G;

    网卡:单网卡,带宽上限1000Mbps(共享),全双工

    台式机和服务器采用普通内部局域网连接。

    内存数据库部署

    Memcached

    Memcached的安装前先安装依赖的libevent库,步骤如下:

    # tar -zxvf libevent-2.0.12.stable.tar.gz

    # cd libevent-2.0.12.stable

    # ./configure –prefix=/usr/libevent

    # make

    # make install

    安装的memcached需要从源码编译安装,步骤如下:

    # tar -zxvf memcached-1.4.15.tar.gz

    # cd ./memcached-1.4.15

    # ./configure –with-libevent=/usr/libevent

    # make

    # make install

    Redis

    Redis的安装也是从源码开始,将Redis源码压缩包拷贝到/usr/local/目录下,安装步骤如下:

    # tar -zxvf redis-2.6.14.tar.gz

    # cd ./redis-2.6.14

    # make

    开启Redis服务器和Redis自带的客户端访问工具如下:

    # src/redis-server

    # src/redis-cli

    H2

    H2的安装较为简单,直接使用unzip命令进行解压即可。

    解压之后进入bin目录,并修改h2.sh文件中的Java命令启动的主类和选项为:

    org.h2.tools.Server -tcpAllowOthers -webAllowOthers

    然后执行脚本h2.sh即可启动数据库。H2提供本地命令行控制台,启动方式为:

    # java -cp *.jar org.h2.tools.Shell

    一般来说,使用图形化的Web界面更为方便。

    测试结果

    Memcached的测试结果如下:

    Benchmark result has listed as follow:

    Set Data spent time (ms): 344

    Get Data spent time (ms): 8297

    Delete Data spent time (ms): 187

    Redis的测试结果如下:

    Benchmark result has listed as follow:

    Set Data spent time (ms): 5594

    Get Data spent time (ms): 6312

    Delete Data spent time (ms): 3969

    H2的测试结果如下:

    Benchmark result has listed as follow:

    Set Data spent time (ms): 14609

    Get Data spent time (ms): 14859

    Delete Data spent time (ms): 10469

    结果分析

    从结果来看,Memcached的性能最好,Redis其次,而H2的性能则最差。细节方面,Redis的读性能要略好于Memcached。

    在执行本次测试之前并没有对各个软件进行优化,因为测试数据总量10000条,每条不到1KB,总共不过10MB,而且单个线程,所以默认配置应该都是足够的,因此测试结果能够反映各自的性能情况。

    产生这个结果的原因主要是三种软件的功能丰富程度不同,以及使用内存的情况不同。H2作为关系型数据库,具有持久存储功能,因此还是大量使用了磁盘,而且H2也要考虑数据完整性和原子性等关系数据库的关键特性;而Redis采用Key-Value范型,不能达到关系型数据库那样的可靠性,实现的特性少,可以更加关注性能,但是为了防止数据丢失,支持持久存储机制;而同样是Key-Value方式的Memcached则不支持持久存储,纯内存软件。

    还有一项与性能无关的情况需要指出,在编写测试应用的时候,Memcached操作的代码量最少,其次为Redis,H2所需代码最多。

    结论

    综合上述功能特性的分析和性能测试结果分析,对于内存数据库的选型结论如下:

    1、如果无特殊要求,则Memcached综合性能最好,编程最方便,推荐使用;

    2、如果读操作很多,而且需要内存数据库提供持久存储以避免重启之后数据丢失,则推荐使用Redis。

    在性能方面,可以参考资料[6]中的比较。最终的比较结果表明,在小文件和大文件的读写性能上,Redis都要胜过Memcached,特别是在大文件读写方面,memcached性能不高。

    在功能方面,可以参考资料[7]中的分析。该分析中指出Redis对Memcached的最大的补充是对持久化的支持,这使得在机器重启或者升级时数据不至于丢失。

    我的测试代码采用Java开发,开发环境为Eclipse 3.7,如果需要我的全部测试代码,可以在评论里留下邮箱,我会发过去。

    展开全文
  • 在上一篇文章《内存数据库解析与主流产品对比(二)》中,我们从数据组织和索引的角度介绍了内存数据库的特点和几款产品的技术实现。本文将继续解析内存数据库,从并发控制、持久化和查询处理的角度介绍几款技术,...

    作者:实验室小陈 / 大数据开放实验室

    在上一篇文章《内存数据库解析与主流产品对比(二)》中,我们从数据组织和索引的角度介绍了内存数据库的特点和几款产品的技术实现。本文将继续解析内存数据库,从并发控制、持久化和查询处理的角度介绍几款技术,带来更多维度、更细致的内存数据库技术讨论。

     

    — 数据库管理系统中的并发控制

    1. 内存数据库并发控制的两种策略

    a. 多版本的并发控制

    内存数据库中的并发控制主要采用两类策略:1. 多版本的并发控制;2. 分Partition处理。并发控制机制可以分为乐观和悲观两种类型。悲观并发控制则认为进程竞争资源总是存在的,因此访问时先加锁,访问完再释放;乐观并发控制认为大多数情况不需要竞争资源,只在最后提交前检查是否存在冲突,有冲突就回滚,没有就提交。

     

    乐观并发控制大多数不采用基于锁的技术实现,并且通常是多版本的。多版本意味着每次更新都会产生新的版本,读操作根据可见范围选取合适的老版本,读操作不阻塞写操作,所以并发程度比较高。其缺点是会产生额外开销,例如更新要创建新版本,而且随着版本越来越多,还需要额外开销收回老版本。内存数据库多采用乐观的多版本并发控制机制,相比于基于锁的悲观并发控制其优势是开销较小,而且支持并发程度较高的场景;缺点是在有大量写竞争的场景下,事务间冲突概率比较高时,大量事务会失败和回滚。

     

    b. 分Partition处理

    内存数据库并发控制的另外一类策略是把数据库分成多个Partition,每个Partition采用串行方式处理事务。优势是单Partition业务的执行没有用于并发控制的额外开销,缺点是存在跨Partition事务时系统的吞吐率会直线下降。因此,如果不能保证所有业务都是单Partition进行,将导致性能不可预测。

     

    2. 多版本并发控制之 Hekaton

    Hekaton采用乐观的多版本并发控制。Transaction开始时,系统为事务分配读时间戳,并将Transaction标记为active,然后开始执行事务,在操作过程中系统记录被读取/扫描/写入的数据。随后,在Pre-commit阶段,先获取一个结束的时间戳,然后验证读和扫描数据的版本是否仍然有效。如果验证通过,就写一个新版本到日志,执行Commit,然后把所有的新版本设置为可见。Commit之后,Post-Processing记录版本时间戳,之后Transaction才真正结束。

     

    a. Hekaton 的事务验证

    i) Read Stability:Hekaton系统能够保证数据的读稳定性(Read Stability),比如交易开始时读到的每条记录版本,在Commit时仍然可见,从而实现Read Stability。

     

    ii) Phantom Avoidances:Phantom指一个事务在开始和结束时执行相同的条件查询,两次结果不一样。出现幻影的原因是该事务执行过程中,其他事务对相同数据集进行了增加/删除/更新操作。应该如何避免幻影现象呢?可通过重复扫描,检查所读取的数据是否有新版本,保证记录在事务开始时的版本和在结束时一致。

     

    Hekaton并发控制的好处在于,不需要对Read-Only事务做验证,因为多版本能够保证事务开始时的记录版本在结束时依然存在。对于执行更新的事务,是否做验证由事务的隔离级别决定。例如如果快照隔离级别,就不需要做任何验证;如果要做可重复读,就要做Read Stability;如果是串行化隔离级别,既要保证Read Stability,又要保证Phantom Avoidance。

     

    b. Hekaton的回收策略

    Hekaton中的回收任务并不由独立的线程处理,而是每个事务自己回收。如下图所示,Transaction ID为250的事务结束时间戳为150且状态为terminated,此时会有一个Write Set获取所有老版本,并判断当前所有active的Transaction的开始时间戳是否大于ID为250的事务结束时间,即150。如果都大于150,说明不可能再基于时间戳早于150的旧版本进行修改,因而由事务回收旧版本,这部分工作是每个线程在处理Transaction时的额外工作。

     

    3. 多版本并发控制之Hyper

    Hyper的并发控制和Hekaton的区别主要有以下三点:1. 直接在记录位置进行更新,通过undo buffer来保存对数据的修改,数据和所有修改被链接在一起;2. 验证是根据最近的更新与读的记录进行比较来实现(后续会涉及到);3. 串行化处理commit,对提交的事务进行排序,并依次处理。

     

    在事务验证方面,Hyper的验证需要在日志中记录Read Predictates,包括查询或Range Scan,而且要记录插入、删除和更新的记录。在Hyper模式中,插入/删除/更新通过对应的Undo Buffer获悉被修改过的记录,所以记录改动对于Hyper而言是容易的。

     

    对于每个Transaction,只需要比较该事务从开始到Commit之间,是否存在其他Transaction对满足搜索条件的数据集进行过增/删/改,从而判断是否存在幻影现象,如果存在,就直接终止事务。

     

    4. 多版本并发控制之HANA和HStore/VoltDB

    HANA并行控制方式比较简单,采用悲观的多版本控制,由行级锁保护数据结构,每行由时间戳决定每个版本的可见范围。每个Transaction在更新或删除时都需要申请写锁,而且要做死锁检测。

     

    HStore/VoltDB是一个Partition系统,锁的粒度很粗,每个Partition对应一把锁,因此Transaction在某节点上执行时,需要拿到该节点所有资源。一旦一个事务可能涉及到两个Partition,就需要把两个Partition的锁都拿到。所以Partition系统的优点是单Partition处理速度非常快,缺点是多Partition效率很低。同时,系统对于负载的偏斜非常敏感,如果有热点数据,那么热点数据就构成系统瓶颈。

     

    5. 多版本并发控制之负载预知

    假设一个工作负载中,事务需要读和写的数据集可以提前获得,就可以在执行前确定所有事务的执行顺序。Calvin就是基于这样的假设设计的VLL (Very Lightweight Locking)超轻量级锁数据库原型系统。通用场景的工作负载是无法提前知道读写集合的,但在存储过程业务的应用中,可以提前确定读写集合,对于这些场景就可以考虑类似Calvin的系统。

    — 数据库管理系统中的持久化技术—

    对于内存数据库而言,和基于磁盘的数据库相同也需要日志和Checkpoint。Checkpoint的目的是恢复可以从最近的检查点开始,而不需要回放所有数据。因为Checkpoint涉及写入磁盘的操作,所以影响性能,因此要尽量加快相关的处理。

     

    一个不同是内存数据库的日志和Checkpoint可以不包含索引,在恢复时通过基础数据重新构造索引。内存数据库中的索引在恢复时重新构造,构造完成后也放在内存中而不用落盘,内存索引数据丢失了再重构即可。另外一个不同是内存数据库Checkpoint的数据量更大。面向磁盘的数据库在Checkpoint时,只需要把内存中所有Dirty Page写到磁盘上即可,但是内存数据库Checkpoint要把所有数据全部写到磁盘,数据量无论多大都要全量写一遍,所以内存数据库Checkpoint时写入磁盘的数据远大于基于磁盘的数据库。

     

    Hekaton Checkpoint

    对于持久化的性能优化,第一要保证写日志时的高吞吐量和低延迟,第二要考虑恢复时如何快速重构整个数据库。Hekaton的记录和索引存放在内存,所有操作写日志到磁盘。日志只记录数据的更新,而不记录索引的更新。进行Checkpoint时,Hekaton会从日志中恢复,并根据主键范围并行处理。如下图,分三个主键范围:100~199、200~299、300~399,绿色代表数据,红色代表删除的记录(单独保存被删除的文件)。在恢复时,Hekaton用并行算法在内存中重构索引和数据,过程中根据删除记录过滤数据文件,去除被删除的数据,然后从Checkpoint点开始,根据日志回放数据。

     

    其他系统的Checkpoints

    1. 采用Logic Logging的系统如H-Store/VoltDB,即不记录具体的数据改动,而是记录执行过的操作、指令。它的优势是记录的日志信息比较少。写日志时,HStore/VoltDB采用COW(Copy-on-Write)模式,即正常状态是单版本,但在写日志时会另外“复制”一个版本,待写完再合并版本。

     

    2. 另一种是定期把Snapshot写入磁盘(不包括索引),比如Hyper就是基于操作系统Folk功能来提供Snapshot。

    — 数据库管理系统中的查询处理—

    传统的查询处理采用火山模型,查询树上的每个节点是一个通用的Operator,优势在于Operator可以任意组合。但Operator拿到的记录只是一个字节数组,还需要调用另一个方法来解析属性以及属性类型。如果这种设计放到内存数据库中,属性以及类型的解析都是在Runtime而非编译时进行的,会对性能产生影响。

     

    另外对于get-next,如果有百万个数据就要调用百万次,同时get-next通常实现是一个虚函数,通过指针调用,相比直接通过内存地址调用,这些都会影响性能。此外,这样的函数代码在内存中的分布是非连续的,要不断跳转。综上,传统DBMS的查询处理方式在内存数据库当中并不适用,尤其体现在在底层执行时。

     

    内存数据库通常采用编译执行的方式,首先对查询进行解析,然后优化解析后的语句,并生成执行计划,然后根据模板对执行计划进行编译产生可执行的机器代码,随后把机器代码加载到数据库引擎,执行时直接调用。

     

    下图是对不同查询方式的耗时分析,可以看出编译执行方式中Resource Stall的占比很少。

     

    另外一张图解释了目前的CPU架构实现,L2 Cache和主存之间存在Hardware Pre-fetcher。L2 Cache分为指令Cache和Data Cache,指令Cache会由Branch Prediction实现分支预测,Data Cache会由基于Sequential Pattern的Pre-fetcher实现预测。因此,数据库系统的设计需要考虑该架构下如何充分发挥Pre-fetcher功能,让Cache可以不断为 CPU计算单元提供指令和数据,避免出现Cache Stall。

     

    Hekaton编译查询处理

    Hekaton的编译采用T-SQL存储过程,编译的中间形式叫做MAT Generator,生成最终的C代码在编译器中执行。它产生的库和通用Operator的区别在于:通用Operator需要在运行时解释数据类型;而Hekaton编译方式是把表的定义和查询编译在一起,每个库只能处理对应的表而不能通用,自然就能拿到数据类型,这样的实现能获得3~4倍的性能提升。

     

    HyPer和MemSQL编译查询处理

    HyPer的编译方式是把查询树按照Pipeline的分割点每段编译。而MemSQL采用LLVM做编译,把MPI语言编译成代码。

     

    下图是一个对MemSQL性能的测试。没有采用编译执行时,MemSQL两次执行相同查询的时间都是0.05秒;如果采用编译执行,第一次耗时0.08秒,但是再执行时耗时仅0.02秒。

    — 其他内存数据库系统—

    除了之前提到的几种内存数据库外,还有其他一些著名的内存DBMS出现。

    i) SolidDB:诞生于1992年的混合型数据库系统,同时具备基于磁盘和内存的优化引擎,使用VTRIE(Variable-length Trie)树索引和悲观锁机制进行并发控制,通过Snapshot Checkpoints恢复。

    ii) Oracle Times Ten早期是惠普实验室名为Smallbase的研究项目,在2005年被Oracle收购,现在多作为大型数据库系统的前端内存加速引擎。Oracle Times Ten支持灵活部署,具有独立的DBMS引擎和基于RDBMS的事务缓存;在BI工作时支持Memory Repository,通过Locking进行并发控制;使用行级Latching处理写冲突,采用Write-Ahead Logging和Checkpoint机制提高持久性。

    iii) Altibase于1999年在韩国成立,在电信、金融和制造业应用广泛。Altibase在Page上存储记录,以Page为粒度进行Checkpoint且兼容传统DBMS引擎;支持多版本并发控制,使用预写日志记录和检查点实现持久性和恢复能力,通过Latching-Free对Page的数据进行Checkpoint。

    iv) P*Time: 21世纪起源于韩国,2005年出售给SAP,现在是SAP HANA的一部分。P*Time具备极佳的性能处理,对日志记录使用差分编码(XOR),采用混合存储布局,支持大于内存(Larger-than-Memory)的数据库管理系统。

    — 本文小结—

    每一个数据库系统都是针对特定的硬件环境设计,基于磁盘的数据库系统面临CPU单核、内存小、磁盘慢的场景设计。而内存数据库以内存为主存,不需要再重复读写磁盘,磁盘I/O不再是性能瓶颈,而要解决其他瓶颈,比如:1. Locking/Latching的开销;2. Cache-Line Miss,即如果数据结构定义的不够好或在内存中组织的不好,无法匹配CPU的层级缓存,会导致计算性能变差;3. Pointer Chasing,即需要另一个指针解释,或者查另外的表才能查到记录地址,也是主要的性能开销。此外,还有Predicate Evaluation计算、数据迁移/存储时的大量拷贝、分布式系统应用与数据库系统的网络通信等开销。

     

    在本专栏中,我们介绍了传统基于磁盘的DBMS和内存数据库的特点,并从数据组织、索引、并发控制、语句处理编译、持久化几个方面对内存数据库与基于磁盘数据库的相同和差异性进行了介绍:

    1. 数据组织:内存数据库中,把记录分成定长和变长管理,不需要数据连续存储,用指针替代了Page ID + Offset的间接访问;

    2. 索引优化:考虑面向内存中的Cach Line优化、快速的内存访问等Latch-Free技术,以及索引的更新不记录日志等;

    3. 并发控制:可以采用悲观和乐观的并发控制方式,但是与传统基于磁盘数据库的区别是,内存数据库锁信息和数据绑定,而不用单独的Lock Table管理;

    4. 查询处理:内存数据库场景下的顺序访问和随机访问性能差别不大。可以通过编译执行提高查询性能;

    5. 持久化:仍然通过WAL(Write-Ahead Logging)做Logging,并采用轻量级的日志,日志记录的内容尽量少,目的是降低日志写入磁盘延迟。

     

    内存数据库从1970s开始出现经历了理论成熟、投入生产、市场验证等发展环节。随着当前互联网秒杀、移动支付、短视频平台等高并发、大流量、低时延的平台出现,对于数据库性能提出了巨大需求和挑战。同时,内存本身在容量、单位价格友好度上不断提升,以及近期非容失性存储(NVM)的发展,促进了内存数据库的发展,这些因素使得内存数据库在未来有着广阔的市场和落地机会。

     

    注:本文相关内容参照以下资料:

    1. Pavlo, Andrew & Curino, Carlo & Zdonik, Stan. (2012). Skew-aware automatic database partitioning in shared-nothing, parallel OLTP systems. Proceedings of the ACM SIGMOD International Conference on Management of Data. DOI: 10.1145/2213836.2213844. 

    2. Kemper, Alfons & Neumann, Thomas. (2011). HyPer: A hybrid OLTP&OLAP main memory database system based on virtual memory snapshots. Proceedings - International Conference on Data Engineering. 195-206. DOI: 10.1109/ICDE.2011.5767867. 

    3. Faerber, Frans & Kemper, Alfons & Larson, Per-Åke & Levandoski, Justin & Neumann, Tjomas & Pavlo, Andrew. (2017). Main Memory Database Systems. Foundations and Trends in Databases. 8. 1-130. DOI: 10.1561/1900000058. 

    4. Sikka, Vishal & Färber, Franz & Lehner, Wolfgang & Cha, Sang & Peh, Thomas & Bornhövd, Christof. (2012). Efficient Transaction Processing in SAP HANA Database –The End of a Column Store Myth. DOI: 10.1145/2213836.2213946. 

    5. Diaconu, Cristian & Freedman, Craig & Ismert, Erik & Larson, Per-Åke & Mittal, Pravin & Stonecipher, Ryan & Verma, Nitin & Zwilling, Mike. (2013). Hekaton: SQL server's memory-optimized OLTP engine. 1243-1254. DOI: 10.1145/2463676.2463710. 

     

    —————————————————————————————————————————————————————————————————————————————————

     

    展开全文
  • 内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。 在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能。 作用类似于缓存,并不注重数据完整性和数据一致性。 基于...
  • 内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能,作用类似于缓存,并不注重数据完整性和数据一致性。基于键值型的...
  • 在本文中,我将讨论何时使用内存数据库(IMDB),何时更喜欢传统的数据库管理系统(RDBMS)以及为什么。 当我需要决定使用哪个数据库管理系统时?,我通常会根据存储数据的存储类型进行选择。 我个人将众多选项分为三...
  • ZKDatabase的初始化 ZKDatabase的初始化大致分为两步: 加载某个数据快照文件,恢复某个时刻T的全量内存数据; 初始化时,ZK会加载最新的100个数据快照文件,依次解析。首先,解析最新的数据快照文件,如果校验...
  • 数据库内存结构

    2014-01-09 08:57:11
    非缓存池内存(线程/DLL/连接服务器等)Note:通过服务器实例属性设置的最大/最小服务器内存是指缓存池内存Note:Express只能使用1G内存数据库内存可分为三个层级Level1:内存节点(Memory Node),提供低级的分配器的...
  • 分布式内存数据库的CAP-BASE原理

    千次阅读 2017-01-16 19:03:51
    一、传统的关系型数据库遵循ACID规则: 事务在英文中是transaction,和现实世界中的交易很类似,它有如下四个特性: 1、A (Atomicity) 原子性 原子性很容易理解,也就是说事务里的所有操作要么全部做完,要么都不...
  • 估计有很多开发,或者刚刚接触MySQL数据库的运维人员,不太清楚,如何去计算...下面就来给你一一揭晓答案MySQL数据占用内存MySQL数据库占用操作系统内存,主要分为两部分第一部分为:innodb存储引擎占用的buffer...
  • 为了保证数据的完整性,ALTIBASE内存数据库提供了约束对象,约束主要是用来限制数据的插入和更新操作,约束分为表约束和列约束。约束条件如下: 1、NOT NULL/NULL 2、UNIQUE KEY 3、PRIMARY ...
  • 数据库基础知识 数据库是 按照数据结构来 组织 存储 和 管理的 仓库。 介质一般是 磁盘 或者 ...数据库分为 关系型数据库 (SQL) 非关系型数据库 (NoSQL) 数据库产品 关系型数据库 大型数据库: O...
  • 一、 redis的单位redis的数据单位跟常用的单位有点不一样,打开redis.conf可以看到,redis的单位分为两种: 二、 配置之INCLUDE用于加载额外配置 三、 配置之GENERAL主要是redis的一些通用配置,包括daemoniz
  • MySQL数据库内存结构Mysql服务器就一个这么大的内存段,但是又得为各个客户端提供服务。内存是如何进行分配和调度呢?首先服务器会将内存分为很多类的信息,并且进行管理和运行。第一个就是Thread Handler,线程...
  • 简介估计有很多开发,或者刚刚接触MySQL数据库的运维人员,不太清楚,如何去计算...下面就来给你一一揭晓答案MySQL数据占用内存MySQL数据库占用操作系统内存,主要分为两部分第一部分为:innodb存储引擎占用的buff...
  • 数据库从操作系统申请到的内存分为两部分:1.缓存池内存(数据页和空闲页)2.非缓存池内存(线程/DLL/连接服务器等) Note:通过服务器实例属性设置的最大/最小服务器内存是指缓存池内存Note:Express只能使用1G内存 ...
  • InnoDB存储引擎有三大特性非常令人激动,它们分别是插入缓冲、两次写和自适应哈希,本篇文章先介绍第一个特性 - 插入缓冲(insert buffer)在上一篇《MySQL - 浅谈InnoDB存储引擎》中,我们可以看到在InnoDB的内存中有...
  • 主流内存数据库功能特性和性能比较2018-09-15内存数据库从范型上可以分为关系型内存数据库和键值型内存数据库。在实际应用中内存数据库主要是配合oracle或mysql等大型关系数据库使用,关注性能,作用类似于缓存,并...
  • 内存表是DolphinDB数据库的重要组成部分。内存表不仅可以直接用于存储数据,实现高速数据读写,而且可以缓存计算引擎的中间结果,加速计算过程。本教程主要介绍DolphinDB内存表的分类、使用场景以及各种内存表在数据...
  • 数据库

    2020-07-19 22:13:15
    关系数据库按照存储介质的不同可以分为关系型数据库(存储在磁盘中)和非关系型数据库(存储在内存中) 关系型数据库 基本概念: 关系模型由关系数据结构、关系操作集合、关系完整性约束三部分组成。 关系数据结构...
  • 1、数据库相关概念 (1)什么是数据库所谓的数据库其实就是数据的集合。用户可以对集合中的数据...(2)数据库类型分为关系型和非关系型关系型: Oracle 、Mysql 、PostgreSQL 、DB2 、Microsoft SQL Server 、Micr...
  • PostgreSQL中的内存管理对于提高数据库服务器的性能非常重要。PostgreSQL的配置文件(postgresql.conf)管理数据库服务器的配置。它使用参数的默认值,但是我们可以... 内存架构PostgreSQL中的内存可以分为两类:本地内...
  • 第七篇 再述oracle数据库体系结构 之三:内存结构与动态内存管理 内存是影响数据库性能的重要因素。 oracle8i使用静态内存管理... oracle数据库内存可以分为:系统全局区、程序全局区、排序区、大池、java池。一...
  • PostgreSQL中的内存管理对于提高数据库服务器的性能非常重要。PostgreSQL的配置文件(postgresql.conf)管理数据库服务器的配置。它使用参数的默认值,但是我们可以... 内存架构PostgreSQL中的内存可以分为两类:本地内...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 2,152
精华内容 860
关键字:

内存数据库分为