精华内容
下载资源
问答
  • 2021-08-19 09:32:24

    1、 数据库分为关系型数据库和非关系型数据库。

    关系型数据库(一表或多表)

    • Oracle:是一个开放式商品化关系型数据库管理系统
    • DB2:应用于大型应用系统,具有较好的可伸缩性,可支持从大型机到单用户环境,应用于所有常见的服务器操作系统平台下
    • Microsoft SQL Server:全面的数据库平台,使用集成的商业智能 (BI)工具提供了企业级的数据管理。
    • MySQL:是一种关系数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。(常用)

    非关系型数据库(key->value)

    • MongoDB:是一个面向文档的开源NoSQL数据库。(常用)
    • Redis:是最著名的键值存储。Redis是用C语言编写的。它是根据BSD授权的。(常用)
    • Memcached:是一个开源、高性能、分布式内存缓存系统,旨在通过减少数据库负载来加速动态web应用程序。(常用)
    • Cassandra:Cassandra是一个用于处理大量结构化数据的分布式数据存储系统。
    • HBase:是谷歌为BigTable数据库设计的分布式非关系数据库。
    • Neo4j:称为原生图数据库,因为它有效地实现了属性图模型,一直到存储层。
    • Oracle NoSQL:实现了从用户定义的键到不透明数据项的映射。
    • Amazon DynamoDB:使用了一个NoSQL数据库模型,它是非关系型的,允许文档、图形和列在它的数据模型之间。
    • Couchbase:是一个用于交互式web应用程序的NoSQL文档数据库。它具有灵活的数据模型,易于扩展,提供一致的高性能。
    • CouchDB:是一个开源的NoSQL数据库,使用JSON存储信息,JavaScript作为查询语言。

    2、关系型与非关系型数据库对比

    关系型数据库

    优点

    • 复杂查询:可以在一表或者多表之间做非常复杂的数据查询(join链表查询,where)
    • 一致性:事务处理数据对数据安全性能很高,冗余低,数据完整性好。
    • 容易理解:逻辑类似常见的表格的方式展现出来。

    缺点

    • 每次操作都要进行SQL语句的解析,消耗较大
    • 对于高并发项目无法满足需求,读写能力不足
    • 进行加锁操作的时候,造成数据库的负担。
    • 存储数据的不灵活。比如多表存储的时候。

    非关系型数据库

    优点

    • 高并发,读写能力强
    • 弱化数据数据结构一致性,更加灵活
    • 扩展性高

    缺点

    • 没有SQL语句通用好
    • 操作灵活,但容易出现错乱喝混乱
    • 没有外键关联等复杂的操作

    3、常用的数据库对比(MySQL,MongoDB,Redis,Memcached)

    1. mysql(关系型数据库) 存久持久化数据,将数据存放在硬盘中,读取速度慢,每次请求访问数据库是都存在I/O操作,反复频繁的访问数据库,反复链接数据库花费大量时间,导致运行效率过慢,负载过高。从而衍生了缓存的概念,当浏览器请求的时候,首先在缓存中查找,如果存在就获取,不存在就访问数据库。
    2. . mongDB(NoSQL数据库) 是介于关系型与非关系型数据库的之间的的产品,是分布式文件存储的数据库。他支持结构非常松散,可以存储比价复杂的数据类型,其查询的语法有点类似于面向对象的查询语言,还支持数据建立索引。
    3. Redis(内存数据库) 是以key-value存储方式的存储系统(分布式内缓存)。支持存储value类型更多包含string(字符串),hash(哈希),list(列表),set(集合)及zset(sorted set:有序集合)。redis为了保证效率,数据缓存在内存中。redis周期性将更新的输入写入磁盘或者把修改操作写入追加的记录文件,并在基础上实现master-slave(主从同步)
    4. Memcached(内存cache)是一个到性能的分布式对象缓存系统,动态web应用可以减轻数据库的负载。为了加速访问速度,在内存中建立内存缓存数据,减少读写磁盘的次数和保证数据的更新。

    4、MySQL,MongoDB,Redis,Memcached的特点

    • MySQL
      1、支持多线程,充分利用CPU的资源,优化SQL语句有效提成查询效率
      2、提供做种链接数据库方式,便于管理检查。
      3、大型数据库,尅处理拥有上万条的大型数据
      4、支持多中方式存储引擎
      5、事务处理数据,保证数据的一致和安全性

    • MongoDB
      1、可以把不同的结构文档存储在同一数据库里
      2、面向集合的存储,Json格式
      3.、支持索引
      4、支持主从模式,服务器之间数据复制,支持master-slave,replicaset(内部采用paxos选举算法,自动故障恢复),auto sharding机制,对客户端屏蔽了故障转移和切分机制;
      5、支持水平数据库集群
      6、不支持事务,,采用binlog方式保证数据的持久的可靠性。

    • Redis
      1、支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。进行aof及rdb数据持久化到磁盘,从而进行数据备份或数据恢复等操作,较好的防止数据丢失的手段;
      2、单线程请求,所有命令串行执行,并发情况下不需要考虑数据一致性问题;
      3、通过Replication进行数据复制,通过master-slave机制,可以实时进行数据的同步复制,支持多级复制和增量复制, master-slave机制是Redis进行HA的重要手段;
      4、Redis事务支持比较弱,只能保证事务中的每个操作连续执行。

    • Memcached
      1、可以利用多核优势,单实例吞吐量极高,可以达到几十万QPS。
      2、支持配置session
      3、只支持简单的key/value数据结构,不像Redis可以支持丰富的数据类型;
      4、无法支持数据持久化,数据不能备份,只用于缓存,服务重启,数据会全部丢失。

    5、MySQL,MongoDB,Redis,Memcached的应用场景

    MySQL:高度事务性的系统。例如银行或者会计系统。web网站系统,日志记录系统,数据仓库系统。
    MongoDB

    • 游戏场景,使用 MongoDB 存储游戏用户信息,用户的装备、积分等直接以内嵌文档的形式存储,方便查询、更新
    • 物流场景,使用 MongoDB存储订单信息,订单状态在运送过程中会不断更新,以 MongoDB内嵌数组的形式来存储,一次查询就能将订单所有的变更读取出来。
    • 社交场景,使用 MongoDB存储存储用户信息,以及用户发表的朋友圈信息,通过地理位置索引实现附近的人、地点等功能
    • 物联网场景,使用 MongoDB存储所有接入的智能设备信息,以及设备汇报的日志信息,并对这些信息进行多维度的分析
    • 视频直播,使用 MongoDB 存储用户信息、礼物信息等

    Redis

    1. 用来做缓存-redis的所有数据时放在内存中的
    2. 可以在某些特定应用场景下替代传统数据库–比如社交类的应用
    3. 在一些大型系统中,巧妙的实现一些特定的功能:session共享、购物车
    4. .适用于对读写效率要求都很高,数据处理业务复杂和对安全性要求较高的系统(如新浪微博的计数和微博发布部分系统,对数据安全性、读写要求都很高)。

    Memcached

    1. 动态系统中减轻数据库负载,提升性能;做缓存,适合多读少写,大数据量的情况(如人人网大量查询用户信息、好友信息、文章信息等);
    2. 用于在动态系统中减少数据库负载,提升性能;做缓存,提高性能(适合读多写少,对于数据量比较大,可以采用sharding)。

    5、MySQL,MongoDB,Redis,Memcached实战案例

    Mysql网上百度一下一下就有很多。

    MongoDB

    //记得先配置链接数据库
      Db::connect('mongodb')
                ->table('user_info')
                ->where(['uid'=>['=',1]])
                ->update();
           //参考:https://www.cnblogs.com/codeninja/p/14817064.html
    

    Redis

    //记得先配置链接数据库
    $redis = new Redis();
     $redis->handler()->append('demo','    bbbj47848487bbbb');
     //参考:https://blog.csdn.net/qq_27517377/article/details/85693281
    

    Memcached

    $memcache = new Memcache;             //创建一个memcache对象
    $memcache->connect('localhost', 11211) or die ("Could not connect"); //连接Memcached服务器
    $memcache->set('key', 'test');        //设置一个变量到内存中,名称是key 值是test
    $get_value = $memcache->get('key');   //从内存中取出key的值
    echo $get_value;
    
    更多相关内容
  • 关系型数据库

    2020-12-14 15:39:23
    关系型数据库概述 数据持久化:将数据保存到能够长久保存数据的存储介质中,在掉电的情况下数据也不会丢失。 发展史:网状数据库、层次数据库、关系数据库、NoSQL数据库。 关系型数据库的特点: 理论基础:集合论和...
  • 常见的非关系型数据库有哪些

    千次阅读 2020-06-02 16:04:57
    它是一种 NoSQL(not-only sql,泛指非关系型数据库)的数据库。 Redis作为一个内存数据库,具有如下有特点: 性能优秀, 数据在内存中, 读写速度非常快, 并支持10W QPS(每秒查询效率). 单进程单线程, 是线程安全的. ...

    1. 什么是非关系型数据库

    • 什么是关系型数据库
      关系型数据库就是需要依赖现实生活的具体模型来创建的数据库, 比如具体的人, 事物, 能表示多个表之间一对一, 一对多, 多对多的关系. 而且支持事务.
      常见的Mysql, Oracle都是关心型数据库.
    • 什么是非关系型数据库
      非关系型数据库就是不需要依赖现实生活中的具体模型就可以出数据库及表. 比较灵活便利.

    2. 为什么要用非关系型数据库

    • 关系型数据库具有数据安全且容易理解的优点, 但是随着互联网的发展,数据存储越来越多, 对于并发的要求也越来越高,项目中单纯使用关系型数据库已经无法满足这些要求, 于是应运而生了非关系型数据库.
    • 非关系型数据库具有格式灵活, 成本低, 查询快, 高性能, 高扩展的优点.
    • 实际开发中通常将关系型数据库和非关系型数据库结合使用, 不同非关系型数据库具体应用场景不同.

    3. 常用的非关系型数据库有哪些

    3.1 键值对key-value型

    • key-value数据库的主要特点是具有极高的并发读写性能
    • Key-value数据库是一种以键值对存储数据的一种数据库, 类似Java中的map. 可以将整个数据库理解为一个大的map, 每个键都会对应一个唯一的值.
    • 主流最常用的代表就是Redis等
      在这里插入图片描述

    3.2 文档型

    文档型按照功能划分又分为基于海量数据存储的和基于搜索内容存储的搜索引擎,数据结构可以理解为Json格式的文档类型.

    3.2.1 基于海量数据存储

    • 这类数据库的主要特点是在海量的数据中可以快速的查询数据
    • 文档存储通常使用内部表示法, 可以直接在应用程序中处理, 主要是JSON. JSON文档也可以作为纯文本存储在键值存储或关系数据库系统中.
      主流代表为MongoDB等
      在这里插入图片描述

    3.2.2 搜索引擎

    • 搜索引擎是专门用于搜索数据内容的NoSQL数据库管理系统。
    • 主要是用于对海量数据进行近实时的分析处理,可用于机器学习和数据挖掘
    • 主流代表为Elasticsearch, Solr等.

    3.3 列式数据库

    • 这类数据库的主要特点是具有很强的可拓展性
    • 关系型数据库都是以行为单位来存储数据的, 擅长以行为单位的读入处理, 比如特定条件数据的获取. 因此, 关系型数据库也被成为面向行的数据库。相反,面向列的数据库是以列为单位来存储数据的,擅长以列为单位读入数据。
    • 这类数据库想解决的问题就是传统数据库存在可扩展性上的缺陷,这类数据库可以适应数据量的增加以及数据结构的变化,将数据存储在记录中,能够容纳大量动态列。由于列名和记录键不是固定的,并且由于记录可能有数十亿列,因此可扩展性存储可以看作是二维键值存储。
    • 主流代表为HBase等.
      在这里插入图片描述

    3.4 图数据库

    • 将数据库图形化,数据结构是图结构,
      在这里插入图片描述

    4. 几种非关系型数据库对比

    RedisMongoDBElasticSearchHbaseNeo4J
    数据结构键值对的key-value形式Json文档格式Json文档格式列簇式存储,将同一列数据存到一起图结构
    典型应用场景缓存和并发数据库1. 做缓存数据库 2. 海量数据且对允许少许数据丢失, 例如用户评论数据, 点赞数据等海量数据进行搜索应用, 例如网站搜索页面的数据大数据分布式系统,海量数据且数据比较分散社交网络,推荐系统等
    优点1. 数据存在内存中 2. 线程安全 3. 读写效率高1. 存储海量数据 2. 表结构可变数据量大,基于Lunence倒排索引原理,能实现海量数据分词搜索1.高扩展性 2. 海量数据利用图结构相关算法,符合人的思维
    缺点1.数据无结构化 2. 存储少量数据读写效率不如Reids读写效率不如Redis优点也是缺点, 没有太多花哨的功能不好做分布式系统

    真实开发也是多种数据库结合使用, 如图下图所示:
    在这里插入图片描述

    展开全文
  • 关系数据库与非关系型数据库一、数据库概述1、关系型数据库2、非关系型数据库二、数据库区别1、数据存储方式不同2、扩展方式不同3、对事务性的支持不同三、非关系型数据库产生背景四、Redis简介1、Redis 优点五、...

    一、数据库概述

    1、关系型数据库

    关系型数据库是一个结构化的数据库,创建在关系模型(二维表格模型)基础上,一般面向于记录。

    SQL 语句(标准数据查询语言)就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。

    主流的关系型数据库包括 Oracle、MySQL、SQL Server、Microsoft Access、DB2 等。

    2、非关系型数据库

    NoSQL(NoSQL = Not Only SQL ),意思是“不仅仅是 SQL”,是非关系型数据库的总称。

    除了主流的关系型数据库外的数据库,都认为是非关系型。

    主流的 NoSQL 数据库有 Redis、MongBD、Hbase、CouhDB 等。

    二、数据库区别

    1、数据存储方式不同

    关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。

    与其相反,非关系型数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。

    2、扩展方式不同

    SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。

    为了支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来客服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。
    而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。

    3、对事务性的支持不同

    如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。

    虽然NoSQL数据库也可以使用事务操作,但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。

    三、非关系型数据库产生背景

    可用于应对 Web2.0 纯动态网站类型的三高问题。

    • (1)High performance——对数据库高并发读写需求
    • (2)Huge Storage——对海量数据高效存储与访问需求
    • (3)High Scalability && High Availability——对数据库高可扩展性与高可用性需求

    关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系数据库关注在关系上,非关系型数据库关注在存储上。例如,在读写分离的MySQL数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度。

    总结:
    关系型数据库:

    • 实例–>数据库–>表(table)–>记录行(row)、数据字段(column)

    非关系型数据库:

    • 实例–>数据库–>集合(collection)–>键值对(key-value)
    • 非关系型数据库不需要手动建数据库和集合(表)。

    四、Redis简介

    Redis 是一个开源的、使用 C 语言编写的 NoSQL 数据库。 Redis
    基于内存运行并支持持久化,采用key-value(键值对)的存储形式,是目前分布式架构中不可或缺的一环。

    Redis服务器程序是单进程模型,也就是在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。若在服务器上只运行一个Redis进程,当多个客户端同时访问时,服务器的处理能力是会有一定程度的下降;若在同一台服务器上开启多个Redis进程,Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。即:在实际生产环境中,需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些,可能会考虑在同一台服务器上开启多个进程。若 CPU 资源比较紧张,采用单进程即可。

    1、Redis 优点

    • (1)具有极高的数据读写速度:数据读取的速度最高可达到 110000 次/s,数据写入速度最高可达到 81000 次/s。
    • (2)支持丰富的数据类型:支持 key-value、Strings、Lists、Hashes、Sets 及 Ordered Sets
      等数据类型操作。
    • (3)支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
    • (4)原子性:Redis 所有操作都是原子性的。
    • (5)支持数据备份:即 master-salve 模式的数据备份。

    Redis作为基于内存运行的数据库,缓存是其最常应用的场景之一。除此之外,Redis常见应用场景还包括获取最新N个数据的操作、排行榜类应用、计数器应用、存储关系、实时分析系统、日志记录。

    五、Redis 安装部署

    systemctl stop firewalld
    setenforce 0
    
    yum install -y gcc gcc-c++ make
    
    tar zxvf redis-5.0.7.tar.gz -C /opt/
    
    cd /opt/redis-5.0.7/
    make PREFIX=/usr/local/redis install
    

    在这里插入图片描述

    cd /opt/redis-5.0.7/utils
    ./install_server.sh
    
    慢慢回车
    Please select the redis executable path []
    手动输入
    /usr/local/redis/bin/redis-server
    

    在这里插入图片描述

    Selected config:
    Port           : 6379								#默认侦听端口为6379
    Config file    : /etc/redis/6379.conf				#配置文件路径
    Log file       : /var/log/redis_6379.log			#日志文件路径
    Data dir       : /var/lib/redis/6379				#数据文件路径
    Executable     : /usr/local/redis/bin/redis-server	#可执行文件路径
    Cli Executable : /usr/local/bin/redis-cli			#客户端命令工具
    
    ln -s /usr/local/redis/bin/* /usr/local/bin/
    
    /etc/init.d/redis_6379 stop				#停止
    /etc/init.d/redis_6379 start			#启动
    /etc/init.d/redis_6379 restart			#重启
    /etc/init.d/redis_6379 status			#状态
    

    在这里插入图片描述
    修改配置 /etc/redis/6379.conf 参数

    vim /etc/redis/6379.conf
    
    70行,添加 监听的主机地址
    bind 127.0.0.1 192.168.90.10				
    
    93行,Redis默认的监听端口
    port 6379									
    
    137行,启用守护进程
    daemonize yes							
    
    159行,指定 PID 文件
    pidfile /var/run/redis_6379.pid				
    
    167行,日志级别
    loglevel notice								
    
    172行,指定日志文件
    logfile /var/log/redis_6379.log				
    
    /etc/init.d/redis_6379 restart
    

    在这里插入图片描述

    六、Redis 命令工具

    redis-server		用于启动 Redis 的工具
    redis-benchmark		用于检测 Redis 在本机的运行效率
    redis-check-aof		修复 AOF 持久化文件
    redis-check-rdb		修复 RDB 持久化文件
    redis-cli	 		Redis命令行工具
    

    (1)redis-cli 命令行工具

    语法:redis-cli -h host -p port -a password
    
    -h	指定远程主机
    -p	指定 Redis 服务的端口号
    -a	指定密码,未设置数据库密码可以省略-a 选项
    

    若不添加任何选项表示,则使用 127.0.0.1:6379 连接本机上的 Redis 数据库

    redis-cli -h 192.168.90.10 -p 6379
    此时无密码,不需要-a 直接登陆
    

    在这里插入图片描述

    (2)redis-benchmark 测试工具

    redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。

    基本的测试语法:redis-benchmark [选项] [选项值]
    -h	指定服务器主机名。
    -p	指定服务器端口。
    -s	指定服务器 socket
    -c	指定并发连接数。
    -n	指定请求数。
    -d	以字节的形式指定 SET/GET 值的数据大小。
    -k	1=keep alive 0=reconnect 。
    -r	SET/GET/INCR 使用随机 key, SADD 使用随机值。
    -P	通过管道传输请求。
    -q	强制退出 redis。仅显示 query/sec 值。
    –csv	以 CSV 格式输出。
    -l	生成循环,永久执行测试。
    -t	仅运行以逗号分隔的测试命令列表。
    -I	Idle 模式。仅打开 N 个 idle 连接并等待。
    

    向 IP 地址为 192.168.90.10、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能

    redis-benchmark -h 192.168.90.10 -p 6379 -c 100 -n 100000
    

    在这里插入图片描述
    测试存取大小为 100 字节的数据包的性能

    redis-benchmark -h 192.168.90.10 -p 6379 -q -d 100
    

    在这里插入图片描述
    测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能

    redis-benchmark -t set,lpush -n 100000 -q
    

    在这里插入图片描述

    (3)Redis 数据库常用命令

    set		存放数据,命令格式为 set key value
    get		获取数据,命令格式为 get key
    keys 	命令可以取符合规则的键值列表,通常情况可以结合*、?等选项来使用。
    exists 	命令可以判断键值是否存在。
    del 	命令可以删除当前数据库的指定 key。
    type 	命令可以获取 key 对应的 value 值类型。
    
    例:
    keys * 查询所有建和键值
    keys a* 查询a开头的所有键和键值
    keys a?? 查询a开头后面跟两位数的键和键值
    

    在这里插入图片描述

    例:
    exists teacher
    exists qqqqqqq
    

    在这里插入图片描述

    rename 命令是对已有 key 进行重命名。(覆盖)
    命令格式:rename 源key 目标key
    
    renamenx 命令的作用是对已有 key 进行重命名,并检测新名是否存在,如果目标 key 存在则不进行重命名。(不覆盖)
    命令格式:renamenx 源key 目标key
    
    dbsize 命令的作用是查看当前数据库中 key 的数目。
    
    使用config set requirepass password命令设置密码
    使用config get requirepass命令查看密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用)
    

    使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用
    exists 命令查看目标 key 是否存在,然后再决定是否执行 rename 命令,以避免覆盖重要数据。

    (4)Redis 多数据库常用命令

    Redis 支持多数据库,Redis 默认情况下包含 16 个数据库,数据库名称是用数字 0-15 来依次命名的。

    多数据库相互独立,互不干扰。

    多数据库间切换

    命令格式:select 序号
    使用 redis-cli 连接 Redis 数据库后,默认使用的是序号为 0 的数据库。
    

    在这里插入图片描述
    多数据库间移动数据

    格式:move 键值 序号
    
    例:
    keys *
    move a1 5
    select
    keys *
    

    在这里插入图片描述

    清除数据库内数据
    FLUSHDB :清空当前数据库数据
    FLUSHALL :清空所有数据库的数据,慎用!
    

    七、Redis 高可用

    在web服务器中,高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%、99.99%、99.999%等等)。

    但是在Redis语境中,高可用的含义似乎要宽泛一些,除了保证提供正常服务(如主从分离、快速容灾技术),还需要考虑数据容量的扩展、数据安全不会丢失等。

    在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和集群,下面分别说明它们的作用,以及解决了什么样的问题。

    • 持久化:持久化是最简单的高可用方法(有时甚至不被归为高可用的手段),主要作用是数据备份,即将数据存储在硬盘,保证数据不会因进程退出而丢失。
    • 主从复制:主从复制是高可用Redis的基础,哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。
    • 哨兵:在主从复制的基础上,哨兵实现了自动化的故障恢复。缺陷:写操作无法负载均衡;存储能力受到单机的限制。
    • 集群:通过集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案。

    八、Redis 持久化

    持久化的功能:Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置。

    九、Redis 提供两种方式进行持久化

    由于AOF持久化的实时性更好,即当进程意外退出时丢失的数据更少,因此AOF是目前主流的持久化方式,不过RDB持久化仍然有其用武之地。

    RDB 持久化:
    原理是将 Reids在内存中的数据库记录定时保存到磁盘上。
    AOF 持久化(append only file):
    原理是将 Reids 的操作日志以追加的方式写入文件,类似于MySQL的binlog。

    RDB持久化

    是指在指定的时间间隔内将内存中当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化),用二进制压缩存储,保存的文件后缀是rdb;当Redis重新启动时,可以读取快照文件恢复数据。

    触发条件
    RDB持久化的触发分为手动触发和自动触发两种。

    (1)手动触发

    save命令和bgsave命令都可以生成RDB文件。
    save命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在Redis服务器阻塞期间,服务器不能处理任何命令请求。
    而bgsave命令会创建一个子进程,由子进程来负责创建RDB文件,父进程(即Redis主进程)则继续处理请求。

    bgsave命令执行过程中,只有fork子进程时会阻塞服务器,而对于save命令,整个过程都会阻塞服务器,因此save已基本被废弃,线上环境要杜绝save的使用。

    (2)自动触发

    在自动触发RDB持久化时,Redis也会选择bgsave而不是save来进行持久化。

    save m n
    

    自动触发最常见的情况是在配置文件中通过save m n,指定当m秒内发生n次变化时,会触发bgsave。

    vim /etc/redis/6379.conf
    
    ==219行==以下三个save条件满足任意一个时,都会引起bgsave的调用
    
    save 900 1 :当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsave
    save 300 10 :当时间到300秒时,如果redis数据发生了至少10次变化,则执行bgsave
    save 60 10000 :当时间到60秒时,如果redis数据发生了至少10000次变化,则执行bgsave
    
    ==254行==指定RDB文件名
    
    dbfilename dump.rdb
    
    ==264行==指定RDB文件和AOF文件所在目录
    
    dir /var/lib/redis/6379
    
    ==242行==是否开启RDB文件压缩
    
    rdbcompression yes
    

    其他自动触发机制

    除了save m n 以外,还有一些其他情况会触发bgsave:

    • 在主从复制场景下,如果从节点执行全量复制操作,则主节点会执行bgsave命令,并将rdb文件发送给从节点。
    • 执行shutdown命令时,自动执行rdb持久化。

    (3)执行流程

    • Redis父进程首先判断:当前是否在执行save,或bgsave/bgrewriteaof的子进程,如果在执行则bgsave命令直接返回。
      bgsave/bgrewriteaof的子进程不能同时执行,主要是基于性能方面的考虑:两个并发的子进程同时执行大量的磁盘写操作,可能引起严重的性能问题。
    • 父进程执行fork操作创建子进程,这个过程中父进程是阻塞的,Redis不能执行来自客户端的任何命令
    • 父进程fork后,bgsave命令返回”Background saving started”信息并不再阻塞父进程,并可以响应其他命令
    • 子进程创建RDB文件,根据父进程内存快照生成临时快照文件,完成后对原有文件进行原子替换
    • 子进程发送信号给父进程表示完成,父进程更新统计信息

    (4)启动时加载

    RDB文件的载入工作是在服务器启动时自动执行的,并没有专门的命令。但是由于AOF的优先级更高,因此当AOF开启时,Redis会优先载入 AOF文件来恢复数据;只有当AOF关闭时,才会在Redis服务器启动时检测RDB文件,并自动载入。服务器载入RDB文件期间处于阻塞状态,直到载入完成为止。
    Redis载入RDB文件时,会对RDB文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败。

    AOF 持久化

    RDB持久化是将进程数据写入文件,而AOF持久化,则是将Redis执行的每次写、删除命令记录到单独的日志文件中,查询操作不会记录; 当Redis重启时再次执行AOF文件中的命令来恢复数据。
    与RDB相比,AOF的实时性更好,因此已成为主流的持久化方案。

    (1)开启AOF

    Redis服务器默认开启RDB,关闭AOF;要开启AOF,需要在配置文件中配置:

    vim /etc/redis/6379.conf
    
    700行修改,开启AOF
    
    appendonly yes
    
    704行指定AOF文件名称
    
    appendfilename "appendonly.aof"
    
    796行是否忽略最后一条可能存在问题的指令
    
    aof-load-truncated yes
    
    /etc/init.d/redis_6379 restart
    

    (2)执行流程

    由于需要记录Redis的每条写命令,因此AOF不需要触发,下面介绍AOF的执行流程。

    AOF的执行流程包括:

    • 命令追加(append):将Redis的写命令追加到缓冲区aof_buf;
    • 文件写入(write)和文件同步(sync):根据不同的同步策略将aof_buf中的内容同步到硬盘;
    • 文件重写(rewrite):定期重写AOF文件,达到压缩的目的。

    (3)命令追加(append)

    Redis先将写命令追加到缓冲区,而不是直接写入文件,主要是为了避免每次有写命令都直接写入硬盘,导致硬盘IO成为Redis负载的瓶颈。
    命令追加的格式是Redis命令请求的协议格式,它是一种纯文本格式,具有兼容性好、可读性强、容易处理、操作简单避免二次开销等优点。在AOF文件中,除了用于指定数据库的select命令(如select 0为选中0号数据库)是由Redis添加的,其他都是客户端发送来的写命令。

    (4)文件写入(write)和文件同步(sync)

    Redis提供了多种AOF缓存区的同步文件策略,策略涉及到操作系统的write函数和fsync函数

    说明如下:

    为了提高文件写入效率,在现代操作系统中,当用户调用write函数将数据写入文件时,操作系统通常会将数据暂存到一个内存缓冲区里,当缓冲区被填满或超过了指定时限后,才真正将缓冲区的数据写入到硬盘里。这样的操作虽然提高了效率,但也带来了安全问题:如果计算机停机,内存缓冲区中的数据会丢失;因此系统同时提供了fsync、fdatasync等同步函数,可以强制操作系统立刻将缓冲区中的数据写入到硬盘里,从而确保数据的安全性。

    AOF缓存区的同步文件策略存在三种同步方式,它们分别是:

    vim /etc/redis/6379.conf
    

    ● appendfsync always: 命令写入aof_buf后立即调用系统fsync操作同步到AOF文件,fsync完成后线程返回。这种情况下,每次有写命令都要同步到AOF文件,硬盘IO成为性能瓶颈,Redis只能支持大约几百TPS写入,严重降低了Redis的性能;即便是使用固态硬盘(SSD),每秒大约也只能处理几万个命令,而且会大大降低SSD的寿命。

    ● appendfsync no: 命令写入aof_buf后调用系统write操作,不对AOF文件做fsync同步;同步由操作系统负责,通常同步周期为30秒。这种情况下,文件同步的时间不可控,且缓冲区中堆积的数据会很多,数据安全性无法保证。

    ● appendfsync everysec: 命令写入aof_buf后调用系统write操作,write完成后线程返回;fsync同步文件操作由专门的线程每秒调用一次。everysec是前述两种策略的折中,是性能和数据安全性的平衡,因此是Redis的默认配置,也是我们推荐的配置。

    (5)文件重写(rewrite)

    随着时间流逝,Redis服务器执行的写命令越来越多,AOF文件也会越来越大;过大的AOF文件不仅会影响服务器的正常运行,也会导致数据恢复需要的时间过长。

    文件重写是指定期重写AOF文件,减小AOF文件的体积。需要注意的是,AOF重写是把Redis进程内的数据转化为写命令,同步到新的AOF文件;不会对旧的AOF文件进行任何读取、写入操作!

    关于文件重写需要注意的另一点是:对于AOF持久化来说,文件重写虽然是强烈推荐的,但并不是必须的;即使没有文件重写,数据也可以被持久化并在Redis启动的时候导入;因此在一些实现中,会关闭自动的文件重写,然后通过定时任务在每天的某一时刻定时执行。

    文件重写之所以能够压缩AOF文件,原因在于:

    • 过期的数据不再写入文件
    • 无效的命令不再写入文件:如有些数据被重复设值(set mykey v1, set mykey v2)、有些数据被删除了(sadd
      myset v1, del myset)等。
    • 多条命令可以合并为一个:如sadd myset v1, sadd myset v2, sadd myset v3可以合并为sadd
      myset v1 v2 v3。

    通过上述内容可以看出,由于重写后AOF执行的命令减少了,文件重写既可以减少文件占用的空间,也可以加快恢复速度。

    文件重写的触发,分为手动触发和自动触发:

    • 手动触发:直接调用bgrewriteaof命令,该命令的执行与bgsave有些类似:都是fork子进程进行具体的工作,且都只有在fork时阻塞。
    • 自动触发:通过设置auto-aof-rewrite-min-size选项和auto-aof-rewrite-percentage选项来自动执行BGREWRITEAOF。
      只有当auto-aof-rewrite-min-size和auto-aof-rewrite-percentage两个选项同时满足时,才会自动触发AOF重写,即bgrewriteaof操作。
    vim /etc/redis/6379.conf
    

    ● auto-aof-rewrite-percentage 100 :当前AOF文件大小(即aof_current_size)是上次日志重写时AOF文件大小(aof_base_size)两倍时,发生BGREWRITEAOF操作
    ● auto-aof-rewrite-min-size 64mb :当前AOF文件执行BGREWRITEAOF命令的最小值,避免刚开始启动Reids时由于文件尺寸较小导致频繁的BGREWRITEAOF

    关于文件重写的流程,有两点需要特别注意:(1)重写由父进程fork子进程进行;(2)重写期间Redis执行的写命令,需要追加到新的AOF文件中,为此Redis引入了aof_rewrite_buf缓存。

    文件重写的流程如下

    (1)Redis父进程首先判断当前是否存在正在执行bgsave/bgrewriteaof的子进程,如果存在则bgrewriteaof命令直接返回,如果存在 bgsave命令则等bgsave执行完成后再执行。
    (2)父进程执行fork操作创建子进程,这个过程中父进程是阻塞的。
    (3.1)父进程fork后,bgrewriteaof命令返回”Background append only file rewrite started”信息并不再阻塞父进程, 并可以响应其他命令。Redis的所有写命令依然写入AOF缓冲区,并根据appendfsync策略同步到硬盘,保证原有AOF机制的正确。
    (3.2)由于fork操作使用写时复制技术,子进程只能共享fork操作时的内存数据。由于父进程依然在响应命令,因此Redis使用AOF重写缓冲区(aof_rewrite_buf)保存这部分数据,防止新AOF文件生成期间丢失这部分数据。也就是说,bgrewriteaof执行期间,Redis的写命令同时追加到aof_buf和aof_rewirte_buf两个缓冲区。
    (4)子进程根据内存快照,按照命令合并规则写入到新的AOF文件。
    (5.1)子进程写完新的AOF文件后,向父进程发信号,父进程更新统计信息,具体可以通过info persistence查看。
    (5.2)父进程把AOF重写缓冲区的数据写入到新的AOF文件,这样就保证了新AOF文件所保存的数据库状态和服务器当前状态一致。
    (5.3)使用新的AOF文件替换老文件,完成AOF重写。
    

    (6)启动时加载

    当AOF开启时,Redis启动时会优先载入AOF文件来恢复数据;只有当AOF关闭时,才会载入RDB文件恢复数据。
    当AOF开启,但AOF文件不存在时,即使RDB文件存在也不会加载。
    Redis载入AOF文件时,会对AOF文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败。但如果是AOF文件结尾不完整(机器突然宕机等容易导致文件尾部不完整),且aof-load-truncated参数开启,则日志中会输出警告,Redis忽略掉AOF文件的尾部,启动成功。aof-load-truncated参数默认是开启的。

    RDB和AOF的优缺点

    ●RDB持久化

    优点:RDB文件紧凑,体积小,网络传输快,适合全量复制;恢复速度比AOF快很多。当然,与AOF相比,RDB最重要的优点之一是对性能的影响相对较小。

    缺点:RDB文件的致命缺点在于其数据快照的持久化方式决定了必然做不到实时持久化,而在数据越来越重要的今天,数据的大量丢失很多时候是无法接受的,因此AOF持久化成为主流。此外,RDB文件需要满足特定格式,兼容性差(如老版本的Redis不兼容新版本的RDB文件)。
    对于RDB持久化,一方面是bgsave在进行fork操作时Redis主进程会阻塞,另一方面,子进程向硬盘写数据也会带来IO压力。

    ●AOF持久化

    与RDB持久化相对应,AOF的优点在于支持秒级持久化、兼容性好,缺点是文件大、恢复速度慢、对性能影响大。
    对于AOF持久化,向硬盘写数据的频率大大提高(everysec策略下为秒级),IO压力更大,甚至可能造成AOF追加阻塞问题。
    AOF文件的重写与RDB的bgsave类似,会有fork时的阻塞和子进程的IO压力问题。相对来说,由于AOF向硬盘中写数据的频率更高,因此对 Redis主进程性能的影响会更大。

    十、Redis 性能管理

    ----- 查看Redis内存使用 -----

    redis-cli -h 192.168.90.10 -p 6379
    192.168.90.10:6379> info memory
    

    ----- 内存碎片率 -----
    操系统分配的内存值used_memory_rss除以Redis使用的内存值used_memory计算得出

    内存碎片是由操作系统低效的分配/回收物理内存导致的(不连续的物理内存分配)

    跟踪内存碎片率对理解Redis实例的资源性能是非常重要的:
    
    ●内存碎片率稍大于1是合理的,这个值表示内存碎片率比较低
    ●内存碎片率超过1.5,说明Redis消耗了实际需要物理内存的150%,其中50%是内存碎片率。需要在redis-cli工具上输入shutdown save 命令,并重启 Redis 服务器。
    ●内存碎片率低于1的,说明Redis内存分配超出了物理内存,操作系统正在进行内存交换。需要增加可用物理内存或减少 Redis 内存占用。
    

    ----- 内存使用率 -----
    redis实例的内存使用率超过可用最大内存,操作系统将开始进行内存与swap空间交换。

    避免内存交换发生的方法:
    
    ●针对缓存数据大小选择安装 Redis 实例
    ●尽可能的使用Hash数据结构存储
    ●设置key的过期时间
    

    ----- 内回收key -----
    保证合理分配redis有限的内存资源。
    当达到设置的最大阀值时,需选择一种key的回收策略,默认情况下回收策略是禁止删除。
    配置文件中修改 maxmemory-policy 属性值:

    vim /etc/redis/6379.conf
    
    598取消注释
    
    maxmemory-policy noenviction
    
    ●volatile-lru	使用LRU算法从已设置过期时间的数据集合中淘汰数据
    ●volatile-ttl	从已设置过期时间的数据集合中挑选即将过期的数据淘汰
    ●volatile-random	从已设置过期时间的数据集合中随机挑选数据淘汰
    ●allkeys-lru	使用LRU算法从所有数据集合中淘汰数据
    ●allkeys-random	从数据集合中任意选择数据淘汰
    ●noenviction	禁止淘汰数据
    
    展开全文
  • 作为互联网从业人员,我们要知道关系型数据库(MySql、Oracle)无法满足我们对存储的所有要求,因此对底层存储的选型,对每种存储引擎的理解非常重要。同时也由于过去一段时间的工作经历,对这块有了一些更多的思考...

    前言

    你是否在为系统的数据库来一波大流量就几乎打满CPU,日常CPU居高不下烦恼?你是否在各种NoSql间纠结不定,到底该选用那种最好?今天的你就是昨天的我,这也是写这篇文章的初衷。
    作为互联网从业人员,我们要知道关系型数据库(MySql、Oracle)无法满足我们对存储的所有要求,因此对底层存储的选型,对每种存储引擎的理解非常重要。同时也由于过去一段时间的工作经历,对这块有了一些更多的思考,想通过自己的总结把这块写出来分享给大家。

    结构化数据、非结构化数据与半结构化数据

    文章的开始,聊一下结构化数据、非结构化数据与半结构化数据,因为数据特点的不同,将在技术上直接影响存储引擎的选型。

    首先是结构化数据,根据定义结构化数据指的是由二维表结构来逻辑表达和实现的数据,严格遵循数据格式与长度规范,也称作为行数据,特点为:数据以行为单位,一行数据表示一个实体的信息,每一行数据的属性是相同的。例如:
    在这里插入图片描述
    因此关系型数据库完美契合结构化数据的特点,关系型数据库也是关系型数据最主要的存储与管理引擎。

    非结构化数据,指的是数据结构不规则或不完整,没有任何预定义的数据模型,不方便用二维逻辑表来表现的数据,例如办公文档(Word)、文本、图片、HTML、各类报表、视频音频等。

    介于结构化与非结构化数据之间的数据就是半结构化数据了,它是结构化数据的一种形式,虽然不符合二维逻辑这种数据模型结构,但是包含相关标记,用来分割语义元素以及对记录和字段进行分层。常见的半结构化数据有XML和JSON,例如:

    <person>
        <name>张三</name>
        <age>18</age>
        <phone>12345</phone>
    </person>
    

    这种结构也被成为自描述的结构。

    以关系型数据库的方式做存储的架构演进

    首先,我们看一下使用关系型数据库的方式,企业一个系统发展的几个阶段的架构演进(由于本文写的是Sql与NoSql,因此只以存储方式作为切入点,不会涉及类似MQ、ZK这些中间件内容):
    在这里插入图片描述

    阶段一:企业刚发展的阶段,最简单,一个应用服务器配一个关系型数据库,每次读写数据库。

    阶段二:无论是使用MySQL还是Oracle还是别的关系型数据库,数据库通常不会先成为性能瓶颈,通常随着企业规模的扩大,一台应用服务器扛不住上游过来的流量且一台应用服务器会产生单点故障的问题,因此加应用服务器并且在流量入口使用Nginx做一层负载均衡,保证把流量均匀打到应用服务器上。

    阶段三:随着企业规模的继续扩大,此时由于读写都在同一个数据库上,数据库性能出现一定的瓶颈,此时简单地做一层读写分离,每次写主库,读备库,主备库之间通过binlog同步数据,就能很大程度上解决这个阶段的数据库性能问题

    阶段四:企业发展越来越好了,业务越来越大了,做了读写分离数据库压力还是越来越大,这时候怎么办呢,一台数据库扛不住,那我们就分几台吧,做分库分表,对表做垂直拆分,对库做水平拆分。以扩数据库为例,扩出两台数据库,以一定的单号(例如交易单号),以一定的规则(例如取模),交易单号对2取模为0的丢到数据库1去,交易单号对2取模为1的丢到数据库2去,通过这样的方式将写数据库的流量均分到两台数据库上。一般分库分表会使用Shard的方式,通过一个中间件,便于连接管理、数据监控且客户端无需感知数据库ip

    关系型数据库的优点

    上面的方式,看似可以解决问题(实际上确实也能解决很多问题),正常对关系型数据库做一下读写分离 + 分库分表,支撑个1W+的读写QPS还是问题不大的。但是受限于关系型数据库本身,这套架构方案依然有着明显的不足,下面对利用关系型数据库方式做存储的方案的优点先进行一下分析,后一部分再分析一下缺点,对某个技术的优缺点的充分理解是技术选型的前提。

    1. 易理解
        因为行 + 列的二维表逻辑是非常贴近逻辑世界的一个概念,关系模型相对网状、层次等其他模型更加容易被理解

    2. 操作方便
        通用的SQL语言使得操作关系型数据库非常方便,支持join等复杂查询,Sql + 二维关系是关系型数据库最无可比拟的优点,这种易用性非常贴近开发者

    3. 数据一致性
        支持ACID特性,可以维护数据之间的一致性,这是使用数据库非常重要的一个理由之一,例如同银行转账,张三转给李四100元钱,张三扣100元,李四加100元,而且必须同时成功或者同时失败,否则就会造成用户的资损

    4. 数据稳定
        数据持久化到磁盘,没有丢失数据风险,支持海量数据存储

    5. 服务稳定
        最常用的关系型数据库产品MySql、Oracle服务器性能卓越,服务稳定,通常很少出现宕机异常

    关系型数据库的缺点

    紧接着的,我们看一下关系型数据库的缺点,也是比较明显的。

    1. 高并发下IO压力大
        数据按行存储,即使只针对其中某一列进行运算,也会将整行数据从存储设备中读入内存,导致IO较高

    2. 为维护索引付出的代价大
        为了提供丰富的查询能力,通常热点表都会有多个二级索引,一旦有了二级索引,数据的新增必然伴随着所有二级索引的新增,数据的更新也必然伴随着所有二级索引的更新,这不可避免地降低了关系型数据库的读写能力,且索引越多读写能力越差。有机会的话可以看一下自己公司的数据库,除了数据文件不可避免地占空间外,索引占的空间其实也并不少

    3. 为维护数据一致性付出的代价大
        数据一致性是关系型数据库的核心,但是同样为了维护数据一致性的代价也是非常大的。我们都知道SQL标准为事务定义了不同的隔离级别,从低到高依次是读未提交、读已提交、可重复度、串行化,事务隔离级别越低,可能出现的并发异常越多,但是通常而言能提供的并发能力越强。那么为了保证事务一致性,数据库就需要提供并发控制与故障恢复两种技术,前者用于减少并发异常,后者可以在系统异常的时候保证事务与数据库状态不会被破坏。对于并发控制,其核心思想就是加锁,无论是乐观锁还是悲观锁,只要提供的隔离级别越高,那么读写性能必然越差

    4. 水平扩展后带来的种种问题难处理
        前文提过,随着企业规模扩大,一种方式是对数据库做分库,做了分库之后,数据迁移(1个库的数据按照一定规则打到2个库中)、跨库join(订单数据里有用户数据,两条数据不在同一个库中)、分布式事务处理都是需要考虑的问题,尤其是分布式事务处理,业界当前都没有特别好的解决方案

    5. 表结构扩展不方便
        由于数据库存储的是结构化数据,因此表结构schema是固定的,扩展不方便,如果需要修改表结构,需要执行DDL(data definition language)语句修改,修改期间会导致锁表,部分服务不可用

    6. 全文搜索功能弱
        例如like “%中国真伟大%”,只能搜索到"2019年中国真伟大,爱祖国",无法搜索到"中国真是太伟大了"这样的文本,即不具备分词能力,且like查询在"%中国真伟大"这样的搜索条件下,无法命中索引,将会导致查询效率大大降低

    写了这么多,我的理解核心还是前三点,它反映出的一个问题是关系型数据库在高并发下的能力是有瓶颈的,尤其是写入/更新频繁的情况下,出现瓶颈的结果就是数据库CPU高、Sql执行慢、客户端报数据库连接池不够等错误,因此例如万人秒杀这种场景,我们绝对不可能通过数据库直接去扣减库存。

    可能有朋友说,数据库在高并发下的能力有瓶颈,我公司有钱,加CPU、换固态硬盘、继续买服务器加数据库做分库不就好了,问题是这是一种性价比非常低的方式,花1000万达到的效果,换其他方式可能100万就达到了,不考虑人员、服务器投入产出比的Leader就是个不合格的Leader,且关系型数据库的方式,受限于它本身的特点,可能花了钱都未必能达到想要的效果。至于什么是花100万就能达到花1000万效果的方式呢?可以继续往下看,这就是我们要说的NoSql。

    结合NoSql的方式做存储的架构演进

    像上文分析的,数据库作为一种关系型数据的存储引擎,存储的是关系型数据,它有优点,同时也有明显的缺点,因此通常在企业规模不断扩大的情况下,不会一味指望通过增强数据库的能力来解决数据存储问题,而是会引入其他存储,也就是我们说的NoSql。

    NoSql的全称为Not Only SQL,泛指非关系型数据库,是对关系型数据库的一种补充,特别注意补充这两个字,这意味着NoSql与关系型数据库并不是对立关系,二者各有优劣,取长补短,在合适的场景下选择合适的存储引擎才是正确的做法。

    比较简单的NoSql就是缓存:
    在这里插入图片描述

    针对那些读远多于写的数据,引入一层缓存,每次读从缓存中读取,缓存中读取不到,再去数据库中取,取完之后再写入到缓存,对数据做好失效机制通常就没有大问题了。通常来说,缓存是性能优化的第一选择也是见效最明显的方案。

    但是,缓存通常都是KV型存储且容量有限(基于内存),无法解决所有问题,于是再进一步的优化,我们继续引入其他NoSql:
    在这里插入图片描述
    数据库、缓存与其他NoSql并行工作,充分发挥每种NoSql的特点。当然NoSql在性能方面大大优于关系挺数据库的同时,往往也伴随着一些特性的缺失,比较常见的就是事务功能的缺失。

    下面看一下常用的NoSql及他们的代表产品,并对每种NoSql的优缺点和适用场景做一下分析,便于熟悉每种NoSql的特点,方便技术选型。

    KV型NoSql(代表----Redis)

    KV型NoSql顾名思义就是以键值对形式存储的非关系型数据库,是最简单、最容易理解也是大家最熟悉的一种NoSql,因此比较快地带过。Redis、MemCache是其中的代表,Redis又是KV型NoSql中应用最广泛的NoSql,KV型数据库以Redis为例,最大的优点我总结下来就两点:

    1. 数据基于内存,读写效率高
    2. KV型数据,时间复杂度为O(1),查询速度快

    因此,KV型NoSql最大的优点就是高性能,利用Redis自带的BenchMark做基准测试,TPS可达到10万的级别,性能非常强劲。同样的Redis也有所有KV型NoSql都有的比较明显的缺点:

    1. 只能根据K查V,无法根据V查K
    2. 查询方式单一,只有KV的方式,不支持条件查询,多条件查询唯一的做法就是数据冗余,但这会极大的浪费存储空间
    3. 内存是有限的,无法支持海量数据存储
    4. 同样的,由于KV型NoSql的存储是基于内存的,会有丢失数据的风险

    综上所述,KV型NoSql最合适的场景就是缓存的场景:

    1. 读远多于写
    2. 读取能力强
    3. 没有持久化的需求,可以容忍数据丢失,反正丢了再查询一把写入就是了

    例如根据用户id查询用户信息,每次根据用户id去缓存中查询一把,查到数据直接返回,查不到去关系型数据库里面根据id查询一把数据写到缓存中去。

    搜索型NoSql(代表----ElasticSearch)

    传统关系型数据库主要通过索引来达到快速查询的目的,但是在全文搜索的场景下,索引是无能为力的,like查询一来无法满足所有模糊匹配需求,二来使用限制太大且使用不当容易造成慢查询,搜索型NoSql的诞生正是为了解决关系型数据库全文搜索能力较弱的问题,ElasticSearch是搜索型NoSql的代表产品。

    全文搜索的原理是倒排索引,我们看一下什么是倒排索引。要说倒排索引我们先看下什么是正排索引,传统的正排索引是文档–>关键字的映射,例如"Tom is my friend"这句话,会将其切分为"Tom"、“is”、“my”、"friend"四个单词,在搜索的时候对文档进行扫描,符合条件的查出来。这种方式原理非常简单,但是由于其检索效率太低,基本没什么实用价值。

    倒排索引则完全相反,它是关键字–>文档的映射,我用张表格展示一下就比较清楚了:
    在这里插入图片描述
    意思是我现在这里有四个短句:
    “Tom is Tom”
    “Tom is my friend”
    “Thank you, Betty”
    “Tom is Betty’s husband”
    搜索引擎会根据一定的切分规则将这句话切成N个关键字,并以关键字的维度维护关键字在每个文本中的出现次数。这样下次搜索"Tom"的时候,由于Tom这个词语在"Tom is Tom"、“Tom is my friend”、"Tom is Betty’s husband"三句话中都有出现,因此这三条记录都会被检索出来,且由于"Tom is Tom"这句话中"Tom"出现了2次,因此这条记录对"Tom"这个单词的匹配度最高,最先展示。这就是搜索引擎倒排索引的基本原理,假设某个关键字在某个文档中出现,那么倒排索引中有两部分内容:

    1. 文档ID
    2. 在该文档中出现的位置情况

    可以举一反三,我们搜索"Betty Tom"这两个词语也是一样,搜索引擎将"Betty Tom"切分为"Tom"、"Betty"两个单词,根据开发者指定的满足率,比如满足率=50%,那么只要记录中出现了两个单词之一的记录都会被检索出来,再按照匹配度进行展示。

    搜索型NoSql以ElasticSearch为例,它的优点为:

    1. 支持分词场景、全文搜索,这是区别于关系型数据库最大特点
    2. 支持条件查询,支持聚合操作,类似关系型数据库的Group By,但是功能3. 更加强大,适合做数据分析
    3. 数据写文件无丢失风险,在集群环境下可以方便横向扩展,可承载PB级别的数据
    4. 高可用,自动发现新的或者失败的节点,重组和重新平衡数据,确保数据是安全和可访问的

    同样,ElasticSearch也有比较明显的缺点:

    1. 性能全靠内存来顶,也是使用的时候最需要注意的点,非常吃硬件资源、吃内存,大数据量下64G + SSD基本是标配,算得上是数据库中的爱马仕了。为什么要专门提一下内存呢,因为内存这个东西是很值钱的,相同的配置多一倍内存,一个月差不多就要多花几百块钱,至于ElasticSearch内存用在什么地方,大概有如下这些:
      Indexing Buffer----ElasticSearch基于Luence,Lucene的倒排索引是先在内存里生成,然后定期以Segment File的方式刷磁盘的,每个Segment File实际就是一个完整的倒排索引
      Segment Memory----倒排索引前面说过是基于关键字的,Lucene在4.0后会将所有关键字以FST这种数据结构的方式将所有关键字在启动的时候全量加载到内存,加快查询速度,官方建议至少留系统一半内存给Lucene
      各类缓存----Filter Cache、Field Cache、Indexing Cache等,用于提升查询分析性能,例如Filter Cache用于缓存使用过的Filter的结果集
      Cluter State Buffer----ElasticSearch被设计为每个Node都可以响应用户请求,因此每个Node的内存中都包含有一份集群状态的拷贝,一个规模很大的集群这个状态信息可能会非常大
    2. 读写之间有延迟,写入的数据差不多1s样子会被读取到,这也正常,写入的时候自动加入这么多索引肯定影响性能
    3. 数据结构灵活性不高,ElasticSearch这个东西,字段一旦建立就没法修改类型了,假如建立的数据表某个字段没有加全文索引,想加上,那么只能把整个表删了再重建

    因此,搜索型NoSql最适用的场景就是有条件搜索尤其是全文搜索的场景,作为关系型数据库的一种替代方案。

    另外,搜索型数据库还有一种特别重要的应用场景。我们可以想,一旦对数据库做了分库分表后,原来可以在单表中做的聚合操作、统计操作是否统统失效?例如我把订单表分16个库,1024张表,那么订单数据就散落在1024张表中,我想要统计昨天浙江省单笔成交金额最高的订单是哪笔如何做?我想要把昨天的所有订单按照时间排序分页展示如何做?这就是搜索型NoSql的另一大作用了,我们可以把分表之后的数据统一打在搜索型NoSql中,利用搜索型NoSql的搜索与聚合能力完成对全量数据的查询。

    至于为什么把它放在KV型NoSql后面作为第二个写呢,因为通常搜索型NoSql也会作为一层前置缓存,来对关系型数据库进行保护。

    列式NoSql(代表----HBase)

    列式NoSql,大数据时代最具代表性的技术之一了,以HBase为代表。

    列式NoSql是基于列式存储的,那么什么是列式存储呢,列式NoSql和关系型数据库一样都有主键的概念,区别在于关系型数据库是按照行组织的数据:
    在这里插入图片描述
    看到每行有name、phone、address三个字段,这是行式存储的方式,且可以观察id = 2的这条数据,即使phone字段没有,它也是占空间的。

    列式存储完全是另一种方式,它是按每一列进行组织的数据:
    在这里插入图片描述
    在这里插入图片描述
    这么做有什么好处呢?大致有以下几点:

    1. 查询时只有指定的列会被读取,不会读取所有列
    2. 存储上节约空间,Null值不会被存储,一列中有时候会有很多重复数据(尤其是枚举数据,性别、状态等),这类数据可压缩,行式数据库压缩率通常在3:15:1之间,列式数据库的压缩率一般在8:130:1左右
    3. 列数据被组织到一起,一次磁盘IO可以将一列数据一次性读取到内存中

    第二点说到了数据压缩,什么意思呢,以比较常见的字典表压缩方式举例:
    在这里插入图片描述
    自己看图理解一下,应该就懂了。

    接着继续讲讲优缺点,列式NoSql,以HBase为代表的,优点为:

    1. 海量数据无限存储,PB级别数据随便存,底层基于HDFS(Hadoop文件系统),数据持久化
    2. 读写性能好,只要没有滥用造成数据热点,读写基本随便玩
    3. 横向扩展在关系型数据库及非关系型数据库中都是最方便的之一,只需要4添加新机器就可以实现数据容量的线性增长,且可用在廉价服务器上,节省成本
    4. 本身没有单点故障,可用性高
    5. 可存储结构化或者半结构化的数据
    6. 列数理论上无限,HBase本身只对列族数量有要求,建议1~3个

    说了这么多HBase的优点,又到了说HBase缺点的时候了:

    1. HBase是Hadoop生态的一部分,因此它本身是一款比较重的产品,依赖很多Hadoop组件,数据规模不大没必要用,运维还是有点复杂的
    2. KV式,不支持条件查询,或者说条件查询非常非常弱吧,HBase在Scan扫描一批数据的情况下还是提供了前缀匹配这种API的,条件查询除非定义多个RowKey做数据冗余
    3. 不支持分页查询,因为统计不了数据总数

    因此HBase比较适用于那种KV型的且未来无法预估数据增长量的场景,另外HBase使用还是需要一定的经验,主要体现在RowKey的设计上。

    文档型NoSql(代表----MongoDB)

    什么是文档型NoSql呢,文档型NoSql指的是将半结构化数据存储为文档的一种NoSql,文档型NoSql通常以JSON或者XML格式存储数据,因此文档型NoSql是没有Schema的,由于没有Schema的特性,我们可以随意地存储与读取数据,因此文档型NoSql的出现是解决关系型数据库表结构扩展不方便的问题的。

    MongoDB是文档型NoSql的代表产品,同时也是所有NoSql产品中的明星产品之一,因此这里以MongoDB为例。按我的理解,作为文档型NoSql,MongoDB是一款完全和关系型数据库对标的产品,就我们从存储上来看:
    在这里插入图片描述
    看到,关系型数据库是按部就班地每个字段一列存,在MongDB里面就是一个JSON字符串存储。关系型数据可以为name、phone建立索引,MongoDB使用createIndex命令一样可以为列建立索引,建立索引之后可以大大提升查询效率。其他方面而言,就大的基本概念,二者之间基本也是类似的:
    在这里插入图片描述
    因此,对于MongDB,我们只要理解成一个Free-Schema的关系型数据库就完事了,它的优缺点比较一目了然,优点:

    1. 没有预定义的字段,扩展字段容易
    2. 相较于关系型数据库,读写性能优越,命中二级索引的查询不会比关系型数据库慢,对于非索引字段的查询则是全面胜出

    缺点在于:

    1. 不支持事务操作,虽然Mongodb4.0之后宣称支持事务,但是效果待观测
    2. 多表之间的关联查询不支持(虽然有嵌入文档的方式),join查询还是需要多次操作
    3. 空间占用较大,这个是MongDB的设计问题,空间预分配机制 + 删除数据后空间不释放,只有用db.repairDatabase()去修复才能释放
    4. 目前没发现MongoDB有关系型数据库例如MySql的Navicat这种成熟的运维工具

    总而言之,MongDB的使用场景很大程度上可以对标关系型数据库,但是比较适合处理那些没有join、没有强一致性要求且表Schema会常变化的数据。

    总结:数据库与NoSql及各种NoSql间的对比

    最后一部分,做一个总结,本文归根到底是两个话题:

    1. 何时选用关系型数据库,何时选用非关系型数据库
    2. 选用非关系型数据库,使用哪种非关系型数据库

    首先是第一个话题,关系型数据库与非关系型数据库的选择,在我理解里面无非就是两点考虑:
    在这里插入图片描述

    第一点,不多解释应该都理解,非关系型数据库都是通过牺牲了ACID特性来获取更高的性能的,假设两张表之间有比较强的一致性需求,那么这类数据是不适合放在非关系型数据库中的。

    第二点,核心数据不走非关系型数据库,例如用户表、订单表,但是这有一个前提,就是这一类核心数据会有多种查询模式,例如用户表有ABCD四个字段,可能根据AB查,可能根据AC查,可能根据D查,假设核心数据,但是就是个KV形式,比如用户的聊天记录,那么HBase一存就完事了。

    这几年的工作经验来看,非核心数据尤其是日志、流水一类中间数据千万不要写在关系型数据库中,这一类数据通常有两个特点:

    写远高于读
    写入量巨大

    一旦使用关系型数据库作为存储引擎,将大大降低关系型数据库的能力,正常读写QPS不高的核心服务会受这一类数据读写的拖累。

    接着是第二个问题,如果我们使用非关系型数据库作为存储引擎,那么如何选型?其实上面的文章基本都写了,这里只是做一个总结(所有的缺点都不会体现事务这个点,因为这是所有NoSql相比关系型数据库共有的一个问题):
    在这里插入图片描述
    但是这里特别说明,选型一定要结合实际情况而不是照本宣科,比如:

    1. 企业发展之初,明明一个关系型数据库就能搞定且支撑一年的架构,搞一套大而全的技术方案出来
    2. 有一些数据条件查询多,更适合使用ElasticSearch做存储降低关系型数据库压力,但是公司成本有限,这种情况下这类数据可以尝试继续使用关系型数据库做存储
    3. 有一类数据格式简单,就是个KV类型且增长量大,但是公司没有HBase这方面的人才,运维上可能会有一定难度,出于实际情况考虑,可先用关系型数据库顶一阵子

    所以,如果不考虑实际情况,虽然合适有些存储引擎更加合适,但是强行使用反而适得其反,总而言之,适合自己的才是最好的。

    展开全文
  • 常见关系型数据库管理系统 Mysql SQLite Oracle IBM DB2 关系型数据库的优势? 采用二维表结构非常贴近正常开发逻辑 支持通用的SQL语句 丰富的完整性大大减少了数据冗余和数据不一致的问题。并且全部由表结构...
  • 综合百度百科和自己的理解整理以下内容,便于日常用到时进行查找,如下:一、关系型数据库1、含义:关系型数据库,是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,以便于用户理解,关系型数据库...
  • 组内使用数据库为关系型数据库oracle,现在市场上出现了更为流行的关系型数据库诸如Mysql/MariaDB、PostgreSql、PPAS(增强型PostgreSql),以及当前在大数据框架中比较流行的非关系型数据库诸如Redis、MongoDB等。...
  • 当前数据库分为 关系型数据库 和 非关系型数据库 。 一、关系型数据库 关系型数据库: 指采用了关系模型来组织数据的数据库。 结构: 关系模型指的就是二维表格模型,关系型数据库最典型的数据结构就是表,是由二维...
  • MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似Json的bson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是它...
  • 当前数据库分为关系型数据库和非关系型数据库 关系型数据库 关系型数据库:指采用了关系模型来组织数据的数据库。 关系模型指的就是二维表格模型,而一个关系型数据库就是由二维表及其之间的联系所组成的一个数据...
  • 关系型数据库的特点 …………………………………………………………………………………. 1.关系型数据库 ……………………………………………………………………………………………… 2. 关系型数据库瓶颈 ……...
  • 关系型数据库 采用关系模型来组织数据结构的数据库(二维表) cle DB2 SQLServer Mysql SQLite都是关系型数据库 优点:容易理解,它的逻辑类似常见的表格 使用方便,都使用sql语句,sql语句非常的成熟 数据一致性...
  • 4.1 关系型数据库 常见的有:MySQL、DB2、Oracle、Microsoft SQL Server、PostgreSQL、Microsoft Access、浪潮K-DB等。 4.1.1关系型数据库的优缺点 优点: 1.容易理解:二维表结构是非常贴近逻辑世界一个概念,关系...
  • SQLvsNoSQL关系型数据库与非关系型数据库的联系与区别关系型数据库SQL vs NoSQL 关系型数据库与非关系型数据库的区别1.存储方式2.表/数据集合的关系3.拓展事务关系型数据库和非关系型数据库的联系三个问题(胡思乱想...
  • 一、关系型数据库     关系型数据库,是指采用了关系模型来组织数据的数据库。     关系模型是在1970年由IBM的研究员E.F.Codd博士首先提出的,在之后的几十年中,关系模型的概念得到...
  • 我一直在使用MySql进行数据库的增删改查等操作,也知道MySql叫数据库,却没有深入的探讨一下MySql是什么类型的...首先MySql数据库称为关系型数据库,所谓关系型数据库,就是建立在关系模型的基础上创建的数据库...
  • 而在当今的互联网中,最常见的数据库模型主要是两种,即SQL关系型数据库和NoSQL非关系型数据库。 2.什么是关系型数据库 关系型数据库,是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,以便于用户...
  • 引言: 1.什么是数据库: 数据库:顾名思义,是存入数据的仓库。只不过这个仓库是在计算机存储设备上的,而且...常见关系型数据库有Oracle、Microsoft SQL Server、MySQL等。常见的非关系性数据库(Nosql)有 、...
  • TIDB-分布式关系型数据库讲解

    千次阅读 2021-11-13 14:37:10
    一、传统关系型数据库所面临的问题 根据以往的MySQL使用经验,MySQL单表在 5000 万行以内时,性能较好,单表超过5000万行后,数据库性能、可维护性都会极剧下降。当然这时候可以做MySQL分库分表,比如使用Mycat或...
  • 文章目录一、关系数据库与非关系型数据库概述1、关系型数据库2、非关系型数据库二、关系数据库与非关系型数据库区别1、数据存储方式不同2、扩展方式不同3、对事务性的支持不同三、非关系型数据库产生背景四、Redis...
  • 不知道大家有没有这种经历:一个系统刚上线的时候是有完整的架构逻辑的,数据库表的设计也是经过精细推敲,以为可以经得起时间的考验。结果呢?上线之后各种新业务支持、新需求支持。不得不在原有的数据...
  • 关系型和非关系型数据库

    千次阅读 2019-10-29 21:54:00
    由于非关系型数据库本身天然的多样性,以及出现的时间较短,因此,不想关系型数据库,有几种数据库能够一统江山,非关系型数据库非常多,并且大部分都是开源的。 这些数据库中,其实实现大部分都比较简单,除了...
  • 常见关系型数据库

    千次阅读 2018-09-13 09:10:00
    1、主流关系型数据库  a、Oracle数据库  1、Oracle是著名的Oracle(甲骨文)公司的数据库产品、是世界是第一个商品化的关系型数据库管理系统。  2、Oracle采用标准SQL(结构化查询语言),支持多种数据类型,提供...
  • 关系型数据库由哪三部分组成 使用关系数据库 (Using The Relational Database) A relational database is used for electronic data management in computer systems and is based on the relational database model...
  • HarmonyOS数据库之关系型数据库

    千次阅读 2021-07-15 11:43:40
    数据库的操作及管理基础概述关系型数据库创建前的配置关系型数据库创建数据库新增数据查询数据更新数据删除数据 已经鸽了很久了,今天也准备了点新东西来进行发布,在搞Android的时候我们都知道有SQlite数据库以及...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 249,167
精华内容 99,666
关键字:

以下不是常见的关系型数据库