精华内容
下载资源
问答
  • 1. 什么是分片或者数据分区 数据分片(也称为数据分区)就是把一个巨大的数据集分为多个小分区的过程,这些小分区位于不同的机器上。...原来的数据库的大部分数据都分布在各个分片上,原来的数据库的表的每行数据...

    原文链接 http://www.acodersjourney.com/2018/08/database-sharding/

    1. 什么是分片或者数据分区
    数据分片(也称为数据分区)就是把一个巨大的数据集分为多个小分区的过程,这些小分区位于不同的机器上。每个分区都被称为“分片”。

    每个分片都有和原来的数据库相同的schema。原来的数据库的大部分数据都分布在各个分片上,原来的数据库的表的每行数据都只存放于一个分片上。把全部分片的数据合并起来就得到了与原来的数据库相同的数据库。

    下面两张图片展示了一个没有分片的数据库和一个有简单分片的数据库。

    注意:分片架构对于应用程序是透明的。应用程序访问数据库分片(分区)就如同它访问一个未分片的数据库一样。
    2.分片解决了哪些扩展性问题
    当有更多的用户注册到你的系统的时候,如果你使用未分片的数据库架构的话就可能有性能降级的问题。你的查询和修改操作可能会变慢,你的网络带宽可能会变得饱和。你的数据库服务器的磁盘空间可能会被用完。
    分片技术可以通过把数据库分布到机器集群上解决以上问题。理论上,你可以通过大量的分片为你的数据库提供虚拟的无限水平扩展。
    3.每个分片都位于一个不同的机器上么?
    不同的分片可能位于同一台机器上(共存),也可能位于不同的机器上(远程)。
    共存分区的动机是减少独立索引的大小并且减少更新记录需要的IO的数量。
    远程分区的动机是通过把更多的数据存放于内存从而避免磁盘访问或者通过拥有更多的网络接口和磁盘IO通道来增加访问数据的带宽。
    (译者注:共存分片的动机完全不能说服我:既然两个分片在同一台机器上,那么这两个分片就差不多等于一个分片了,那还要分片做啥?)
    4.数据分片或者分区的一般scheme是什么?
    1)基于水平或者范围的分区

    我们可以基于每个实体的共有键值的值域来分区。例如,如果你想保存你的在线客户的联系信息,你可以选择把姓名起始字母为A-H的用户保存在一个分片上,而把其他的用户保存于另一个分片上。
    这种方法的缺点是用户的姓名未必是均匀分布的。例如,可能大部分用户的姓名都位于A-H区间,该区间以外的用户数量可能会很少。这样的话,第一个分片的负载可能会远远大于第二个分片。
    无论如何该方法的优势在于它很简单。每个分片都和原来的数据库有相同的scheme。在大多数情况下你的应用层会相对简单,因为你不必从多个分片合并数据以响应任何查询请求。

    2)垂直分片
    同一实体的不同属性会被存放于位于不同机器上的不同分片上。例如,在一个类似linked的应用中,一个用户可能有配置文件、一个人际关系连接列表和该用户发布的文章列表。在垂直分片方法中,我们可能会把用户的配置文件保存于第一个分片上,把人际关系列表保存于第二个分片上,把文章列表保存于第三个分片上。
    该方法的主要优势在于你可以把关键数据(例如用户配置文件)和非关键数据(例如文章列表)分开处理,并且围绕它们建立不同的一致性模型或者replication模型。
    垂直分片的缺点在于:
    a.你的应用层可能需要合并多个分片的数据以响应查询。例如,为了响应一个查询用户记录的请求,应用层可能需要合并配置文件分片、人际关系分片和文件列表分片的数据。这会增加系统的研发和运营的复杂性。
    b.如果你的系统不断增长那么你可能需要对一个分片进一步分片。

    3.基于键值或者哈希值的分片
    我们可以基于实体的键值(某个属性)来生成哈希值。这个哈希值可以决定数据保存于哪个分片上。
    例如,假设我们基于用户ID分片并且我们有4台数据库服务器分别存放4个分片。而实体的键值为“application id”,该值为递增为1的整数。
    那么我们可以简单地用取余函数对“application id”取余来决定实体存放于哪个数据库分片中。

    该方法的缺陷是负载的弹性扩展(动态添加删除数据库服务器)很困难并且昂贵。
    例如,如果我们想添加6台数据库服务器的话,那么大部分键值需要被重新映射并且迁移到新的数据库服务器上。另外,哈希函数也要被修改为对10取余。
    在数据迁移的过程中,新旧哈希函数都不能使用。所以在数据迁移的过程中,我们的系统会无法提供服务。
    这个问题可以由一致性哈希解决。http://www.acodersjourney.com/2017/10/system-design-interview-consistent-hashing/
    4)基于目录的分片
    该方法需要在数据库分片集群的前端放置一个查询服务。这个查询服务了解当前的分区scheme,并且有一个map保存了每一个条目到数据库分片的映射。这个查询服务通常实现为一个web服务。
    应用层需要先向查询服务查询分片的存放位置,然后再查询/更新返回的分片。
    那么这个松耦合的优势何在?
    我们可以用这个方法解决上文提到的“弹性扩展问题”,而且没必要使用一致性哈希。
    以下为具体步骤:
    a.在查询服务中保留对4取余的哈希函数;
    b.基于新的对10取余的哈希函数决定数据的存放位置;
    c.写一个脚本基于第二步中的算法把数据从原有的4个分片中复制到新添加的6台服务器上。
    d.一旦复制操作完成,就在查询服务中切换到对10取余的哈希函数;
    e.运行一个清理脚本以清除第二步中的4台服务器上的冗余数据。因为这些数据已经保存在其他分片上了。
    我们可能会遇到以下两个问题:
    a.迁移的过程中用户可能要再更新数据。我们可以让数据库只读,或者把更新的数据存放于另一台服务器上;
    b.在迁移过程中,复制和清理脚本可能会对系统性能有影响。It can be circumvented by using system cloning and elastic load balancing,但是这两个方法都很昂贵。(译者注,英文部分没看明白)

    5.分片有哪些一般问题?
    以上的讨论可能让我们觉得分片是解决数据库扩展问题的银弹。然而事实却并非如此,下面我们将讨论分片技术可能有的问题。

    a.在某些情况下,数据库连接会变得更加昂贵、不灵活。
    如果所有数据都在一个单一的数据库服务器上的话,连接操作可以简单地实现。但是当我们对数据库分片的时候,跨越多台服务器的连接操作会带来额外的延迟。
    还有,应用层可能需要额外的异步和异常处理代码,而这会增加研发和维护的成本。
    在某些情况下,当你需要为你的服务维护高可用性的SLA的时候,跨机器的连接并非合适的选择。
    那么剩下的唯一选择就是“反范式”我们的数据库以避免连接操作。但这在提高系统的可用性的同时,也带来了一致性的问题。我们的应用层逻辑需要巨大的改变以处理来自不同分片的不一致的数据。

    2)分片会影响到外键引用
    大多数数据库不支持跨越数据库的外键引用。这意味着如果应用层需要外键引用的话,它就要在代码中检查外键;并且一旦采用分片技术后我们要运行sql jobs以清除分片中的无效外键引用。
    如果你已经采用了nosql技术的话,那么上述影响对你可能不大,因为采用nosql技术意味着你的应用层代码已经在处理外部引用和一致性问题了。
    As a mitigation for consistency and referential integrity issues , you should minimize operations that affect data in multiple shards.(译者注:不明白什么意思,貌似这句话可有可无)
    If an application must modify data across shards, evaluate whether complete data consistency is actually required. Instead, a common approach in the cloud is to implement eventual consistency. The data in each partition is updated separately, and the application logic must take responsibility for ensuring that the updates all complete successfully, as well as handling the inconsistencies that can arise from querying data while an eventually consistent operation is running.
    (译者注:最后一段没看明白,可能要先看了http://www.acodersjourney.com/2018/08/eventual-consistency/才能明白)

    3)修改数据库scheme的成本会极其昂贵
    在有些情况下当我们的用户基数增长的时候,数据库的scheme可能需要修改。例如,我们可能已经把用户的图片和邮箱存放在了某个分片上,现在我们需要把他们存放于不同的分片上。这意味着我们的全部数据都要被迁移到新的分片上。而这会导致系统五福提供服务。(译者注:而且所有的分片都要修改数据库scheme,这个成本也很高)
    一个解决方法是使用基于目录的分片技术来解决这个问题:http://www.acodersjourney.com/2017/10/system-design-interview-consistent-hashing/
    6.何时在系统设计面试中使用分片?
    当单一的数据库无法满足性能要求的时候,或者to improve performance by reducing contention in a data store.(译者注:后半句没看明白)
    例如,如果我们需要设计一个netflix的话,那么我们需要对大量的视频文件做低延时的读操作。在这种情况下,你可能需要基于电影的类型做分片。你可能还想要为某个分片创建多个replica以提供高可用性。
    虽然分片的主要目的是提高系统的性能和扩展性,但是作为一种“具体问题具体分析”的技术它还能依据数据如何分片来提高可用性。一个分片的数据无法读取并不影响应用层从其他分片读取数据,并且运营人员可以在对一个分片做维护或者恢复操作的同时不影响其他分片数据的访问。

    展开全文
  • 一旦Rails 6发布,Octopus将进入维护模式-因为Rails 6将包括数据库分片/复制到Rails Core的所有功能(PR: : )。 一旦发布了Rails 6 beta的第一个版本,就会有一个迁移指南,以帮助用户从Octopus迁移到Rails 6。 ...
  •   两种设计策略 ▍两种设计策略 ...分布设计 + 分片 + 分配 物理设计 性能调优     分片简介 ▍分片的相关定义 分片(Fragmentation):对全局数据的划分 片段(Fragment):划分的结果称为片段

    content

    1. 两种设计策略
    2. 分片简介
    3. 水平分片设计
    4. 垂直分片设计
    5. 分片的表示方法
    6. 分配设计
    7. 数据复制技术

     
     
     

    两种设计策略

    两种设计策略

    • 自顶向下(top_down):用于设计一个新的数据库系统(本节着重点)
    • 自底向上(bottom_up):已经存在多个数据库系统,将它们集成为一个数据库系统

    top_down设计过程

    1. 需求分析
    2. 概念设计 + 视图集成 + E-R表示 + 转换到关系模式
    3. 分布设计 + 分片 + 分配
    4. 物理设计
    5. 性能调优

     
     

    分片简介

    分片的相关定义

    • 分片(Fragmentation):对全局数据的划分
    • 片段(Fragment):划分的结果称为片段
    • 分配(Allocation):将片段指定到场地
    • 分割(Partition):每个片段只存储在一个场地
    • 复制(Replication):每个片段存储在一个以上的场地

    分片的作用

    • 减少网络传输量 —— 分片后进行复制,从多个副本中就近访问;或者将需频繁访问的分片存储在本地场地上
    • 增大事务处理的局部性 —— 局部场地需要的分片分配在各自的场地上,增加局部事务效率
    • 提高数据的可用性 —— 当某一场地发生故障,非故障场地上的副本同样是可用的
    • 使负载均衡 —— 破除数据访问瓶颈,提高系统整体效率

    分片的过程

    分片过程是将全局数据进行逻辑划分和物理分配的过程。全局数据由分片模式划分成各个数据片段,各个数据片段由分配模式存储在各个场地上。

    在这里插入图片描述

    分片的原则

    • 完备性 —— 所有全局数据必须映射到某个片段上
    • 可重构性 —— 所有片段必须能够重新组合成全局数据
    • 不相交性 —— 水平划分时不能有交集;垂直划分时交集只能是主键

    分片的种类

    • 水平分片 —— 按元组划分
    • 垂直分片 —— 按属性划分
    • 混合分片 —— 水平分片 + 垂直分片

    分片的透明性

    • 分片透明性 —— 用户不必考虑「数据属于哪个片段」
    • 分配透明性 —— 用户不必考虑「片段属于哪个场地」
    • 局部映射透明性 —— 用户不必考虑「关于底层数据库的一切」

     
     

    水平分片设计

    典例

    在这里插入图片描述
    在这里插入图片描述

    谓词

    • 简单谓词(Simple Predicate) :只包含一个操作符号的查询谓词
    • 小项谓词(Minterm Predicate) :由多个简单谓词组合成的查询谓词

    基本水平分片(Primary horizontal fragmentation)

    1. 找到具有完备性最小性的简单谓词集合
    2. 派生小项谓词集合
    3. 消除无意义的小项谓词

    在这里插入图片描述
     
    导出水平分片(Derived horizontal fragmentation)

    一个关系的分片不是基于关系本身的属性,而是根据另一个与其有关联的关系的属性来划分。

    在这里插入图片描述

     
     
     
     

    垂直分片设计

    典例

    在这里插入图片描述

    在这里插入图片描述

    紧密度

    紧密度(affinity)是用来度量属性间的关系 —— 很显然,联系越紧密的属性,越不应该分开,越不应该被分到两个场地。

     
     
     

    分片的表示方法

    图形表示法
    在这里插入图片描述

    分片树表示法

    在这里插入图片描述

     
     
     

    分配设计

    三种分配方式

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    考虑因素

    应用角度出发(分片更多):增加事务处理的局部性;提高系统的可靠性和可用性;增加系统的并行性

    系统角度出发(分片更少):降低系统的运行和维护开销;使系统负载均衡;方便一致性维护

    二者是矛盾的。
     
    设计原则

    数据库因素应用因素场地因素网络通信因素
    片段的大小查询对片段的读频度场地上存储数据的单位代价网络带宽
    片段的选择度查询对片段的写频度场地上处理数据的单位代价网络延迟
    查询的启动场地场地间的通信代价
    传输的数据帧大小

    分配模型

    总代价 = 存储代价 + 处理代价

    总代价 = ∑ S k + ∑ Q i ∑Sk+∑Qi Sk+Qi

    (🌟注意一下)

     
     
     

    数据复制技术

    优势

    • 减少网络负载(因为就近访问,减少了网络传输代价)
    • 提高系统性能(因为就近访问+并行处理)
    • 更好的负载均衡(因为可以分布到多个节点)

    缺点

    • 数据一致性问题
    • 数据冲突问题

    分类

    • 同步复制 —— 实时的、严格的一致性;频繁的通信;较高的响应时间
    • 异步复制 —— 非实时的;较短的响应时间;潜在的数据冲突

    实现

    • 基于触发器
    • 基于日志
    • 基于时间戳
    • 基于API

     
     
     
     
     
     
     
     
     
     
     
     

    M o r e More More

    展开全文
  • 一个简单而健壮的ActiveRecord扩展,用于数据库分片。 mixed_gauge提供具有哈希槽和重新分片支持的分片管理。 它使您能够通过类似KVS的界面对单个节点执行高效的查询。 您甚至可以并行使用ActiveRecord接口对所有...
  • 数据库分片简单认知

    千次阅读 2018-10-17 17:25:47
    一种是按照不同的表(或者Schema)来切分到不同的数据库(主机)之上,这种切可以称之为数据的垂直(纵向)切分;另外一种则是根据表中的数据的逻辑关系,将同一个表中的数据按照某种条件拆分到多台数据库(主机)...

            数据的切分(Sharding)根据其切分规则的类型,可以分为两种切分模式。一种是按照不同的表(或者Schema)来切分到不同的数据库(主机)之上,这种切可以称之为数据的垂直(纵向)切分;另外一种则是根据表中的数据的逻辑关系,将同一个表中的数据按照某种条件拆分到多台数据库(主机)上面,这种切分称之为数据的水平(横向)切分。

     

    一、垂直切分

    一个数据库由很多表构成,每个表对应着不同的业务,垂直切分是按照业务将表进行分类,分布到不同的数据库上面

         一个架构设计较好的应用系统,其总体功能肯定是由很多个功能模块所组成的,而每一个功能模块所需要的数据对应到数据库中就是一个或者多个表。而在架构设计中,各个功能模块相互之间的交互点越统一越少,系统的耦合度就越低,系统各个模块的维护性以及扩展性也就越好。这样的系统,实现数据的垂直切分也就越容易。

     

    二、水平切分

           相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库中。

     

     

    拆分数据就是定义分片规则。关系型数据库是行列的二维模型,拆分的第一原则就是找到拆分维度。

    几种典型的分片规则:

    • 按照用户ID求模,将数据分散到不同的数据库,具有相同数据用户的数据都被分散到一个库中

    • 按照日期,将不同月甚至日的数据分散到不同库

    • 按照某个特定字段求模,或者根据特定范围段分散到不同的库中

    三、分片比较

    分片类型

    优点

    缺点

    垂直分区

    1.拆分后业务清晰,拆分规则明确;

    2.系统之间整合或扩展容易;

    3.数据维护简单

    1.部分业务表无法join,只能通过接口方式解决,提高了系统复杂度;

    2.受每种业务不同的限制存在单库性能瓶颈,不易数据扩展性能提高;

    3.事务处理复杂

    水平切分

    1.拆分规则抽象好,join操作基本可以数据库做;

    2.不存在单库大数据,高并发的性能瓶颈

    3.应用端改造少

    4.提高了系统的稳定性和负载能力

    1.拆分规则难以抽象

    2.分片事务一致性难以解决

    3.数据多次扩展难度跟维护量极大

    4.跨库join性能较差

     

    四、数据源管理

    客户端模式:在每个应用程序模块中配置管理自己需要的一个(或多个)数据源,直接访问各个数据库,在模块内完成数据的整合。

    代理模式:通过中间代理层来统一管理所有的数据源,后端数据库集群对前端应用程序透明。

    展开全文
  • EfKwdFXZxg 欢迎使用Markdown编辑器 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。...全新的界面设计 ...

    数据库分片(Sharding):分表+分库+分片+分区

    1数据切分:

    数据库分布式核心内容无非就是数据切分(Sharding)

    将一个数据库比喻成一个大任务,将这任务分散给不同的人去执行,那么每一个执行的人就称为数据库的碎片(DatabaseShard)。将整个数据库拆散成多份的过程就叫做sharding,中文叫做分片技术。

    Sharding的基本思想就要把一个数据库切分成多个部分放到不同的数据库(server)上,从而缓解单一数据库的性能问题。

    数据切分根据其切分类型,可以分为两种方式:垂直(纵向)切分和水平(横向)切分

    可以这么去理解:
    1.如果是因为表多而数据多,这时候适合使用垂直切分,即把关系紧密(比如同一模块)的表切分出来放在一个server上
    2.如果表并不多,但每张表的数据非常多,这时候适合水平切分,即把表的数据按某种规则(比如按ID散列)切分到多个数据库(server)上
    3.现实中更多是这两种情况混杂在一起,这时候需要根据实际情况做出选择,也可能会综合使用垂直与水平切分,从而将原有数据库切分成类似矩阵一样可以无限扩充的数据库(server)阵列

    如下为综合使用垂直与水平切分:
    在这里插入图片描述

    1.1垂直切分(纵向)

    • 垂直切分常见有垂直分库垂直分表

    1.1.1.垂直分库(对象是整个表)
    就是根据业务耦合性,将关联度不同的表存储在不同的数据库。做法与大系统拆分为多个小系统类似,按业务分类进行独立划分。与"微服务治理"的做法相似,每个微服务使用单独的一个数据库

    在这里插入图片描述
    将不同模块的数据表分库存储,模块间不相互关联查询。如果有,就必须通过数据冗余或营业层二次加工来解决。这种方法业务和数据结构最清晰,但若不能杜绝跨库关联查询,则宣告此路不通。

    1.1.2.垂直分表(对象是列/字段)
    是基于数据库中的"列"进行,某个表字段较多,可以新建一张扩展表,将不经常用或字段长度较大的字段拆分出去到扩展表中。在字段很多的情况下(例如一个大表有100多个字段),通过"大表拆小表",更便于开发与维护,也能避免跨页问题,MySQL底层是通过数据页存储的,一条记录占用空间过大会导致跨页,造成额外的性能开销。另外数据库以行为单位将数据加载到内存中,这样表中字段长度较短且访问频率较高,内存能加载更多的数据,命中率更高,减少了磁盘IO,从而提升了数据库性能。
    在这里插入图片描述
    垂直切分的优点:

    • 解决业务系统层面的耦合,业务清晰
    • 与微服务的治理类似,也能对不同业务的数据进行分级管理、维护、监控、扩展等
    • 高并发场景下,垂直切分一定程度的提升IO、数据库连接数、单机硬件资源的瓶颈

    缺点:

    • 部分表无法join,只能通过接口聚合方式解决,提升了开发的复杂度
    • 分布式事务处理复杂
    • 依然存在单表数据量过大的问题(需要水平切分)

    1.2水平切分(横向)

    从1.1的垂直切分缺点可以看到,当一个应用难以再细粒度的垂直切分,或切分后数据量行数巨大,存在单库读写、存储性能瓶颈,水平切分这时候就显得格外重要

    根据表内数据内在的逻辑关系,将同一个表按不同的条件分散到多个数据库或多个表中,每个表中只包含一部分数据,从而使得单个表的数据量变小,达到分布式的效果

    • 水平切分分为库内分表分库分表
      在这里插入图片描述

    相对纵向切分这一将表分类的作法,此法是按表内某个字段的某种规则来将数据分散存储于不同的数据库(或不同的表),也就是按数据行来切分数据

    水平切分后同一张表会出现在多个数据库/表中,每个库/表的内容不同

    水平切分的优点:

    • 不存在单库数据量过大、高并发的性能瓶颈,提升系统稳定性和负载能力
    • 应用端改造较小,不需要拆分业务模块

    缺点:

    • 跨分片的事务一致性难以保证
    • 跨库的join关联查询性能较差
    • 数据多次扩展难度和维护量极大

    那么水平切分过程,一定会遇到:怎么分?的问题,如下:

    1.2.1.根据数值范围:

    • 按照时间区间或ID区间来切分

    优点:

    • 单表大小可控
    • 天然便于水平扩展,后期如果想对整个分片集群扩容时,只需要添加节点即可,无需对其他分片的数据进行迁移
    • 使用分片字段进行范围查找时,连续分片可快速定位分片进行快速查询,有效避免跨分片查询的问题。

    缺点:

    • 热点数据成为性能瓶颈。连续分片可能存在数据热点,例如按时间字段分片,有些分片存储最近时间段内的数据,可能会被频繁的读写,而有些分片存储的历史数据,则很少被查询

    1.2.2.根据数值取模:

    • 一般采用hash取模mod的切分方式

    举例子:假设有用户表user,将其分成3个表user0,user1,user2.路由规则是对3取模,当uid=1时,对应到的是user1,uid=2时,对应的是user2

    在这里插入图片描述
    优点:

    • 数据分片相对比较均匀,不容易出现热点和并发访问的瓶颈

    缺点:

    • 后期分片集群扩容时,需要迁移旧的数据(使用一致性hash算法能较好的避免这个问题)
    • 容易面临跨分片查询的复杂问题。比如上例中,如果频繁用到的查询条件中不带user时,将会导致无法定位数据库,从而需要同时向4个库发起查询,再在内存中合并数据,取最小集返回给应用,分库反而成为拖累。

    1.2.3.地理位置分片

    举例子:华南区一个表,华北一个表

    1.3分库分表带来的问题

    分库分表能有效的环节单机和单库带来的性能瓶颈和压力,突破网络IO、硬件资源、连接数的瓶颈,同时也带来了一些问题

    1.3.1事务一致性问题

    • 分布式事务:

    当更新内容同时分布在不同库中,不可避免会带来跨库事务问题。跨分片事务也是分布式事务,没有简单的方案,一般可使用**“XA协议""两阶段提交”**处理。

    分布式事务能最大限度保证了数据库操作的原子性。但在提交事务时需要协调多个节点,推后了提交事务的时间点,延长了事务的执行时间。导致事务在访问共享资源时发生冲突或死锁的概率增高。随着数据库节点的增多,这种趋势会越来越严重,从而成为系统在数据库层面上水平扩展的枷锁。

    • 最终一致性

    对于那些性能要求很高,但对一致性要求不高的系统,往往不苛求系统的实时一致性,只要在允许的时间段内达到最终一致性即可,可采用事务补偿的方式。与事务在执行中发生错误后立即回滚的方式不同,事务补偿是一种事后检查补救的措施,一些常见的实现方法有:对数据进行对账检查,基于日志进行对比,定期同标准数据来源进行同步等等。事务补偿还要结合业务系统来考虑

    1.3.2.跨节点关联查询 join 问题

    切分之前,系统中很多列表和详情页所需的数据可以通过sql join来完成

    切分之后,数据可能分布在不同的节点上,此时join带来的问题就比较麻烦了,考虑到性能,尽量避免使用join查询

    解决方法:

    • 全局表

    全局表,也可看做是"数据字典表",就是系统中所有模块都可能依赖的一些表,为了避免跨库join查询,可以将这类表在每个数据库中都保存一份。这些数据通常很少会进行修改,所以也不担心一致性的问题

    • 字段冗余

    一种典型的反范式设计,利用空间换时间,为了性能而避免join查询。例如:订单表保存userId时候,也将userName冗余保存一份,这样查询订单详情时就不需要再去查询"买家user表"了。

    但这种方法适用场景也有限,比较适用于依赖字段比较少的情况。而冗余字段的数据一致性也较难保证,就像上面订单表的例子,买家修改了userName后,是否需要在历史订单中同步更新呢?这也要结合实际业务场景进行考虑

    • 数据组装

    在系统层面,分两次查询,第一次查询的结果集中找出关联数据id,然后根据id发起第二次请求得到关联数据。最后将获得到的数据进行字段拼装

    • ER分片

    关系型数据库中,如果可以先确定表之间的关联关系,并将那些存在关联关系的表记录存放在同一个分片上,那么就能较好的避免跨分片join问题。在1:1或1:n的情况下,通常按照主表的ID主键切分

    Data Node1上面的order订单表与orderdetail订单详情表就可以通过orderId进行局部的关联查询了,Data Node2上也一样
    在这里插入图片描述

    1.3.3.跨节点分页、排序、函数问题

    跨节点多库进行查询时,会出现limit分页、order by排序等问题。分页需要按照指定字段进行排序,当排序字段就是分片字段时,通过分片规则就比较容易定位到指定的分片;当排序字段非分片字段时,就变得比较复杂了。需要先在不同的分片节点中将数据进行排序并返回,然后将不同分片返回的结果集进行汇总和再次排序,最终返回给用户
    在这里插入图片描述

    上图中只是取第一页的数据,对性能影响还不是很大。但是如果取得页数很大,情况则变得复杂很多,因为各分片节点中的数据可能是随机的,为了排序的准确性,需要将所有节点的前N页数据都排序好做合并,最后再进行整体的排序,这样的操作时很耗费CPU和内存资源的,所以页数越大,系统的性能也会越差

    在使用Max、Min、Sum、Count之类的函数进行计算的时候,也需要先在每个分片上执行相应的函数,然后将各个分片的结果集进行汇总和再次计算,最终将结果返回

    1.3.4.全局主键避重问题

    在分库分表环境中,由于表中数据同时存在不同数据库中,主键值平时使用的自增长将无用武之地,某个分区数据库自生成的ID无法保证全局唯一

    因此需要单独设计全局主键,以避免跨库主键重复问题。有一些常见的主键生成策略:

    • UUID

    UUID标准形式包含32个16进制数字,分为5段,形式为8-4-4-4-12的36个字符,例如:550e8400-e29b-41d4-a716-446655440000

    UUID是主键是最简单的方案,本地生成,性能高,没有网络耗时。但缺点也很明显,由于UUID非常长,会占用大量的存储空间;另外,作为主键建立索引和基于索引进行查询时都会存在性能问题,在InnoDB下,UUID的无序性会引起数据位置频繁变动,导致分页。

    • 结合数据库维护主键ID表

    在数据库中建立 sequence 表:

    CREATE TABLE `sequence` (  
      `id` bigint(20) unsigned NOT NULL auto_increment,  
      `stub` char(1) NOT NULL default '',  
      PRIMARY KEY  (`id`),  
      UNIQUE KEY `stub` (`stub`)  
    ) ENGINE=MyISAM;
    

    stub字段设置为唯一索引,同一stub值在sequence表中只有一条记录,可以同时为多张表生成全局ID。sequence表的内容,如下所示:

    +-------------------+------+  
    | id                | stub |  
    +-------------------+------+  
    | 72157623227190423 |    a |  
    +-------------------+------+  
    

    使用 MyISAM 存储引擎而不是 InnoDB,以获取更高的性能。MyISAM使用的是表级别的锁,对表的读写是串行的,所以不用担心在并发时两次读取同一个ID值。

    当需要全局唯一的64位ID时,执行:

    REPLACE INTO sequence (stub) VALUES ('a');  
    SELECT LAST_INSERT_ID(); 
    

    这两条语句是Connection级别的,select last_insert_id() 必须与 replace into 在同一数据库连接下才能得到刚刚插入的新ID。

    使用replace into代替insert into好处是避免了表行数过大,不需要另外定期清理。

    此方案较为简单,但缺点也明显:存在单点问题,强依赖DB,当DB异常时,整个系统都不可用。配置主从可以增加可用性,但当主库挂了,主从切换时,数据一致性在特殊情况下难以保证。另外性能瓶颈限制在单台MySQL的读写性能。

    flickr团队使用的一种主键生成策略,与上面的sequence表方案类似,但更好的解决了单点和性能瓶颈的问题。

    这一方案的整体思想是:建立2个以上的全局ID生成的服务器,每个服务器上只部署一个数据库,每个库有一张sequence表用于记录当前全局ID。表中ID增长的步长是库的数量,起始值依次错开,这样能将ID的生成散列到各个数据库上。如下图所示:

    在这里插入图片描述

    由两个数据库服务器生成ID,设置不同的auto_increment值。第一台sequence的起始值为1,每次步长增长2,另一台的sequence起始值为2,每次步长增长也是2。结果第一台生成的ID都是奇数(1, 3, 5, 7 …),第二台生成的ID都是偶数(2, 4, 6, 8 …)。

    这种方案将生成ID的压力均匀分布在两台机器上。同时提供了系统容错,第一台出现了错误,可以自动切换到第二台机器上获取ID。但有以下几个缺点:系统添加机器,水平扩展时较复杂;每次获取ID都要读写一次DB,DB的压力还是很大,只能靠堆机器来提升性能。

    可以基于flickr的方案继续优化,使用批量的方式降低数据库的写压力,每次获取一段区间的ID号段,用完之后再去数据库获取,可以大大减轻数据库的压力。

    在这里插入图片描述

    还是使用两台DB保证可用性,数据库中只存储当前的最大ID。ID生成服务每次批量拉取6个ID,先将max_id修改为5,当应用访问ID生成服务时,就不需要访问数据库,从号段缓存中依次派发0-5的ID。当这些ID发完后,再将max_id修改为11,下次就能派发6-11的ID。于是,数据库的压力降低为原来的1/6。

    • Snowflake分布式自增ID算法

    Twitter的snowflake算法解决了分布式系统生成全局ID的需求,生成64位的Long型数字,组成部分:

    • 第一位未使用
    • 接下来41位是毫秒级时间,41位的长度可以表示69年的时间
    • 5位datacenterId,5位workerId。10位的长度最多支持部署1024个节点
    • 最后12位是毫秒内的计数,12位的计数顺序号支持每个节点每毫秒产生4096个ID序列

    这样的好处是:毫秒数在高位,生成的ID整体上按时间趋势递增;不依赖第三方系统,稳定性和效率较高,理论上QPS约为409.6w/s(1000*2^12),并且整个分布式系统内不会产生ID碰撞;可根据自身业务灵活分配bit位。

    不足就在于:强依赖机器时钟,如果时钟回拨,则可能导致生成ID重复。

    结合数据库和snowflake的唯一ID方案,可以参考业界较为成熟的解法:Leaf——美团点评分布式ID生成系统,并考虑到了高可用、容灾、分布式下时钟等问题

    1.3.5.数据迁移、扩容问题

    当业务高速发展,面临性能和存储的瓶颈时,才会考虑分片设计,此时就不可避免的需要考虑历史数据迁移的问题。一般做法是先读出历史数据,然后按指定的分片规则再将数据写入到各个分片节点中。此外还需要根据当前的数据量和QPS,以及业务发展的速度,进行容量规划,推算出大概需要多少分片(一般建议单个分片上的单表数据量不超过1000W)

    如果采用数值范围分片,只需要添加节点就可以进行扩容了,不需要对分片数据迁移。如果采用的是数值取模分片,则考虑后期的扩容问题就相对比较麻烦。

    1.4什么时候考虑切分

    下面讲述一下什么时候需要考虑做数据切分。

    1、能不切分尽量不要切分

    并不是所有表都需要进行切分,主要还是看数据的增长速度。切分后会在某种程度上提升业务的复杂度,数据库除了承载数据的存储和查询外,协助业务更好的实现需求也是其重要工作之一。

    不到万不得已不用轻易使用分库分表这个大招,避免"过度设计"和"过早优化"。分库分表之前,不要为分而分,先尽力去做力所能及的事情,例如:升级硬件、升级网络、读写分离、索引优化等等。当数据量达到单表的瓶颈时候,再考虑分库分表。

    2、数据量过大,正常运维影响业务访问

    这里说的运维,指:

    1)对数据库备份,如果单表太大,备份时需要大量的磁盘IO和网络IO。例如1T的数据,网络传输占50MB时候,需要20000秒才能传输完毕,整个过程的风险都是比较高的

    2)对一个很大的表进行DDL修改时,MySQL会锁住全表,这个时间会很长,这段时间业务不能访问此表,影响很大。如果使用pt-online-schema-change,使用过程中会创建触发器和影子表,也需要很长的时间。在此操作过程中,都算为风险时间。将数据表拆分,总量减少,有助于降低这个风险。

    3)大表会经常访问与更新,就更有可能出现锁等待。将数据切分,用空间换时间,变相降低访问压力

    3、随着业务发展,需要对某些字段垂直拆分

    举个例子,假如项目一开始设计的用户表如下:

    id                   bigint             #用户的ID
    name                 varchar            #用户的名字
    last_login_time      datetime           #最近登录时间
    personal_info        text               #私人信息
    .....                                   #其他信息字段
    

    在项目初始阶段,这种设计是满足简单的业务需求的,也方便快速迭代开发。而当业务快速发展时,用户量从10w激增到10亿,用户非常的活跃,每次登录会更新 last_login_name 字段,使得 user 表被不断update,压力很大。而其他字段:id, name, personal_info 是不变的或很少更新的,此时在业务角度,就要将 last_login_time 拆分出去,新建一个 user_time 表。

    personal_info 属性是更新和查询频率较低的,并且text字段占据了太多的空间。这时候,就要对此垂直拆分出 user_ext 表了。

    4、数据量快速增长

    随着业务的快速发展,单表中的数据量会持续增长,当性能接近瓶颈时,就需要考虑水平切分,做分库分表了。此时一定要选择合适的切分规则,提前预估好数据容量

    5、安全性和可用性

    鸡蛋不要放在一个篮子里。在业务层面上垂直切分,将不相关的业务的数据库分隔,因为每个业务的数据量、访问量都不同,不能因为一个业务把数据库搞挂而牵连到其他业务。利用水平切分,当一个数据库出现问题时,不会影响到100%的用户,每个库只承担业务的一部分数据,这样整体的可用性就能提高。

    1.5案例分析

    • 1.用户中心业务场景

    用户中心是一个非常常见的业务,主要提供用户注册、登录、查询/修改等功能,其核心表为:

    User(uid, login_name, passwd, sex, age, nickname)
    
    uid为用户ID,  主键
    login_name, passwd, sex, age, nickname,  用户属性
    

    任何脱离业务的架构设计都是耍流氓,在进行分库分表前,需要对业务场景需求进行梳理:

    • 用户侧:前台访问,访问量较大,需要保证高可用和高一致性。主要有两类需求:

      • 用户登录:通过login_name/phone/email查询用户信息,1%请求属于这种类型
      • 用户信息查询:登录之后,通过uid来查询用户信息,99%请求属这种类型
    • 运营侧:后台访问,支持运营需求,按照年龄、性别、登陆时间、注册时间等进行分页的查询。是内部系统,访问量较低,对可用性、一致性的要求不高

    • 2.水平切分方法

    当数据量越来越大时,需要对数据库进行水平切分,上文描述的切分方法有"根据数值范围"和"根据数值取模"。

    “根据数值范围”:以主键uid为划分依据,按uid的范围将数据水平切分到多个数据库上。例如:user-db1存储uid范围为01000w的数据,user-db2存储uid范围为1000w2000wuid数据。

    • 优点是:扩容简单,如果容量不够,只要增加新db即可。

    • 不足是:请求量不均匀,一般新注册的用户活跃度会比较高,所以新的user-db2会比user-db1负载高,导致服务器利用率不平衡

    “根据数值取模”:也是以主键uid为划分依据,按uid取模的值将数据水平切分到多个数据库上。例如:user-db1存储uid取模得1的数据,user-db2存储uid取模得0的uid数据。

    • 优点是:数据量和请求量分布均均匀

    • 不足是:扩容麻烦,当容量不够时,新增加db,需要rehash。需要考虑对数据进行平滑的迁移。

    • 3.非uid的查询方法

    水平切分后,对于按uid查询的需求能很好的满足,可以直接路由到具体数据库。而按非uid的查询,例如login_name,就不知道具体该访问哪个库了,此时需要遍历所有库,性能会降低很多。

    对于用户侧,可以采用"建立非uid属性到uid的映射关系"的方案;对于运营侧,可以采用"前台与后台分离"的方案。

    • 建立非uid属性到uid的映射关系

    1)映射关系

    例如:login_name不能直接定位到数据库,可以建立login_name→uid的映射关系,用索引表或缓存来存储。当访问login_name时,先通过映射表查询出login_name对应的uid,再通过uid定位到具体的库。

    映射表只有两列,可以承载很多数据,当数据量过大时,也可以对映射表再做水平切分。这类kv格式的索引结构,可以很好的使用cache来优化查询性能,而且映射关系不会频繁变更,缓存命中率会很高。

    2)基因法

    分库基因:假如通过uid分库,分为8个库,采用uid%8的方式进行路由,此时是由uid的最后3bit来决定这行User数据具体落到哪个库上,那么这3bit可以看为分库基因。

    上面的映射关系的方法需要额外存储映射表,按非uid字段查询时,还需要多一次数据库或cache的访问。如果想要消除多余的存储和查询,可以通过f函数取login_name的基因作为uid的分库基因。生成uid时,参考上文所述的分布式唯一ID生成方案,再加上最后3位bit值=f(login_name)。当查询login_name时,只需计算f(login_name)%8的值,就可以定位到具体的库。不过这样需要提前做好容量规划,预估未来几年的数据量需要分多少库,要预留一定bit的分库基因。

    在这里插入图片描述

    • 前台与后台分离

    对于用户侧,主要需求是以单行查询为主,需要建立login_name/phone/email到uid的映射关系,可以解决这些字段的查询问题。

    而对于运营侧,很多批量分页且条件多样的查询,这类查询计算量大,返回数据量大,对数据库的性能消耗较高。此时,如果和用户侧公用同一批服务或数据库,可能因为后台的少量请求,占用大量数据库资源,而导致用户侧访问性能降低或超时。

    这类业务最好采用"前台与后台分离"的方案,运营侧后台业务抽取独立的service和db,解决和前台业务系统的耦合。由于运营侧对可用性、一致性的要求不高,可以不访问实时库,而是通过binlog异步同步数据到运营库进行访问。在数据量很大的情况下,还可以使用ES搜索引擎或Hive来满足后台复杂的查询方式。

    1.6支持分库分表中间件

    站在巨人的肩膀上能省力很多,目前分库分表已经有一些较为成熟的开源解决方案:

    参考

    [1]数据库分布式架构扫盲——分库分表(及银行核心系统适用性思考)

    [2]分库分表的思想

    [3]水平分库分表的关键步骤以及可能遇到的问题

    [4]从原则、方案、策略及难点阐述分库分表

    [5]Leaf——美团点评分布式ID生成系统

    [6]数据库水平切分架构实践-【架构师之路】公众号

    展开全文
  • 浅谈数据库分片技术

    千次阅读 2018-03-12 18:34:50
    把所有这些应用碎片分入不同的数据库实例是你首先应该考虑的,而不是直接考虑分片。客户定制系统经常有不同数据集的应用,所以这个分法很容易实现。 复制:许多应用都是“读操作”的压力大,而扩展读操作性能要比...
  • 数据库 shard 分片存储

    千次阅读 2014-11-06 22:58:44
    "Sharding" 姑且称之为"分片"。Sharding 不是一门新技术,而是一个相对简朴的软件理念。众所周知,MySQL 5 之后才有了数据表分区功能,那么在此之前,很多 MySQL 的潜在用户都对 MySQL 的扩展性有所顾虑,而是否具备...
  • shardingsphere和mycat类似,均是高可用数据库的解决方案中间件。这里采用shardingsphere。 如果大家对shardingsphere不了解,先找些文章或者视频看一下,入门一下,然后需要看官方文档,你在看别人的文章或者东西...
  • 分片技术的由来 关系型数据库本身比较容易成为系统性能瓶颈,单机存储容量、连接数、处理能力等都很有限,数据库本身的“有状态性”导致了它并不像Web和应用服务器那么容易扩展。在互联网行业海量数据和高并发访问...
  • 数据库分片(Sharding)技术

    千次阅读 2016-07-01 13:58:44
    是静态分配的,一般使用范围或哈希函数,例如深圳团队放到一个分片,北京团队放到另外一个分片;或者编号为0096开头的员工放到一个分片,而0199开头的员工放到另外一个分片。这种模式虽然实现简单,但明显的缺陷便是...
  • 分布式数据库分片方法

    万次阅读 2014-08-27 17:25:50
    一、分片的定义和作用 定义:分布式数据库中数据的存储单位成为片段。对全局数据库的划分叫做分片。划分的结果就是片段。每个片段可以保存在一个以上的场地(服务器)。...二、分片设计过程 分片过程是将全局数据进
  • 数据库分区分片框架

    千次阅读 2016-06-14 14:29:20
    但是不可避免的,在数据库出现瓶颈的情况还是有的,现在做互联网上的应用,当然也要未雨绸缪,要考虑数据量大的时候的解决方案。这个目前开源的商用的也都有不少解决方案,一来,做技术的都有这么个臭毛病,即使是...
  • 文章目录前言数据拆分垂直切分水平切分拆分阶段如何操作拆分的数据库(客户端分片)程序自定义规则实现通过ORM框架实现通过JDBC协议实现通过代理分片实现 前言   在当今互联网的发展下,很多软件拥有大量用户的...
  • 数据库分区分片(Shards)技术概览

    万次阅读 2018-01-05 14:23:59
    Sharding的基本思想就要把一个数据库切分成多个部分放到不同的数据库 (server)上,从而缓解单一数据库的性能问题。不太严格的讲,对于海量数据的数据库,如果是因为表多而数据多,这时候适合使用垂直切分,即把关系...
  • 数据库数据库设计

    千次阅读 2020-11-16 16:47:49
    1,数据库设计概述 1.1,数据库设计的基本概念 数据库设计是指对于一个给定的应用环境,构造(设计)优化的数据库逻辑模式和物理结构,并据此建立数据库及其应用系统,使之能够有效地存储和管理数据,满足各种...
  • 文章重点描述: MySQL数据库的架构选型和容量规划 MySQL数据库的服务器配置选型和部署规划 MySQL数据库的服务器处理能力和测试验证方法 分布式事务数据库的数据分片设计和优化 分布式事务数据库的行业案例剖析
  • 一:需求  把商品表分片存储在三个数据节点上 二:环境  mysql节点1环境  操作系统版本:centos6.8  数据库版本:mysql-5.6  mycat版本:1.4 release  数据库名:db1、db3  ip:192.168.156.41
  • 数据库分区、分表、分库、分片

    千次阅读 2019-09-29 19:14:12
    数据库分区是一种物理数据库设计技术,主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减响应时间。 把一张表的数据分成N个区块,在逻辑上看最终还是一张表,但底层是由N个物理区块组成。 系统读写时,操作...
  • 数据库设计&分布式设计

    千次阅读 2019-08-25 01:47:39
    文章目录一. 数据库设计1.1 多表关系 (重点)1.2 类型设计 (重点)1.3 约束设计 ... 数据库分布式设计2.1 复制2.2 Sharding 分片/分库分表1.2.1 垂直拆分 (重点)1.2.2 水平拆分2.3 发布式带来的问题 一. 数据库设计...
  • 数据库——数据库结构设计

    千次阅读 2020-03-08 22:21:25
    1 数据库概念设计 2 数据库逻辑设计 3 数据库物理设计 数据库概念设计 概念设计数据库设计的 核心环节,通过对用户需求进行综合;归纳;与抽象,形成一个独立于DBMS 的概念模型 数据库概念设计的目标 1 定义与...
  • 扩容无须数据迁移的分片算法 常见的分库分表方案大都用主键mod一个数(如分为8个库,则 id % 8 根据余数决定落到哪个分片)。此种方案中,如果要拓展数据库将是十分复杂的事情(例如拓展为10个,则代码需要改为 id ...
  • 数据库分类及主流数据库对比

    千次阅读 2019-11-11 09:52:54
    数据库使用系列专栏:数据库使用系列文章 目录 1 数据库分类 1.1 关系型数据库 1.2 非关系型数据库 2 数据库对比 1 数据库分类 数据库根据数据结构可分为关系型数据库和非关系型数据库。非关系型数据库中根据...
  • 其实上了班,依旧还是没能绕过数据库,只不过不再单一的将数据存储在关系型数据库,更多的通过其他形式,例如NoSQL,以减少数据库的访问,但是NoSQL依旧无法对关系型数据库致命一击以完全替代关系型数据库,关键的...
  • mongodb 分片代替数据库分表

    千次阅读 2019-04-16 10:07:30
    MongoDB 的Sharding机制解决了海量存储和动态扩容的问题,但离生产环境的高可靠,高可用还有距离,Sharding在单点出现故障时就无能为力...Mongodb支持自动分片和划分架构,可以利用它构建一个水平扩展的数据库集群系...
  • 数据库设计

    千次阅读 2018-06-07 08:46:28
    简单来说,数据库设计就是根据业务系统的需要,结合选择的DBMS,设计最优的数据存储模型。同时建立好表的结构,以及表与表的关联关系。最后达成的效果是:有效的储存数据,并且可以高效的从数据库中取出已存储的数据...
  • 分布式数据库能实现高安全、高性能、高可用等特征,当然也带来了高成本(固定成本及运营成本),我们通过MongoDB及MySQLCluster从实现上来分析其中的设计思路,用以抽象我们在设计数据库时,可以引用的部分设计方法...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 83,244
精华内容 33,297
关键字:

数据库分片如何设计