精华内容
下载资源
问答
  • oracle分库分表方案
    2021-05-08 01:02:59

    数据库Sharding的基本思想和切分策

    关于垂直切分Vertical Sharding的粒度

    数据库分库分表(sharding)系列(一) 拆分实施策略和示例演示

    数据库分库分表(sharding)系列(二) 全局主键生成策略

    数据库分库分表(sharding)系列(三) 关于使用框架还是自主开发以及sharding实现层面的考量

    数据库分库分表(sharding)系列(四) 多数据源的事务处理

    数据库分库分表(sharding)系列(五) 一种支持自由规划无须数据迁移和修改路由代码的Sharding扩容方案

    mysql、oracle分库分表方案之sharding-jdbc使用(非demo示例)

    选择开源核心组件的一个非常重要的考虑通常是社区活跃性,一旦项目团队无法进行自己后续维护和扩展的情况下更是如此. 至于为什么选择sharding-jdbc而不是Mycat,可以参考知乎讨论帖子https ...

    数据库分库分表(sharding)系列(一) 拆分规则

    第一部分:实施策略 数据库分库分表(sharding)实施策略图解 1. 垂直切分垂直切分的依据原则是:将业务紧密,表间关联密切的表划分在一起,例如同一模块的表.结合已经准备好的数据库ER图或领域模型 ...

    转数据库分库分表(sharding)系列(二) 全局主键生成策略

    本文将主要介绍一些常见的全局主键生成策略,然后重点介绍flickr使用的一种非常优秀的全局主键生成方案.关于分库分表(sharding)的拆分策略和实施细则,请参考该系列的前一篇文章:数据库分库分表( ...

    转数据库分库分表(sharding)系列(一) 拆分实施策略和示例演示

    本文原文连接: http://blog.csdn.net/bluishglc/article/details/7696085 ,转载请注明出处!本文着重介绍sharding切分策略,如果你对数据库sh ...

    数据库分库分表(sharding)系列【转】

    更多相关内容
  • 由于数据量偏多,需要进行数据的切分目标场景兼容旧的功能对1300多W数据进行分库分表需要对旧的数据进行整合老师端选题组卷 可以根据 学段、学科、知识点、难度、题型 来筛选学生端根据老师端所选题目获取对应的题目...

    方案

    项目背景

    在现在题库架构下,针对新购买的1300W多道数据进行整合,不影响现有功能。由于数据量偏多,需要进行数据的切分

    目标场景

    兼容旧的功能

    对1300多W数据进行分库分表

    需要对旧的数据进行整合

    老师端选题组卷 可以根据 学段、学科、知识点、难度、题型 来筛选

    学生端根据老师端所选题目获取对应的题目

    对3年内以后扩展的增量数据预留数量空间

    数据样例

    学段

    数据量

    小学

    1285336

    初中

    6655780

    高中

    6144072

    学段学科

    数据量

    初中数学

    1869524

    初中化学

    1356224

    初中英语

    288440

    切分方案一

    切分为3个库, 分别是小学、初中、高中 数据占比如上

    每个库切分10个表 根据 (学科+首级知识点)%10

    每个库一个总表

    缺点:例:用到不同知识点时,需要多表获取数据

    优点:数据分布较为平均

    切分方案二 (采用)

    切分为3个库, 分别是小学、初中、高中 数据占比如上

    每个库切分10个表(全部10个学科) 根据 学科区分, 例: 数学表、物理表

    每个库一个总表

    缺点:数据不大平均, 数据量多的例数学有186W多、英语28W多

    优点:当有用到组卷等需要筛选多知识点题目时,不用多表查询

    数据id 自增区间划分

    小学 1-2亿

    中学 2-3亿

    高中 3亿起

    关联关系图

    根据知识点获取题目流程

    自增id

    对原有的id区间段不做处理

    对切分后的id自增段进行规划

    兼容旧功能

    解决的问题

    新旧数据有重复的知识点、题目

    新旧数据的结构不一样

    对旧的题库功能代码的修改

    两套题库合并主键冲突问题

    兼容旧功能 方案一 (个人推荐)

    有操作的旧的数据洗入新的结构,旧的数据只为兼容原有的功能数据,不做显示。

    优点:

    不用变动数据结构,最新的购买的数据结构较为清晰。 易维护扩展,因为目前旧的数据已经整合了两套数据

    缺点:

    需要修改全部旧有的功能代码(针对新的数据结构)

    兼容旧功能 方案二

    把新购买的数据整合进老的数据结构,同时保留三批数据,需要处理所有表的主键冲突、三批各表数据去重

    优点:

    旧有代码只修改数据结构切分的部分,不用全部修改功能代码

    缺点:

    数据较乱,三套不同的数据同时存在数据库

    需要处理新的结构整合进旧的数据结构,同时需要处理主键冲突,

    代码上需要处理对应的数据

    问题点

    测试环境和正式环境图片存放在那里?100多G,上传cdn需要几十天时间,有4000多W张,目前cdn不支持打包上传

    解决方案:购买单独服务器,主备,存放图片

    测试db 正式db 1300多w 目前占用100G左右, 需要存放空间

    解决方案:测试环境新加硬盘,新加db实例端口3307,正式环境db存放在图片服务器

    代码设计模式

    采用适配器模式(原先的代码结构不变)

    类图

    调研内容

    中间件MYCAT(未使用)

    什么是MYCAT

    一个彻底开源的,面向企业应用开发的大数据库集群

    支持事务、ACID、可以替代MySQL的加强版数据库

    一个可以视为MySQL集群的企业级数据库,用来替代昂贵的Oracle集群

    一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server

    结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品

    一个新颖的数据库中间件产品

    MYCAT特性

    ==支持库内分表(1.6)==

    ==支持单库内部任意join,支持跨库2表join,甚至基于caltlet的多表join==

    支持全局序列号,解决分布式下的主键生成问题。

    ==分片规则丰富==,插件化开发,易于扩展。

    基于Nio实现,有效管理线程,解决高并发问题。

    ==支持通过全局表,ER关系的分片策略,实现了高效的多表join查询==

    支持分布式事务(弱xa)。

    支持SQL黑名单、sql注入攻击拦截

    ==支持MySQL、Oracle、DB2、SQL Server、PostgreSQL等DB的常见SQL语法==

    ==遵守Mysql原生协议==,跨语言,跨平台,跨数据库的通用中间件代理。

    ==基于心跳的自动故障切换,支持读写分离,支持MySQL主从,==以及galera cluster集群。

    可以大幅降低开发难度,提升开发速度

    Mycat 注意事项

    全局表一致性检测 1.6版本开始支持(一致性的定时检测)

    分片 join(尽量避免使用 Left join 或 Right join,而用 Inner join)

    Mycat 原理

    应用要面对很多个数据库的时候,这个时候就需要对数据库层做一个抽象,来管理这些数据库,而最上面的应用只需要面对一个数据库层的抽象或者说数据库中间件就好了,这就是Mycat的核心作用。

    分片分析、路由分析、读写分离分析、缓存分析等,然后将此SQL发往后端的真实数据库,并将返回的结果做适当的处理,最终再返回给用户。

    Mycat 应用场景

    读写分离,配置简单

    分表分库,对于超过1000万的表进行分片,最大支持1000亿的单表分片

    报表系统,借助于Mycat的分表能力,处理大规模报表的统计

    文章整理

    总表使用mysql MERGE 引擎(不考虑)

    合并的表使用的必须是MyISAM引擎

    表的结构必须一致,包括索引、字段类型、引擎和字符集

    对于增删改查,直接操作总表即可。

    数据切分原则

    能不切分尽量不要切分。

    如果要切分一定要选择合适的切分规则,提前规划好。

    数据切分尽量通过数据冗余或表分组(Table Group)来降低跨库 Join 的可能。

    由于数据库中间件对数据 Join 实现的优劣难以把握,而且实现高性能难度极大,业务读取尽量少使用多表 Join。

    尽可能的比较均匀分布数据到各个节点上

    该业务字段是最频繁的或者最重要的查询条件。

    展开全文
  • oracle分库分表

    千次阅读 2022-06-21 08:02:43
    oracle 如何进行分库分表呢?1.引入POM 2. yaml 配置 3. DDL 4. 准备测试对象 5. 测试 2.yaml 配置 sharding: jdbc: datasource: names: ds0 # 数据源ds0 ds0: type: com.alibaba.druid.pool.DruidDataSource driver...

    Survive by day and develop by night.
    talk is cheap, show me the code,make a better result.

    目录

    概述

    oracle 如何进行分库分表呢?

    需求:

    1.引入POM
    2. yaml 配置
    3. DDL
    4. 准备测试对象
    5. 测试

    设计思路

    实现思路分析

    1.引入POM

        <dependency>
            <groupId>io.shardingsphere</groupId>
            <artifactId>sharding-jdbc-spring-boot-starter</artifactId>
            <version>${sharding.jdbc.version}</version>
        </dependency>
    

    2.yaml 配置

    sharding:
    jdbc:
    datasource:
    names: ds0
    # 数据源ds0
    ds0:
    type: com.alibaba.druid.pool.DruidDataSource
    driver-class-name: oracle.jdbc.driver.OracleDriver
    url: jdbc:oracle:thin:@localhost:1521:xe
    username: ******
    password: ******
    config:
    sharding:
    props:
    sql.show: true
    tables:
    t_user: #t_user表
    key-generator-column-name: id #主键
    actual-data-nodes: ds0.t_userKaTeX parse error: Expected 'EOF', got '#' at position 11: {0..1} #̲数据节点,均匀分布 …{task_id % 2} #按模运算分配

    3.准备表DDL

    2.3 准备表DDL

    create table T_ADDRESS
    (
    ID NUMBER(20) not null
    constraint T_ADDRESS_PK
    primary key,
    NAME VARCHAR2(64),
    ADDR VARCHAR2(32)
    )
    /
    comment on column T_ADDRESS.ID is ‘主键’
    /
    comment on column T_ADDRESS.NAME is ‘名称’
    /
    comment on column T_ADDRESS.ADDR is ‘地址’
    /

    create table T_USER0
    (
    ID NUMBER(20) not null
    constraint TABLE1_PK
    primary key,
    NAME VARCHAR2(64),
    TASK_ID NUMBER(12),
    CALL_MONTH VARCHAR2(20)
    )
    /
    comment on column T_USER0.ID is ‘主键’
    /
    comment on column T_USER0.NAME is ‘名称’
    /
    comment on column T_USER0.TASK_ID is ‘任务id’
    /
    comment on column T_USER0.CALL_MONTH is ‘呼叫月份’
    /

    create table T_USER1
    (
    ID NUMBER(20) not null
    constraint T_USER1_PK
    primary key,
    NAME VARCHAR2(64),
    TASK_ID NUMBER(12),
    CALL_MONTH VARCHAR2(20)
    )
    /
    comment on column T_USER1.ID is ‘主键’
    /
    comment on column T_USER1.NAME is ‘名称’
    /
    comment on column T_USER1.TASK_ID is ‘任务id’
    /
    comment on column T_USER1.CALL_MONTH is ‘呼叫月份’
    /

    4.准备测试对象

    不分表测试对象:
    @Test
    public void save() {
    for (int i = 0; i < 10; i++) {
    Address address = new Address();
    Long id = i + 1L;
    address.setId(id);
    address.setName(“name_” + i);
    address.setAddr(“addr_” + i);
    addressMapper.save(address);
    }
    }

    5.分表测试对象

    @Test
    public void testSave() {
    for (int i = 0; i < 10; i++) {
    User user = new User();
    Long id =i+1L;
    user.setId(id);
    user.setName(“test” + i);
    user.setCallMonth(“201907”);
    user.setTaskId(2L);
    userMapper.save(user);
    }
    }

    拓展实现

    这里参考:github:简单实现上述流程:
    入门级实现:
    : 部分源码实现.
    : 源码实现

    性能参数测试:

    参考资料和推荐阅读

    1. shareJDBC.

    欢迎阅读,各位老铁,如果对你有帮助,点个赞加个关注呗!~

    展开全文
  • MySQL数据库之分库分表方案

    千次阅读 2022-06-10 16:09:16
    MySQL数据库之分库分表方案

    数据库之互联网常用分库分表方案

    一、数据库瓶颈

    1、IO瓶颈

    2、CPU瓶颈

    二、分库分表

    1、水平分库

    2、水平分表

    3、垂直分库

    4、垂直分表

    三、分库分表工具

    四、分库分表步骤

    五、分库分表问题

    1、非partition key的查询问题(水平分库分表,拆分策略为常用的hash法)

    2、非partition key跨库跨表分页查询问题(水平分库分表,拆分策略为常用的hash法)

    3、扩容问题(水平分库分表,拆分策略为常用的hash法)

    六、分库分表总结

    七、分库分表示例

    一、数据库瓶颈↑

    不管是IO瓶颈,还是CPU瓶颈,最终都会导致数据库克活跃连接数增加,进而逼近甚至达到数据库可承载活跃连接数的阈值。在业务Service来看就是,可用数据库连接少甚至无连接可用。接下来就可以想象了吧(并发量、吞吐量、崩溃)。

    1、IO瓶颈

    第一种:磁盘读IO瓶颈,热点数据太多,数据库缓存放不下,每次查询时会产生大量的IO,降低查询速度 -> 分库和垂直分表

    第二种:网络IO瓶颈,请求的数据太多,网络带宽不够 -> 分库

    2、CPU瓶颈

    第一种:SQL问题,如SQL中包含join,group by,order by,非索引字段条件查询等,增加CPU运算的操作 -> SQL优化,建立合适的索引,在业务Service层进行业务计算。

    第二种:单表数据量太大,查询时扫描的行太多,SQL效率低,CPU率先出现瓶颈 -> 水平分表

    二、分库分表↑

    1、水平分库

    1. 概念:以 字段为依据 ,按照一定策略(hash、range等),将一个 中的数据拆分到多个 中。
    2. 结果:
    3. 每个 的 结构都一样;
    4. 每个 的 数据都不一样,没有交集;
    5. 所有 的 并集是全量数据;
    6. 场景:系统绝对并发量上来了,分表难以根本上解决问题,并且还没有明显的业务归属来垂直分库。
    7. 分析:库多了,io和cpu的压力自然可以成倍缓解。

    2、水平分表

    1. 概念:以 字段为依据 ,按照一定策略(hash、range等),将一个 中的数据拆分到多个 中。
    2. 结果:
    3. 每个 的 结构都一样;
    4. 每个 的 数据都不一样,没有交集;
    5. 所有 的 并集是全量数据;
    6. 场景:系统绝对并发量并没有上来,只是单表的数据量太多,影响了SQL效率,加重了CPU负担,以至于成为瓶颈。
    7. 分析:表的数据量少了,单次SQL执行效率高,自然减轻了CPU的负担。

    3、垂直分库

    1. 概念:以 以此为依据,按照业务归属不同,将不同的 拆分到不同的 中 。
    2. 结果:
    3. 每个 克 结构都不一样;
    4. 每个 的 数据也不一样,没有交集;
    5. 所有 的 并集是全量数据;
    6. 场景:系统绝对并发量上来了,并且可以抽象出单独的业务模块。
    7. 分析:到这一步,基本上就可以服务化了。例如,随着业务的发展一些公用的配置表、字典表等越来越多,这时可以将这些表拆到单独的库中,甚至可以服务化。再有,随着业务的发展孵化出了一套业务模式,这时可以将相关的表拆到单独的库中,甚至可以服务化。

    4、垂直分表

    1. 概念:以 字段为依据,按照字段的活跃性,将 中字段拆到不同的 (主表和扩展表)中。
    2. 结果:
    3. 每个 的 结构都不一样;
    4. 每个 的 数据也不一样,一般来说,每个表的 字段至少有一列交集,一般是主键,用于关联数据;
    5. 所有 的 并集是全量数据;
    6. 场景:系统绝对并发量并没有上来,表的记录并不多,但是字段多,并且热点数据和非热点数据在一起,单行数据所需的存储空间较大。以至于数据库缓存的数据行减少,查询时会去读磁盘数据产生大量的随机读IO,产生IO瓶颈。
    7. 分析:可以用列表页和详情页来帮助理解。垂直分表的拆分原则是将热点数据(可能会冗余经常一起查询的数据)放在一起作为主表,非热点数据放在一起作为扩展表。这样更多的热点数据就能被缓存下来,进而减少了随机读IO。拆了之后,要想获得全部数据就需要关联两个表来取数据。但记住,千万别用join,因为join不仅会增加CPU负担并且会讲两个表耦合在一起(必须在一个数据库实例上)。关联数据,应该在业务Service层做文章,分别获取主表和扩展表数据然后用关联字段关联得到全部数据。

    三、分库分表工具↑

    1. sharding-sphere:jar,前身是sharding-jdbc;
    2. TDDL:jar,Taobao Distribute Data Layer;
    3. Mycat:中间件。

    注:工具的利弊,请自行调研,官网和社区优先。

    四、分库分表步骤↑

    根据容量(当前容量和增长量)评估分库或分表个数 -> 选key(均匀)-> 分表规则(hash或range等)-> 执行(一般双写)-> 扩容问题(尽量减少数据的移动)。

    五、分库分表问题↑

    1、非partition key的查询问题(水平分库分表,拆分策略为常用的hash法)

    1. 端上除了partition key只有一个非partition key作为条件查询映射法
      基因法注:写入时,基因法生成user_id,如图。关于xbit基因,例如要分8张表,2 3=8,故x取3,即3bit基因。根据user_id查询时可直接取模路由到对应的分库或分表。根据user_name查询时,先通过user_name_code生成函数生成user_name_code再对其取模路由到对应的分库或分表。id生成常用 snowflake算法
    2. 端上除了partition key不止一个非partition key作为条件查询映射法
      冗余法注:按照order_id或buyer_id查询时路由到db_o_buyer库中,按照seller_id查询时路由到db_o_seller库中。感觉有点本末倒置!有其他好的办法吗?改变技术栈呢?
    3. 后台除了partition key还有各种非partition key组合条件查询NoSQL法
      冗余法

    2、非partition key跨库跨表分页查询问题(水平分库分表,拆分策略为常用的hash法)

    注:用 NoSQL法解决(ES等)。

    3、扩容问题(水平分库分表,拆分策略为常用的hash法)

    1. 水平扩容库(升级从库法)注:扩容是成倍的。
    2. 水平扩容表(双写迁移法)
      第一步:(同步双写)应用配置双写,部署;第二步:(同步双写)将老库中的老数据复制到新库中;第三步:(同步双写)以老库为准校对新库中的老数据;第四步:(同步双写)应用去掉双写,部署;

    注: 双写是通用方案。

    六、分库分表总结↑

    1. 分库分表,首先得知道瓶颈在哪里,然后才能合理地拆分(分库还是分表?水平还是垂直?分几个?)。且不可为了分库分表而拆分。
    2. 选key很重要,既要考虑到拆分均匀,也要考虑到非partition key的查询。
    3. 只要能满足需求,拆分规则越简单越好。

    七、分库分表示例↑

    示例GitHub地址:
    https://github.com/littlecharacter4s/study-sharding

    作者: 尜尜人物

    三.分库分表

    当一张表随着时间和业务的发展,库里表的数据量会越来越大。数据操作也随之会越来越大。一台物理机的资源有限,最终能承载的数据量、数据的处理能力都会受到限制。这时候就会使用分库分表来承接超大规模的表,单机放不下的那种。

    区别于分区的是,分区一般都是放在单机里的,用的比较多的是时间范围分区,方便归档。只不过分库分表需要代码实现,分区则是 mysql内部实现。分库分表和分区并不冲突,可以结合使用。

    3.1 实现

    3.1.1 分库分表标准

    • 存储占用100G+
    • 数据增量每天200w+
    • 单表条数1亿条+

    3.1.2 分库分表字段

    分库分表字段取值非常重要

    1.在大多数场景该字段是查询字段

    2.数值型

    一般使用userId,可以满足上述条件



    3.2 分布式数据库中间件

    分布式数据库中间件分为两种,proxy和客户端式架构。proxy模式有 MyCat、DBProxy等,客户端式架构有TDDL、 Sharding-JDBC等。那么proxy和客户端式架构有何区别呢?各自有什么优缺点呢?其实看一张图便可知晓。

    proxy模式的话我们的select和update语句都是发送给代理,由这个代理来操作具体的底层数据库。所以必须要求代理本身需要保证高可用,否则数据库没有宕机,proxy挂了,那就走远了。

    客户端模式通常在连接池上做了一层封装,内部与不同的库连接,sql交给smart-client进行处理。通常仅支持一种语言,如果其他语言要使用,需要开发多语言客户端。

    各自的优缺点如下:



    为什么要分库分表?

    随着近些年信息化大跃进,各行各业无纸化办公产生了大量的数据,而越来越多的数据存入了数据库中。当使用 MySQL数据库的时候,单表超出了2000万数据量就会出现性能上的分水岭。并且物理服务器的CPU、内存、存储、连接数等资源有限,某个时段大量连接同时执行操作,会导致数据库在处理上遇到性能瓶颈。为了解决这个问题,行业先驱门充分发扬了 分而治之的思想,对大表进行分割,然后实施更好的控制和管理,同时使用多台机器的CPU、内存、存储,提供更好的性能。而 分而治之则有两种方式: 垂直拆分和 水平拆分。

    垂直拆分

    垂直拆分分为 垂直分库和 垂直分表。先说说 垂直分库。垂直分库其实是一种简单逻辑分割。比如我们的数据库中有商品表Products、还有对订单表Orders,还有积分表Scores。接下来我们就可以创建三个数据库,一个数据库存放商品,一个数据库存放订单,一个数据库存放积分。如下图所示:

    垂直分库有一个优点,他能够根据业务场景进行孵化,比如某一单一场景只用到某2-3张表,基本上应用和数据库可以拆分出来做成相应的服务。

    再来说说 垂直分表,比较适用于那种字段比较多的表,假设我们一张表有100个字段,我们分析了一下当前业务执行的SQL语句,有20个字段是经常使用的,而另外80个字段使用比较少。这样我们就可以把20个字段放在主表里面,我们在创建一个辅助表,存放另外80个字段。当然主表和辅助表都是有主键的。他们通过主键进行关联合并,就可以凑成100个字段的表。

    垂直分表可以解决 跨页的问题。在Oracle中叫行链接。怎么理解呢?就是你字段少的情况下,原本一行数据只需要存在一个页里面就行了,但是字段多的情况就存不下了,就需要跨页。这样就会造成额外寻址,造成性能上的开销。另外将这么长的一行数据载到内存中,往往是几个页面,结果咱们经常只访问其中的几个字段,对内存也是一个极大的开销。所以为了让内存缓存更多数据,减少磁盘I/O, 垂直分表就是很好的手段。

    总体来说: 垂直拆分有以下优点:

    • 跟随业务进行分割,和最近流行的微服务概念相似,方便解耦之后的管理及扩展。
    • 高并发的场景下,垂直拆分使用多台服务器的CPU、I/O、内存能提升性能,同时对单机数据库连接数、一些资源限制也得到了提升。
    • 能实现冷热数据的分离。

    垂直拆分的缺点:

    • 部分业务表无法join,应用层需要很大的改造,只能通过聚合的方式来实现。增加了开发的难度。
    • 当单库中的表数据量增大的时候依然没有得到有效的解决。
    • 分布式事务也是一个难题。

    水平拆分

    当某张表数据量达到一定的程度的时候,前面曾说过MySQL单表出现2000万以上数据就会出现性能上的分水岭。此时发现没有办法根据业务规则再进行拆分了,就会导致单库上的读写性能出现瓶颈。此时就只能进行水平拆分了。

    水平拆分又分为 库内分表和 分库分表。先说说 库内分表。假设当我们的Orders表达到了5000万行记录的时候,非常影响数据库的读写效率,怎么办呢?我们可以考虑按照订单编号的order_id进行rang分区,就是把订单编号在1-1000万的放在order1表中,将编号在1000万-2000万的放在order2中,以此类推,每个表中存放1000万数据。如下图所示:

    虽然我们可以通过 库内分表把单表的容量固定在1000万,但是这些表的数据仍然存放在一个库内,使用的是该主机的CPU、IO、内存。单库的连接数也有限制。并不能完全的降低系统的压力。此时,我们就要考虑另外一种技术叫 分库分表。分库分表在库内分表的基础上,将分的表挪动到不同的主机和数据库上。可以充分的使用其他主机的CPU、内存和IO资源。并且分库之后,单库的连接数限制也不在成为瓶颈。但是“成也萧何败也萧何”,如果你执行一个扫描不带分片键,则需要在每个库上查一遍。刚刚我们按照order_id分成了5个库,但是我们查询是name='AAA'的条件并且不带order_id字段时,它并不知道在哪个分片上查,则会创建5个连接,然后每个库都检索一遍。这种广播查询则会造成连接数增多。因为它需要在每个库上都创立连接。如果是高并发的系统,执行这种广播查询,系统的thread很快就会告警。

    总体来说: 水平拆分的优点有以下:

    • 水平扩展能无线扩展。不存在某个库某个表过大的情况。
    • 能够较好的应对高并发,同时可以将热点数据打散。
    • 应用侧的改动较小,不需要根据业务来拆分。

    水平拆分的缺点:

    • 路由是个问题,需要增加一层路由的计算,而且像前面说的一样,不带分片键查询会产生广播SQL。
    • 跨库join的性能比较差。
    • 需要处理分布式事务的一致性问题。

    一起使用

    当前我们的系统, 垂直拆分和 水平拆分都在使用, 垂直拆分主要是做业务上的分割,把业务的各个子系统都规划好,能解耦就解耦。而垂直拆分之后。我们再做水平分库分表。通过取模算法将大表数据拆到若干个库中。

    逻辑库和物理库

    介绍了上述的分库分表,我们有必要说一下几个概念,一个是 逻辑库和 物理库的概念。我们还是拿水平拆分中的 分库分表来说。我们在物理层面,将一个库的数据分割到了5个数据库中。这5个数据库就是 物理库,而它们对上层应用的展现则是一个库。这个对上层展现的库就叫 逻辑库。逻辑库对应用层是透明的。应用不需要了解底层的情况,直接使用就行了。

    逻辑表和物理表

    还是拿水平拆分中的 分库分表来说,orders表总共被分成了5份,分别在底层是orders_1~5。这底层的5个表就是物理表。但是对应用层面来说,只有orders表。这就是 逻辑表。

    总结:这一篇主要是讲述一些分库分表之后的概念。需要加深一些理解,因为我们的项目也才是刚刚开始拆分,所以有写的不对的地方还希望小伙伴们提出意见指正。



    数据库分库分表思路

    一. 数据切分

    关系型数据库本身比较容易成为系统瓶颈,单机存储容量、连接数、处理能力都有限。当单表的数据量达到1000W或100G以后,由于查询维度较多,即使添加从库、优化索引,做很多操作时性能仍下降严重。此时就要考虑对其进行切分了,切分的目的就在于减少数据库的负担,缩短查询时间。

    数据库分布式核心内容无非就是数据切分(Sharding),以及切分后对数据的定位、整合。数据切分就是将数据分散存储到多个数据库中,使得单一数据库中的数据量变小,通过扩充主机的数量缓解单一数据库的性能问题,从而达到提升数据库操作性能的目的。

    数据切分根据其切分类型,可以分为两种方式: 垂直(纵向)切分和水平(横向)切分

    1、垂直(纵向)切分

    垂直切分常见有垂直分库和垂直分表两种。

    垂直分库就是根据业务耦合性,将关联度低的不同表存储在不同的数据库。做法与大系统拆分为多个小系统类似,按业务分类进行独立划分。与"微服务治理"的做法相似,每个微服务使用单独的一个数据库。如图:

    垂直分表是基于数据库中的"列"进行,某个表字段较多,可以新建一张扩展表,将不经常用或字段长度较大的字段拆分出去到扩展表中。在字段很多的情况下(例如一个大表有100多个字段),通过"大表拆小表",更便于开发与维护,也能避免跨页问题,MySQL底层是通过数据页存储的,一条记录占用空间过大会导致跨页,造成额外的性能开销。另外数据库以行为单位将数据加载到内存中,这样表中字段长度较短且访问频率较高,内存能加载更多的数据,命中率更高,减少了磁盘IO,从而提升了数据库性能。

    垂直切分的优点:

    • 解决业务系统层面的耦合,业务清晰
    • 与微服务的治理类似,也能对不同业务的数据进行分级管理、维护、监控、扩展等
    • 高并发场景下,垂直切分一定程度的提升IO、数据库连接数、单机硬件资源的瓶颈

    缺点:

    • 部分表无法join,只能通过接口聚合方式解决,提升了开发的复杂度
    • 分布式事务处理复杂
    • 依然存在单表数据量过大的问题(需要水平切分)

    2、水平(横向)切分

    当一个应用难以再细粒度的垂直切分,或切分后数据量行数巨大,存在单库读写、存储性能瓶颈,这时候就需要进行水平切分了。

    水平切分分为 库内分表和分库分表,是根据表内数据内在的逻辑关系,将同一个表按不同的条件分散到多个数据库或多个表中,每个表中只包含一部分数据,从而使得单个表的数据量变小,达到分布式的效果。如图所示:

    库内分表只解决了单一表数据量过大的问题,但没有将表分布到不同机器的库上,因此对于减轻MySQL数据库的压力来说,帮助不是很大,大家还是竞争同一个物理机的CPU、内存、网络IO,最好通过分库分表来解决。

    水平切分的优点:

    • 不存在单库数据量过大、高并发的性能瓶颈,提升系统稳定性和负载能力
    • 应用端改造较小,不需要拆分业务模块

    缺点:

    • 跨分片的事务一致性难以保证
    • 跨库的join关联查询性能较差
    • 数据多次扩展难度和维护量极大

    水平切分后同一张表会出现在多个数据库/表中,每个库/表的内容不同。几种典型的数据分片规则为:

    1、根据数值范围

    按照时间区间或ID区间来切分。例如:按日期将不同月甚至是日的数据分散到不同的库中;将userId为1~9999的记录分到第一个库,10000~20000的分到第二个库,以此类推。某种意义上,某些系统中使用的" 冷热数据分离",将一些使用较少的历史数据迁移到其他库中,业务功能上只提供热点数据的查询,也是类似的实践。

    这样的优点在于:

    • 单表大小可控
    • 天然便于水平扩展,后期如果想对整个分片集群扩容时,只需要添加节点即可,无需对其他分片的数据进行迁移
    • 使用分片字段进行范围查找时,连续分片可快速定位分片进行快速查询,有效避免跨分片查询的问题。

    缺点:

    • 热点数据成为性能瓶颈。连续分片可能存在数据热点,例如按时间字段分片,有些分片存储最近时间段内的数据,可能会被频繁的读写,而有些分片存储的历史数据,则很少被查询

    2、根据数值取模

    一般采用hash取模mod的切分方式,例如:将 Customer 表根据 cusno 字段切分到4个库中,余数为0的放到第一个库,余数为1的放到第二个库,以此类推。这样同一个用户的数据会分散到同一个库中,如果查询条件带有cusno字段,则可明确定位到相应库去查询。

    优点:

    • 数据分片相对比较均匀,不容易出现热点和并发访问的瓶颈

    缺点:

    • 后期分片集群扩容时,需要迁移旧的数据(使用一致性hash算法能较好的避免这个问题)
    • 容易面临跨分片查询的复杂问题。比如上例中,如果频繁用到的查询条件中不带cusno时,将会导致无法定位数据库,从而需要同时向4个库发起查询,再在内存中合并数据,取最小集返回给应用,分库反而成为拖累。

    二. 分库分表带来的问题

    分库分表能有效的环节单机和单库带来的性能瓶颈和压力,突破网络IO、硬件资源、连接数的瓶颈,同时也带来了一些问题。下面将描述这些技术挑战以及对应的解决思路。

    1、事务一致性问题

    分布式事务

    当更新内容同时分布在不同库中,不可避免会带来跨库事务问题。跨分片事务也是 分布式事务,没有简单的方案,一般可使用"XA协议"和"两阶段提交"处理。

    分布式事务能最大限度保证了数据库操作的原子性。但在提交事务时需要协调多个节点,推后了提交事务的时间点,延长了事务的执行时间。导致事务在访问共享资源时发生冲突或死锁的概率增高。随着数据库节点的增多,这种趋势会越来越严重,从而成为系统在数据库层面上水平扩展的枷锁。

    最终一致性

    对于那些性能要求很高,但对一致性要求不高的系统, 往往不苛求系统的实时一致性,只要在允许的时间段内达到最终一致性即可,可采用事务补偿的方式。与事务在执行中发生错误后立即回滚的方式不同,事务补偿是一种事后检查补救的措施,一些常见的实现方法有:对数据进行对账检查,基于日志进行对比,定期同标准数据来源进行同步等等。事务补偿还要结合业务系统来考虑。

    2、跨节点关联查询 join 问题

    切分之前,系统中很多列表和详情页所需的数据可以通过sql join来完成。而切分之后,数据可能分布在不同的节点上,此时join带来的问题就比较麻烦了,考虑到性能,尽量避免使用join查询。

    解决这个问题的一些方法:

    1)全局表

    全局表,也可看做是"数据字典表",就是系统中所有模块都可能依赖的一些表,为了避免跨库join查询, 可以将这类表在每个数据库中都保存一份。这些数据通常很少会进行修改,所以也不担心一致性的问题。

    2)字段冗余

    一种典型的反范式设计, 利用空间换时间,为了性能而避免join查询。例如:订单表保存userId时候,也将userName冗余保存一份,这样查询订单详情时就不需要再去查询"买家user表"了。

    但这种方法适用场景也有限,比较适用于依赖字段比较少的情况。而冗余字段的数据一致性也较难保证,就像上面订单表的例子,买家修改了userName后,是否需要在历史订单中同步更新呢?这也要结合实际业务场景进行考虑。

    3)数据组装

    在系统层面, 分两次查询,第一次查询的结果集中找出关联数据id,然后根据id发起第二次请求得到关联数据。最后将获得到的数据进行字段拼装。

    4)ER分片

    关系型数据库中,如果可以先确定表之间的关联关系,并 将那些存在关联关系的表记录存放在同一个分片上,那么就能较好的避免跨分片join问题。在1:1或1:n的情况下,通常按照主表的ID主键切分。如下图所示:

    这样一来,Data Node1上面的order订单表与orderdetail订单详情表就可以通过orderId进行局部的关联查询了,Data Node2上也一样。

    3、跨节点分页、排序、函数问题

    跨节点多库进行查询时,会出现limit分页、order by排序等问题。分页需要按照指定字段进行排序,当排序字段就是分片字段时,通过分片规则就比较容易定位到指定的分片;当排序字段非分片字段时,就变得比较复杂了。需要 先在不同的分片节点中将数据进行排序并返回,然后将不同分片返回的结果集进行汇总和再次排序,最终返回给用户。如图所示:

    上图中只是取第一页的数据,对性能影响还不是很大。但是如果取得页数很大,情况则变得复杂很多,因为各分片节点中的数据可能是随机的,为了排序的准确性,需要将所有节点的前N页数据都排序好做合并,最后再进行整体的排序,这样的操作时很耗费CPU和内存资源的,所以页数越大,系统的性能也会越差。

    在使用Max、Min、Sum、Count之类的函数进行计算的时候,也需要 先在每个分片上执行相应的函数,然后将各个分片的结果集进行汇总和再次计算,最终将结果返回。如图所示:

    4、全局主键避重问题

    在分库分表环境中,由于表中数据同时存在不同数据库中,主键值平时使用的自增长将无用武之地,某个分区数据库自生成的ID无法保证全局唯一。因此需要单独设计全局主键,以避免跨库主键重复问题。有一些常见的主键生成策略:

    1)UUID

    UUID标准形式包含32个16进制数字,分为5段,形式为8-4-4-4-12的36个字符,例如:
    550e8400-e29b-41d4-a716-446655440000

    UUID是主键是最简单的方案,本地生成,性能高,没有网络耗时。但缺点也很明显,由于UUID非常长,会占用大量的存储空间;另外,作为主键建立索引和基于索引进行查询时都会存在性能问题,在InnoDB下,UUID的无序性会引起数据位置频繁变动,导致分页。

    2)结合数据库维护主键ID表

    在数据库中建立 sequence 表:

    CREATE TABLE `sequence` (  
      `id` bigint(20) unsigned NOT NULL auto_increment,  
      `stub` char(1) NOT NULL default '',  
      PRIMARY KEY  (`id`),  
      UNIQUE KEY `stub` (`stub`)  
    ) ENGINE=MyISAM;

    stub字段设置为唯一索引,同一stub值在sequence表中只有一条记录,可以同时为多张表生成全局ID。sequence表的内容,如下所示:

    +-------------------+------+  | id                | stub |  +-------------------+------+  | 72157623227190423 |    a |  +-------------------+------+

    使用 MyISAM 存储引擎而不是 InnoDB,以获取更高的性能。MyISAM使用的是表级别的锁,对表的读写是串行的,所以不用担心在并发时两次读取同一个ID值。

    当需要全局唯一的64位ID时,执行:

    REPLACE INTO sequence (stub) VALUES ('a');  
    SELECT LAST_INSERT_ID();

    这两条语句是Connection级别的,select last_insert_id() 必须与 replace into 在同一数据库连接下才能得到刚刚插入的新ID。

    使用replace into代替insert into好处是避免了表行数过大,不需要另外定期清理。

    此方案较为简单,但缺点也明显:存在单点问题,强依赖DB,当DB异常时,整个系统都不可用。配置主从可以增加可用性,但当主库挂了,主从切换时,数据一致性在特殊情况下难以保证。另外性能瓶颈限制在单台MySQL的读写性能。

    flickr团队使用的一种主键生成策略,与上面的sequence表方案类似,但更好的解决了单点和性能瓶颈的问题。

    这一方案的整体思想是:建立2个以上的全局ID生成的服务器,每个服务器上只部署一个数据库,每个库有一张sequence表用于记录当前全局ID。表中ID增长的步长是库的数量,起始值依次错开,这样能将ID的生成散列到各个数据库上。如下图所示:

    由两个数据库服务器生成ID,设置不同的auto_increment值。第一台sequence的起始值为1,每次步长增长2,另一台的sequence起始值为2,每次步长增长也是2。结果第一台生成的ID都是奇数(1, 3, 5, 7 ...),第二台生成的ID都是偶数(2, 4, 6, 8 ...)。

    这种方案将生成ID的压力均匀分布在两台机器上。同时提供了系统容错,第一台出现了错误,可以自动切换到第二台机器上获取ID。但有以下几个缺点:系统添加机器,水平扩展时较复杂;每次获取ID都要读写一次DB,DB的压力还是很大,只能靠堆机器来提升性能。

    可以基于flickr的方案继续优化,使用批量的方式降低数据库的写压力,每次获取一段区间的ID号段,用完之后再去数据库获取,可以大大减轻数据库的压力。如下图所示:

    还是使用两台DB保证可用性,数据库中只存储当前的最大ID。ID生成服务每次批量拉取6个ID,先将max_id修改为5,当应用访问ID生成服务时,就不需要访问数据库,从号段缓存中依次派发0~5的ID。当这些ID发完后,再将max_id修改为11,下次就能派发6~11的ID。于是,数据库的压力降低为原来的1/6。

    3)Snowflake分布式自增ID算法

    Twitter的snowflake算法解决了分布式系统生成全局ID的需求,生成64位的Long型数字,组成部分:

    • 第一位未使用
    • 接下来41位是毫秒级时间,41位的长度可以表示69年的时间
    • 5位datacenterId,5位workerId。10位的长度最多支持部署1024个节点
    • 最后12位是毫秒内的计数,12位的计数顺序号支持每个节点每毫秒产生4096个ID序列

    这样的好处是:毫秒数在高位,生成的ID整体上按时间趋势递增;不依赖第三方系统,稳定性和效率较高,理论上QPS约为409.6w/s(1000*2^12),并且整个分布式系统内不会产生ID碰撞;可根据自身业务灵活分配bit位。

    不足就在于:强依赖机器时钟,如果时钟回拨,则可能导致生成ID重复。

    综上

    结合数据库和snowflake的唯一ID方案,可以参考业界较为成熟的解法: Leaf——美团点评分布式ID生成系统,并考虑到了高可用、容灾、分布式下时钟等问题。

    5、数据迁移、扩容问题

    当业务高速发展,面临性能和存储的瓶颈时,才会考虑分片设计,此时就不可避免的需要考虑历史数据迁移的问题。一般做法是先读出历史数据,然后按指定的分片规则再将数据写入到各个分片节点中。此外还需要根据当前的数据量和QPS,以及业务发展的速度,进行容量规划,推算出大概需要多少分片(一般建议单个分片上的单表数据量不超过1000W)

    如果采用数值范围分片,只需要添加节点就可以进行扩容了,不需要对分片数据迁移。如果采用的是数值取模分片,则考虑后期的扩容问题就相对比较麻烦。

    三. 什么时候考虑切分

    下面讲述一下什么时候需要考虑做数据切分。

    1、能不切分尽量不要切分

    并不是所有表都需要进行切分,主要还是看数据的增长速度。切分后会在某种程度上提升业务的复杂度,数据库除了承载数据的存储和查询外,协助业务更好的实现需求也是其重要工作之一。

    不到万不得已不用轻易使用分库分表这个大招,避免"过度设计"和"过早优化"。分库分表之前,不要为分而分,先尽力去做力所能及的事情,例如:升级硬件、升级网络、读写分离、索引优化等等。当数据量达到单表的瓶颈时候,再考虑分库分表。

    2、数据量过大,正常运维影响业务访问

    这里说的运维,指:

    1)对数据库备份,如果单表太大,备份时需要大量的磁盘IO和网络IO。例如1T的数据,网络传输占50MB时候,需要20000秒才能传输完毕,整个过程的风险都是比较高的

    2)对一个很大的表进行DDL修改时,MySQL会锁住全表,这个时间会很长,这段时间业务不能访问此表,影响很大。如果使用pt-online-schema-change,使用过程中会创建触发器和影子表,也需要很长的时间。在此操作过程中,都算为风险时间。将数据表拆分,总量减少,有助于降低这个风险。

    3)大表会经常访问与更新,就更有可能出现锁等待。将数据切分,用空间换时间,变相降低访问压力

    3、随着业务发展,需要对某些字段垂直拆分

    举个例子,假如项目一开始设计的用户表如下:

    id                   bigint             #用户的ID
    name                 varchar            #用户的名字
    last_login_time      datetime           #最近登录时间
    personal_info        text               #私人信息
    .....                                   #其他信息字段

    在项目初始阶段,这种设计是满足简单的业务需求的,也方便快速迭代开发。而当业务快速发展时,用户量从10w激增到10亿,用户非常的活跃,每次登录会更新 last_login_name 字段,使得 user 表被不断update,压力很大。而其他字段:id, name, personal_info 是不变的或很少更新的,此时在业务角度,就要将 last_login_time 拆分出去,新建一个 user_time 表。

    personal_info 属性是更新和查询频率较低的,并且text字段占据了太多的空间。这时候,就要对此垂直拆分出 user_ext 表了。

    4、数据量快速增长

    随着业务的快速发展,单表中的数据量会持续增长,当性能接近瓶颈时,就需要考虑水平切分,做分库分表了。此时一定要选择合适的切分规则,提前预估好数据容量

    5、安全性和可用性

    鸡蛋不要放在一个篮子里。在业务层面上垂直切分,将不相关的业务的数据库分隔,因为每个业务的数据量、访问量都不同,不能因为一个业务把数据库搞挂而牵连到其他业务。利用水平切分,当一个数据库出现问题时,不会影响到100%的用户,每个库只承担业务的一部分数据,这样整体的可用性就能提高。

    四. 案例分析

    1、用户中心业务场景

    用户中心是一个非常常见的业务,主要提供用户注册、登录、查询/修改等功能,其核心表为:

    User(uid, login_name, passwd, sex, age, nickname)
    uid为用户ID,  主键
    login_name, passwd, sex, age, nickname,  用户属性

    任何脱离业务的架构设计都是耍流氓,在进行分库分表前,需要对业务场景需求进行梳理:

    • 用户侧:前台访问,访问量较大,需要保证高可用和高一致性。主要有两类需求:用户登录:通过login_name/phone/email查询用户信息,1%请求属于这种类型用户信息查询:登录之后,通过uid来查询用户信息,99%请求属这种类型
    • 运营侧:后台访问,支持运营需求,按照年龄、性别、登陆时间、注册时间等进行分页的查询。是内部系统,访问量较低,对可用性、一致性的要求不高。

    2、水平切分方法

    当数据量越来越大时,需要对数据库进行水平切分,上文描述的切分方法有"根据数值范围"和"根据数值取模"。

    "根据数值范围":以主键uid为划分依据,按uid的范围将数据水平切分到多个数据库上。例如:user-db1存储uid范围为0~1000w的数据,user-db2存储uid范围为1000w~2000wuid数据。

    • 优点是:扩容简单,如果容量不够,只要增加新db即可。
    • 不足是:请求量不均匀,一般新注册的用户活跃度会比较高,所以新的user-db2会比user-db1负载高,导致服务器利用率不平衡

    "根据数值取模":也是以主键uid为划分依据,按uid取模的值将数据水平切分到多个数据库上。例如:user-db1存储uid取模得1的数据,user-db2存储uid取模得0的uid数据。

    • 优点是:数据量和请求量分布均均匀
    • 不足是:扩容麻烦,当容量不够时,新增加db,需要rehash。需要考虑对数据进行平滑的迁移。

    3、非uid的查询方法

    水平切分后,对于按uid查询的需求能很好的满足,可以直接路由到具体数据库。而按非uid的查询,例如login_name,就不知道具体该访问哪个库了,此时需要遍历所有库,性能会降低很多。

    对于用户侧,可以采用"建立非uid属性到uid的映射关系"的方案;对于运营侧,可以采用"前台与后台分离"的方案。

    3.1、建立非uid属性到uid的映射关系

    1)映射关系

    例如:login_name不能直接定位到数据库,可以 建立 login_name→uid的映射关系,用索引表或缓存来存储。当访问login_name时,先通过映射表查询出login_name对应的uid,再通过uid定位到具体的库。

    映射表只有两列,可以承载很多数据,当数据量过大时,也可以对映射表再做水平切分。这类kv格式的索引结构,可以很好的使用cache来优化查询性能,而且映射关系不会频繁变更,缓存命中率会很高。

    2)基因法

    分库基因:假如通过uid分库,分为8个库,采用uid%8的方式进行路由,此时是由uid的最后3bit来决定这行User数据具体落到哪个库上,那么这3bit可以看为分库基因。

    上面的映射关系的方法需要额外存储映射表,按非uid字段查询时,还需要多一次数据库或cache的访问。如果想要消除多余的存储和查询,可以通过f函数取login_name的基因作为uid的分库基因。生成uid时,参考上文所述的分布式唯一ID生成方案,再加上最后3位bit值=f(login_name)。当查询login_name时,只需计算f(login_name)%8的值,就可以定位到具体的库。不过这样需要提前做好容量规划,预估未来几年的数据量需要分多少库,要预留一定bit的分库基因。

    3.2、前台与后台分离

    对于用户侧,主要需求是以单行查询为主,需要建立login_name/phone/email到uid的映射关系,可以解决这些字段的查询问题。

    而对于运营侧,很多批量分页且条件多样的查询,这类查询计算量大,返回数据量大,对数据库的性能消耗较高。此时,如果和用户侧公用同一批服务或数据库,可能因为后台的少量请求,占用大量数据库资源,而导致用户侧访问性能降低或超时。

    这类业务最好采用"前台与后台分离"的方案, 运营侧后台业务抽取独立的service和db,解决和前台业务系统的耦合。由于运营侧对可用性、一致性的要求不高,可以不访问实时库,而是 通过binlog异步同步数据到运营库进行访问。在数据量很大的情况下,还可以使用ES搜索引擎或Hive来满足后台复杂的查询方式。

    五. 支持分库分表中间件

    站在巨人的肩膀上能省力很多,目前分库分表已经有一些较为成熟的开源解决方案:

    • sharding-jdbc(当当)
    • TSharding(蘑菇街)
    • Atlas(奇虎360)
    • Cobar(阿里巴巴)
    • MyCAT(基于Cobar)
    • Oceanus(58同城)
    • Vitess(谷歌)

    六. 参考

    数据库分布式架构扫盲——分库分表(及银行核心系统适用性思考)

    分库分表的思想

    水平分库分表的关键步骤以及可能遇到的问题

    从原则、方案、策略及难点阐述分库分表

    Leaf——美团点评分布式ID生成系统

    数据库水平切分架构实践-【架构师之路】公众号



    搞清分库分表(垂直分库,垂直分表,水平分库,水平分表)

    分库分表是什么

    下边以电商系统中的例子来说明,下图是电商系统卖家模块的表结构:


    通过以下SQL能够获取到商品相关的店铺信息、地理区域信息:

    SELECT p.*,r.[地理区域名称],s.[店铺名称],s.[信誉]
    FROM [商品信息] p 
    LEFT JOIN [地理区域] r ON p.[产地] = r.[地理区域编码]
    LEFT JOIN [店铺信息] s ON p.id = s.[所属店铺]
    WHERE p.id = ?12345

    随着公司业务快速发展,数据库中的数据量猛增,访问性能也变慢了,优化迫在眉睫。分析一下问题出现在哪儿呢? 关系型数据库本身比较容易成为系统瓶颈,单机存储容量、连接数、处理能力都有限。当单表的数据量达到1000W或100G以后,由于查询维度较多,即使添加从库、优化索引,做很多操作时性能仍下降严重。

    方案1:

    通过提升服务器硬件能力来提高数据处理能力,比如增加存储容量 、CPU等,这种方案成本很高,并且如果瓶颈在MySQL本身那么提高硬件也是有很的。

    方案2:

    把数据分散在不同的数据库中,使得单一数据库的数据量变小来缓解单一数据库的性能问题,从而达到提升数据库性能的目的,如下图:将电商数据库拆分为若干独立的数据库,并且对于大表也拆分为若干小表,通过这种数据库拆分的方法来解决数据库的性能问题。


    分库分表就是为了解决由于数据量过大而导致数据库性能降低的问题,将原来独立的数据库拆分成若干数据库组成 ,将数据大表拆分成若干数据表组成,使得单一数据库、单一数据表的数据量变小,从而达到提升数据库性能的目的。

    垂直分表

    分库分表包括分库和分表两个部分,在生产中通常包括:垂直分库、水平分库、垂直分表、水平分表四种方式。
    先说 垂直分表:
    通常在商品列表中是不显示商品详情信息的,如下图:


    用户在浏览商品列表时,只有对某商品感兴趣时才会查看该商品的详细描述。因此,商品信息中商品描述字段访问频次较低,且该字段存储占用空间较大,访问单个数据IO时间较长;商品信息中商品名称、商品图片、商品价格等其他字段数据访问频次较高。

    由于这两种数据的特性不一样,因此他考虑将商品信息表拆分如下:

    将访问频次低的商品描述信息单独存放在一张表中,访问频次较高的商品基本信息单独放在一张表中。


    商品列表可采用以下sql:

    SELECT p.*,r.[地理区域名称],s.[店铺名称],s.[信誉]
    FROM [商品信息] p 
    LEFT JOIN [地理区域] r ON p.[产地] = r.[地理区域编码]
    LEFT JOIN [店铺信息] s ON p.id = s.[所属店铺]
    WHERE...ORDER BY...LIMIT...12345

    需要获取商品描述时,再通过以下sql获取:

    SELECT *
    FROM [商品描述] 
    WHERE [商品ID] = ?123

    垂直分表定义:将一个表按照字段分成多表,每个表存储其中一部分字段。
    它带来的提升是:

    1.为了避免IO争抢并减少锁表的几率,查看详情的用户与商品信息浏览互不影响

    2.充分发挥热门数据的操作效率,商品信息的操作的高效率不会被商品描述的低效率所拖累。

    为什么大字段IO效率低:第一是由于数据量本身大,需要更长的读取时间;第二是跨页,页是数据库存储单位,很多查找及定位操作都是以页为单位,单页内的数据行越多数据库整体性能越好,而大字段占用空间大,单页内存储行数少,因此IO效率较低。第三,数据库以行为单位将数据加载到内存中,这样表中字段长度较短且访问频率较高,内存能加载更多的数据,命中率更高,减少了磁盘IO,从而提升了数据库性能。

    一般来说,某业务实体中的各个数据项的访问频次是不一样的,部分数据项可能是占用存储空间比较大的BLOB或是TEXT。例如上例中的商品描述。所以,当表数据量很大时,可以将表按字段切开,将热门字段、冷门字段分开放置在不同库中,这些库可以放在不同的存储设备上,避免IO争抢。垂直切分带来的性能提升主要集中在热门数据的操作效率上,而且磁盘争用情况减少。

    通常我们按以下原则进行垂直拆分:

    1. 把不常用的字段单独放在一张表;
    2. 把text,blob等大字段拆分出来放在附表中;
    3. 经常组合查询的列放在一张表中;

    垂直分库

    通过垂直分表性能得到了一定程度的提升,但是还没有达到要求,并且磁盘空间也快不够了,因为数据还是始终限制在一台服务器,库内垂直分表只解决了单一表数据量过大的问题,但没有将表分布到不同的服务器上,因此每个表还是竞争同一个物理机的CPU、内存、网络IO、磁盘。

    经过思考,他把原有的SELLER_DB(卖家库),分为了PRODUCT_DB(商品库)和STORE_DB(店铺库),并把这两个库分散到不同服务器,如下图:


    由于商品信息与商品描述业务耦合度较高,因此一起被存放在PRODUCT_DB(商品库);而店铺信息相对独立,因此单独被存放在STORE_DB(店铺库)。

    垂直分库是指按照业务将表进行分类,分布到不同的数据库上面,每个库可以放在不同的服务器上,它的核心理念是专库专用。

    它带来的提升是:

    • 解决业务层面的耦合,业务清晰
    • 能对不同业务的数据进行分级管理、维护、监控、扩展等
    • 高并发场景下,垂直分库一定程度的提升IO、数据库连接数、降低单机硬件资源的瓶颈垂直分库通过将表按业务分类,然后分布在不同数据库,并且可以将这些数据库部署在不同服务器上,从而达到多个服务器共同分摊压力的效果,但是依然没有解决单表数据量过大的问题。

    水平分库

    经过垂直分库后,数据库性能问题得到一定程度的解决,但是随着业务量的增长,PRODUCT_DB(商品库)单库存储数据已经超出预估。粗略估计,目前有8w店铺,每个店铺平均150个不同规格的商品,再算上增长,那商品数量得往1500w+上预估,并且PRODUCT_DB(商品库)属于访问非常频繁的资源,单台服务器已经无法支撑。此时该如何优化?

    再次分库?但是从业务角度分析,目前情况已经无法再次垂直分库。

    尝试水平分库,将店铺ID为单数的和店铺ID为双数的商品信息分别放在两个库中。


    也就是说,要操作某条数据,先分析这条数据所属的店铺ID。如果店铺ID为双数,将此操作映射至RRODUCT_DB1(商品库1);如果店铺ID为单数,将操作映射至RRODUCT_DB2(商品库2)。此操作要访问数据库名称的表达式为RRODUCT_DB[店铺ID%2 + 1] 。

    水平分库是把同一个表的数据按一定规则拆到不同的数据库中,每个库可以放在不同的服务器上。

    垂直分库是把不同表拆到不同数据库中,它是对数据行的拆分,不影响表结构

    它带来的提升是:

    • 解决了单库大数据,高并发的性能瓶颈。
    • 提高了系统的稳定性及可用性。

    稳定性体现在IO冲突减少,锁定减少,可用性指某个库出问题,部分可用`

    当一个应用难以再细粒度的垂直切分,或切分后数据量行数巨大,存在单库读写、存储性能瓶颈,这时候就需要进行水平分库了,经过水平切分的优化,往往能解决单库存储量及性能瓶颈。但由于同一个表被分配在不同的数据库,需要额外进行数据操作的路由工作,因此大大提升了系统复杂度。

    水平分表

    按照水平分库的思路对他把PRODUCT_DB_X(商品库)内的表也可以进行水平拆分,其目的也是为解决单表数据量大的问题,如下图:


    与水平分库的思路类似,不过这次操作的目标是表,商品信息及商品描述被分成了两套表。如果商品ID为双数,将此操作映射至商品信息1表;如果商品ID为单数,将操作映射至商品信息2表。此操作要访问表名称的表达式为商品信息[商品ID%2 + 1] 。

    水平分表是在同一个数据库内,把同一个表的数据按一定规则拆到多个表中。

    它带来的提升是:

    • 优化单一表数据量过大而产生的性能问题
    • 避免IO争抢并减少锁表的几率库内的水平分表,解决了单一表数据量过大的问题,分出来的小表中只包含一部分数据,从而使得单个表的数据量变小,提高检索性能。

    总结

    垂直分表:可以把一个宽表的字段按访问频次、是否是大字段的原则拆分为多个表,这样既能使业务清晰,还能提升部分性能。拆分后,尽量从业务角度避免联查,否则性能方面将得不偿失。

    垂直分库:可以把多个表按业务耦合松紧归类,分别存放在不同的库,这些库可以分布在不同服务器,从而使访问压力被多服务器负载,大大提升性能,同时能提高整体架构的业务清晰度,不同的业务库可根据自身情况定制优化方案。但是它需要解决跨库带来的所有复杂问题。

    水平分库:可以把一个表的数据(按数据行)分到多个不同的库,每个库只有这个表的部分数据,这些库可以分布在不同服务器,从而使访问压力被多服务器负载,大大提升性能。它不仅需要解决跨库带来的所有复杂问题,还要解决数据路由的问题(数据路由问题后边介绍)。

    水平分表:可以把一个表的数据(按数据行)分到多个同一个数据库的多张表中,每个表只有这个表的部分数据,这样做能小幅提升性能,它仅仅作为水平分库的一个补充优化。

    一般来说,在系统设计阶段就应该根据业务耦合松紧来确定垂直分库,垂直分表方案,在数据量及访问压力不是特别大的情况,首先考虑缓存、读写分离、索引技术等方案。若数据量极大,且持续增长,再考虑水平分库水平分表方案。

    展开全文
  • 分库分表常见问题和解决方案

    千次阅读 2022-01-01 20:06:46
    分库分表常见问题和解决方案
  • 之前文章主要介绍了oracle 迁移到mysql,主要是原表原结构迁移,但是实际运维中会发现,到mysql以后需要分库分表的拆分操作,这个时候,用ogg来做,也是很强大好用的。主要结合ogg的2个参数参数1:filterUse a ...
  • 分库分表解决方案

    千次阅读 2021-10-28 18:00:21
    因为每个学校学生用餐人数太多,一天订单20万量增长,而且学校使用也在不停的增多,公司最近在搞分库分表,数据分离到不同的库中或表中, 所以这段时间了解过数据库的分库分表,也读过很多大神写的博文,基本上知道...
  • 对于拆分的解决方案这块,上节课我们讲到了如何去拆分,然后拆分有些问题,引入了一系列的问题,比如说分布式事务的问题, 关于分布式事务这个事啊,其实挺不好解决的,就是根据情况吧,咱们在这里说三个方案,你针对不同的...
  • MYSQL分库分表方案

    2021-01-12 10:58:18
    导读:本文详细介绍了中间件,主要从数据库拆分过程及挑战、主流数据库中间件设计方案、读写分离核心要点、分库分表核心要点展开说明。 1. 数据库拆分过程及挑战 垂直拆分、读写分离、分库分表(水平拆分)。每个...
  • 本文主要向大家介绍了Oracle数据库之12C环境下分库分表改造查询优化,通过具体的内容向大家展现,希望对大家学习Oracle数据库有所帮助。某交易查询库主要使用Oracle 12.1.0.2.0的InMemory特性缓存三张按月分区的大表...
  • 一、两种方案分库分表 一般业界,对订单数据的分库分表,笔者了解,有两类思路:按照订单号来切分、按照用户id来切分。 方案一、按照订单号来做hash分散订单数据 把订单号看作是一个字符串,做hash,分散...
  • Oracle之垂直水平分库分表(一)

    千次阅读 2019-05-13 14:08:59
    现在咱们说一下ORACLE里面的表类型,表类型其实有这么多种表 1. 正常我们的heap table,堆表,你正常建的表 2. 然后还有分区表 3. 索引组织表 4. 簇表 5. 临时表,临时表就是用于查询排序的 6. 压缩表 7. 嵌套表,...
  • 互联网时代,也是关系型数据库独领风骚的时代,从早期的Oracle独步天下,到现在MySQL蒸蒸日上,关系型...同时,也希望通过线性扩容降低全量数据迁移对线上服务带来的影响,分库分表方案便应运而生。分库分表的原理是
  • Apache ShardingSphere 是一套开源的分布式数据库解决方案组成的生态圈,它由 JDBC、Proxy 和 Sidecar(规划中)这 3 款既能够独立部署,又支持混合部署配合使用的产品组成。 它们均提供标准化的数据水平扩展、...
  • 透明的分库分表方案

    2021-02-02 05:34:04
    问题提出随着应用规模的不断扩大,...导致TPS越来越少这个时候,有的人采用了换商用数据库的方案比如Oracle,然后用Oracle的RAC方式进行水平扩展。但是带来的缺点也比较明显,第一是成本太高,一般人吃不消;第二...
  • 分库分表详解

    千次阅读 2021-10-19 14:50:17
    什么叫分库分表? 1.1概念 将存在一个数据库的数据分散到多个数据库中, 将一个表中的数据分散到多个表中. 二.为什么要分库分表? 当单表的数据量达到1000W或100G以后,读写的性能会下降,即使有索引,索引也会变得...
  • 分库分表:中间件方案对比

    万次阅读 多人点赞 2019-02-13 09:55:48
    分库分表这个词相信很多人都不陌生,在互联网公司数据到达一定规模的时候,多数都会对数据进行分库分表,或者也有人叫分片,英文翻译为Sharding; 更加准确来说我们常常关心的是水平分片,即单个业务的某些表到达...
  • 分库分表基础

    2021-09-06 13:49:28
    1、为什么要分库分表 1.1 数据库性能瓶颈的出现 对于应用来说,如果数据库性能出现问题, (1)要么是无法获取连接,是因为在高并发的情况下连接数不够了。 (2)要么是操作数据变慢,数据库处理数据的效率除了问题...
  • 摘要:本文通过实际案例,说明如何按日期来对订单数据进行水平分库分表,实现数据的分布式查询和操作。
  • Mysql分库分表方案

    2018-12-03 14:06:36
    一、Mysql分库分表方案 1.为什么要分表: 当一张表的数据达到几千万时,你查询一次所花的时间会变多,如果有联合查询的话,我想有可能会死在那儿了。分表的目的就在于此,减小数据库的负担,缩短查询时间。 mysql...
  • 但你有没有思考过,分库分表真的适合你的系统吗?在业务刚刚发展起来的时候,流量全部达到了一个 MySQL 上,用户信息全落到了 user 表。后来,user 表的数据量越来越大了。于是,你做了一次垂直拆分,将原来的 user ...
  • 【摘要】 当前的应用都离不...本文分享自华为云社区《数据库分库分表Java实战经验总结 丨【绽放吧!数据库】》,作者: jackwangcumt。 我们知道,当前的应用都离不开数据库,随着数据库中的数据越来越多,单表...
  • 分库分表技术选型

    2022-03-07 13:44:58
    1、为什么分库分表 数据库中的数据量不一定是可控的,在未进行分库分表的情况下,随着时间和业务的发展,库中的表会越来越多,表中的数据量也会越来越大,相应地,数据操作,增删改查的开销也会越来越大;另外,由于...
  • 分库分表_结果归并 1.ShardingSphere概念 ShardingSphere是一套开源的分布式数据库中间件解决方案组成的生态圈,它由Sharding-JDBC、Sharding-Proxy 和 Sharding-Sidecar这3款相互独立的产品组成。 他们均提供标准化...
  • 什么是分库分表 其实 分库 和 分表 是两个概念,只不过通常分库与分表的操作会同时进行,以至于我们习惯性的将它们合在一起叫做分库分表分库分表是为了解决由于库、表数据量过大,而导致数据库性能持续下降的问题...
  • 移动互联网时代,海量的用户每天产生海量的数量,比如: 用户表 订单表 交易流水表 以支付宝用户为例,8亿;...既然一张表无法搞定,那么就想办法将数据放到多个地方,目前比较普遍的方案有3个: 分区
  • 分库分表中间件的类型,PROXY模式,CLIENT模式,sharding

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 12,902
精华内容 5,160
热门标签
关键字:

oracle分库分表方案