实战中,数据库应如何分库分表

   日期:2020-09-06     浏览:113    评论:0    
核心提示:数据库如何分库分表首先说数据库的分库和分表是两个完全不同的概念。不能混为一谈。但是他们的作用基本上都是为了抗住更大的并发量。因为在实际生产中,数据库的访问瓶颈是最大概率限制服务器并发性能的。随着业务的开展,数据库中的数据会大量产生,当表中的数据量达到千万级别的时候,就需要进行分表了,否则一条sql语句查询可能就会耗时很久。而如果部分库的话,数据库的访问数量就是一个限制最大的点,大量请求过来访问数据库,结果数据库连接达到瓶颈了,那么就会产生大量的阻塞。切分策略:1.垂直拆分2.水平拆分垂直拆分

数据库如何分库分表

首先说数据库的分库和分表是两个完全不同的概念。不能混为一谈。但是他们的作用基本上都是为了抗住更大的并发量。

因为在实际生产中,数据库的访问瓶颈是最大概率限制服务器并发性能的。

随着业务的开展,数据库中的数据会大量产生,当表中的数据量达到千万级别的时候,就需要进行分表了,否则一条sql语句查询可能就会耗时很久。

而如果部分库的话,数据库的访问数量就是一个限制最大的点,大量请求过来访问数据库,结果数据库连接达到瓶颈了,那么就会产生大量的阻塞。

切分策略:

1.垂直拆分

2.水平拆分

垂直拆分:

1.垂直分表

​ 基于数据库中表的列进行,可以将不同的字段进行拆分,从而减小每一个表中的列的个数,将大表拆成了小表。这两个表的结构是不同的,只不过可以通过冗余字段来进行关联查询。最常见的方式就是 热点、冷点数据的拆分。

​ 可以防止在进行sql查询的时候,一列查询的数据太多,导致跨页,造成不必要的开销。而且每一行的数据越少,加载到内存的数据就越多,就能更好的减少磁盘IO的次数。

2.垂直分库

​ 根据业务的耦合性,将关联不大的表存储在不同的数据库里面,与微服务架构类似,按照业务逻辑分类来进行独立的划分。

​ 这样可以使业务系统更加清晰,耦合度降低,可以针对不同的业务的数据进行分级管理。在高并发的情况下,在一定程度上能投提高数据库的连接数还有IO瓶颈。

​ 缺点 的话就是会导致部分表无法关联查询,只能通过微服务的远程调用 也就是 接口聚合的方式来实现,提高了复杂度。还有就是分布式事务处理起来比较复杂。仍然存在单表数据量大的问题。

水平拆分

​ 将一个数据量大的表进行水平拆分成多张表,每个表的格式相同,只是数据不同。根据需求选择不同的逐渐策略。我一般采用主键自增,也就是 每张表设置不同的起始数字,然后设置步长,使得每个表逻辑合在一起的时候,仍然是一个自增的顺序。

​ 可以实现因为某一个不能再细粒度的垂直分表的情况下,减少每张表的数据量。能够用更多的库来承担更大的并发量。

路由规则

水平拆分之后,数据都是分在不同的库或者表里面,如何知道哪条数据在那个库或者表里,需要路由算法来进行计算。这个算法会引入一定的复杂性。

范围路由:

选择有序的数据列,作为路由的条件,根据不同分段分散到不同的数据库表中,举个例子拿用户id 来说,可以将前0-500W放在一个数据库的表里面, 500W+1 - 1000W放到另外一个数据库的表里面,一次类推。

这样就可以根据范围进行路由了。但是这种方法复杂的地方就在于这个范围的选择。

但是他的好处也就是你后续扩充的话 ,简单方便,原来的数据不用进行改动。

缺点就是 容易造成热点数据的访问倾斜,热点数据集中在一个表里面。

Hash算法:

选取一个列或者多个列进行hash运算,然后根据hash 的结果将不同的数据分散到不同的数据库中,有点那种散列表的意思,然后后续访问的时候使用同样的hash运算,就可以找到在哪个表里面了。

hash算法的复杂点就在于 在出师表的数量的选取上,也就是hash算法的 基数的选择。

hash算法的优缺点和范围路由的优缺点正好相反。。

路由配置

路由配置就是设置一个路由表,用一张独立的表来记录陆游信息。我们将数据存放的位置存放到这个表里面。

优点是:后续改动方便,只需要改动路由表 。

缺点就是 每次必须多查询一次路由表,而且随着数据量的增大,路由表也会成为瓶颈点。

基于以上问题,我们就使用到了分库分表的中间件!

分库分表的中间件:

sharding-jdbc

当当开源的,属于client层。 支持的sql语法比较多,没有太多限制。支持分库分表,读写分离,分布式id生成,柔性事务。

mycat

阿里开源的,基于cobar改造的,属于proxy层,支持的功能非常完善。

支持分布式事务,支持通过全局表,ER关系的分片策略,支持多表关联查询,支持分布式下的主键生成问题等。

需要部署,运维成本高,好处在于对于各个项目是透明的,更改配置或者升级的话只要在中间件里面进行就可以

如何在设计表初期就尽量减少后续可能存在的分表操作呢?

1.在开发设计表的时候,就要根据经验考虑一下冷热点数据的拆分,要将冷点和热点数据分到两个表里面,通过冗余字段来进行关联。

2.每个表的列不要太多,如果有业务逻辑的话,就使用冗余字段来进行关联。

3.在设计的时候,能够使用int就不要使用char,类似标识位,可以用0,1 来替代 是否。类似这样的思想。

4.根据不同的业务逻辑需求,将不同的表都放入到不同的库中。

5.有业务逻辑关联的表,可以使用公共字典表来进行关联,字典表里面的数据量不会特别大,但是会帮助查询表省用大量的空间。

 
打赏
 本文转载自:网络 
所有权利归属于原作者,如文章来源标示错误或侵犯了您的权利请联系微信13520258486
更多>最近资讯中心
更多>最新资讯中心
0相关评论

推荐图文
推荐资讯中心
点击排行
最新信息
新手指南
采购商服务
供应商服务
交易安全
关注我们
手机网站:
新浪微博:
微信关注:

13520258486

周一至周五 9:00-18:00
(其他时间联系在线客服)

24小时在线客服