当前位置: 代码网 > it编程>数据库>Mysql > 深入理解MySQL分区表的使用

深入理解MySQL分区表的使用

2024年05月18日 Mysql 我要评论
前言当我们单表数据量比较大的时候,单表查询的io较大。这个时候,我们是不是可以将表的数据分成多个文件,按照某个条件进行单文件的查询,这样避免了大量的io操作。通过分而治之的思想,减少io操作,提升查询

前言

当我们单表数据量比较大的时候,单表查询的io较大。这个时候,我们是不是可以将表的数据分成多个文件,按照某个条件进行单文件的查询,这样避免了大量的io操作。通过分而治之的思想,减少io操作,提升查询效率。本文主要是讲述mysql中分区表,看mysql是如何实现分区表的。

什么需要分区表

​ mysql从5.1版本开始支持分区功能,分区是将一个表的数据按照某种方式分别存储,比如按照时间上的月份,分成多个较小的,更容易管理的部分,但是逻辑上仍是一个表。还没出现分区表的时候,所有的数据都是存放在一个文件里面的,如果数据量太大,查询数据时总是避免不了需要大量io操作;使用分区表后,每个分区存放不同的数据。这样不但可以减少io。还可以加快数据的访问;为了保证mysql的性能,我们都建议mysql单表不要太大,建议是:单表小于2gb,记录数小于1千万,十库百表。如果但行记录数非常小,那么记录数可以再偏大些,反之,可能记录数到百万级别就开始变慢了。那么,业务量在增长,数据到瓶颈了怎么办呢,除了使用分布式数据库,我们也可以自行分库分表,或者利用mysql的分区功能实现。分区表的出现是为了分而治之的概念,分区表的用处非常大,只是现在还有很多人都不知道;将一个表设置为分区表后,会在数据文件.i的文件名加上#号,代表这是一个分区表;

分区的策略

对于大数据表,有两种策略进行分区:

1: 不使用索引:创建数据表时不增加索引,而是使用分区定位到所需要的数据行。只要你使用 where 条件将查询切分到很小的分区范围,就已经足够了。这个时候需要通过数学方法计算查询的响应时间是否能够接受。当然,这里的假设是不会将数据放到内存中,而是全部数据都从磁盘读取。因此数据很快就会被其他查询覆盖,使用缓存没什么意义。这种情况一般用于大量数据表的基数是常规的。需要注意的是,需要限制分区数在几百。

2: 使用索引,并且隔离热区数据:如果除了热区数据外,大部分数据是不使用的,则可以将热区数据单独的分区,这个分区算上索引都能够加载到内存中。这个时候可以通过索引来优化性能,就像操作普通的数据表一样。

分区表应用场景

1: 表非常大以至于无法全部放在内存中,或者只在表的最后部分有热点数据,其他都是历史数据

2: 分区表的数据更容易维护,,能批量删除大量数据

3: 对一个独立分区进行优化、检查、修复等操作

4: 分区表的数据可以分布在不同的设备上,从未高效的利用多个硬件设备

5: 可以备份和恢复独立的分区

分区表的限制

一个表最多能有1024个分区,在5.7版本及以上可以有8196个分区。在早期mysql中,分区表达式必须是整数或者整返回整数的表达式,

在mysql5.5中,某些场景可以直接使用列来进行分区

  • 分区表无法使用外检约束
  • 最好不要去修改分区列

如果分区字段中有主键或者唯一索引的列,那么所有主键列和唯一索引列都必须包含进来;就像这样:

-- 创建分区必须包含所有主键
create table user_11(
  id bigint(20) not null ,
  name varchar(20) ,
  age int(3) not null ,
	primary key (`id`,`age`)
)

-- 创建分区
partition by range columns(id,age)(
  partition p00 values less than(6,30), -- 小于6的值在p0分区
  partition p11 values less than(11,40), -- 小于11的值在p1分区
  partition p22 values less than(16,50), -- 小于16的值在p2分区
  partition p33 values less than (9999,9999) -- 大于9999的值在p3分区,或者用一个更大的值
);

-- 创建分区必须包含所有唯一键
create table user_22(
  id bigint(20)  not null,
  name varchar(20) ,
  age int(3) not null ,
	unique key only_one_1(age,id )
)
-- 创建分区
partition by range columns(id,age)(
  partition p000 values less than(6,30), -- 小于6的值在p0分区
  partition p111 values less than(11,40), -- 小于11的值在p1分区
  partition p222 values less than(16,50), -- 小于16的值在p2分区
  partition p333 values less than (9999,9999) -- 大于9999的值在p3分区,或者用一个更大的值
);

分区类型

range分区

基于属于一个给定连续区间的列值,把多行分配给分区。

create table employees (
  id int not null,
  fname varchar(30),
  lname varchar(30),
  hired date not null default '1970-01-01',
  separated date not null default '9999-12-31',
  job_code int not null,
  store_id int not null
)
partition by range (store_id) (
  partition p0 values less than (6),
  partition p1 values less than (11),
  partition p2 values less than (16),
  partition p3 values less than (21)
);

list分区

类似于按range分区,区别在于list分区是基于列值匹配一个离散值集合中的某个值来进行选择。

list分区通过使用“partition by list(expr)”来实现,其中“expr”是某列值或一个基于某个列值、并返回一个整数值的表达式,然后通过“values in (value_list)”的方式来定义每个分区,其中“value_list”是一个通过逗号分隔的整数列表。 注释:在mysql 5.1中,当使用list分区时,有可能只能匹配整数列表。

create table employees (
  id int not null,
  fname varchar(30),
  lname varchar(30),
  hired date not null default '1970-01-01',
  separated date not null default '9999-12-31',
  job_code int,
  store_id int
);

hash分区

基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算。这个函数可以包含mysql 中有效的、产生非负整数值的任何表达式。

要使用hash分区来分割一个表,要在create table 语句上添加一个“partition by hash (expr)”子句,其中“expr”是一个返回一个整数的表达式。它可以仅仅是字段类型为mysql整型的一列的名字。此外,你很可能需要在后面再添加一个“partitions num”子句,其中num是一个非负的整数,它表示表将要被分割成分区的数量。

create table employees (
  id int not null,
  fname varchar(30),
  lname varchar(30),
  hired date not null default '1970-01-01',
  separated date not null default '9999-12-31',
  job_code int,
  store_id int
)
partition by hash(store_id)
partitions 4;

liner hash

mysql还支持线性哈希功能,它与常规哈希的区别在于,线性哈希功能使用的一个线性的2的幂(powers-of-two)运算法则,而常规哈希使用的是求哈希函数值的模数。线性哈希分区和常规哈希分区在语法上的唯一区别在于,在“partition by”子句中添加“linear”关键字。

create table employees (
  id int not null,
  fname varchar(30),
  lname varchar(30),
  hired date not null default '1970-01-01',
  separated date not null default '9999-12-31',
  job_code int,
  store_id int
)
partition by linear hash(year(hired))
partitions 4;

key分区

类似于按hash分区,区别在于key分区只支持计算一列或多列,且mysql服务器提供其自身的哈希函数。必须有一列或多列包含整数值。

create table tk (
  col1 int not null,
  col2 char(5),
  col3 date
)
partition by linear key (col1)
partitions 3;

在key分区中使用关键字linear和在hash分区中使用具有同样的作用,分区的编号是通过2的幂(powers-of-two)算法得到,而不是通过模数算法。

到此这篇关于深入理解mysql分区表的使用的文章就介绍到这了,更多相关mysql 分区表内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com