当前位置: 代码网 > it编程>数据库>Mysql > 一文了解Mysql分区的使用

一文了解Mysql分区的使用

2024年07月05日 Mysql 我要评论
分区概念分区又把这个概念推进了一步,它允许根据可以设置为任意大小的规则,跨文件系统分配单个表的多个部分。实际上,表的不同部分在不同的位置被存储为单独的表。用户所选择的、实现数据分割的规则被称为分区函数

分区概念

分区又把这个概念推进了一步,它允许根据可以设置为任意大小的规则,跨文件系统分配单个表的多个部分。实际上,表的不同部分在不同的位置被存储为单独的表。用户所选择的、实现数据分割的规则被称为分区函数,这在mysql中它可以是模数,或者是简单的匹配一个连续的数值区间或数值列表,或者是一个内部hash函数,或一个线性hash函数。函数根据用户指定的分区类型来选择,把用户提供的表达式的值作为参数。该表达式可以是一个整数列值,或一个作用在一个或多个列值上并返回一个整数的函数。这个表达式的值传递给分区函数,分区函数返回一个表示那个特定记录应该保存在哪个分区的序号。这个函数不能是常数,也不能是任意数。它不能包含任何查询,但是实际上可以使用mysql中任何可用的sql表达式,只要该表达式返回一个小于maxvalue(最大可能的正整数)的正数值。

使用以下命令查看当前的mysql版本是否支持分区

show variables like '%partition%';
+-----------------------+-------+
| variable_name         | value |
+-----------------------+-------+
| have_partition_engine | yes   |
+-----------------------+-------+
1 row in set (0.00 sec)

注:如果不显示为yes,或者没有显示,那就表示可能当前版本不支持分区

mysql分区种类

  • range分区
  • list分区
  • hash分区
  • key分区
  • 子分区

分区与存储引擎

对于分区,可以使用mysql服务器所支持的任何存储引擎,但同一个分区表的所有分区必须使用同一个存储引擎,

例如,不能对一个分区使用myisam,而对另一个使用innodb。

要为某个分区表配置一个存储引擎,必须且只能使用[storage] engine 选项。。但是,必须记住[storage] engine(和其他的表选项)必须列在用在create table语句中的其他任何分区选项之前。下面的例子给出了怎样创建一个通过hash分成6个分区、使用innodb存储引擎的表:

create table ti (id int, amount decimal(7,2), tr_date date)
    engine=innodb
    partition by hash(month(tr_date))
    partitions 6;

分区的一些优点包括:

  •  与单个磁盘或文件系统分区相比,可以存储更多的数据。
  •  对于那些已经失去保存意义的数据,通常可以通过删除与那些数据有关的分区,很容易地删除那些数据。相反地,在某些情况下,添加新数据的过程又可以通过为那些新数据专门增加一个新的分区,来很方便地实现。
  • 一些查询可以得到极大的优化,这主要是借助于满足一个给定where 语句的数据可以只保存在一个或多个分区内,这样在查找时就不用查找其他剩余的分区。因为分区可以在创建了分区表后进行修改,所以在第一次配置分区方案时还不曾这么做时,可以重新组织数据,来提高那些常用查询的效率。 
  • 涉及到例如sum() 和 count()这样聚合函数的查询,可以很容易地进行并行处理。这种查询的一个简单例子如 “select salesperson_id, count(orders) as order_total from sales group by salesperson_id;”。通过“并行”, 这意味着该查询可以在每个分区上同时进行,最终结果只需通过总计所有分区得到的结果。 
  •    通过跨多个磁盘来分散数据查询,来获得更大的查询吞吐量。

range分区

按照range分区的表是通过如下一种方式进行分区的,每个分区包含那些分区表达式的值位于一个给定的连续区间内的行。这些区间要连续且不能相互重叠,使用values less than操作符来进行定义。在下面的几个例子中,假定你创建了一个如下的一个表,该表保存有20家音像店的职员记录,这20家音像店的编号从1到20。

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int not null,
    store_id int not null
);

根据你的需要,这个表可以有多种方式来按照区间进行分区。一种方式是使用store_id 列。例如,你可能决定通过添加一个partition by range子句把这个表分割成4个区间,如下所示:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int not null,
    store_id int not null
)
partition by range (store_id) (
    partition p0 values less than (6),
    partition p1 values less than (11),
    partition p2 values less than (16),
    partition p3 values less than (21)
);

按照这种分区方案,在商店1到5工作的雇员相对应的所有行被保存在分区p0中,商店6到10的雇员保存在p1中,依次类推。注意,每个分区都是按顺序进行定义,从最低到最高。这是partition by range语法的要求;在这点上,它类似于c或java中的“switch ... case”语句。

对于包含数据(72, 'michael', 'widenius', '1998-06-25', null, 13)的一个新行,可以很容易地确定它将插入到p2分区中,但是如果增加了一个编号为第21的商店,将会发生什么呢?在这种方案下,由于没有规则把store_id大于20的商店包含在内,服务器将不知道把该行保存在何处,将会导致错误。 要避免这种错误,可以通过在create table语句中使用一个“catchall” values less than子句,该子句提供给所有大于明确指定的最高值的值:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int not null,
    store_id int not null
)
partition by range (store_id) (
    partition p0 values less than (6),
    partition p1 values less than (11),
    partition p2 values less than (16),
    partition p3 values less than maxvalue
);

maxvalue 表示最大的可能的整数值。现在,store_id 列值大于或等于16(定义了的最高值)的所有行都将保存在分区p3中。在将来的某个时候,当商店数已经增长到25, 30,或更多 ,可以使用alter table语句为商店21-25, 26-30,等等增加新的分区

在几乎一样的结构中,你还可以基于雇员的工作代码来分割表,也就是说,基于job_code 列值的连续区间。例如——假定2位数字的工作代码用来表示普通(店内的)工人,三个数字代码表示办公室和支持人员,四个数字代码表示管理层,你可以使用下面的语句创建该分区表:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int not null,
    store_id int not null
)
partition by range (job_code) (
    partition p0 values less than (100),
    partition p1 values less than (1000),
    partition p2 values less than (10000)
);

在这个例子中, 店内工人相关的所有行将保存在分区p0中,办公室和支持人员相关的所有行保存在分区p1中,管理层相关的所有行保存在分区p2中。

在values less than 子句中使用一个表达式也是可能的。这里最值得注意的限制是mysql必须能够计算表达式的返回值作为less than (<)比较的一部分;因此,表达式的值不能为null。由于这个原因,雇员表的hired, separated, job_code,和store_id列已经被定义为非空(not null)。

除了可以根据商店编号分割表数据外,你还可以使用一个基于两个date (日期)中的一个的表达式来分割表数据。例如,假定你想基于每个雇员离开公司的年份来分割表,也就是说,year(separated)的值。实现这种分区模式的create table语句的一个例子如下所示:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int,
    store_id int
)
partition by range (year(separated)) (
    partition p0 values less than (1991),
    partition p1 values less than (1996),
    partition p2 values less than (2001),
    partition p3 values less than maxvalue
);

在这个方案中,在1991年前雇佣的所有雇员的记录保存在分区p0中,1991年到1995年期间雇佣的所有雇员的记录保存在分区p1中,1996年到2000年期间雇佣的所有雇员的记录保存在分区p2中,2000年后雇佣的所有工人的信息保存在p3中。

range分区在如下场合特别有用:

  • 当需要删除“旧的”数据时。如果你使用上面最近的那个例子给出的分区方案,你只需简单地使用 “alter table employees drop partition p0;”来删除所有在1991年前就已经停止工作的雇员相对应的所有行。对于有大量行的表,这比运行一个如“delete from employees where year(separated) <= 1990;”这样的一个delete查询要有效得多。
  • 想要使用一个包含有日期或时间值,或包含有从一些其他级数开始增长的值的列。
  •   经常运行直接依赖于用于分割表的列的查询。例如,当执行一个如“select count(*) from employees where year(separated) = 2000 group by store_id;”这样的查询时,mysql可以很迅速地确定只有分区p2需要扫描,这是因为余下的分区不可能包含有符合该where子句的任何记录。

list分区

mysql中的list分区在很多方面类似于range分区。和按照range分区一样,每个分区必须明确定义。它们的主要区别在于,list分区中每个分区的定义和选择是基于某列的值从属于一个值列表集中的一个值,而range分区是从属于一个连续区间值的集合。list分区通过使用“partition by list(expr)”来实现,其中“expr” 是某列值或一个基于某个列值、并返回一个整数值的表达式,然后通过“values in (value_list)”的方式来定义每个分区,其中“value_list”是一个通过逗号分隔的整数列表。

对于下面给出的例子,我们假定将要被分区的表的基本定义是通过下面的“create table”语句提供的:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int,
    store_id int
);

假定有20个音像店,分布在4个有经销权的地区,如下表所示:

地区

商店id 号

北区

3, 5, 6, 9, 17

东区

1, 2, 10, 11, 19, 20

西区

4, 12, 13, 14, 18

中心区

7, 8, 15, 16

要按照属于同一个地区商店的行保存在同一个分区中的方式来分割表,可以使用下面的“create table”语句:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int,
    store_id int
)
partition by list(store_id)
    partition pnorth values in (3,5,6,9,17),
    partition peast values in (1,2,10,11,19,20),
    partition pwest values in (4,12,13,14,18),
    partition pcentral values in (7,8,15,16)
);

这使得在表中增加或删除指定地区的雇员记录变得容易起来。例如,假定西区的所有音像店都卖给了其他公司。那么与在西区音像店工作雇员相关的所有记录(行)可以使用查询“alter table employees drop partition pwest;”来进行删除,它与具有同样作用的delete(删除)查询“delete query delete from employees where store_id in (4,12,13,14,18);”比起来,要有效得多。

要点:如果试图插入列值(或分区表达式的返回值)不在分区值列表中的一行时,那么“insert”查询将失败并报错。例如,假定list分区的采用上面的方案,下面的查询将失败:

insert into employees values 
    (224, 'linus', 'torvalds', '2002-05-01', '2004-10-12', 42, 21);

这是因为“store_id”列值21不能在用于定义分区pnorth,peast, pwest,或pcentral的值列表中找到。要重点注意的是,list分区没有类似如“values less than maxvalue”这样的包含其他值在内的定义。将要匹配的任何值都必须在值列表中找到。

hash分区

hash分区主要用来确保数据在预先确定数目的分区中平均分布。在range和list分区中,必须明确指定一个给定的列值或列值集合应该保存在哪个分区中;而在hash分区中,mysql 自动完成这些工作,你所要做的只是基于将要被哈希的列值指定一个列值或表达式,以及指定被分区的表将要被分割成的分区数量。

要使用hash分区来分割一个表,要在create table 语句上添加一个“partition by hash (expr)”子句,其中“expr”是一个返回一个整数的表达式。它可以仅仅是字段类型为mysql 整型的一列的名字。此外,你很可能需要在后面再添加一个“partitions num”子句,其中num 是一个非负的整数,它表示表将要被分割成分区的数量。

例如,下面的语句创建了一个使用基于“store_id”列进行 哈希处理的表,该表被分成了4个分区:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int,
    store_id int
)
partition by hash(store_id)
partitions 4;

如果没有包括一个 partitions子句,那么分区的数量将默认为1。 例外: 对于 ndb cluster(簇)表,默认的分区数量将与 簇数据节点的数量相同,这种修正可能是考虑任何max_rows 设置,以便确保所有的行都能合适地插入到分区中。

如果在关键字“partitions”后面没有加上分区的数量,将会出现语法错误。

“expr”还可以是一个返回一个整数的sql表达式。例如,也许你想基于雇用雇员的年份来进行分区。这可以通过下面的语句来实现:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int,
    store_id int
)
partition by hash(year(hired))
partitions 4;

“expr”还可以是mysql 中有效的任何函数或其他表达式,只要它们返回一个既非常数、也非随机数的整数。(换句话说,它既是变化的但又是确定的)。但是应当记住,每当插入或更新(或者可能删除)一行,这个表达式都要计算一次;这意味着非常复杂的表达式可能会引起性能问题,尤其是在执行同时影响大量行的运算(例如批量插入)的时候。

最有效率的哈希函数是只对单个表列进行计算,并且它的值随列值进行一致地增大或减小,因为这考虑了在分区范围上的“修剪”。也就是说,表达式值和它所基于的列的值变化越接近,mysql就可以越有效地使用该表达式来进行hash分区。

linear hash分区

mysql还支持线性哈希功能,它与常规哈希的区别在于,线性哈希功能使用的一个线性的2的幂(powers-of-two)运算法则,而常规 哈希使用的是求哈希函数值的模数。

线性哈希分区和常规哈希分区在语法上的唯一区别在于,在“partition by” 子句中添加“linear”关键字,如下面所示:

create table employees (
    id int not null,
    fname varchar(30),
    lname varchar(30),
    hired date not null default '1970-01-01',
    separated date not null default '9999-12-31',
    job_code int,
    store_id int
)
partition by linear hash(year(hired))
partitions 4;

key分区

按照key进行分区类似于按照hash分区,除了hash分区使用的用户定义的表达式,而key分区的 哈希函数是由mysql 服务器提供。mysql 簇(cluster)使用函数md5()来实现key分区;对于使用其他存储引擎的表,服务器使用其自己内部的 哈希函数,这些函数是基于与password()一样的运算法则。

“create table ... partition by key”的语法规则类似于创建一个通过hash分区的表的规则。它们唯一的区别在于使用的关键字是key而不是hash,并且key分区只采用一个或多个列名的一个列表。

通过线性key分割一个表也是可能的。下面是一个简单的例子:

create table tk (
    col1 int not null,
    col2 char(5),
    col3 date
) 
partition by linear key (col1)
partitions 3;

在 key分区中使用关键字 linear和在hash分区中使用具有同样的作用,分区的编号是通过 2的幂( powers-of-two)算法得到,而不是通过模数算法。

子分区

子分区是分区表中每个分区的再次分割。例如,考虑下面的create table 语句:

create table ts (id int, purchased date)
    partition by range(year(purchased))
    subpartition by hash(to_days(purchased))
    subpartitions 2
    (
        partition p0 values less than (1990),
        partition p1 values less than (2000),
        partition p2 values less than maxvalue
    );


表 ts 有 3个 range分区。这3个分区中的每一个分区—— p0 , p1, 和 p2 ——又被进一步分成了 2个子分区。实际上,整个表被分成了 3 * 2 = 6个分区。但是,由于partition by range子句的作用,这些分区的头2个只保存“purchased”列中值小于1990的那些记录。

mysql分区处理null值的方式

mysql 中的分区在禁止空值(null)上没有进行处理,无论它是一个列值还是一个用户定义表达式的值。一般而言,在这种情况下mysql 把null视为0。如果你希望回避这种做法,你应该在设计表时不允许空值;最可能的方法是,通过声明列“not null”来实现这一点。

在本节中,我们提供了一些例子,来说明当决定一个行应该保存到哪个分区时,mysql 是如何处理null值的。

如果插入一行到按照range或list分区的表,该行用来确定分区的列值为null,分区将把该null值视为0。

到此这篇关于一文了解mysql分区的使用的文章就介绍到这了,更多相关mysql分区内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com