当前位置: 代码网 > it编程>数据库>Mysql > MySQL并行DDL的实现方法

MySQL并行DDL的实现方法

2024年10月28日 Mysql 我要评论
随着mysql版本的不断更新,对ddl操作的支持也在不断的完善和更新:比如从mysql 5.6引入online ddl,在mysql 5.7对online ddl进一步完善,到现在的8.0版本,则对d

随着mysql版本的不断更新,对ddl操作的支持也在不断的完善和更新:比如从mysql 5.6引入online ddl,在mysql 5.7对online ddl进一步完善,到现在的8.0版本,则对ddl的实现重新进行了设计,比如ddl操作支持原子特性,在mysql 8.0.27引入并行ddl。本篇就来探究一下mysql 8.0.27的并行ddl对于ddl操作速度的提升。

mysql 8.0.14引入了innodb_parallel_read_threads变量来控制扫描聚簇索引的并行线程。mysql 8.0.27引入了innodb_ddl_threads变量来控制用于创建二级索引时的并行线程数量,此参数一般和一并引入的innodb_ddl_buffer_size一起使用,innodb_ddl_buffer_size用于指定进行并行ddl操作时能够使用的buffer大小,buffer是在所有的ddl并行线程中平均分配的,所以一般如果调大innodb_ddl_threads变量时,也需要调大innodb_ddl_buffer_size的大小。

innodb_ddl_threads、innodb_ddl_buffer_size和innodb_parallel_read_threads的默认大小分别为:

mysql> select @@global.innodb_ddl_threads;
+-----------------------------+
| @@global.innodb_ddl_threads |
+-----------------------------+
|                           4 |
+-----------------------------+
1 row in set (0.00 sec)
 
mysql> select @@global.innodb_ddl_buffer_size;
+---------------------------------+
| @@global.innodb_ddl_buffer_size |
+---------------------------------+
|                         1048576 |
+---------------------------------+
1 row in set (0.00 sec)
 
mysql> select @@global.innodb_parallel_read_threads;
+---------------------------------------+
| @@global.innodb_parallel_read_threads |
+---------------------------------------+
|                                     4 |
+---------------------------------------+
1 row in set (0.00 sec)

接下来测试一下调大innodb_ddl_threads、innodb_ddl_buffer_size和innodb_parallel_read_threads参数值对ddl操作的性能提升。

首先创建一张5000万的表:

-- 数据库版本为8.0.28
mysql> select @@version;
+----------+
| @@version|
+----------+
| 8.0.28   |
+----------+
1 row in set (0.00 sec)
 
-- buffer pool大小为24g
mysql> select @@global.innodb_buffer_pool_size;
+----------------------------------+
| @@global.innodb_buffer_pool_size |
+----------------------------------+
|                       1073741824 |
+----------------------------------+
1 row in set (0.001 sec)
 
mysql> create database action;
query ok, 1 row affected (0.01 sec)
 
# sysbench /usr/share/sysbench/oltp_read_write.lua --mysql-socket=/data/mysql/data/3306/mysqld.sock  --mysql-user=root --mysql-password='123' --mysql-db=action --tables=1 --table-size=50000000 --report-interval=1 --threads=8 prepare
 
mysql> select count(*) from action.sbtest1;
+----------+
| count(*) |
+----------+
| 50000000 |
+----------+
1 row in set (21.64 sec)
 
-- 表空间大小为12g
# ll -h
total 12g
-rw-r-----. 1 mysql mysql 12g jan 20 17:38 sbtest1.ibd

分别测试不同的线程数量和缓冲区大小的ddl操作时间,例如:

-- 设置并发ddl线程为1
mysql> set innodb_ddl_threads = 1;
query ok, 0 rows affected (0.01 sec)
 
-- 设置buffer大小为512m
mysql> set innodb_ddl_buffer_size = 536870912;
query ok, 0 rows affected (0.00 sec)
 
-- 设置并行索引扫描线程为1
mysql> set innodb_parallel_read_threads = 1;
query ok, 0 rows affected (0.01 sec)
 
-- 执行ddl操作
mysql> alter table action.sbtest1 add index idx_c(c);
query ok, 0 rows affected (6 min 54.21 sec)
records: 0  duplicates: 0  warnings: 0
 
-- 查看ddl的内存最大占用
mysql> select event_name,current_number_of_bytes_used/1024/1024 from performance_schema.memory_summary_global_by_event_name where event_name='memory/innodb/ddl';
+-------------------+----------------------------------------+
| event_name        | current_number_of_bytes_used/1024/1024 |
+-------------------+----------------------------------------+
| memory/innodb/ddl |                           513.08750916 |
+-------------------+----------------------------------------+
1 row in set (0.00 sec)

通过不断调整相关参数得到以下结果:

innodb_ddl_threads

innodb_ddl_buffer_size

innodb_parallel_read_threads

ddl占用最大内存

ddl时间

1

512m

1

513m

6 min 54.21 sec

2

1g

2

1230m

4 min 12.08 sec

4

2g

4

2735m

3 min 43.01 sec

8

4g

8

5791m

3 min 19.63 sec

16

8g

16

5975m

3 min 12.33 sec

32

16g

32

6084m

3 min 11.11 sec

可以看到,随着并发线程的增多和buffer的增加,ddl操作所占用的资源也越多,而ddl操作所花费的时间则越少。不过通过对比资源的消耗和ddl速度的提升比例,最合理的并行线程数量为4-8个,而buffer大小可以根据情况进行调整。

参考链接:mysql :: mysql 8.0 reference manual :: 17.12.5 configuring parallel threads for online ddl operations

到此这篇关于mysql并行ddl的实现方法的文章就介绍到这了,更多相关mysql并行ddl内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com