一、背景与意义
在传统的数据库系统中,执行ddl操作时通常需要锁定表,以防止数据不一致。然而,这种锁定会导致表在ddl操作期间不可用,从而影响数据库的可用性。mysql原生online ddl解决了这个问题,它允许ddl操作在表仍然可用时执行,大大提高了数据库的可用性,特别是对于需要24/7高可用性的应用来说,这是一个重要的特性。
二、工作机制
mysql原生online ddl的工作机制涉及多个步骤和内部原理:
1. 准备阶段
- 检查与评估:在执行ddl操作之前,mysql会进行一系列的检查和评估工作。这包括验证ddl操作的语法正确性、检查用户权限以及评估所需资源等。
- 选择执行策略:根据ddl操作的类型和表的结构,mysql会选择一个合适的执行策略。这通常涉及决定是使用copy算法、inplace算法还是instant算法。
2. 执行ddl操作
copy算法:
- 创建临时表:首先,mysql会创建一个与原始表结构相似的新临时表。
- 数据拷贝:接着,原始表中的数据会被逐行拷贝到新的临时表中。这个过程可能需要一些时间,具体取决于表的大小和系统的性能。
- 重命名与替换:数据拷贝完成后,临时表会被重命名为原始表的名字,从而替换掉原始表。在这个过程中,原始表会被加上写锁,以阻止对数据进行修改,确保数据的一致性。
inplace算法:
- 直接修改:与copy算法不同,inplace算法直接在原始表上进行修改,无需创建临时表和拷贝数据。
- 记录dml操作:在ddl操作执行期间,如果有dml操作(如insert、update、delete)尝试修改表,这些操作会被记录下来。
- 应用dml更改:ddl操作完成后,之前记录的dml更改会被应用到表上,确保数据的完整性和一致性。
instant算法:
- 元数据修改:对于某些简单的ddl操作(如修改表的默认字符集),instant算法可以直接修改数据字典中的元数据,而无需对表数据进行任何更改。
- 无锁操作:由于只修改元数据,因此这种算法可以在不锁定表的情况下完成,实现了真正的“瞬间”完成ddl操作。
3. 完成与清理
- 释放资源:ddl操作完成后,系统会释放所有在操作过程中分配的资源,如临时表、内存等。
- 更新统计信息:mysql会更新与表相关的统计信息,以便优化器能够更好地制定查询计划。
- 通知与日志记录:操作完成后,系统会生成相应的日志记录,以便在必要时进行恢复或审计。同时,也可能通过某种机制(如触发器)通知应用程序ddl操作的完成。
mysql原生online ddl通过不同的算法和策略来实现在线修改数据库结构的目标,从而提高了数据库的可用性和灵活性。这些工作原理确保了即使在执行ddl操作时,数据库仍然能够处理正常的dml操作,减少了停机时间和维护成本。
三、实现原理与优化
在线ddl的核心实现原理涉及几个关键环节,同时也有一些关键的优化策略:
- 构建临时表:为了不影响原表的正常读写,系统会创建一个具备新结构的临时表。这一步骤为后续的ddl操作提供了基础。
- 数据迁移与实时同步:旧表中的数据会被高效地迁移到临时表中,同时确保数据的实时同步。这种迁移策略旨在保障ddl过程中数据的完整性和一致性,避免数据丢失或损坏。
- 变更追踪与重播:利用日志机制,系统会追踪ddl执行期间旧表上的数据变更,并将这些变更实时重播到临时表中。这一优化确保了数据在ddl操作完成后的准确性。
- 无缝切换:当ddl操作完成且数据完全同步后,数据库引擎会在合适的时机将临时表提升为新表,从而实现无缝切换。此后,所有的读写操作都将基于新表进行。
四、使用场景与优势
mysql原生online ddl适用于多种场景,如添加或删除列、修改数据类型、添加或删除索引等。这些操作都可以在不中断服务的情况下完成,大大提高了数据库的灵活性和可用性。此外,由于online ddl减少了停机时间,因此也降低了维护成本和数据丢失的风险。
五、使用约束与注意事项
尽管mysql 5.7的在线ddl带来了诸多便利,但在实际使用中仍需注意以下几点:
- 操作支持范围:并非所有类型的ddl操作都支持在线执行。某些特定操作可能仍需要锁定整张表,因此在执行前需确认操作类型。
- 资源占用:ddl操作期间可能会显著增加系统资源的消耗,特别是在数据迁移和同步阶段。因此,在高负载环境下应谨慎规划并执行此类操作。
- 测试与验证:为确保数据的完整性和业务的连续性,执行在线ddl之前应进行充分的测试和验证。这包括但不限于数据的备份、恢复以及一致性检查等步骤。
六、锁在online ddl中的作用
在online ddl过程中,锁主要用于确保数据的一致性。不同类型的锁对表的可访问性有不同的影响:
- 共享锁(s锁):允许多个事务读取同一资源,但不允许写入。在online ddl中,这可能用于允许读取操作继续进行,同时阻止写入操作。
- 排他锁(x锁):阻止其他事务读取或写入资源。在ddl操作中,如果需要修改表的结构或数据,则可能需要使用排他锁。
algorithm和lock选项
- 在mysql中,你可以通过
algorithm
和lock
关键字来控制ddl操作的行为。
algorithm选项
- inplace:这个选项指示mysql直接在原表上进行修改,而不是创建一个新表。这通常可以减少锁的使用和时间,从而提高并发性。但是,并非所有的ddl操作都支持inplace算法。
- copy:这个选项告诉mysql创建一个新表,将原表的数据复制到新表中,然后在新表上执行ddl操作。完成后,新表会替换原表。这个过程中,原表通常会被锁定,以防止数据不一致。copy算法通常需要更多的时间和资源。
- default:如果不指定algorithm选项,mysql将选择默认的行为。这通常是尝试使用inplace算法,如果不可能,则回退到copy算法。 lock选项
- none:这个选项指示mysql在执行ddl操作时不要对表加锁(如果可能的话)。但是,如果ddl操作需要保证数据的一致性,mysql可能会忽略这个选项并加锁。
- shared:允许读取操作继续进行,但阻止写入操作。
- exclusive:阻止读取和写入操作。这是最强的锁类型,用于确保ddl操作期间数据的一致性。
如何使用这些选项
- 当你想要执行一个ddl操作时,你可以通过添加
algorithm
和lock
选项来控制操作的行为。例如:
alter table tbl_name add column col_name col_type, algorithm=inplace, lock=none;
这条命令尝试在原地(inplace)添加一个新列,并且尽量不使用锁(lock=none)。但是,需要注意的是,如果mysql判断无法保证数据的一致性而不使用锁,它可能会忽略这些选项。
可以通过如下的sql语句查看是否有事务和锁等信息。
select * from information_schema.innodb_locks;
select * from information_schema.innodb_trx;
select * from information_schema.innodb_lock_waits;
select * from information_schema.processlist;
注意事项
不是所有的ddl操作都支持所有的algorithm和lock组合。在执行ddl操作之前,最好查阅mysql的官方文档以了解具体的支持情况。
即使指定了lock=none,mysql也可能在必要时自动加锁以确保数据的一致性。因此,这些选项应被视为指导性的,而不是强制性的。
更多online ddl原理,请移步 : mysql online ddl的使用详解
到此这篇关于mysql online ddl原理解读的文章就介绍到这了,更多相关mysql online ddl原理内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
发表评论