引言:深分页,真的只是“翻页慢”那么简单吗?
在面试中,你是否遇到过这样的问题?
“你了解 mysql 深分页的性能问题吗?如何优化?”
又或者在真实项目中,当你翻到第 1000 页的数据时,接口突然变得异常缓慢,甚至超时崩溃。你打开慢 sql 日志,看到那条熟悉的 limit 100000, 20
,心里默默叹了口气:“啊,又是深分页惹的祸。”
作为一名有 8 年开发经验的 java 工程师,我在多个后台系统和数据中心项目中都遇到过深分页带来的性能瓶颈。起初我们只是加索引、调 sql,但最终发现:分页的本质,其实是数据访问策略的设计问题。
这篇文章将带你深入理解:
- 为什么深分页会拖垮数据库?
- 如何结合实际业务场景进行优化?
- 有哪些可落地的代码实践?
- 如何用一个高性能的游标分页方案替代传统分页?
一、背景介绍
在日常业务开发中,分页查询是非常常见的需求。例如在管理后台系统中,展示订单列表、用户列表、日志记录等都需要分页加载。
通常我们会使用类似下面的 sql:
select * from orders order by create_time desc limit 100000, 20;
上述查询语句的含义是:跳过 100000 条记录,取第 100001 到 100020 条数据。这种分页方式我们称为“深分页” 。
二、深分页的性能问题
mysql 在执行 limit offset, size
的时候,会先扫描 offset + size 条记录,然后抛弃前 offset 条,只返回 size 条。
也就是说,limit 100000, 20
实际上扫描了 100020 行,仅返回 20 行。若表数据量和 offset 很大,性能将急剧下降,甚至拖垮数据库。
三、业务场景分析
假设你在做一个订单系统,运营人员需要查看历史订单数据,而这些订单数据量非常庞大(千万级),他们经常会翻到第 1000 页查看订单(每页 20 条)。
你发现系统在翻页到后面时接口响应非常慢,排查后定位到是 mysql 查询耗时严重。
这时候我们就需要 优化深分页的查询方式。
四、优化思路
方法一:使用覆盖索引
select id from orders order by id limit 100000, 20; select * from orders where id in (...);
通过先查主键,再回表查详细数据,减少回表成本。
方法二:记录上一次的游标(推荐)
使用**“基于游标的分页”**,也叫作“keyset pagination”或“seek 方法”。
思路是:不要使用 limit offset
,而是通过上一次查询的最后一条数据的主键或排序字段作为游标,下次查询直接从该游标之后开始。
select * from orders where id > ? order by id asc limit 20;
优势:
- 避免跳过大量数据,性能优越
- 更适合实时数据流或按时间排序的场景
五、实战代码:java 工具类实现游标分页
我们封装一个通用的分页工具类,支持游标分页,适用于 spring + mybatis/mybatis-plus 项目。
1. 分页请求参数类
public class cursorpagerequest { /** * 游标字段,如 id、时间戳等 */ private long cursor; /** * 每页数量 */ private int pagesize = 20; public cursorpagerequest() {} public cursorpagerequest(long cursor, int pagesize) { this.cursor = cursor; this.pagesize = pagesize; } public long getcursor() { return cursor; } public void setcursor(long cursor) { this.cursor = cursor; } public int getpagesize() { return pagesize; } public void setpagesize(int pagesize) { this.pagesize = pagesize; } }
2. 通用分页返回类
import java.util.list; public class cursorpageresponse<t> { private list<t> data; private long nextcursor; private boolean hasmore; public cursorpageresponse(list<t> data, long nextcursor, boolean hasmore) { this.data = data; this.nextcursor = nextcursor; this.hasmore = hasmore; } public list<t> getdata() { return data; } public long getnextcursor() { return nextcursor; } public boolean ishasmore() { return hasmore; } }
3. mybatis 示例 mapper 接口(以订单为例)
@mapper public interface ordermapper { /** * 查询游标分页数据 * @param cursor 上次最后一条记录的 id * @param pagesize 每页数量 */ @select("select * from orders " + "where (:cursor is null or id > #{cursor}) " + "order by id asc limit #{pagesize}") list<orderdo> listbycursor(@param("cursor") long cursor, @param("pagesize") integer pagesize); }
4. service 层封装分页逻辑
@service public class orderservice { @autowired private ordermapper ordermapper; public cursorpageresponse<orderdo> listordersbycursor(cursorpagerequest request) { list<orderdo> list = ordermapper.listbycursor(request.getcursor(), request.getpagesize()); long nextcursor = null; boolean hasmore = false; if (!list.isempty()) { // 获取最后一条记录的 id 作为下次游标 nextcursor = list.get(list.size() - 1).getid(); hasmore = list.size() == request.getpagesize(); } return new cursorpageresponse<>(list, nextcursor, hasmore); } }
六、接口调用示例
前端每次请求:
get /orders?cursor=10021&pagesize=20
返回:
{ "data": [...], "nextcursor": 10041, "hasmore": true }
前端将 nextcursor
作为下次请求的 cursor
参数实现“加载更多”效果。
七、总结
分页方式 | 优点 | 缺点 |
---|---|---|
limit offset, size | 简单通用 | 深分页性能差 |
游标分页(keyset) | 性能优秀,避免跳过大量数据 | 不支持跳页,只支持顺序加载 |
建议:在数据量大、分页页码深的业务场景中,优先使用 游标分页,尤其是管理后台、数据分析系统、接口服务等。
八、建议与扩展
- 游标字段最好是唯一递增的,比如主键 id、时间戳等
- 多字段组合游标可以支持更复杂的排序场景
- 可以将分页封装为 aop 或 baseservice 通用组件
以上就是mysql深分页进行性能优化的常见方法的详细内容,更多关于mysql深分页性能优化的资料请关注代码网其它相关文章!
发表评论