当前位置: 代码网 > it编程>数据库>大数据 > explain慢查询SQL调优exists的实战

explain慢查询SQL调优exists的实战

2024年05月15日 大数据 我要评论
最近我在公司优化了一些慢查询sql,积累了一些sql调优的实战经验。这篇文章从实战的角度出发,给大家分享一下如何做sql调优。经过两次优化之后,慢sql的性能显著提升了,耗时从8s优化到了0.7s。现

最近我在公司优化了一些慢查询sql,积累了一些sql调优的实战经验。这篇文章从实战的角度出发,给大家分享一下如何做sql调优。

经过两次优化之后,慢sql的性能显著提升了,耗时从8s优化到了0.7s

现在拿出来给大家分享一下,希望对你会有所帮助。

1 案发现场

前几天,我收到了一封报警邮件,提示有一条慢查询sql。

我打开邮件查看了详情,那条sql大概是这样的:

select count(*)
from spu s1
where exists (
 select *
 from sku s2
  inner join mall_sku s3 on s3.sku_id = s2.id
 where s2.spu_id = s1.id
  and s2.status = 1
  and not exists (
   select *
   from supplier_sku s4
   where s4.mall_sku_id = s3.id
    and s4.supplier_id = 123456789
    and s4.status = 1
  )
)

这条sql的含义是统计id=123456789的供应商,未发布的spu数量是多少。

这条sql的耗时竟然达标了8s,必须要做优化了。

我首先使用explain关键字查询该sql的执行计划,发现spu表走了type类型的索引,而sku、mall_sku、supplier_sku表都走了ref类型的索引。

也就是说,这4张表都走了索引

不是简单的增加索引,就能解决的事情。

那么,接下来该如何优化呢?

2 第一次优化

这条sql语句,其中两个exists关键字引起了我的注意。

一个exists是为了查询存在某些满足条件的商品,另一个not exists是为了查询出不存在某些商品。

这个sql是另外一位已离职的同事写的。

不清楚spu表和sku表为什么不用join,而用了exists。

我猜测可能是为了只返回spu表的数据,做的一种处理。如果join了sku表,则可能会查出重复的数据,需要做去重处理。

从目前看,这种写性能有瓶颈。

因此,我做出了第一次优化。

使用join + group by组合,将sql优化如下:

select count(*) from
(
  select s2.spu_id from spu s1
  inner join from sku s2
  inner join mall_sku s3 on s3.sku_id=s2.id
  where s2.spu_id=s1.id and s2.status=1
  and not exists 
  (
     select * from supplier_sku s4
     where s4.mall_sku_id=s3.id
     and s4.supplier_id=...
  )
  group by s2.spu_id
) a

文章中有些相同的条件省略了,由于spu_id在sku表中是增加了索引的,因此group by的性能其实是挺快的。

这样优化之后,sql的执行时间变成了2.5s

性能提升了3倍多,但是还是不够快,还需要做进一步优化。

3 第二次优化

还有一个not exists可以优化一下。

如果是小表驱动大表的时候,使用not exists确实可以提升性能。

但如果是大表驱动小表的时候,使用not exists可能有点弄巧成拙。

这里exists右边的sql的含义是查询某供应商的商品数据,而目前我们平台一个供应商的商品并不多。

于是,我将not exists改成了not in。

sql优化如下:

select count(*) from
(
  select s2.spu_id from spu s1
  inner join from sku s2
  inner join mall_sku s3 on s3.sku_id=s2.id
  where s2.spu_id=s1.id and s2.status=1
  and s3.id not in 
  (
     select s4.mall_sku_id 
     from supplier_sku s4
     where s4.mall_sku_id=s3.id
     and s4.supplier_id=...
  )
  group by s2.spu_id
) a

这样优化之后,该sql的执行时间下降到了0.7s。

之后,我再用explain关键字查询该sql的执行计划。

发现spu表走了全表扫描,sku表走了eq_ref类型的索引,而mall_sku和supplier_sku表走了ref类型的索引。

可以看出,有时候sql语句走了4个索引,性能未必比走了3个索引好。

多张表join的时候,其中一张表走了全表扫描,说不定整个sql语句的性能会更好,我们一定要多测试。

exists和not exists常用示例说明

1.查询a表在b表中存在数据

相当于sql中in操作。

select * from a where exists (select 1 from b where a_id=a.id )

以上sql等价于下面的sql

select * from a where id in (select a_id from b)

2.查询a表在b表中不存在数据

相当于sql中not in操作。

select * from a where not exists (select 1 from b where a_id=a.id )

以上sql等价于下面的sql

select * from a where id not in (select a_id from b)

3.查询时间最新记录

以下sql查询同一id内的c_date最近的记录。

select * from c t1
   where not exists(select * from c where id = t1.id and c_date>t1.c_date)

分析:子查询中,先看id = 1 的情形,只有当t1.c_date 取最大值时,没有返回结果,因为是not exists关键字,所以where条件成立,返回符合条件的查询结果

4.exists替代distinct剔除重复数据

例如下面sql

select distinct a.id,a.name from a, b where a.id=b.a_id;

使用exists提出重复,等价于上面的sql

select id,name from a where exists (select 1 from b where a_id=a.id );

分析:rdbms 核心模块将在子查询的条件一旦满足后,立即返回结果,所以自带去重

总结

说实话,sql调优是一个比较复杂的问题,需要考虑的因素有很多,有可能需要多次优化才能满足要求。

到此这篇关于explain慢查询sql调优exists的实战的文章就介绍到这了,更多相关慢查询sql调优exists内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com