我要评论1.1、小文件危害
大量的小文件会影响hadoop集群管理或者spark在处理数据时的稳定性：
- 1.spark sql写hive或者直接写入hdfs，过多的小文件会对namenode内存管理等产生巨大的压力，会影响整个集群的稳定运行
- 2.容易导致task数过多，如果超过参数spark.driver.maxresultsize的配置（默认1g），会抛出类似如下的异常，影响任务的处理
caused by: org.apache.spark.sparkexception: job aborted due to stage failure: total size of serialized results of 478 tasks (2026.0 mb) is bigger than spark.driver.maxresultsize (1024.0 mb)
当然可以通过调大spark.driver.maxresultsize的默认配置来解决问题，但如果不能从源头上解决小文件问题，以后还可能遇到类似的问题。此外，spark在处理任务时，一个分区分配一个task进行处理，多个分区并行处理，虽然并行处理能够提高处理效率，但不是意味着task数越多越好。如果数据量不大，过多的task运行反而会影响效率。最后，spark中一个task处理一个分区从而也会影响最终生成的文件数。
1.2、产生小文件过多的原因
1、流式处理中，每个批次的处理执行保存操作也会产生很多小文件
2、为了解决数据更新问题，同一份数据保存了不同的几个状态，也容易导致文件数过多
1.3、如何解决这种小文件的问题呢？
- 通过repartition或coalesce算子控制最后的dataset的分区数, 注意repartition和coalesce的区别
- 将hive风格的coalesce and repartition hint 应用到spark sql 需要注意这种方式对spark的版本有要求，建议在spark2.4.x及以上版本使用，
示例： insert ... select /*+ coalesce(numpartitions) */ ... insert ... select /*+ repartition(numpartitions) */ ...
- 小文件定期合并可以定时通过异步的方式针对hive分区表的每一个分区中的小文件进行合并操作
上述只是给出3种常见的解决办法，并且要结合实际用到的技术和场景去具体处理，比如对于hdfs小文件过多，也可以通过生成har 文件或者sequence file来解决。
1.3.1、调优参数
在小文件场景下，您可以通过如下配置手动指定每个task的数据量（split size），确保不会产生过多的task，提高性能。
当sql逻辑中不包含shuffle操作时，设置此配置项，不会有明显的性能提升。
| 参数 | 描述 | 默认值 |
|---|---|---|
| spark.sql.small.file.combine | 用于设置是否开启小文件优化。 “true”表示开启。开启后，可以避免过多的小task。 | false |
| spark.sql.small.file.split.size | 合并小文件后，用于指定单个task期望的数据量。 单位：byte | 256000000 |
set spark.default.parallelism = 400;
/*+ coalesce(40) */ 调整最后的task个数；
select age, name from person distribute by age;//按照某个字段重新分区重新分区。
对于使用动态分区的任务，使用distribute by。
insert overwrite table dm.dm_grw_retain_abtest_sd partition (year, month, day, retain_days) select …… distribute by retain_days -- 最终每个子分区一个文件 distribute by retain_days, cast(rand()*7 as int) -- 最终每个子分区7个文件
到此这篇关于spark sql小文件问题处理的文章就介绍到这了,更多相关sql小文件问题处理内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网！
发表评论