当前位置: 代码网 > it编程>编程语言>Java > Kafka 清空Topic

Kafka 清空Topic

2024年08月01日 Java 我要评论
topic 清理

1、背景

测试环境某topic的数据格式发生了更改,需要将原有数据清空重新生产数据。

2、操作

2.1 检查当前topic的配置

[root@localhost ~]# /export/server/kafka/bin/kafka-configs.sh --zookeeper x.x.x.x:2181 --entity-type topics --entity-name topicname --describe

还需检查当前kafka topic对应的分区副本(假定单分区单副本)大小,用于验证数据是否已删除。

[root@localhost ~]# du -sh  /export/server/kafka/logs/kafka/topicname-0
68m /export/server/kafka/logs/kafka/topicname-0

2.2 添加数据过期时间配置

将过期时间设置为1秒

[root@localhost ~]# /export/server/kafka/bin/kafka-configs.sh --zookeeper  x.x.x.x:2181 --entity-type topics --entity-name topicname  --alter --add-config retention.ms=1000

2.3 检查数据已删除

[root@localhost ~]# du -sh  /export/server/kafka/logs/kafka/topicname-0

直到该文件夹显示大小是20k即证明数据已清理
同时需注意,数据清理时机受server.properties中log.retention.check.interval.ms配置控制,比如我的配置是5分钟:300000,那么最长需要等5分钟才能看到结果。

2.4 删除过期时间配置

[root@localhost ~]# /export/server/kafka/bin/kafka-configs.sh --zookeeper  x.x.x.x:2181 --entity-type topics --entity-name topicname   --alter --delete-config retention.ms

此配置一定要删除,否则后续数据可能没被消费就被删掉啦。

3、借鉴内容

kafka——管理kafka(命令行工具)详解
这篇博客详细写了kafka管理脚本的实际使用,我测了几个都是正确的,大家有兴趣的可以验证。
不过最好是官网阅读哈:
kafka-配置
kafka-操作

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com