kafka重启是否丢失数据,kafka重置offset为最新 (解决方法与步骤)
下面内容仅为某些场景参考,为稳妥起见请先联系上面的专业技术工程师,具体环境具体分析。
2023-09-21 11:25 62
为了解决这个问题,可以进行以下几种配置和设置:
1. 使用 Kafka 0.9 版本以上的版本,它引入了 Kafka Connect 和 Kafka Streams,它们使用的是 Kafka 自身的 offset 流管理工具,称为 offset storage,可以将 offset 保存在 Kafka 主题中。
2. 使用 Kafka 0.8 版本,可以使用 Kafka 提供的 High-Level Consumer API。这个 API 可以在消费者初始化时读取存储在 ZooKeeper 中的 offset,并在消费消息时定期将 offset 提交到 ZooKeeper。
3. 可以选择使用外部系统管理 offset,比如 Apache HBase、Apache Cassandra 或者 Redis 等。
4. 使用自定义的 offset 存储方案,可以将 offset 存储在一个独立的数据库中,比如 MySQL 或者 PostgreSQL。
通过以上配置和设置,可以保证 Kafka 重启之后不会丢失 offset。