重试和死信处理
默认情况下,当您在消费者绑定中配置重试(例如 maxAttemts
)和 enableDlq
时,这些功能将在绑定器内执行,监听器容器或 Kafka 消费者不参与。
在某些情况下,最好将此功能移至监听器容器,例如
-
重试和延迟的总和将超过消费者的
max.poll.interval.ms
属性,这可能会导致分区重新平衡。 -
您希望将死信发布到不同的 Kafka 集群。
-
您希望将重试监听器添加到错误处理程序。
-
…
要配置将此功能从绑定器移至容器,请定义一个 @Bean
,其类型为 ListenerContainerWithDlqAndRetryCustomizer
。此接口具有以下方法
/**
* Configure the container.
* @param container the container.
* @param destinationName the destination name.
* @param group the group.
* @param dlqDestinationResolver a destination resolver for the dead letter topic (if
* enableDlq).
* @param backOff the backOff using retry properties (if configured).
* @see #retryAndDlqInBinding(String, String)
*/
void configure(AbstractMessageListenerContainer<?, ?> container, String destinationName, String group,
@Nullable BiFunction<ConsumerRecord<?, ?>, Exception, TopicPartition> dlqDestinationResolver,
@Nullable BackOff backOff);
/**
* Return false to move retries and DLQ from the binding to a customized error handler
* using the retry metadata and/or a {@code DeadLetterPublishingRecoverer} when
* configured via
* {@link #configure(AbstractMessageListenerContainer, String, String, BiFunction, BackOff)}.
* @param destinationName the destination name.
* @param group the group.
* @return false to disable retries and DLQ in the binding
*/
default boolean retryAndDlqInBinding(String destinationName, String group) {
return true;
}
目标解析器和 BackOff
是从绑定属性(如果已配置)创建的。KafkaTemplate
使用来自 spring.kafka….
属性的配置。然后,您可以使用它们来创建自定义错误处理程序和死信发布程序;例如
@Bean
ListenerContainerWithDlqAndRetryCustomizer cust(KafkaTemplate<?, ?> template) {
return new ListenerContainerWithDlqAndRetryCustomizer() {
@Override
public void configure(AbstractMessageListenerContainer<?, ?> container, String destinationName,
String group,
@Nullable BiFunction<ConsumerRecord<?, ?>, Exception, TopicPartition> dlqDestinationResolver,
@Nullable BackOff backOff) {
if (destinationName.equals("topicWithLongTotalRetryConfig")) {
ConsumerRecordRecoverer dlpr = new DeadLetterPublishingRecoverer(template,
dlqDestinationResolver);
container.setCommonErrorHandler(new DefaultErrorHandler(dlpr, backOff));
}
}
@Override
public boolean retryAndDlqInBinding(String destinationName, String group) {
return !destinationName.contains("topicWithLongTotalRetryConfig");
}
};
}
现在,只需要一个重试延迟时间大于消费者 max.poll.interval.ms
属性即可。
当使用多个绑定器时,'ListenerContainerWithDlqAndRetryCustomizer' bean 会被 'DefaultBinderFactory' 覆盖。要使该 bean 生效,需要使用 'BinderCustomizer' 来设置容器自定义器(参见 [binder-customizer])。
@Bean
public BinderCustomizer binderCustomizer(ListenerContainerWithDlqAndRetryCustomizer containerCustomizer) {
return (binder, binderName) -> {
if (binder instanceof KafkaMessageChannelBinder kafkaMessageChannelBinder) {
kafkaMessageChannelBinder.setContainerCustomizer(containerCustomizer);
}
else if (binder instanceof KStreamBinder) {
...
}
else if (binder instanceof RabbitMessageChannelBinder) {
...
}
};
}