Size: a a a

2020 December 06

D

Dmitry in pro.kafka
IV
привет, подскажите по бекапу кластера кафки, варианты и бестпрактисы? +зукипер видимо, или как такового нормального решения нет?
источник

I

IV in pro.kafka
Спасибо!
источник

D

Dmitry in pro.kafka
адекватный вариант, т.к. не требует наличия "бекапного" кластера кафки
источник

H

Hjortron in pro.kafka
источник

VG

Vik Gamov in pro.kafka
источник
2020 December 07

IK

Igor K in pro.kafka
Приветствую! Кто-то сталкивался, что после обновления на 2.6 (confluent-kafka-6.0.1-1.noarch)
при старте брокера постоянно рестарт, куда можно покопать?
Fatal error during KafkaServer startup. Prepare to shutdown (kafka.server.KafkaServer)
java.lang.IllegalArgumentException: requirement failed: Split operation is only permitted for segments with overflow

При чём обновлял 2 разных кластера на одном всё ок (с 2.3 обновлялся), а вот который с 2.1 на 2.6 такая ошибка.
источник

ЮХ

Юра Ходырев... in pro.kafka
Igor K
Приветствую! Кто-то сталкивался, что после обновления на 2.6 (confluent-kafka-6.0.1-1.noarch)
при старте брокера постоянно рестарт, куда можно покопать?
Fatal error during KafkaServer startup. Prepare to shutdown (kafka.server.KafkaServer)
java.lang.IllegalArgumentException: requirement failed: Split operation is only permitted for segments with overflow

При чём обновлял 2 разных кластера на одном всё ок (с 2.3 обновлялся), а вот который с 2.1 на 2.6 такая ошибка.
Вроде где то была информация, что с версии 2.3 до 2.6 норм, а более ранние версии надо сначала до 2.3 обновлять, а потом на последнюю.
Хотя на 100% не уверен, что правильно помню
источник

ЮХ

Юра Ходырев... in pro.kafka
источник

ON

Oleg Naumov in pro.kafka
Привет. Может кто-то сталкивался или знает. Если используется SeekToCurrentErrorHandler, пример:

    @Bean
   public SeekToCurrentErrorHandler seekToCurrentErrorHandler() {
       FixedBackOff fixedBackOff = new FixedBackOff(1000, 5);
       return new SeekToCurrentErrorHandler(fixedBackOff);
   }


в котором мы закладываем 5 попыток повторения, через секундный интервал. То при исчерпании попыток, что произойдёт с сообщением? оно будет закоммичено и начнётся обработка следующего?

ActMode = ContainerProperties.AckMode.RECORD
источник

V

VTaliKK in pro.kafka
Народ, сижу разбираюсь с проектом kafka-backup

погонял туда сюда. Возникли вопросы, может кто-то ответить?


1. kafka-backup сохраняет consupmers_offset. При восстановлении они как-то используются?

2. Правильно ли я понял, что дубликаты не отслеживаются. Т.е если я 3 раза восстановлю топик из одного и того же бекапа, то будет 3 дубля?
источник

V

VTaliKK in pro.kafka
3. Не понял, зачем нужно восстанавливать индексы сегментов. Для чего это ?
источник
2020 December 08

FN

Felix Neko in pro.kafka
Рахмат тебе, добрый человек! Потыкаем.
^__^
источник

K

KrivdaTheTriewe in pro.kafka
Ребят, столкнулся со следущей проблемой, для spark-kafka-source-582a21ee-56b2-45a8-8374-fb4f807cc44b-1478556664-driver-0 group coordinator is not available
источник

K

KrivdaTheTriewe in pro.kafka
При регистрации другой группы все естественно поехало дальше читать
источник

K

KrivdaTheTriewe in pro.kafka
как избежать падения груп координатора и сделать фейл овер
источник

K

KrivdaTheTriewe in pro.kafka
Group coordinator tdp-kfp-008.corp.tele2.ru:9096 (id: 2147483639 rack: null) is unavailable or invalid
источник
2020 December 09

H

Hjortron in pro.kafka
Привет, я похоже в глаза долблюсь но никак не могу найти как увеличить кол-во партиций для всей группы, а не для каждого топика.
Подскажите плиз, где искать?
источник

IT

Ihar Tigar in pro.kafka
если не ошибаюсь, количество партиций - это атрибут именно топика и придется выставлять на каждый
источник

H

Hjortron in pro.kafka
ох блин, я тестирую дебезиум и у меня их очень много =(
Спасибо!
источник

IT

Ihar Tigar in pro.kafka
num.partitions
источник