Size: a a a

2020 February 16

AB

Andriy Bashuk in pro.kafka
Nikolay
переключение контекстов крайне быстрая операция( как я помню их могут быть миллион в секунду). стршно не переключение контекста, а вымываение кэшей. все твердят, что страшно переключение, но это не совсем так. именно то, что в кэше данных нет - вот причина замедления, а не длительность переключения. в кафке же кэш скорее всего  и так постоянно вымывается
Спасибо
источник

И

Игорь in pro.kafka
В синтетических тестах очень хорошо себя показал
источник

Ю

Юрий Мк. in pro.kafka
Здравствуйте коллеги, как правильно организовать передачу сообщений в Kafka если producer на удаленном объекте и связь до брокера "не очень стабильная" например GSM, Какие есть рабочие схемы ?
источник
2020 February 17

MK

Marko Kevac in pro.kafka
Передавать не в kafka сразу, а через что-то промежуточное.
источник

N

Nikolay in pro.kafka
В почему не заставить продюсера не ретраится ?
источник

N

Nikolay in pro.kafka
Сделать его идепотентным и пусть сам ретраится
источник

OI

Oleg Ilinsky in pro.kafka
Привет!
Есть у кого-нибудь промокод на ближайший Kafka Summit?
источник

F

Fedor Secret in pro.kafka
Всем привет. Столкнулся с тем, что не работают standby replicas у Kafka Streams.

Docker Swarm
Kafka Confluent 5.3.1
Инстанс содержит 3 стрима.
Стримы создаются как Spring Cloud Kafka Streams Binders и у каждого стрима есть свой стор.
Чтобы запрашивать данные со всех сторов, реализовал "Querying remote state stores».

В конфиге биндера задал 
 "num.standby.replicas: 1"
 "num.stream.threads: 5"
Число партиций 10
В сварме поднимаю 2 инстанса через replica=2 у service.
К каждой реплики монтируется  свой volume для стора.

Пропускаю пару миллионов записей, чтобы сторы проинициализировались,проверяю что данные корректно запрашиваются с каждого стора. После чего убиваю один инстанс и запрашиваю данные по ключу, который был на 1 инстансе. И в этот момент в пределах до 10секунд по идее должна подхватиться stand by реплика. Но этого не происходит. Пишет что стор еще не проинициализирован и приходится ждать 3-4 минуты пока стор восстановиться с change log.

Интересно, может уже кто то делал подобное. Инетересно было бы обсудить
источник

VS

Vadim Sukhanov in pro.kafka
Всем привет вопрос по min.insync.replicas.
Я правильно понимаю что при кейсе когда есть топик например с Replication Factor 3 и на брокере стоит min.insync.replicas=1 в который отправляется сообщение с acks=all - то в кафке окажется 2 копии - 1 оригнинал и 1 реплика?
источник

D

Dmitry in pro.kafka
Vadim Sukhanov
Всем привет вопрос по min.insync.replicas.
Я правильно понимаю что при кейсе когда есть топик например с Replication Factor 3 и на брокере стоит min.insync.replicas=1 в который отправляется сообщение с acks=all - то в кафке окажется 2 копии - 1 оригнинал и 1 реплика?
привет. нет)
min.insync.replicas отвечает за минимальное кол-во согласованных реплик, т.е. их синхронизацию
acks=all отвечает за гарантированную доставку сообщения на все ноды.
т.е. твоё сообщение попадёт на все 3 ноды.
источник

VS

Vadim Sukhanov in pro.kafka
Dmitry
привет. нет)
min.insync.replicas отвечает за минимальное кол-во согласованных реплик, т.е. их синхронизацию
acks=all отвечает за гарантированную доставку сообщения на все ноды.
т.е. твоё сообщение попадёт на все 3 ноды.
я неправильно читаю доку получается?
min.insync.replicas: When a producer sets acks to "all" (or "-1"), min.insync.replicas specifies the minimum number of replicas that must acknowledge a write for the write to be considered successful.

когда продьюсер устанавливает acks в all то min.insync.replicas указывает какое количество реплик должно подтвердить запись чтобы операция успешной считалась
источник

D

Dmitry in pro.kafka
min.insync.replicas больше про Брокера. Т.е. когда у тебя упадет 1 нода, при min.insync.replicas=2 одна нода еще останется согласованной и станет "эталонной"
acks=all больше про Producer
источник

F

Fedor Secret in pro.kafka
Vadim Sukhanov
я неправильно читаю доку получается?
min.insync.replicas: When a producer sets acks to "all" (or "-1"), min.insync.replicas specifies the minimum number of replicas that must acknowledge a write for the write to be considered successful.

когда продьюсер устанавливает acks в all то min.insync.replicas указывает какое количество реплик должно подтвердить запись чтобы операция успешной считалась
Советую еще вот эту статью. Хорошо расписано https://habr.com/ru/company/itsumma/blog/474984/
источник

K

KrivdaTheTriewe in pro.kafka
из самой кафки скалу тож выпиливают?
источник

N

Nikolay in pro.kafka
Выпиливают давно , но всю не выпилят. Она в ядре . Ядро трогать не хотят
источник

K

KrivdaTheTriewe in pro.kafka
ну слава богу
источник

VD

Vitalii Dmitriev in pro.kafka
KrivdaTheTriewe
из самой кафки скалу тож выпиливают?
“Работает — не трогай” (c)
источник

F

Fedor Secret in pro.kafka
Кто нибудь использовал в Kafka Streams Static Membership Strategy?
источник

AK

Aleksander Kurlov in pro.kafka
KrivdaTheTriewe
ну слава богу
Все равно скала в кафке в роли беттерджавы выступает, ничего этого вашего фпешного
источник
2020 February 18

N

Nikolay in pro.kafka
Что за CommitProcessor в ЗК? Когда он используется ?
источник