Size: a a a

2020 December 16

A

Andrey in pro.kafka
А количество тасков можно изменить после создания? А то читаю доку, пишут:
The assignment of partitions to tasks never changes;
Получается если у меня было tasks.max=2 то если я потом изменю на 3 и запущу ещё один тред/instance, ничего не поменяется?
источник

k

kvadratura in pro.kafka
Andrey
А количество тасков можно изменить после создания? А то читаю доку, пишут:
The assignment of partitions to tasks never changes;
Получается если у меня было tasks.max=2 то если я потом изменю на 3 и запущу ещё один тред/instance, ничего не поменяется?
насколько я помню, к-во тасков по всем узлам (в общем случае) равно количеству partitions. таски исполняются пулом тредов, размер которого можно изменять. вместо одного треда на N тасков будет больше тредов. в предельном случае получится по треду на 1 таск
источник

k

kvadratura in pro.kafka
Andrey
А количество тасков можно изменить после создания? А то читаю доку, пишут:
The assignment of partitions to tasks never changes;
Получается если у меня было tasks.max=2 то если я потом изменю на 3 и запущу ещё один тред/instance, ничего не поменяется?
но поскольку вы упоминаете tasks.max, возможно, речь идет о kafka connect?
источник

k

kvadratura in pro.kafka
в предыдущем сообщении я имел ввиду jvm-клиентов (kafka streams в частности)

если идет речь о kafka connect, то tasks.max - это размер тред пула, и tasks.max умножить на количество узлов consumer не должно быть больше, что число partitions. вроде так.
источник

GK

Gregory Koshelev in pro.kafka
Ilya Kaznacheev
У меня паттерн такой: нужно один раз послать в очередь конктетному получателю какие-то сообщения, после этого туда больше никогда ничего не посылается
Если паттерн послать _конкретному_ слушателю одно (ОДНО!) сообщение, то Кафка вообще не лучший вариант для этого.
источник

GK

Gregory Koshelev in pro.kafka
Сколько CPU и сети будет ради это сожжено даже представить страшно.
источник

GK

Gregory Koshelev in pro.kafka
Kafka — это про 1 раз записал и несколько раз прочитал (например, как основа для Kappa-архитектуры).
Kafka — это про много пишешь и балансируешь автоматически на несколько читателей.
источник

GK

Gregory Koshelev in pro.kafka
Ну и классический вариант, разумеется, — просто очень много пишешь 🙂
источник

IK

Ilya Kaznacheev in pro.kafka
Мда, так и думал. Но в одной книжке прочитал, что кафка поддерживает p2p, вот и подумал, мб я что-то упускаю
источник

GK

Gregory Koshelev in pro.kafka
В такой архитектуре (p2p) удобно делать не по одному топику на каждое ребро (это же квадратичный рост топиков), а по одному топику на каждый peer. Все остальные пишут в его топик.
источник

S

Slava in pro.kafka
p2p у вас довольно странное, надо признать ;))
источник

AB

Andrey Belyakov in pro.kafka
Ilya Kaznacheev
Мда, так и думал. Но в одной книжке прочитал, что кафка поддерживает p2p, вот и подумал, мб я что-то упускаю
p2p же по определению прямые сообщения между пирами
источник

GK

Gregory Koshelev in pro.kafka
Конечно же, нет.
источник

S

Slava in pro.kafka
кафка не пользуется центральным сервисом при посылке данных между брокерами, это и есть p2p
источник

GK

Gregory Koshelev in pro.kafka
p2p — это про то, что участники знают друг друга.
источник

GK

Gregory Koshelev in pro.kafka
Что на нижележащих уровнях находится — не так важно.
источник

AB

Andrey Belyakov in pro.kafka
p2p я понимал как одноранговую сеть
источник

AB

Andrey Belyakov in pro.kafka
Slava
кафка не пользуется центральным сервисом при посылке данных между брокерами, это и есть p2p
Есть лидер и фолловеры если мы про саму кафку говорим, пусть лидер и выбираемый
источник

GK

Gregory Koshelev in pro.kafka
Andrey Belyakov
p2p я понимал как одноранговую сеть
На уровне прикладного кода примерно так и будет выглядеть.
источник

S

Slava in pro.kafka
Andrey Belyakov
Есть лидер и фолловеры если мы про саму кафку говорим, пусть лидер и выбираемый
Не в этом дело, а в том, что нет узкого места, данные шлются от узла к узлу, так достигается масштабируемость линейная в итоге.
источник