Size: a a a

2020 November 12

AL

Aleksei Lebedev in pro.kafka
Всем привет! Подскажите, пожалуйста, по стримам: допустим у меня есть топик, в него сыпяться ивенты, поверх этого топика есть стрим с окном в 5 минут. Мне нужно, чтобы к этому окну доступ имело несколько инстансов приложения. При этом, мне важен порядок сообщений, поэтому партиция одна в топике. Правильно ли я понимаю, что GlobalTable мне здесь не поможет, и единственный вариант - давать стримам на инстансах разный applicationId?
источник

V

VladMl in pro.kafka
Aleksei Lebedev
Всем привет! Подскажите, пожалуйста, по стримам: допустим у меня есть топик, в него сыпяться ивенты, поверх этого топика есть стрим с окном в 5 минут. Мне нужно, чтобы к этому окну доступ имело несколько инстансов приложения. При этом, мне важен порядок сообщений, поэтому партиция одна в топике. Правильно ли я понимаю, что GlobalTable мне здесь не поможет, и единственный вариант - давать стримам на инстансах разный applicationId?
стор внутри инстанса. Теоретически можно получить к нему доступ через Interactive Query но по моему это не правильно. Стримы параллелялят партишенами и соответственно разными инстансами
источник

AL

Aleksei Lebedev in pro.kafka
VladMl
стор внутри инстанса. Теоретически можно получить к нему доступ через Interactive Query но по моему это не правильно. Стримы параллелялят партишенами и соответственно разными инстансами
а нам не надо параллелить, нам наоборот нужно только чтобы несколько инстансов видели одно и тоже окно над стримом.
А к GlobalTable получится из двух инстансов достучаться, если в топике только одна партиция?
источник

V

VladMl in pro.kafka
GlobalTable не для окна же, обычно для каких-то небольших статических данных
источник

AL

Aleksei Lebedev in pro.kafka
VladMl
GlobalTable не для окна же, обычно для каких-то небольших статических данных
ок.. а к окну, сформированному на одном инстансе можно получиться достучаться с другого? смотрю Javadoc, там вроде написано, что он local StateStore.. а глобальное окно как можно создать?
источник

V

VladMl in pro.kafka
Окно это по сути локальная RocksDB. Достучаться то можно но по моему тут что-то с дизайном не так.
источник

AL

Aleksei Lebedev in pro.kafka
VladMl
Окно это по сути локальная RocksDB. Достучаться то можно но по моему тут что-то с дизайном не так.
то есть вообще не стоит пытаться эту задачу на стримах решить?
источник

V

VladMl in pro.kafka
я не знаю условия задачи но обращаться к WindowStor из вне по моему не очень хорошая идея. Стрим должен отработать и выплюнуть результат. Если одного инстанса не хватает, то создаем больше партишенов и запускаем больше инстансов это тру вэй
источник

ЧП

Чёрный Плащ... in pro.kafka
А разве разные стримы с разными app.id к будет видеть те же данные топика?
Группы другая будет. Хранилище другое.
источник

ЧП

Чёрный Плащ... in pro.kafka
Не?
источник

V

VladMl in pro.kafka
если другая группа будут читать одну партицию но у них будет свой стор
источник

AL

Aleksei Lebedev in pro.kafka
VladMl
если другая группа будут читать одну партицию но у них будет свой стор
свой, но у каждого одинаковый, верно?
источник

VG

Vik Gamov in pro.kafka
Ну куда ж ты... Хотел нормально заанонсировать
источник

VG

Vik Gamov in pro.kafka
Alexandr Korotkov
Друзья, всем привет. А имеется у кого ни будь опыт реализации выгрузок с бд, причем записей очень много и предполагается в начале передавать в kafk-у по очереди записи с бд, а затем вычитывать и генерировать xml ?
Kafka connect решает ситуации с выгрузкой откуда угодно куда угодно
источник

V

VladMl in pro.kafka
Aleksei Lebedev
свой, но у каждого одинаковый, верно?
если одна партиция то да, но может быть не с одинаковыми данными на один и тот-же момент времени, кто-то читает быстрее кто-то медленнее
источник

VG

Vik Gamov in pro.kafka
Dmitry P.
Для таких вещей есть личка
Вот видите что бывает пока одмин спит 🙈
источник

AK

Alexandr Korotkov in pro.kafka
Vik Gamov
Kafka connect решает ситуации с выгрузкой откуда угодно куда угодно
Супер. А как поток с кафки делить на части и эти части отдельно в асинхронном режиме превращать в xml имеется опыт? Есть необходимость именно делить на чанки поток. Что то наподобие как Camel concurentProducer-ов делает
источник

AK

Alexandr Korotkov in pro.kafka
@gamussa смотрел твои видосы, супер. Очень доходчиво
источник

ЧП

Чёрный Плащ... in pro.kafka
Vik Gamov
Ну куда ж ты... Хотел нормально заанонсировать
Сорян.  А мне с трёх мест скинули. А тут тишина.

Больше не буду
источник

VG

Vik Gamov in pro.kafka
Aleksei Lebedev
Всем привет! Подскажите, пожалуйста, по стримам: допустим у меня есть топик, в него сыпяться ивенты, поверх этого топика есть стрим с окном в 5 минут. Мне нужно, чтобы к этому окну доступ имело несколько инстансов приложения. При этом, мне важен порядок сообщений, поэтому партиция одна в топике. Правильно ли я понимаю, что GlobalTable мне здесь не поможет, и единственный вариант - давать стримам на инстансах разный applicationId?
Можно отдавать windowedKeystore . А вообще какая задача концептуально?
источник