Size: a a a

2020 October 05

GM

Gleb Mekhrenin in pro.kafka
первый раз слышу
источник

VG

Vik Gamov in pro.kafka
Я тоже
источник

VG

Vik Gamov in pro.kafka
В CP6.0 ещё cluster linking завезли - репликаторы и connect не нужны
источник

ЮХ

Юра Ходырев... in pro.kafka
Vik Gamov
В CP6.0 ещё cluster linking завезли - репликаторы и connect не нужны
ой как много всего вкусного.
Даже java11, уже очень хорошо. Как то читал статью от битнами, они нагрузочные тесты по кафке готовили. Очень лестно отзывались о 11 версии, что она эффективнее работает в контейнере
источник

ЮХ

Юра Ходырев... in pro.kafka
Cluster Linking - пока что совсем тестовое исполнение?
источник

VG

Vik Gamov in pro.kafka
Юра Ходырев
Cluster Linking - пока что совсем тестовое исполнение?
Нет
источник

VG

Vik Gamov in pro.kafka
Оно как бэ в preview но в кладке работает пару месяцев
источник

DK

Dmitry Kiporov in pro.kafka
Всем привет! Кто знает, в чем проблема?
Имеем две топологии в Kafka streams. Одна топология включает в себя 3 процессора, вторая 3 других процессора. Запускаю две инстанса kafkaStream.start() с разными конфигурациями application Id и client Id. Data flow по первой топологии отрабатывает, кладет в топик. Из этого же топика вторая топология берет данные и должна их процессии, но процессии их только спустя 5 минут, после того как будет обновлен metadata
источник

DK

Dmitry Kiporov in pro.kafka
Почему так? Почему не сразу? А именно спустя 300 000 мс
источник

DK

Dmitry Kiporov in pro.kafka
300 000 мс - это время обновления метаданных, как я понял
источник
2020 October 06

I

Ilya in pro.kafka
Здравствуйте.

Ищу способ стримить начальное состояние плюс изменения для выборок данных (OLTP, длится ограниченное время) в клиент необязательно из jvm мира (сейчас рассматриваем nodejs). Состояние строится по событиям из кафки. Изначально думал воспользоваться KSQL push query с SET 'auto.offset.reset' = 'earliest', но наткнулся на статью https://www.jesse-anderson.com/2019/10/why-i-recommend-my-clients-not-use-ksql-and-kafka-streams/. На текущих нагрузках это может не быть проблемой, но хотелось бы более future-proof/production-ready решение. Среди рассмотренных вариантов также calcite (но там вроде только jdbc для клиента), materialize (в целом не уверен + push based get data out через топик кафки, а нужно в клиент). Если хорошего варианта с SQL-подобным интерфейсом нет, то подойдет и jvm-ный процессинг, но также, как и в KSQL push query нужно делать запрос к текущему состоянию + подписку на изменения, а не вычитывать все состояние/подписываться на все изменения таблицы/топика/... и на клиенте разбирать. Также хочется избежать лонг поллинга и работать именно с пушем данных в клиент (websocket/http2 streaming/*mq/...).

Подскажите пожалуйста, в сторону каких вариантов можно посмотреть, или, возможно, я что-то упускаю при рассмотрении вышеперечисленных?
источник

TB

Torlin Bios in pro.kafka
Всем привет. Нужно воспроизвести ситуацию когда текущий оффсет меньше earliest (есть проблема со спарк стримингом и кафкой по OffsetOutOfRangeException). Соответственно написал фикс и хочу протестить. Пробую делать тест, но retention.ms не всегда срабатывает(через минуту в моем случае) и я так понял из-за log.retention.check.interval.ms, который может сработать когда ему вздумается. Никто не сталкивался с подобным кейсом?
источник

SB

S B in pro.kafka
Ilya
Здравствуйте.

Ищу способ стримить начальное состояние плюс изменения для выборок данных (OLTP, длится ограниченное время) в клиент необязательно из jvm мира (сейчас рассматриваем nodejs). Состояние строится по событиям из кафки. Изначально думал воспользоваться KSQL push query с SET 'auto.offset.reset' = 'earliest', но наткнулся на статью https://www.jesse-anderson.com/2019/10/why-i-recommend-my-clients-not-use-ksql-and-kafka-streams/. На текущих нагрузках это может не быть проблемой, но хотелось бы более future-proof/production-ready решение. Среди рассмотренных вариантов также calcite (но там вроде только jdbc для клиента), materialize (в целом не уверен + push based get data out через топик кафки, а нужно в клиент). Если хорошего варианта с SQL-подобным интерфейсом нет, то подойдет и jvm-ный процессинг, но также, как и в KSQL push query нужно делать запрос к текущему состоянию + подписку на изменения, а не вычитывать все состояние/подписываться на все изменения таблицы/топика/... и на клиенте разбирать. Также хочется избежать лонг поллинга и работать именно с пушем данных в клиент (websocket/http2 streaming/*mq/...).

Подскажите пожалуйста, в сторону каких вариантов можно посмотреть, или, возможно, я что-то упускаю при рассмотрении вышеперечисленных?
Я ничо не понял. Можешь ещё раз четко разложить, что у тебя сейчас в Кафке и что ты пытаешься сделать?
источник

SB

S B in pro.kafka
Torlin Bios
Всем привет. Нужно воспроизвести ситуацию когда текущий оффсет меньше earliest (есть проблема со спарк стримингом и кафкой по OffsetOutOfRangeException). Соответственно написал фикс и хочу протестить. Пробую делать тест, но retention.ms не всегда срабатывает(через минуту в моем случае) и я так понял из-за log.retention.check.interval.ms, который может сработать когда ему вздумается. Никто не сталкивался с подобным кейсом?
Ретеншины недетерминированны.
источник

MA

Michael Akushsky in pro.kafka
Здравствуйте, это канал об аниме?
источник

SB

S B in pro.kafka
Michael Akushsky
Здравствуйте, это канал об аниме?
Нет, это клуб фанатов Малышевой.
источник

lk

leonid khomenko in pro.kafka
пора антибот подключать
источник

MA

Michael Akushsky in pro.kafka
S B
Нет, это клуб фанатов Малышевой.
Отлично же)
источник

MA

Michael Akushsky in pro.kafka
у меня нубский вопрос
источник

MA

Michael Akushsky in pro.kafka
меня тут попросили проверить одну фигню
источник