Size: a a a

2019 December 08

IK

Isayakiy Kotletov in pro.kafka
Гайз, а как можно легально сказать кафке на полученные сообщения "щас я их процессить не буду" и отписаться от стрима? А то если просто отписываться то оно тупит на незаакканых. У меня кейс что по эвенту в топике нужно нв другой переключаться
источник

IK

Isayakiy Kotletov in pro.kafka
Из жавы желательно)
источник

Н

Николай in pro.kafka
Можно перед отпиской сделать коммит с предыдущим/последним обработанным оффсетом
источник

IR

Ivan Rasikhin in pro.kafka
Isayakiy Kotletov
Гайз, а как можно легально сказать кафке на полученные сообщения "щас я их процессить не буду" и отписаться от стрима? А то если просто отписываться то оно тупит на незаакканых. У меня кейс что по эвенту в топике нужно нв другой переключаться
Consumer.pause?
источник

IR

Ivan Rasikhin in pro.kafka
Второй вариант консюмишь в /dev/null
источник

IR

Ivan Rasikhin in pro.kafka
Пока не нужны
источник

IK

Isayakiy Kotletov in pro.kafka
Коммит не помогает,т.к. Забирает 1,2,3. Коммичу я 1,2. А 3 мне нужно позже.
источник

IK

Isayakiy Kotletov in pro.kafka
@irasikhin оно мне нужно) просто потом
источник

IK

Isayakiy Kotletov in pro.kafka
А вот был бы пульсар..)
источник

AM

Aset Madraimov in pro.kafka
Можно же с последнего commited оффсета начать снова поллить когда надо
источник

AM

Aset Madraimov in pro.kafka
Уроде как
источник

IK

Isayakiy Kotletov in pro.kafka
Да. Но ансабскрайб а сабскрайб тупят если с оффсетом ничего не сделать заполленным
источник

A

Alexey in pro.kafka
Привет. Подскажите, пожалуйста, правильный способ получения сообщения по ключу.

Как я понимаю, можно через Stream и KTable.
Но интересует вопрос атомарности - producer сохранил в топик и мы сразу идем в KTable.
Может ли быть такое что сообщение не будет в KTable? Не уверен, но вроде там RocksDB и вряд ли там транзакция на запись в исходный топик, стрим и ktable.
источник

VG

Vik Gamov in pro.kafka
Alexey
Привет. Подскажите, пожалуйста, правильный способ получения сообщения по ключу.

Как я понимаю, можно через Stream и KTable.
Но интересует вопрос атомарности - producer сохранил в топик и мы сразу идем в KTable.
Может ли быть такое что сообщение не будет в KTable? Не уверен, но вроде там RocksDB и вряд ли там транзакция на запись в исходный топик, стрим и ktable.
Вопрос большой с большим количеством не совсем корректных assumptions.

Посмотри мой доклад на московском джуге https://speaking.gamov.io/24FFv9
источник

IR

Ivan Rasikhin in pro.kafka
Alexey
Привет. Подскажите, пожалуйста, правильный способ получения сообщения по ключу.

Как я понимаю, можно через Stream и KTable.
Но интересует вопрос атомарности - producer сохранил в топик и мы сразу идем в KTable.
Может ли быть такое что сообщение не будет в KTable? Не уверен, но вроде там RocksDB и вряд ли там транзакция на запись в исходный топик, стрим и ktable.
можешь вначале отправить в топик а потом сохранить руками в store
источник

IR

Ivan Rasikhin in pro.kafka
будет тоже самое
источник
2019 December 09

VG

Vik Gamov in pro.kafka
Ivan Rasikhin
можешь вначале отправить в топик а потом сохранить руками в store
Нет
источник

VG

Vik Gamov in pro.kafka
Это что-то из "общества любителей распределенных транзакций"
источник

IR

Ivan Rasikhin in pro.kafka
Не понял, ну ладно. Если что имел ввиду как работают Кафка стримы. Вначале пишут в стор затем в кафку. Тоже самое можно сделать руками с исходным топиком.
источник

IR

Ivan Rasikhin in pro.kafka
Речь о ченджлогах
источник