Size: a a a

2020 April 17

DD

Dmitry Dobrynin in pro.kafka
может расскажешь какой сценарий применения подхода с генерацией ID брокером?
источник

VG

Vik Gamov in pro.kafka
IV
Куда как? 🤔
в RecordMetadata чет не вижу
источник

I

IV in pro.kafka
Dmitry Dobrynin
может расскажешь какой сценарий применения подхода с генерацией ID брокером?
вообще необходимо присваивать каждому сообщению конкретный идентификатор, вопрос как это можно сделать
источник

VG

Vik Gamov in pro.kafka
IV
вообще необходимо присваивать каждому сообщению конкретный идентификатор, вопрос как это можно сделать
А обязательно на стороне Кафки это делать? Есть же отдельные сервисы для генерации ID
источник

I

IV in pro.kafka
Vik Gamov
А обязательно на стороне Кафки это делать? Есть же отдельные сервисы для генерации ID
пока рассматриваем возможность со стороны кафки, если есть то будет проще всего
источник

VS

Vladimir Shchur in pro.kafka
IV
привет! подскажите, кафка может при получении сообщения от продюсера отдавать в ответ какое то уникальное айди данного сообщения?
пульсар так делает по дефолту
источник

I

IV in pro.kafka
Vladimir Shchur
пульсар так делает по дефолту
Пульсар это? 😁
источник

VS

Vladimir Shchur in pro.kafka
apache pulsar :)
источник

VG

Vik Gamov in pro.kafka
Vladimir Shchur
пульсар так делает по дефолту
объяснитесь, коллега
источник

VS

Vladimir Shchur in pro.kafka
продьюсеру возвращается уникальный MessageId после паблиша http://pulsar.apache.org/api/client/org/apache/pulsar/client/api/MessageId.html
источник

I

IV in pro.kafka
Спасибо
источник

KA

Kulagin Alex in pro.kafka
после send-а продьсер же может вернуть мету в колбэке. там есть offset. зачем еще какой-то доп id не оч понятно
источник

VG

Vik Gamov in pro.kafka
IV
пока рассматриваем возможность со стороны кафки, если есть то будет проще всего
Смотри, комбинация Topic-partition-offset (можно вытащить из из Record Metadata после send) дают тебе уникальный идентификатор.
Если топик удалить и пересоздать но этот идентификатор не будет уникальным.
источник

I

IV in pro.kafka
Vik Gamov
Смотри, комбинация Topic-partition-offset (можно вытащить из из Record Metadata после send) дают тебе уникальный идентификатор.
Если топик удалить и пересоздать но этот идентификатор не будет уникальным.
Спасибо, покопаю доку!
источник
2020 April 18

R

Rail in pro.kafka
Скажите есть у кого опыт использования на продакшене кафки со связкой с кликхаусом с помощью engine=Kafka?
источник

VO

Vladimir Osin in pro.kafka
Опыт есть, но думаю в канале @clickhouse_ru многие используют Kafka.
источник

R

Rail in pro.kafka
Vladimir Osin
Опыт есть, но думаю в канале @clickhouse_ru многие используют Kafka.
Хотелось бы узнать про шаги по добавлению новых столбцов в таблицу engine=Kafka, в доке кликауса про это информации нет к сожалению
источник

E

Elyor in pro.kafka
Rail
Хотелось бы узнать про шаги по добавлению новых столбцов в таблицу engine=Kafka, в доке кликауса про это информации нет к сожалению
как раз на прошлой неделе добавлял столбик
источник

E

Elyor in pro.kafka
формат JsonEachRow
источник

E

Elyor in pro.kafka
столбик String
источник