Size: a a a

2019 November 13

IK

Isayakiy Kotletov in pro.kafka
ну технически да, вопрос реализации
источник

IK

Isayakiy Kotletov in pro.kafka
мало ли чо)
источник

IK

Isayakiy Kotletov in pro.kafka
оффсеты как-то менеджить нужно, они мутабельные
источник

IK

Isayakiy Kotletov in pro.kafka
или оффсет логический записи в логе не меняется после компакшина?
источник

A

Alex in pro.kafka
после компакшена некоторых просто не будет, но ничто не мешает сдвинуться к следующей
(правда эту часть компакшена я не помню)
источник

IK

Isayakiy Kotletov in pro.kafka
то что не будет это фигня, а вот если номера в логе мутабельны, то там или сложный менеджмент или skip случайный был бы) ну типа я уже оффсет 10 закоммитил, а у меня записей меньше стало.
источник

A

Alex in pro.kafka
точно не мутабельны, с чего бы им быть изменяемыми?
источник

VK

Vladyslav Kopaniev in pro.kafka
Привет всем, есть вопрос по java API продюсеров, насколько я могу видеть кафка продьюсеры в случае транзакций рассчитаны на то чтобы работать только с одним тредом, т.е. если несколько потоков будут юзать один и тот же инстанс продьюсера, то при открытии транзакции например двумя потоками одновременно произойдет ошибка. Верно ли тогда утверждение, что в случае с транзакциями нам необходимо использовать producer-instance-per-thread?
источник

VG

Vik Gamov in pro.kafka
sen yu
I just asked, no intention to bother
It's Apache kafka chat
источник

sy

sen yu in pro.kafka
ok, I know, thank you
источник
2019 November 14

AM

Anton Marchenko in pro.kafka
Заметил интересный момент - при сборке кластера из докера, если у брокеров кафки, находящихся на разных машинах, указать один и тот же kafka.advertised.listeners, например, PLAINTEXT://localhost:29092, то у первого поднявшегося брокера всё будет в порядке, а у следующих вылезет ошибка о том, что другой брокер уже использует этот порт (разные айпишники!). Забавный баг, обошёл его назначением последующих портов для разных брокеров (29092, 29093, 29094) однако на следующем шаге, после поднятия schema registry на одном из нодов (на этом ноде кафка находится на порте 29092), она начинает пытаться получить доступ к брокеру, находящемуся на другом локалхосте (127.0.0.1:29093), закономерно получает ошибку об отсутствии брокера и падает.
источник

VA

Viktor Alexandrov in pro.kafka
Логично же, при этом тут кафка непричём)
источник

VA

Viktor Alexandrov in pro.kafka
localhost всегда будет резолвиться в 127.0.0.1
источник

GM

Gleb Mekhrenin in pro.kafka
Anton Marchenko
Заметил интересный момент - при сборке кластера из докера, если у брокеров кафки, находящихся на разных машинах, указать один и тот же kafka.advertised.listeners, например, PLAINTEXT://localhost:29092, то у первого поднявшегося брокера всё будет в порядке, а у следующих вылезет ошибка о том, что другой брокер уже использует этот порт (разные айпишники!). Забавный баг, обошёл его назначением последующих портов для разных брокеров (29092, 29093, 29094) однако на следующем шаге, после поднятия schema registry на одном из нодов (на этом ноде кафка находится на порте 29092), она начинает пытаться получить доступ к брокеру, находящемуся на другом локалхосте (127.0.0.1:29093), закономерно получает ошибку об отсутствии брокера и падает.
это опция для указания внешнего адреса, а не лупбек интерфейса
источник

AM

Anton Marchenko in pro.kafka
Ну да, не при чём, и что мне указывать в этом параметре, чтобы службы получали корректный адрес? Реальный айпишник устройства -  условные 10.10.4.15 вместо localhost, как написано во всех гайдах?
источник

AM

Anton Marchenko in pro.kafka
логично было предположить, что, получая от машины с ip =x.x.x.x параметр со значением localhost:29092, zk должен преобразовать его в параметр x.x.x.x:29092 для внешних систем
источник

AM

Anton Marchenko in pro.kafka
или не логично?
источник

N

Nazar in pro.kafka
С чего бы?
источник

N

Nazar in pro.kafka
Вы сейчас описали "без контрольное" поведение.
источник

GM

Gleb Mekhrenin in pro.kafka
Anton Marchenko
или не логично?
нет, все таки локалхост специфическая штука для специфических задач
источник