Size: a a a

2019 November 14

AM

Anton Marchenko in pro.kafka
Gleb Mekhrenin
нет, все таки локалхост специфическая штука для специфических задач
А можно как-то конкретнее?
источник

A

Alex in pro.kafka
Ну кто его знает в какой ip он успеет преобразоваться пока дойдёт до зукипера
источник

A

Alex in pro.kafka
Почему зукипер должен делать предположения и что-то менять?
источник

GM

Gleb Mekhrenin in pro.kafka
Anton Marchenko
А можно как-то конкретнее?
что такое localhost? это преобразование в буквенное представление локальным резолвером. у тебя есть конфиг типа etc/hosts в котором написано 127.0.0.1 localhost, естественно такой хостнейм в таком случае преобразуется в 127.0.0.1.
источник

AM

Anton Marchenko in pro.kafka
Ну, в общем-то, да, но тогда вопрос, как это корректно конфигурировать? Передавать именно личные IP машин? А если они динамические - вообще не задавать avertised.listeners?
источник

A

Alex in pro.kafka
advertised.listeners была изобретена для случаев

1) у вас несколько ip на хосте и вы хотите завести клиентов на конкретный
2) у вас запускается в докере и внешний ip не совпадает с внутренним, jvm ничего не знает о внешнем ip, но клиенты должны подключаться на него
3) варианты когда ваша kafka может быть за натом и проброшены только некоторые порты или вообще на промежуточном файрволе идёт port remaping
источник

A

Alex in pro.kafka
Часто вообще не нужно этот параметр трогать, если уж что-то менять то сразу разобраться что за он и за что отвечает
источник

AM

Anton Marchenko in pro.kafka
Alex
advertised.listeners была изобретена для случаев

1) у вас несколько ip на хосте и вы хотите завести клиентов на конкретный
2) у вас запускается в докере и внешний ip не совпадает с внутренним, jvm ничего не знает о внешнем ip, но клиенты должны подключаться на него
3) варианты когда ваша kafka может быть за натом и проброшены только некоторые порты или вообще на промежуточном файрволе идёт port remaping
Теперь понятно, спасибо. Пока не начал разбираться с вариантом сборки в докере, я его и  не использовал, но во всех гайдах по кафке в докеру этот параметр почему-то используется и задаётся в localhost
источник

YP

Yaroslav Paramonov in pro.kafka
Привет всем!
Кто-нибудь пытался работать с TimescaleDB через Kafka JDBC sink connector?
источник

YP

Yaroslav Paramonov in pro.kafka
У меня падает NullPointerException при попытке вычитывания Kafka topic
источник

АБ

Алексей Быстрый in pro.kafka
Откуда могут быть конвертации?
Я только что обновил все продьюсеры. Везде указал v2 версию. По факту испоьзуем 2.1.1.
источник

АБ

Алексей Быстрый in pro.kafka
Никаих системных топиков кроме __consumer_offsets я не вижу. И не думаю что это что то системное пишет не в том формате.
источник

Y

Yuriy in pro.kafka
Коллеги, подскажите
11к топиков
11 брокеров
По 4.5 парт на брокер

Нормальная нагрузка на брокеры?
И сколько нормальная? (По партициям)
источник

Y

Yuriy in pro.kafka
По 4.5к парт на брокер
источник

Y

Yuriy in pro.kafka
Пока получаем просадки по производителельности
источник

A

Alex in pro.kafka
источник

A

Alex in pro.kafka
Yuriy повторение мать учения
источник

A

Alex in pro.kafka
и там же ссылка на вторую статью
https://www.confluent.io/blog/apache-kafka-supports-200k-partitions-per-cluster
источник

Y

Yuriy in pro.kafka
Тут уже у нас не исправить
Подтвердить, ну зато можно подтвердить, что из-за этого проблемы)
источник

A

Alex in pro.kafka
Там когда линкед открыл кафку свою то видно было вагон фиксов на работу с большим количеством партиций
источник