Size: a a a

2020 September 18

V

VladMl in pro.kafka
Vadim
а добавить кол-во партиций к существующему топику можно?
добавить можно, удалить нельзя
источник

Y

Yuriy in pro.kafka
Vadim
а добавить кол-во партиций к существующему топику можно?
./bin/kafka-topics -alter и пошёл)
источник

SM

Setplus Mac in pro.kafka
Подскажите, плиз
сделал всё, как в гайде:

https://kafka.apache.org/25/documentation.html#security_ssl

чтобы настроить mTLS. Запустил брокер, теперь хочу подключиться из другого узла к нему, имея соответсвующие keystore и truststore, а в логах всё равно:

INFO [SocketServer brokerId=0] Failed authentication with /*.*.*.* (SSL handshake failed) (org.apache.kafka.common.network.Selector)

Как понять, где ошибка?
источник

АК

Алексей Кочерев... in pro.kafka
Привет всем, подскажите пожалуйста. Создал топик для справочной информации через kafka tools и вычитываю его весь из kafka streams, получается вычитать 4-5 раз всего и после данные уже не вычитывает. Пробовал выставлять ConsumerConfig.AUTO_OFFSET_RESET_CONFIG = earliest. Какие настройки еще можно посмотреть или как понять в чем причина?
источник

S

Slava in pro.kafka
Алексей Кочерев
Привет всем, подскажите пожалуйста. Создал топик для справочной информации через kafka tools и вычитываю его весь из kafka streams, получается вычитать 4-5 раз всего и после данные уже не вычитывает. Пробовал выставлять ConsumerConfig.AUTO_OFFSET_RESET_CONFIG = earliest. Какие настройки еще можно посмотреть или как понять в чем причина?
А что значит уже не вычитвает? Ошибка или что?
Я думаю, что у вас просто данные протухли. Посмотрите, есть ли в топике данные вообще и retention.ms проверьте на топике.
источник

VG

Vik Gamov in pro.kafka
Ivan Fedorov
Всем привет.
Судя по документации работы debezium с Postgresql, он оборачивает значение полей JSON/JSONB в строку.
Есть ли способы как-то это обойти на уровне коннектора или KSQLDB?
Есть smt который этот envelope разворачивает.
источник

АК

Алексей Кочерев... in pro.kafka
Slava
А что значит уже не вычитвает? Ошибка или что?
Я думаю, что у вас просто данные протухли. Посмотрите, есть ли в топике данные вообще и retention.ms проверьте на топике.
смотрю данные так же через kafka tools и они в топике есть, а не вычитывает в том смысле, что сейчас отлаживаю приложение и каждый раз его запускаю, и при каждом запуске я вычитываю данные в топика в стрим, получается несколько раз запустить когда данные вычитывает корректно и я их вижу(например в консоль печатаю), а раз на 5-6 такое ощущение, что их там нет
источник

S

Slava in pro.kafka
Ну, это судя по всему приложение стоит на конце топика. Попробуйте пульнуть туда в этот момент что-то.
А вы уверены, что те самые 5-6 раз когда вроде корректно у вас данные каждый раз с начала читаются, а не продолжают дальше читаться?
источник

S

Slava in pro.kafka
Мне кажется, вы не совсем правильно понимаете как работает AUTO_OFFSET_RESET_CONFIG и смотрите на разные данные, а не одни и те же в разных прогонах, это единственное объяснение.
источник

АК

Алексей Кочерев... in pro.kafka
Slava
Ну, это судя по всему приложение стоит на конце топика. Попробуйте пульнуть туда в этот момент что-то.
А вы уверены, что те самые 5-6 раз когда вроде корректно у вас данные каждый раз с начала читаются, а не продолжают дальше читаться?
да, я перепроверил, там условно говоря 200 строк, все они приходят)
источник

АК

Алексей Кочерев... in pro.kafka
Slava
Мне кажется, вы не совсем правильно понимаете как работает AUTO_OFFSET_RESET_CONFIG и смотрите на разные данные, а не одни и те же в разных прогонах, это единственное объяснение.
возможно) спасибо за помощь
источник

IF

Ivan Fedorov in pro.kafka
Vik Gamov
Есть smt который этот envelope разворачивает.
Не подскажешь какая именно?
источник

VG

Vik Gamov in pro.kafka
Ivan Fedorov
Не подскажешь какая именно?
источник

IF

Ivan Fedorov in pro.kafka
использую
    "transforms.unwrap.type": "io.debezium.transforms.ExtractNewRecordState",
   "transforms.unwrap.drop.tombstones": "true",
   "transforms.unwrap.delete.handling.mode": "rewrite",
   "transforms.unwrap.add.fields": "table",
источник

IF

Ivan Fedorov in pro.kafka
Единственное что - использкуется JsonConverter а не авро
источник

ЧП

Чёрный Плащ... in pro.kafka
Setplus Mac
Подскажите, плиз
сделал всё, как в гайде:

https://kafka.apache.org/25/documentation.html#security_ssl

чтобы настроить mTLS. Запустил брокер, теперь хочу подключиться из другого узла к нему, имея соответсвующие keystore и truststore, а в логах всё равно:

INFO [SocketServer brokerId=0] Failed authentication with /*.*.*.* (SSL handshake failed) (org.apache.kafka.common.network.Selector)

Как понять, где ошибка?
Возможно имя узла не совпадает с cn в сертификате
Например, в сертификате имя Хоста, а обращается по ip
источник

ЧП

Чёрный Плащ... in pro.kafka
Обычно с этим связно handshake failed
источник

SM

Setplus Mac in pro.kafka
Чёрный Плащ
Возможно имя узла не совпадает с cn в сертификате
Например, в сертификате имя Хоста, а обращается по ip
так
правильно ли я понял, что при указании
keytool -keystore server.keystore.jks -alias localhost -validity {validity} -genkey -keyalg RSA -ext SAN=DNS:{hostname}
после, когда спросят ввести CN, нужно ввести это же самое hostname?
источник

ЧП

Чёрный Плащ... in pro.kafka
Я дословно не помню
Но имя в сертификате должно совпадать с именем Хоста и с тем именем, по которому вы к нему обращаетесь
источник

ЧП

Чёрный Плащ... in pro.kafka
Можно включить отладку tls при запуске Java и посмотреть что пишется в отладке
источник