Size: a a a

2020 April 20

C

Coffee in pro.kafka
Yuriy
Я не пробовал *_javaagent)
Смотрите что вам более подходит, я скинул в как одно из решений
а может есть тогда на примете что-то, что умеет вплодь до количества рекордов в топиках?
источник

AD

Aleh Danilovich in pro.kafka
А чем не хватает jmx экспортера + kafka lag экспортера ?
источник

AS

Anton Smolkov in pro.kafka
Coffee
я правильно поняла, что это типо как готовое решение, и надо только предоставить возможность соединения к брокерам?
а чем бы отличался обычный prometheus_javaagent от этого?
Вот тут ребята объясняют зачем помимо jmx_exporter нужен еще и kafka_exporter - https://strimzi.io/blog/2019/10/14/improving-prometheus-metrics/
источник

C

Coffee in pro.kafka
Aleh Danilovich
А чем не хватает jmx экспортера + kafka lag экспортера ?
А они умеют количество рекорд в топиках разве?
источник

C

Coffee in pro.kafka
Стало понятнее) пасиб)
источник

AD

Aleh Danilovich in pro.kafka
Coffee
А они умеют количество рекорд в топиках разве?
Kafka lag вытягивает значения оффсетов. Можно посчитать
источник
2020 April 21

PR

Paul Reshetnikov in pro.kafka
Всем доброго времени суток! Вопрос Kafka+C#

Есть микросервис с продюсером, он написан на Java, AVRO-схема содержит явовский неймспейс, условно "com.company.service.kafka.avro", в дотнете я генерил по аврохе классы, но при этом дабы не ломать структуру проекта - неймспейс был изменён на дотнетовский

Итак, вопрос - кто-нибудь может направить на путь истинный, как сконсумить кафка-мессадж с другим неймспейсом? Есть ли какая-то опция (C#), игнорирующая неймспейс в сообщении? (т.к. завтра может получиться, что и другой сервис будет со своим неймспейсом туда же в топик постить, а потом ещё 100500 сервисов, но структура будет одинаковая, кроме неймспейса)
источник

VG

Vik Gamov in pro.kafka
Paul Reshetnikov
Всем доброго времени суток! Вопрос Kafka+C#

Есть микросервис с продюсером, он написан на Java, AVRO-схема содержит явовский неймспейс, условно "com.company.service.kafka.avro", в дотнете я генерил по аврохе классы, но при этом дабы не ломать структуру проекта - неймспейс был изменён на дотнетовский

Итак, вопрос - кто-нибудь может направить на путь истинный, как сконсумить кафка-мессадж с другим неймспейсом? Есть ли какая-то опция (C#), игнорирующая неймспейс в сообщении? (т.к. завтра может получиться, что и другой сервис будет со своим неймспейсом туда же в топик постить, а потом ещё 100500 сервисов, но структура будет одинаковая, кроме неймспейса)
пример схемы есть? не совсем сразу понятно
источник

PR

Paul Reshetnikov in pro.kafka
Vik Gamov
пример схемы есть? не совсем сразу понятно
да, зашарил только всякие названия, но принцип такой https://pastebin.com/enQZHmwL
источник

V

Vadim in pro.kafka
а в kafkacat как топик создать?
источник

V

Vadim in pro.kafka
не могу найти
источник

AD

Aleh Danilovich in pro.kafka
Если topic creation включено то он будет создан при записи сообщений. Если выключен то на сколько я помню никак. Там нужно admin api дергать, чего kafkacat не делает. Поправьте если я не прав
источник

NS

Name Schiefer in pro.kafka
Подкиньте нормальны гайд по запуску всего этого счастья в докере
источник

AU

Andrey Ustinov in pro.kafka
Aleh Danilovich
Если topic creation включено то он будет создан при записи сообщений. Если выключен то на сколько я помню никак. Там нужно admin api дергать, чего kafkacat не делает. Поправьте если я не прав
делает, kafkacat это швейцарский нож
источник

AU

Andrey Ustinov in pro.kafka
на сайте конфлюента есть статья как пользоваться
источник

AU

Andrey Ustinov in pro.kafka
источник

AU

Andrey Ustinov in pro.kafka
ну про создание топиков я видимо наврал, не может
источник

V

Vadim in pro.kafka
Aleh Danilovich
Если topic creation включено то он будет создан при записи сообщений. Если выключен то на сколько я помню никак. Там нужно admin api дергать, чего kafkacat не делает. Поправьте если я не прав
то есть я просто пишу сообщение  в топик и если он не существует он должен создастся?
источник

VG

Vik Gamov in pro.kafka
Vadim
то есть я просто пишу сообщение  в топик и если он не существует он должен создастся?
не должен. Topic autocreation is disabled by default
источник

A

Anatoly Soldatov in pro.kafka
Всем привет! Кто использовал s3 sink connector, подскажите, плиз, почему он создаёт огромное число файлов по несколько килобайт в хранилище (в данном случае это MinIO) и как добиться одного файла на одну партицию в какой-то интервал времени (за час, например)?
источник