Size: a a a

2020 April 15

VG

Vik Gamov in pro.kafka
Юра Ходырев
это какая фича кафка коннекта. Не углублялся еще в эту сторону
конфиг коннекта самого
источник

ЮХ

Юра Ходырев in pro.kafka
Vik Gamov
конфиг коннекта самого
В докере развернут.
Конфиг контейнера или sink connect-а?
источник

A

Alex in pro.kafka
вы в json формате пишите в топик?
источник

A

Alex in pro.kafka
сериалайзер какой стоит?
источник

ЮХ

Юра Ходырев in pro.kafka
Alex
вы в json формате пишите в топик?
Судя по формату в топике json.
По умолчанию используется AVRO сериализатор, который что-то в scheme registry пишет.
https://docs.confluent.io/current/schema-registry/serdes-develop/serdes-avro.html
источник

A

Alex in pro.kafka
так туда сначала схему загрузить надо)
источник

ЮХ

Юра Ходырев in pro.kafka
при использовании кафка коннекта схема создается автоматически
источник

ЮХ

Юра Ходырев in pro.kafka
Она вроде как есть
источник

A

Alex in pro.kafka
название топика какое то странное
источник

A

Alex in pro.kafka
попробуй эту схему зарегать под test-topic-value
источник

ЮХ

Юра Ходырев in pro.kafka
Alex
попробуй эту схему зарегать под test-topic-value
Я думал, что название топика роли не играет - это ведь просто название файлика в системе
источник

h

humanoid in pro.kafka
Vik Gamov
State store локален (часть KStreams приложения). сначала пишется в state store, потом в кафку
А можно плиз ссылочку на чтиво?

То есть source of truth будет именно state store, а не kafka, верно? Иначе говоря мб такая ситуация, что fold state в state store новее чем в кафке?
источник

V

V in pro.kafka
Подскажите, пожалуйста, чем можно отправлять логи с windows в kafka с поддержкой sasl scram. Спасибо!
источник

V

V in pro.kafka
источник

V

V in pro.kafka
Может кто-то использовал?
источник

h

humanoid in pro.kafka
humanoid
А можно плиз ссылочку на чтиво?

То есть source of truth будет именно state store, а не kafka, верно? Иначе говоря мб такая ситуация, что fold state в state store новее чем в кафке?
Ответ на это я вроде сам нашел)
Вот тут хорошо расписано
https://www.confluent.fr/blog/enabling-exactly-once-kafka-streams/
источник

VG

Vik Gamov in pro.kafka
https://youtu.be/MKK1hR6Lccc буду стримить тут (на английском) через 20 мин
источник

СГ

Сергей Григоров in pro.kafka
Эхо
источник
2020 April 16

VG

Vik Gamov in pro.kafka
Сергей Григоров
Эхо
сразу пофиксил - youtube себя любимого был включен
источник

М

Манкурт Кобейн in pro.kafka
Народ, подскажите пожалуйста, в чём может быть дело?
Разворачиваю kafka в docker командой


docker-compose -f docker-compose.yml up -d


(yml - https://pastebin.com/mANXpb5D)

Затем захожу в контейнер:
docker exec -it kafka bin/sh


Стартую топик:

bin/kafka-topics.sh --create --zookeeper zookeeper:2181 --replication-factor 1 --partitions 1 --topic topico(selfruts)


И когда пытаюсь получить список топиков

bin/kafka-topics.sh --list


получаю ошибку:

Exception in thread "main" java.lang.IllegalArgumentException: Only one of --bootstrap-server or --zookeeper must be specified
at kafka.admin.TopicCommand$TopicCommandOptions.checkArgs(TopicCommand.scala:666)
at kafka.admin.TopicCommand$.main(TopicCommand.scala:51)
at kafka.admin.TopicCommand.main(TopicCommand.scala)
/opt/kafka_2.12-2.4.1 # bin/kafka-topics.sh --create --zookeeper zookeeper:2181 --replication-factor 1 --partitions
1 --topic topico


Подскажите, как решать?
источник