Size: a a a

2021 February 01

VG

Vik Gamov in pro.kafka
Alexander Ryzhenko
А без агрегаций - просто последнее состояние не получится?
Пытаюсь решить задачу получения текущего состояния сущности из топика
Там просто - есть функция latest_by_offset. Поле в него завернуть по которому ты хочешь получать последнее значение
источник
2021 February 02

VG

Vik Gamov in pro.kafka
Используете ли вы Spring Cloud Stream Kafka binder в своих проектах?
Анонимный опрос
21%
да!
36%
нет
5%
использовали, но откатились на spring-kafka, vanilla Producer/Consumer/Kafka Streams
38%
О чем речь?
Проголосовало: 139
источник

VG

Vik Gamov in pro.kafka
Vik Gamov
Используете ли вы Spring Cloud Stream Kafka binder в своих проектах?
Анонимный опрос
21%
да!
36%
нет
5%
использовали, но откатились на spring-kafka, vanilla Producer/Consumer/Kafka Streams
38%
О чем речь?
Проголосовало: 139
В комментариях напишите, что пошло не так и почему откатились на более «традиционные» API. Так же те кто ответил «нет», напишите если бы хотели научиться
источник

NK

Nikita Konev in pro.kafka
spring-cloud-stream-kafka 2018-19 годов было затруднительно "подлезть" и читать один хедер вместо другого, это понадобилось т к они рефакторнулись и стали использовать другой хедер для передачи типа. Т. е. нарушили совместимость. Мы не могли обновить все проекты сразу, хотелось обновлять по частям, а с вышеописанной проблемой это было сложно.
Также там в конфиге есть слово мозгорвзрывающее слово native.
Также там было суперсложно включить транзакции консумера и продюсера, нужно было настроить множество пропертей, я остановился на том что после включения транзакций скорость консумера драматически упала, насколько помню из-за того что помимо транзакций нужно было настроить и батчи. Тут я плюнул и начал его выпиливать, заменять на spring-kafka.

Если в двух словах - то минусы - переусложнённый конфиг, сложность настройки кастомного поведения(хедеры), нарушение обратной совместимости при апдейтах.

Может конечно сейчас они стали более developer friendly, но как такового сакрального смысла stream binder kafka(да и вообще) я для себя не вижу.

Просто ещё одна лишняя абстракция, добавляющая геморроя. Т. е. kafka-client <- spring-kafka <- spring-cloud-stream-binder. Too many abstractions ;)

Самому интересно, есть ли у кого позитивный опыт, какой-то может нереальный буст скорости разработки/отладки после внедрения stream binder kafka ;)
источник

NK

Nikita Konev in pro.kafka
Т. е. я понимаю что делает spring-kafka - скрывает сложность kafka-client, например необходимость обработки специальных эксепшенов консумера, вроде умеет хэндлить ребалансировки, предоставляет аннотацию @KafkaListener, я могу это объяснить/обосновать,
но что делает stream kafka binder и зачем он нужен на проекте, объяснить сложно)
источник

SB

Sergey Bezrukov in pro.kafka
Vik Gamov
В комментариях напишите, что пошло не так и почему откатились на более «традиционные» API. Так же те кто ответил «нет», напишите если бы хотели научиться
А можно в двух словах без отсылок к документации в 100500 страниц и маркетингового буллшита - а что это вообще такое, в чём отличие от традиционного АПИ?
источник

A

Artjom Kalita in pro.kafka
Sergey Bezrukov
А можно в двух словах без отсылок к документации в 100500 страниц и маркетингового буллшита - а что это вообще такое, в чём отличие от традиционного АПИ?
Вон выше постом отличный саммари был
источник

D

Dima in pro.kafka
Nikita Konev
spring-cloud-stream-kafka 2018-19 годов было затруднительно "подлезть" и читать один хедер вместо другого, это понадобилось т к они рефакторнулись и стали использовать другой хедер для передачи типа. Т. е. нарушили совместимость. Мы не могли обновить все проекты сразу, хотелось обновлять по частям, а с вышеописанной проблемой это было сложно.
Также там в конфиге есть слово мозгорвзрывающее слово native.
Также там было суперсложно включить транзакции консумера и продюсера, нужно было настроить множество пропертей, я остановился на том что после включения транзакций скорость консумера драматически упала, насколько помню из-за того что помимо транзакций нужно было настроить и батчи. Тут я плюнул и начал его выпиливать, заменять на spring-kafka.

Если в двух словах - то минусы - переусложнённый конфиг, сложность настройки кастомного поведения(хедеры), нарушение обратной совместимости при апдейтах.

Может конечно сейчас они стали более developer friendly, но как такового сакрального смысла stream binder kafka(да и вообще) я для себя не вижу.

Просто ещё одна лишняя абстракция, добавляющая геморроя. Т. е. kafka-client <- spring-kafka <- spring-cloud-stream-binder. Too many abstractions ;)

Самому интересно, есть ли у кого позитивный опыт, какой-то может нереальный буст скорости разработки/отладки после внедрения stream binder kafka ;)
такая же ситуация, как и со spring data rest
источник

D

Dima in pro.kafka
слишком высокоуровневая штука, шаг вправо - инструмент начинает мешать
источник

BK

Bohdan Korinnyi in pro.kafka
Привет,
использую kafka-connect-s3-sink для екпорта данных из топика в бакет, столкнулся с проблемой что один из топиков использует кастомную SubjectNameStrategy, это статичесткое имя не связаное ни с данными ни с названием топика. Подскажите плз как я могу в конфигурации указать кастомный класс для value.subject.name.strategy или как указать сразу это статическое значение для названия схемы?
источник

MB

Maksim Batsiuk in pro.kafka
Добрый день. Использую Spring Boot и аннотацию @KafkaListener. Если указываю вот такой параметр spring.kafka.listener.concurrency=3 означает ли это что чтение будет происходить в трех потоках и за счет этого возрастет скорость считывания? Спасибо
источник

NC

Nigerian Currywurst in pro.kafka
Maksim Batsiuk
Добрый день. Использую Spring Boot и аннотацию @KafkaListener. Если указываю вот такой параметр spring.kafka.listener.concurrency=3 означает ли это что чтение будет происходить в трех потоках и за счет этого возрастет скорость считывания? Спасибо
Вот прямо по нему ctrl-b и читай
источник

NC

Nigerian Currywurst in pro.kafka
Вроде нужно еще закунфигурировать контейнер правильно
источник

NC

Nigerian Currywurst in pro.kafka
Один консьюмер уже у тебя читает?
источник

MB

Maksim Batsiuk in pro.kafka
в приложение только один метод помечен данной аннотацией
источник

MB

Maksim Batsiuk in pro.kafka
наверное проще будет в тесте замерять, за пять минут например количество прочитанных сообщений при разных значениях этого параметра
источник

РХ

Ринат Харисов... in pro.kafka
Maksim Batsiuk
Добрый день. Использую Spring Boot и аннотацию @KafkaListener. Если указываю вот такой параметр spring.kafka.listener.concurrency=3 означает ли это что чтение будет происходить в трех потоках и за счет этого возрастет скорость считывания? Спасибо
из доков

   > If, say, six TopicPartitionOffset instances are provided and the concurrency is 3; each container gets two partitions. For five TopicPartitionOffset instances, two containers get two partitions, and the third gets one.
источник

РХ

Ринат Харисов... in pro.kafka
то есть партишенов должно быть не менее 3, иначе не имеет смысла выставлять concurrency  больше
источник

AS

Alexandr Smirnov in pro.kafka
Vik Gamov
Используете ли вы Spring Cloud Stream Kafka binder в своих проектах?
Анонимный опрос
21%
да!
36%
нет
5%
использовали, но откатились на spring-kafka, vanilla Producer/Consumer/Kafka Streams
38%
О чем речь?
Проголосовало: 139
Так байдинги спринг уже задепрекейтил
Типа теперь надо функции юзать
источник

VG

Vik Gamov in pro.kafka
Sergey Bezrukov
А можно в двух словах без отсылок к документации в 100500 страниц и маркетингового буллшита - а что это вообще такое, в чём отличие от традиционного АПИ?
Я на прошлой неделе делал стрим. Сегодня тоже будет. Там с нуля на пальцах все объясню
источник