Size: a a a

2020 December 17

S

Slava in pro.kafka
Nick
мож топикстратер ответит, но чую что нет возможности или желания ставить какуюнить бд рядом, а какфка уже есть и походу не своя
Да я всё жду когда народ уже успокоится, кафка отличная штука, но она не создана решать любую проблему.
Иногда надо найти в себе силы и сказать: "Да, я модный парень, наша компания в тренде, но мы не будем использовать кафку, она нам не подходит." ;)
источник

AM

Alexey Melchakov in pro.kafka
Поправьте, если ошибаюсь, но мне кажется в хедеры бизнес логику не очень пихать. С т.з. архитектуры. Например, та же операция join в dsl не имеет доступа к хедерам.
источник

NC

Nigerian Currywurst in pro.kafka
Alexey Melchakov
Поправьте, если ошибаюсь, но мне кажется в хедеры бизнес логику не очень пихать. С т.з. архитектуры. Например, та же операция join в dsl не имеет доступа к хедерам.
Type_id спринг сам туда запихивает и читает
источник

S

Slava in pro.kafka
Alexey Melchakov
Поправьте, если ошибаюсь, но мне кажется в хедеры бизнес логику не очень пихать. С т.з. архитектуры. Например, та же операция join в dsl не имеет доступа к хедерам.
С хедерами почти всегда сложно работать, да
я просто хотел предложить все возможные варианты решения проблемы. Честно не знаю, что умеет коннект или что подразумевается под dsl. Я здесь из-за слова kafka в названии группы ;)
источник

IK

Ilya Kaznacheev in pro.kafka
Господа, а что будет, если консумеров в группе больше, чем партиций в топике?
источник

Y

Yuriy in pro.kafka
Ilya Kaznacheev
Господа, а что будет, если консумеров в группе больше, чем партиций в топике?
Они будут простаивать
источник

IK

Ilya Kaznacheev in pro.kafka
Yuriy
Они будут простаивать
Спасибо
источник

Y

Yuriy in pro.kafka
Они 1-1 работают
источник

A

Andrey in pro.kafka
А Kafka Streams использует RocksDB на стороне клиентского приложения или просто как способ резервного хранения стейта на самом кластере?
источник

VG

Vik Gamov in pro.kafka
Andrey
А Kafka Streams использует RocksDB на стороне клиентского приложения или просто как способ резервного хранения стейта на самом кластере?
Да
источник

A

Andrey in pro.kafka
😊 я там два варианта описал, какой из них "да"?
источник

VG

Vik Gamov in pro.kafka
Локальный стейт приложения хранится в rocksdb. Использует кафку чтобы этот стейт реплицировать. На самом деле ktable может вообще обратно в кафку не попасть (если не сделать toStream().to())
источник

A

Andrey in pro.kafka
Понял, то есть он сам создаст интернальный топик для репликации с policy=compact?
источник

VG

Vik Gamov in pro.kafka
Andrey
Понял, то есть он сам создаст интернальный топик для репликации с policy=compact?
Да, changelog log compacted
источник

A

Andrey in pro.kafka
А сильно влияет скорость дисков на rocksdb? Я к тому что наверняка его желательно тогда натравить на файловую систему в памяти раз оно и так бэкапится, вопрос стоит ли так заморачиваться?
источник
2020 December 18

ГД

Григорий Доможиров... in pro.kafka
Друзья, здравствуйте. Простите, если избитый вопрос: как лучше очистить топик от сообщений? Я знаю 3 способа: пересоздать топик, временно поставить низкий retention, руками поудалять лог-файлы. Как правильно?
источник

ПГ

Павел Гордеев... in pro.kafka
Григорий Доможиров
Друзья, здравствуйте. Простите, если избитый вопрос: как лучше очистить топик от сообщений? Я знаю 3 способа: пересоздать топик, временно поставить низкий retention, руками поудалять лог-файлы. Как правильно?
Привет
У тебя место закончилось или просто нужно не читать уже имеющиеся сообщения?
Если сообщения пропустить нужно, то поставь слушателю latest консольной утилитой, если место почистить,  то я руками чищу. Может я тоже неправильно делаю,  но проблем пока не было из-за этого
источник

KT

Kirill T in pro.kafka
Павел Гордеев
Привет
У тебя место закончилось или просто нужно не читать уже имеющиеся сообщения?
Если сообщения пропустить нужно, то поставь слушателю latest консольной утилитой, если место почистить,  то я руками чищу. Может я тоже неправильно делаю,  но проблем пока не было из-за этого
Павел, а как вы чистите руками? Иногда сталкиваюсь с проблемой экстренного освобождения места.
источник

A

Alex in pro.kafka
руками почистили, брокер задетектил что файлов нету, залил с ближайшей реплики

извиняюсь но это похоже на попытку выстрелить себе в ногу
источник

ПГ

Павел Гордеев... in pro.kafka
Kirill T
Павел, а как вы чистите руками? Иногда сталкиваюсь с проблемой экстренного освобождения места.
Заходишь в папку /data и далее достаточно понятно, куда идти
Выбираю файлы,  которым допустим день и удаляю
источник