Size: a a a

2019 December 18

AZ

Anton Zadorozhniy in Data Engineers
как раз сильнее стали дружить с помянутым сегодня престо 🙂
источник

СХ

Старый Хрыч in Data Engineers
Stanislav
что такое физический разрыв? на каком уровне протокола?
на уровне железа, можно сказать убирают на преобразователи обратный трафик, говоря клиенту спереди, что типа дошло
источник

N

Nikita Blagodarnyy in Data Engineers
Stanislav
что такое физический разрыв? на каком уровне протокола?
источник

R

Renarde in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
Старый Хрыч
У меня сообщения были по 20-30 мб, ох как Кафка плакала
Так зачем такие большие сообщения; ещё бы по гигабайту слал
источник

AS

Andrey Smirnov in Data Engineers
Grigory Pomadchin
Так зачем такие большие сообщения; ещё бы по гигабайту слал
прямо как в анекдоте про бензопилу и русских мужиков с рельсом
источник

AZ

Anton Zadorozhniy in Data Engineers
да там просто кейс такой что решили не усложнять, видимо архитектор также любит кафку как и кубер 🙂
источник

GP

Grigory Pomadchin in Data Engineers
мучает ещё вопрос; а это с дефлейтом в авро формате или без обычным жейсоном
источник

A

Alex in Data Engineers
В csv
источник

A

Alex in Data Engineers
А вообще если помню правильно они там айдио файлы гоняли, так как не хотели сохранять в s3 и слать мету, типо кому-то же придётся потом и удалять в этом s3
источник

AZ

Anton Zadorozhniy in Data Engineers
Alex
А вообще если помню правильно они там айдио файлы гоняли, так как не хотели сохранять в s3 и слать мету, типо кому-то же придётся потом и удалять в этом s3
кошмар какая сложность 🙂
источник

СХ

Старый Хрыч in Data Engineers
Grigory Pomadchin
Так зачем такие большие сообщения; ещё бы по гигабайту слал
не я архитектуру в этом плане придумывал, ну там просто были большие обьёмы инфы, а поделить не могли(точнее могли но на тот момент надо было делать опытный образец и потому было не до такого)
источник

ME

Mikhail Epikhin in Data Engineers
Anton Zadorozhniy
кошмар какая сложность 🙂
главное про ttl не рассказывать:)
источник

А

Алексей in Data Engineers
Подскажите, для чего нужны партиции в кафке? Для увеличения пропускной способности или есть какие-то другие логические причины?
источник

GP

Grigory Pomadchin in Data Engineers
Алексей
Подскажите, для чего нужны партиции в кафке? Для увеличения пропускной способности или есть какие-то другие логические причины?
‘Парелелишь топик’; он разбит по разным брокерам (по партициям); и консумеры могут читать из кафки параллельно; каждый свою партицию топика
источник

AS

Anton Shelin in Data Engineers
Алексей
Подскажите, для чего нужны партиции в кафке? Для увеличения пропускной способности или есть какие-то другие логические причины?
Там еще важно как пишите консистентно или нет тем самым достигается выбор между C или.A из CAP
источник

AS

Anton Shelin in Data Engineers
Если один источник всегда пишется в одну партицию это C
источник

Е

Евгений in Data Engineers
Алексей
Подскажите, для чего нужны партиции в кафке? Для увеличения пропускной способности или есть какие-то другие логические причины?
без них было бы не так весело
источник

AS

Anton Shelin in Data Engineers
Если в любую доступную партицию это A
источник

S

Stanislav in Data Engineers
Алексей
Подскажите, для чего нужны партиции в кафке? Для увеличения пропускной способности или есть какие-то другие логические причины?
это основная сущность хранения
источник