Size: a a a

2019 December 18

S

Stanislav in Data Engineers
Старый Хрыч
Трафик только в 1 сторону
udp?
источник

СХ

Старый Хрыч in Data Engineers
Почитай про однонаправленные шлюзы
источник

P

Pavel in Data Engineers
Stanislav
по компьют ресурсам 3 ноды может переварить овердофига, все уткнется в сторадж
ну ёмаё
источник

AZ

Anton Zadorozhniy in Data Engineers
Renarde
всем привет. вопрос - а проект Alluxio вообще живой? Я правильно понимаю что это просто S3 compatible хранилка в памяти? или у нее какие-то еще крутые фичи есть?
очень живой, в этом году был большой релиз
источник

СХ

Старый Хрыч in Data Engineers
Stanislav
по компьют ресурсам 3 ноды может переварить овердофига, все уткнется в сторадж
А может в jvm)))
источник

P

Pavel in Data Engineers
Stanislav
по компьют ресурсам 3 ноды может переварить овердофига, все уткнется в сторадж
ок, + ssd
источник

СХ

Старый Хрыч in Data Engineers
У меня сообщения были по 20-30 мб, ох как Кафка плакала
источник

СХ

Старый Хрыч in Data Engineers
Pavel
ок, + ssd
Размер сообщения и тип jvm
источник

R

Renarde in Data Engineers
Anton Zadorozhniy
очень живой, в этом году был большой релиз
а в чем плюс использовать его вместо скажем того же dynamodb?
Ну вот есть у меня огромный датасет который я храню в S3. Я могу его в Alluxio залить, а могу в DynamoDB или Aerospike (whatever). По сути вопрос так поставлен - зачем мне in-memory FS если я могу использовать in-memory DB?
источник

СХ

Старый Хрыч in Data Engineers
На azul jvm Кафка работает куда лучше чем на openjdk
источник

S

Stanislav in Data Engineers
Старый Хрыч
Почитай про однонаправленные шлюзы
куча булшита какого то маркетологического по ссылкам
источник

СХ

Старый Хрыч in Data Engineers
Stanislav
куча булшита какого то маркетологического по ссылкам
Рубикон однонаправленный шлюз
источник

S

Stanislav in Data Engineers
и как он работает?
источник

СХ

Старый Хрыч in Data Engineers
Stanislav
и как он работает?
Физический разрыв
источник

AZ

Anton Zadorozhniy in Data Engineers
Renarde
а в чем плюс использовать его вместо скажем того же dynamodb?
Ну вот есть у меня огромный датасет который я храню в S3. Я могу его в Alluxio залить, а могу в DynamoDB или Aerospike (whatever). По сути вопрос так поставлен - зачем мне in-memory FS если я могу использовать in-memory DB?
прозрачность для приложений, тебе не надо явно поднимать данные в базу (и придумывать сериализацию/формат хранения) - ты просто обращаешься по другой схеме (alluxio://) и он поднимает данные в кэш если их там нет
источник

S

Stanislav in Data Engineers
Старый Хрыч
Физический разрыв
как он работает?
источник

S

Stanislav in Data Engineers
что такое физический разрыв? на каком уровне протокола?
источник

R

Renarde in Data Engineers
Anton Zadorozhniy
прозрачность для приложений, тебе не надо явно поднимать данные в базу (и придумывать сериализацию/формат хранения) - ты просто обращаешься по другой схеме (alluxio://) и он поднимает данные в кэш если их там нет
ага, уловил идею. попробуем поиграться тогда, мб что и выгорит
источник

UD

Uncel Duk in Data Engineers
Старый Хрыч
ибо через куб карты и на 25% не нагрузить было
Шта
источник

AZ

Anton Zadorozhniy in Data Engineers
Renarde
а в чем плюс использовать его вместо скажем того же dynamodb?
Ну вот есть у меня огромный датасет который я храню в S3. Я могу его в Alluxio залить, а могу в DynamoDB или Aerospike (whatever). По сути вопрос так поставлен - зачем мне in-memory FS если я могу использовать in-memory DB?
плюс они в самом последнем релизе побежали с дремио и прочими конкурировать - теперь они кэшируют структурированную информацию и метадата каталог
источник