Size: a a a

2021 April 25

A

AE in Data Engineers
И кто что думает по этому вопросу
источник

A

AE in Data Engineers
Пока вижу что используется, каких то других вещей не видел
источник

R

Roman in Data Engineers
Тут, вроде бы, или в канале дата инженерь или умри не так давно кидали хороший материал по этому вопросу.
источник

A

AE in Data Engineers
Хм, почитал бы
источник

ME

Max Efremov in Data Engineers
Кубер?
источник

ME

Max Efremov in Data Engineers
Спарк вон в кубере уже гоняют, ярн и hdfs не надо
источник

A

AE in Data Engineers
А мы про hdfs?
источник

A

AE in Data Engineers
Хм, а данные как хранить, что как fs используется?
источник

ME

Max Efremov in Data Engineers
s3 и прочее
источник

R

Roman in Data Engineers
Если мой вижн, то есть
1) клауд решения от большой тройки, которые решают ряд задач, которые раньше решались только на hadoop.
2) для тех кто не может в паблик клауд, есть закрытие облака с кубером.

Наверное, хадуп останется для каких - то задача.
источник

A

AE in Data Engineers
А есть примеры компаний, где s3 уже подвытеснил/заменил hdfs?
источник

A

AE in Data Engineers
Мы, наверное, о разном: я о hdfs
источник

ME

Max Efremov in Data Engineers
От самого апача, кстати, обжект стор есть, озон
источник

ME

Max Efremov in Data Engineers
ответ на популярность S3, наверное)
источник

A

AE in Data Engineers
Посмотрел на hh вакансии дата инженера, hadoop, hive и прочее, мб постепенно переходят
источник

A

AE in Data Engineers
У нас вот движения к s3 не замечал
источник

R

Roman in Data Engineers
Их много, можете в блоге aws просмотреть. Я на прошлом проекте использовал  s3, вместо hdfs. В аналитике в небольших компаниях - это очень частое явление.
источник

A

AE in Data Engineers
Да да, вы правы, скорее в небольших компаниях, на старте выбирают s3, так наверное
источник

A

AE in Data Engineers
Спасибо!
источник

ME

Max Efremov in Data Engineers
источник