Size: a a a

2020 December 11

AZ

Anton Zadorozhniy in Data Engineers
Андрей Жуков
даже без кубов?
конечно, зачем нам кубы
источник

ME

Max Efremov in Data Engineers
Андрей Жуков
кубы в банках и телекоме мы только лет через 5 увидим
Ну кстати, в Netcracker OpenShift юзался года 3 назад уже
источник

ME

Max Efremov in Data Engineers
Anton Zadorozhniy
серверлесс спарк тут грядет, вообще без кластеров
А у GCP он есть? Как я понял, DataProc это нифига не серверлесс(
источник

AT

Al T in Data Engineers
Anton Zadorozhniy
это очень условный серверлесс))
опытные говорят там везде сервера в итоге ))
источник

АЖ

Андрей Жуков... in Data Engineers
Anton Zadorozhniy
конечно, зачем нам кубы
ну это типа “не хочу знать, как оно рабтает, дайте кнопку”
источник

АЖ

Андрей Жуков... in Data Engineers
такое
источник

AZ

Anton Zadorozhniy in Data Engineers
Al T
опытные говорят там везде сервера в итоге ))
сервера есть везде, но в случае фаргейта (особенно EKS + Fargate) это просто способ немного сэкономить на пустом капасити воркеров, за счет кучи других неудобств (долго стартуют, нет привелегий, нельзя демонсеты и проч), при этом 50 баксов за сам EKS, даже без воркеров, все равно надо платить
источник

ME

Max Efremov in Data Engineers
Андрей Жуков
ну это типа “не хочу знать, как оно рабтает, дайте кнопку”
Только его трудновато кастомизировать(
источник

AZ

Anton Zadorozhniy in Data Engineers
Max Efremov
А у GCP он есть? Как я понял, DataProc это нифига не серверлесс(
датамеханикс работают на GCP, да
источник

ME

Max Efremov in Data Engineers
Anton Zadorozhniy
датамеханикс работают на GCP, да
Это какое-то стороннее решение? Я пытался найти аналог AWS Glue, но вроде нет такого
источник

AZ

Anton Zadorozhniy in Data Engineers
Max Efremov
Это какое-то стороннее решение? Я пытался найти аналог AWS Glue, но вроде нет такого
источник

ME

Max Efremov in Data Engineers
Интересная штука, спасибо.
источник

АЖ

Андрей Жуков... in Data Engineers
Roman
Кубы уже в банках российских. Вот тоько в мире биг даты и вообще обработки данных ещё редко встречаются, но уже знаю проект в одном банке, где спарк на кубере крутится для реал тайм обработки
это пока всполохи, как и хадупы в начале 2010-х
источник

AS

Andrey Smirnov in Data Engineers
Anton Zadorozhniy
серверлесс спарк тут грядет, вообще без кластеров
а там еще сам спарк не переписали на C++, нет таких слухов?
источник

AT

Al T in Data Engineers
говорят скоро на питон перепишут, а то скала - медленно очень
источник

AZ

Anton Zadorozhniy in Data Engineers
Andrey Smirnov
а там еще сам спарк не переписали на C++, нет таких слухов?
переписали конечно, Delta Engine
источник

AS

Andrey Smirnov in Data Engineers
Anton Zadorozhniy
переписали конечно, Delta Engine
так это не сам спарк, это их озеро, или я не правильно понимаю?
источник

AZ

Anton Zadorozhniy in Data Engineers
Andrey Smirnov
так это не сам спарк, это их озеро, или я не правильно понимаю?
это по сути спарк рантайм https://databricks.com/product/delta-engine
источник

AZ

Anton Zadorozhniy in Data Engineers
можно рассматривать как cloud native MPP DBMS которая понимает спарковый АПИ
источник

AZ

Anton Zadorozhniy in Data Engineers
Андрей Жуков
это пока всполохи, как и хадупы в начале 2010-х
российскими банками энтерпрайз не заканчивается, в соседнем русскоязычном чатике опсов только и разговоры что про кубер и микросервисы
источник