Size: a a a

2020 September 10

K

KrivdaTheTriewe in Data Engineers
Anton Zadorozhniy
Плюс свой нормальный устойчивый и масштабируемый шафлсервис
они прям свой написали?
источник

K

KrivdaTheTriewe in Data Engineers
или взяли из того что готово в опенсорсе почти
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
нет конечно, у нас не облако к сожалению, но с апи мы работать умеем  и координатор добавить не большая проблема
Аккаунтинг у вас сделан уже, вы можете выставить клиенту счёт за потреблённые vcore/mem?
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
они прям свой написали?
У них свой, да
источник

K

KrivdaTheTriewe in Data Engineers
Anton Zadorozhniy
Плюс свой нормальный устойчивый и масштабируемый шафлсервис
а, ребята из Y Combinator , ну молодцы
источник

K

KrivdaTheTriewe in Data Engineers
Anton Zadorozhniy
Аккаунтинг у вас сделан уже, вы можете выставить клиенту счёт за потреблённые vcore/mem?
не не можем, они молодцы , спорну нет
источник

AZ

Anton Zadorozhniy in Data Engineers
У них ещё своя юайка для спарка, кому нужно https://www.datamechanics.co/blog-post/building-a-better-spark-ui
источник

K

KrivdaTheTriewe in Data Engineers
да круто, совсем мне радостно стало за них
источник

E

Evgeny in Data Engineers
еще бы они это открыли и было бы хорошо
источник

AS

Andrey Smirnov in Data Engineers
источник

AZ

Anton Zadorozhniy in Data Engineers
обсуждали тут в элитарном чатике СУБДшников вчера, всех позабавил пример таблицы сотрудников с колонкой age )) но так да, больше индексов, хороших и разных
источник

A

Alex in Data Engineers
чем это лучше датафлоу?

тем что спарк?
источник

AK

Andrew Konstantinov in Data Engineers
Всем привет! Какой best practice когда прилетает новое поле в Спарк стриминге ? Как на лету можно изменить витрину данных ?
источник

AK

Andrew Konstantinov in Data Engineers
Сейчас Кафка-Спарк стриминг -Hdfs-далее repair table в hive
источник

AZ

Anton Zadorozhniy in Data Engineers
Alex
чем это лучше датафлоу?

тем что спарк?
спарк, на всех облаках работает
источник

ЕГ

Евгений Глотов... in Data Engineers
Sergey Sheremeta
я бы еще Excel добавил в навыки дата-помидора
Вот вы смеётесь, а бигдата идёт к пользователям. Недавно писал вставку хардкод питоном в нужные ячейки экселя прямо в xml-файлы, потому что стандартными либами 40 листов с фотками и пивот таблицами читаются 10 минут)
источник

ЕГ

Евгений Глотов... in Data Engineers
Как выдать результат бигдэйты заказчику, если у него эксель?)
источник

SS

Sergey Sheremeta in Data Engineers
а я и не шутил
источник

SS

Sergey Sheremeta in Data Engineers
второй день не вылезаю из Экселя, сайзинги считаю
источник

ЕГ

Евгений Глотов... in Data Engineers
источник