Size: a a a

2021 October 25

AE

Alexey Evdokimov in Data Engineers
а сам по себе с3 это к/в хранилище
источник

AZ

Anton Zadorozhniy in Data Engineers
то что нет какого-нибудь редшифта или вертики говорит что нет адхок аналитики и большого корпуса отчетности

то что нет Динамы или Кассандры говорит что нет low latency ворклоада
источник

AE

Alexey Evdokimov in Data Engineers
отчётность есть, но настолько замороченная и каждый раз отличная от предыдущей, что аналитики делают её пандасом и такой-то матерью
источник

AE

Alexey Evdokimov in Data Engineers
эт конечно не в кайф
источник

A

Alex in Data Engineers
мы видимо про разную аналитику говорим
источник

AZ

Anton Zadorozhniy in Data Engineers
ну вот, а если были какие-нибудь табло  или пауэрбиай - то нужен был бы отзывчивый SQL движок
источник

A

Alex in Data Engineers
табло есть
источник

A

Alex in Data Engineers
часть в табло
часть в метабейз дашбордики рисовать для девелоперов
источник

AE

Alexey Evdokimov in Data Engineers
тепловые карты у нас, табла нету
источник

AZ

Anton Zadorozhniy in Data Engineers
да я так и понял, вертика и импала не просто так же
источник

A

Alex in Data Engineers
ещё запущен sparksql, но задержки у него повыше, поэтому для дашбордов не всегда удобно
источник

A

Alex in Data Engineers
для аналити норм
источник

AE

Alexey Evdokimov in Data Engineers
табло нужно тем, кто покупает нашу дату через safegraph %)
источник

AZ

Anton Zadorozhniy in Data Engineers
я про это и говорю, у вас по сути не аналитический ландшафт из даталейков хранилищ и витрин, а узкоспециальная система для вашего домена
источник

AE

Alexey Evdokimov in Data Engineers
ну такой она далеко не сразу стала. до ковида мы несколько лет пытались в витрины
источник

AE

Alexey Evdokimov in Data Engineers
а потом рыночек решил, что надо искать иной подход
источник

AZ

Anton Zadorozhniy in Data Engineers
Думаю и бизнеса были амбиции получить больше разных данных, такое часто бывает в этом бизнесе
источник

AE

Alexey Evdokimov in Data Engineers
ну, задача по автоматизации витрин была весьма интересной. я почти год потратил. оч. жалко было потом пускать под нож. а аналитик, который занимался постановкой, вообще уволился
источник

AE

Alexey Evdokimov in Data Engineers
изначально хотели дать кастомерам инструмент для самостоятельно персонализации витрин по всему нашему массиву
источник

SS

Sergey Sheremeta in Data Engineers
уже спрашивал, но толком ответа не получил... потому повторюсь:
коллеги, кто какие инструменты использует для моделирования всего ландшафта DataLake?
нужно нечто вроде DataCatalog/DG/MDM-системы, но с удобным инструментом для заведения данных, для их моделирования
источник