Size: a a a

2021 April 09

OI

Oleg Ilinsky in Data Engineers
там было достаточно много))
источник

ЕГ

Евгений Глотов... in Data Engineers
Ну вот, и дат наверно не три)
источник

OI

Oleg Ilinsky in Data Engineers
10 лет
100+ проектов
источник

OI

Oleg Ilinsky in Data Engineers
я воспринимаю этот кейс как нагрузочное тестирование
источник

ЕГ

Евгений Глотов... in Data Engineers
Хдфс: моя остановочка)
источник

OI

Oleg Ilinsky in Data Engineers
кстати, с хдфс всё было хорошо
и неймнода вся была норм
только хайв метастор не вывез
источник

OI

Oleg Ilinsky in Data Engineers
самое смешное, что drop table тоже клал метастор
источник

А

Алексей in Data Engineers
нужно было кластер под метастор
источник

AZ

Anton Zadorozhniy in Data Engineers
это нормально, hive для big data, а у вас many data
источник

UR

Uncle Ruckus in Data Engineers
Немного, там BIка сверху была, со своим кешированием, преферансом и куртизанками. Фактически витринка. Так что т.к. проблем с производительностью не было, я даже на консоль не лазил смотреть чем она занимается, просто работала и все.
источник

ME

Max Efremov in Data Engineers
а на чём он был? Не дерби же?)
источник

OI

Oleg Ilinsky in Data Engineers
ну в постгре по классике
источник

AZ

Anton Zadorozhniy in Data Engineers
Если BI все кэширует то можно в чем угодно делать.. я думал вы с какой-то регулярностью обновляете эти временные таблицы, и ходят к ним напрямую мимо кэшей
источник

UR

Uncle Ruckus in Data Engineers
Она и обновлялась, собственно для этого и была сделана. BIка кеширует только то, что уже спрашивали, а спрашивают разное, поэтому я и говорю, что пользователей таки было, но не, там, сотни тысяч
источник
2021 April 11

K

KrivdaTheTriewe in Data Engineers
.cache()
источник
2021 April 12

AZ

Anton Zadorozhniy in Data Engineers
ну да, про это и был попкорн, как сделать кэш в котором хранились бы все нужные данные для ad-hoc запросов пользователей
источник

ПБ

Повелитель Бури... in Data Engineers
Зачем кеш, если все запросы в спарке делаются за минуту? А если дольше то у вас мало ресурсов
источник

AZ

Anton Zadorozhniy in Data Engineers
Это вопрос тому кто спрашивал про ignite видимо?
источник

N

Nikita Blagodarnyy in Data Engineers
смешно, спасибо.
источник

NN

No Name in Data Engineers
+
источник