Size: a a a

2019 November 05

EV

Eduard Vlasov in Data Engineers
Anton Zadorozhniy
ну вы же не держите эти кластера все время, можно запустить кластер, толкнуть последовательно джобы, тем более у вас наверняка maximizeResourceAllocation включен и параллельно запускать джобы смысла нет, и на последнем дропнуть кластер, и не нужно ничего снаружи оркестировать
не, у меня конкретно долгоживущий
источник

EV

Eduard Vlasov in Data Engineers
там presto + yarn пополам делят ресурс
источник

AZ

Anton Zadorozhniy in Data Engineers
а если секрет, почему не два?
источник

AZ

Anton Zadorozhniy in Data Engineers
и ярновый по запросу поднимать
источник

AZ

Anton Zadorozhniy in Data Engineers
вам нужен локальный быстрый сторадж?
источник

EV

Eduard Vlasov in Data Engineers
пока не дошли руки померять насколько это выгоднее
источник

EV

Eduard Vlasov in Data Engineers
сейчас на ярне я иногда развлекаюсь из зепелина
источник

AZ

Anton Zadorozhniy in Data Engineers
ясно, спасибо
источник

EV

Eduard Vlasov in Data Engineers
ну и еще пока тяжело осмыслить тот факт что для выполнения незапланированной джобы надо ждать поднятия кластера
источник

AZ

Anton Zadorozhniy in Data Engineers
я со своими клиентами мыслю сессиями для такого
источник

EV

Eduard Vlasov in Data Engineers
а так просто взяли ноды на 10% дороже, где памяти в 2 раза больше и поделили
источник

AZ

Anton Zadorozhniy in Data Engineers
сатанист начал сессию - поднял себе кластер, исполняет там джобы
источник

EV

Eduard Vlasov in Data Engineers
одно другому как правило не мешает
источник

AZ

Anton Zadorozhniy in Data Engineers
сессию закончил, кластер убили
источник

EV

Eduard Vlasov in Data Engineers
у меня сатанисты в основном в престо развлекаются
источник

AZ

Anton Zadorozhniy in Data Engineers
даже если оно резервд капасити, ее можно убить и кто-то будет для другого использовать
источник

AZ

Anton Zadorozhniy in Data Engineers
да, престо на ЕМР это часто недооцененный компонент, я тоже его везде использую
источник

AZ

Anton Zadorozhniy in Data Engineers
старберст еще лучше, но не каждый клиент хочет возится
источник

EV

Eduard Vlasov in Data Engineers
сильно дороже?
источник

AZ

Anton Zadorozhniy in Data Engineers
источник