KS
Пайплайн такой Metabase > Presto > Hive
Size: a a a
2020 December 18
KS
Сервера bare metal, поэтому конфигурация не такая уж флексибл, идёт сразу пачками по 12/24/48 cpu cores; 32/64/128/256GB ram.
KS
Руководство старорежимное, поэтому в облако не хочет.
AZ
Сервера bare metal, поэтому конфигурация не такая уж флексибл, идёт сразу пачками по 12/24/48 cpu cores; 32/64/128/256GB ram.
Надо наверное понять во что упирается, мб у вас спилл на тормозные диски идет, или статистика не собрана и планы плохие
AZ
Ну и напишите какой кластер и какой дистрибутив
KS
Ну и напишите какой кластер и какой дистрибутив
Presto v.318
KS
KS
Hadoop 3.1.1
KS
1 namenode, 4 datanodes.
KS
Все дистрибутивы опен сорс
KS
Я предлагал руководству перейти на платные дистрибутивы Presto от StarBurst,но когда они увидели счёт сразу же отказались.
AZ
1 namenode, 4 datanodes.
Это очень маленький кластер, worker parallelism низкий, при этом количество запросов одновременно высокое.. мб ресурсные группы поправить чтобы запросы в очередь вставали
AZ
А какая утилизация CPU на узлах, в Прометее или что у вас для метрик..
KS
А какая утилизация CPU на узлах, в Прометее или что у вас для метрик..
Я сейчас к доктору на приём, позже отпишусь.
NN
@s333kr а Вас там одного поставили за инфраструктуру отвечать?
AZ
Кмк вам надо посмотреть на то куда время в этих запросов уходит, я готов поставить кружку пилзнера что вы подпираете IO, на кластере из 4 узлов при RF3 у вас каждый диск с которого читают с высокой вероятностью и в записи участвует (у вас там insert select виден); мб вы переросли кластер и пора расширяться
KS
KS
Кмк вам надо посмотреть на то куда время в этих запросов уходит, я готов поставить кружку пилзнера что вы подпираете IO, на кластере из 4 узлов при RF3 у вас каждый диск с которого читают с высокой вероятностью и в записи участвует (у вас там insert select виден); мб вы переросли кластер и пора расширяться
Спасибо большое, так и есть - предыдущий владелец весь ETL сделал через presto SQL и поэтому нагрузка на hdfs двойная, с одной стороны запросы на инсерты и с другой аналитика. Я с presto встретился 3 недели назад, поэтому прошу прощения за тупые вопросы.
KS
Кмк вам надо посмотреть на то куда время в этих запросов уходит, я готов поставить кружку пилзнера что вы подпираете IO, на кластере из 4 узлов при RF3 у вас каждый диск с которого читают с высокой вероятностью и в записи участвует (у вас там insert select виден); мб вы переросли кластер и пора расширяться
Я правильно понимаю, что нужно удвоить, а то и утроить количество datanodes в hdfs?
AZ
Я правильно понимаю, что нужно удвоить, а то и утроить количество datanodes в hdfs?
Надо понять сначала где вы упираетесь, почему, и потом решать проблем; по трём сообщениям и скриншоту поставить детальный диагноз сложно