Size: a a a

2020 December 20

SK

Sergey Kaurov in Data Engineers
Да и я переключил по мануалу на Fair
источник

DT

Denis Tsvetkov in Data Engineers
который, в ярне или в спарке?
источник

DT

Denis Tsvetkov in Data Engineers
если речь про yarn-site.xml, то видимо в ярне
источник

DT

Denis Tsvetkov in Data Engineers
так после этих изменений в интерфейсе ярна он какой планировщик показывает?
источник

SK

Sergey Kaurov in Data Engineers
В нём Fair Share
источник

SK

Sergey Kaurov in Data Engineers
В fair-sheduler.xml единственное для эксперимента прописал значения некоторые и там показания теперь для zeppelin не лучшие
источник

DT

Denis Tsvetkov in Data Engineers
ну все ок значит, применилось
источник

DT

Denis Tsvetkov in Data Engineers
планировщик в спарке указывается в spark-defaults.conf
источник

DT

Denis Tsvetkov in Data Engineers
spark.scheduler.mode
источник

SK

Sergey Kaurov in Data Engineers
А это у меня одно приложение и очереди под одним пользователем:
- anonymous
источник

SK

Sergey Kaurov in Data Engineers
Denis Tsvetkov
spark.scheduler.mode
Получается чисто номинально прописать там и всё?
источник

SK

Sergey Kaurov in Data Engineers
А он из hadoop не схватывает сам? Я ожидал, что схватит и покажит установленный режим..
источник

DT

Denis Tsvetkov in Data Engineers
это разные пулы и разные планировщики,
я бы советовал поподробнее почитать про них, чтобы не гадать
источник

SK

Sergey Kaurov in Data Engineers
Так я прописав fair вырубил fifo
источник

SK

Sergey Kaurov in Data Engineers
В hadoop
источник

SK

Sergey Kaurov in Data Engineers
А в том то и дело, что spark показывает fifo это настораживает
источник

DT

Denis Tsvetkov in Data Engineers
да не должно тут ничего настораживать, все тут в порядке)
источник

DT

Denis Tsvetkov in Data Engineers
еще раз: это РАЗНЫЕ пулы
источник

DT

Denis Tsvetkov in Data Engineers
в ярне планировщик делит ресурсы между приложениями,
источник

SK

Sergey Kaurov in Data Engineers
А... Сейчас
источник