Size: a a a

2020 September 10

AE

Alexey Evdokimov in Data Engineers
Max Efremov
хм, в кластере висят старые сессии цеппелина, мб они там все ресурсы съели
ну ещё бы не съели. цеплин довольно тяжёл
источник

ME

Max Efremov in Data Engineers
Я ведь верно понимаю, что без ssh доступа сессию нормально не кильнуть? в UI ярна вроде нет такого
источник

SS

Sergey Sheremeta in Data Engineers
Max Efremov
Я ведь верно понимаю, что без ssh доступа сессию нормально не кильнуть? в UI ярна вроде нет такого
ежели у вас Zeppelin, то настройте в нем sh-интерпретатор,

и в ноутбуке Zeppelin вызывайте (sudo -u hadoop там если надо)
%sh
yarn app -kill orphanFuckingAppID
источник

ME

Max Efremov in Data Engineers
Sergey Sheremeta
ежели у вас Zeppelin, то настройте в нем sh-интерпретатор,

и в ноутбуке Zeppelin вызывайте (sudo -u hadoop там если надо)
%sh
yarn app -kill orphanFuckingAppID
спасибо, хорошая идея)
источник

SS

Sergey Sheremeta in Data Engineers
не для продакшна конечно
источник

ME

Max Efremov in Data Engineers
Тут nonprod, в проде ярн не запускаем (по крайней мере пока...)
источник

AZ

Anton Zadorozhniy in Data Engineers
Sergey Sheremeta
ежели у вас Zeppelin, то настройте в нем sh-интерпретатор,

и в ноутбуке Zeppelin вызывайте (sudo -u hadoop там если надо)
%sh
yarn app -kill orphanFuckingAppID
тогда уж aws emr terminate-clusters, чтобы два раза не вставать
источник

SS

Sergey Sheremeta in Data Engineers
дяденька, я таких слов не знаю (((
источник

SS

Sergey Sheremeta in Data Engineers
мы тут все домашними серверами перебиваемся
источник

ME

Max Efremov in Data Engineers
Anton Zadorozhniy
тогда уж aws emr terminate-clusters, чтобы два раза не вставать
прав нету( Всё через терраформ у нас
источник

AZ

Anton Zadorozhniy in Data Engineers
Max Efremov
прав нету( Всё через терраформ у нас
terraform destroy -auto-approve
источник

ME

Max Efremov in Data Engineers
Anton Zadorozhniy
terraform destroy -auto-approve
ах если бы( Там ентерпрайзный терраформ и куча аппрувов и секьюрити гейтов(
источник

ME

Max Efremov in Data Engineers
любое изменение в шаблон по неделе ревьювится(
источник

AZ

Anton Zadorozhniy in Data Engineers
Max Efremov
любое изменение в шаблон по неделе ревьювится(
молодцы, с этим спешить не надо
источник

AZ

Anton Zadorozhniy in Data Engineers
но да, Сергей все правильно сказал, вам нужно хадупного завести (по аналогии с домовым и лесным) - санитара кластера, кто бы ходил приятным голосом просил убить приложения
источник

AZ

Anton Zadorozhniy in Data Engineers
заодно смотреть за размерами контейнеров, файликов, ну там есть за чем посмотреть короче
источник

AZ

Anton Zadorozhniy in Data Engineers
вполне себе фултайм джоб даже на небольших группах пользователей
источник

ME

Max Efremov in Data Engineers
Anton Zadorozhniy
заодно смотреть за размерами контейнеров, файликов, ну там есть за чем посмотреть короче
логи чистить))
источник

AE

Alexey Evdokimov in Data Engineers
клауд биг дата дворник
источник

ME

Max Efremov in Data Engineers
После убийства цеппелина Livy стал сыпать просто рандомными ошибками на старт сессии, кажется всё пошло куда-то не туда)
источник