Size: a a a

2019 December 19

A

Alex in Data Engineers
Livy сама собирает неактивные
На остальные висят скрипты с ttl и шлёт алерты админам
источник

K

KrivdaTheTriewe in Data Engineers
Mi
Может кто-нибудь посоветовать тулы какие-то чтобы собрать метрики по памяти в спарке? чтобы понять насколько реально нужно памяти дать экзекутору и тд
Встроены в чем спарк , настройте синк
источник

K

KrivdaTheTriewe in Data Engineers
Там прям из коробки
источник

M

Mi in Data Engineers
KrivdaTheTriewe
Встроены в чем спарк , настройте синк
Того что есть в spark UI не хватает
источник

K

KrivdaTheTriewe in Data Engineers
Mi
Того что есть в spark UI не хватает
Графана
источник

K

KrivdaTheTriewe in Data Engineers
И статс де
источник

M

Mi in Data Engineers
KrivdaTheTriewe
Графана
Посмотрю, спс
источник

AS

Anastasiya Shmatkova in Data Engineers
KrivdaTheTriewe
Встроены в чем спарк , настройте синк
Киньте, плиз, ссылкой или правильным запросом в гугл
источник

K

KrivdaTheTriewe in Data Engineers
Anastasiya Shmatkova
Киньте, плиз, ссылкой или правильным запросом в гугл
источник

AS

Anastasiya Shmatkova in Data Engineers
Спасибо
источник

UD

Uncel Duk in Data Engineers
еще вот велоспипед для прома https://github.com/banzaicloud/spark-metrics
источник

🔐

🔐{% ɹoƃǝʎ %} in Data Engineers
Драсти, такой вопрос, хочу в докере на виртуалке задеплоить хадуп в учебных целях, хватит ли мне 1RAM + 4 swapfile гигов памяти?
источник

A

Alexander in Data Engineers
🔐{% ɹoƃǝʎ %}
Драсти, такой вопрос, хочу в докере на виртуалке задеплоить хадуп в учебных целях, хватит ли мне 1RAM + 4 swapfile гигов памяти?
Мне в виртуалке и 4-х не хватало. Hortonworks не ставился
источник

C

Combot in Data Engineers
Indah Arista lee has been banned! Reason: CAS ban.
источник

🔐

🔐{% ɹoƃǝʎ %} in Data Engineers
Alexander
Мне в виртуалке и 4-х не хватало. Hortonworks не ставился
свапфайл не решает?
источник

A

Alexander in Data Engineers
🔐{% ɹoƃǝʎ %}
свапфайл не решает?
Честно говоря, не помню, сколько у меня свап был.
источник

A

Alexander in Data Engineers
Если хотите прям задеплоить кластер, а не просто взять сандбокс, то, думаю, гига не хватит
источник

🔐

🔐{% ɹoƃǝʎ %} in Data Engineers
Alexander
Если хотите прям задеплоить кластер, а не просто взять сандбокс, то, думаю, гига не хватит
Мы про контейнеры говорим? Просто докер вряд ли чекает размер озу при скачивании из реестра
источник

🔐

🔐{% ɹoƃǝʎ %} in Data Engineers
и скрипт деплоя хортонворкс вроде тоже не чекает
источник

A

Alexander in Data Engineers
🔐{% ɹoƃǝʎ %}
Мы про контейнеры говорим? Просто докер вряд ли чекает размер озу при скачивании из реестра
Нет, не про докер. Никогда в докере не разворачивал. Он не чекает, но просто фейлится всё будет в процессе
источник