Size: a a a

2019 December 31

AZ

Anton Zadorozhniy in Data Engineers
Alex
Нууууу, у нас хдфс и много, плюс импала активно используем
ну вот, быстрая миграция на сеф/стендэлоун хайв/престо и все проблемы решены (и начнете решать новые) 🙂
источник

GP

Grigory Pomadchin in Data Engineers
Uncel Duk
Напомните, а была "программа" развития после мержа без булшита
по-моему они ничего явно не говорили
источник

A

Alex in Data Engineers
@pomadchin у нас была клоудера, но древняя как говно мамонта, вроде как 5.8.х

Сейчас переезд на новый хадуп, дц, керберос (пошли вопросы безопасности уже)

В итоге вроде как админы сразу выбрали амбари от хортона и даже раскатали сервисы 3.1.х  какие-то, но hadoop (hdfs+yarn) уже повторно раскатаны из апстрима 3.2.0 или 3.2.1 не помню

Вот подумывем и хайв может перераскатить из апача
источник

СХ

Старый Хрыч in Data Engineers
Anton Zadorozhniy
есть еще хопсворкс со своей неймнодой поверх мускл кластера и аутентификацией по сертификатам 🙂
есть вообще люстра
источник

GP

Grigory Pomadchin in Data Engineers
Alex
@pomadchin у нас была клоудера, но древняя как говно мамонта, вроде как 5.8.х

Сейчас переезд на новый хадуп, дц, керберос (пошли вопросы безопасности уже)

В итоге вроде как админы сразу выбрали амбари от хортона и даже раскатали сервисы 3.1.х  какие-то, но hadoop (hdfs+yarn) уже повторно раскатаны из апстрима 3.2.0 или 3.2.1 не помню

Вот подумывем и хайв может перераскатить из апача
думаю сейчас имеет смысл задуматься над своей оркестрацией хадуполайк; а то вечно к этим дистрибутивам привязываться. всем понятно было куда дело идет - приватность и $ за услуги
источник

A

Alex in Data Engineers
Anton Zadorozhniy
ну вот, быстрая миграция на сеф/стендэлоун хайв/престо и все проблемы решены (и начнете решать новые) 🙂
12PB и по этому потом престо гонять ;)

С престо была проблема что она спилить на диск не умела, а некоторые запросы слишком тяжёлые
источник

UD

Uncel Duk in Data Engineers
Grigory Pomadchin
по-моему они ничего явно не говорили
Пока думаю над количеством боли, если съезжать на ванилу
источник

A

Alex in Data Engineers
@pomadchin так к этому и идёт, год назад я и настаивал на осс сборнке, админы правда заюзали хортон так как проще было на него пакеты сразу под амбари найти, но как уже сказал: сам хадуп уже с апача
источник

GP

Grigory Pomadchin in Data Engineers
Uncel Duk
Пока думаю над количеством боли, если съезжать на ванилу
а какая будет?
источник

UD

Uncel Duk in Data Engineers
Типа, ой можно нам спарк, престу, хайв с импалой с боку
источник

UD

Uncel Duk in Data Engineers
И докеры в ярне
источник

A

Alex in Data Engineers
Ты не поверишь :)
источник

A

Alex in Data Engineers
У нас и докеры в ярне есть и импала в этом недохортоне
источник

AZ

Anton Zadorozhniy in Data Engineers
Alex
12PB и по этому потом престо гонять ;)

С престо была проблема что она спилить на диск не умела, а некоторые запросы слишком тяжёлые
Для текущего престо не проблема, а летом добавили ещё и сжатие с шифрованием для спила, все счастливы
источник

UD

Uncel Duk in Data Engineers
Grigory Pomadchin
а какая будет?
Ну, я не кор разраб, начерепикать могу, не более
источник

A

Alex in Data Engineers
Нужно будет перепроверить
источник

GP

Grigory Pomadchin in Data Engineers
Uncel Duk
Ну, я не кор разраб, начерепикать могу, не более
ты имеешь ввиду бекпортить фичи?
источник

UD

Uncel Duk in Data Engineers
Grigory Pomadchin
ты имеешь ввиду бекпортить фичи?
Да, и фиксы
источник

GP

Grigory Pomadchin in Data Engineers
да просто будете версию апать
источник

GP

Grigory Pomadchin in Data Engineers
источник