Size: a a a

2021 April 29

t

tenKe in Data Engineers
вон оно как
источник

GP

Grigory Pomadchin in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
ну это ask
источник

GP

Grigory Pomadchin in Data Engineers
интересно что там на стороне ресипиента
источник

GP

Grigory Pomadchin in Data Engineers
а ты у ярна просишь? интересно как у кубера такая штука работать будет
источник

t

tenKe in Data Engineers
ага, ярн
источник

K

K in Data Engineers
Привет! Подскажите, пожалуйста, самый быстрый способ поставить cdh 6.3.2 с hadoop 3.0.0 ? Может где-то есть докер образ? Нужно быстро протестировать кое-что на данной версии
источник
2021 April 30

D

Dmitry in Data Engineers
на сколько знаю в природе не существует. у клоудеры последняя sendbox виртуалка/докер была для 5.x ветки, для 6.x не выпускали. разве что кто-то левый собрал ...
источник

РД

Роман Друзык... in Data Engineers
Привет, кто нибудь сталкивался с подобной ситуацией:
Поднимаешь спарк сессию с динамик аллокейшн, ограничивая аппетиты -все ок, сессия отжирает положенное в конфиге, но если в этой же спрак сессии подключаешься через jdbc к ораклу, чтоб прочитать таблицу, то в этот момент сессия отжирает абсолютно все свободные ресурсы на кластере, игнорируя конфиг
Почему так может быть?
источник

AZ

Anton Zadorozhniy in Data Engineers
Кому интересно - Feast выпустил новый релиз (в рамках которого повернул в сторону) https://feast.dev/blog/feast-0-10-announcement/
источник

e

er@essbase.ru in Data Engineers
виртуалка с 5ой клаудерой от учебного курса на курсере
https://s3.amazonaws.com/trainingvms/Cloudera-Training-Coursera-VM-cdh5.13.3c-virtualbox.zip

login |pass
training
источник

D

Dmitry in Data Engineers
это пятая клоудера с 2.х хадупом. нужна вроде шестая и с 3 хадупом
источник

NN

No Name in Data Engineers
В сторону чего?)
источник

AZ

Anton Zadorozhniy in Data Engineers
От изначальной концепции))
источник

DM

Dave Manukian in Data Engineers
помнится что они как и не планировали transform компонент добавлять, так и не планируют)
источник

DM

Dave Manukian in Data Engineers
ну оно и понятно, это самый трудный компонент из всех существующих, второй по сложности наверное core который с метаинфой работает
источник

AZ

Anton Zadorozhniy in Data Engineers
От end-to-end перешли к all infra optional
источник

DM

Dave Manukian in Data Engineers
может быть это и правильно такую гибкость поддерживать в их случае, но вот в тектоне есть компонент который отвечает за трансофрмацию, на сколько я помню он только в декларативном стиле, указываешь прям когда регаешь метаинфу, мне понравился такой подход, пишешь просто sql и вешаешь декоратор питоновский и готово, только вот насколько удобно шедулить в таком случае пока вопрос
источник

DM

Dave Manukian in Data Engineers
когда разбирал проекты фиста, только core понравился, особенно как они используют idl и grpc, генерят стабы, а над стабом покрыли удобным питоновским клиентом. Больше ничего не понравилось))
источник

AZ

Anton Zadorozhniy in Data Engineers
Но вообще я двумя руками за, это валидирует мою продуктовую концепцию, мне за этот релиз Feast могут бюджет открыть)
источник