Size: a a a

2021 January 19

A

Alex in Data Engineers
@asm0dey а в переписке было уже про Прошанта который делал релиз 2.4.6?
источник

ПФ

Паша Финкельштейн... in Data Engineers
Alex
@asm0dey а в переписке было уже про Прошанта который делал релиз 2.4.6?
Нет :)
источник

A

Alex in Data Engineers
На днях ливи разбирался, там в контейнер запихал spark 2.4.6

Открыл логи и вижу баннер от спарка

Blablabla
Version...
Commit id...
URL:   https://Prashant:password@gitbox.apache.org/repo/spark.git
источник

A

Alex in Data Engineers
Спарк на билд тайме захватывает переменную урла от гит репозитория
источник

ПФ

Паша Финкельштейн... in Data Engineers
Alex
На днях ливи разбирался, там в контейнер запихал spark 2.4.6

Открыл логи и вижу баннер от спарка

Blablabla
Version...
Commit id...
URL:   https://Prashant:password@gitbox.apache.org/repo/spark.git
Ох огонь
источник

ME

Max Efremov in Data Engineers
Alex
На днях ливи разбирался, там в контейнер запихал spark 2.4.6

Открыл логи и вижу баннер от спарка

Blablabla
Version...
Commit id...
URL:   https://Prashant:password@gitbox.apache.org/repo/spark.git
Наверное он уже поменял пароль)
источник

A

Alex in Data Engineers
Пока ещё не проверял создавать ветки
источник

ПБ

Повелитель Бури... in Data Engineers
Салют! Коллеги, а что то получше бесплатного apache atlas есть? А то дюже грфовая база непривычна
источник

AZ

Anton Zadorozhniy in Data Engineers
Повелитель Бури
Салют! Коллеги, а что то получше бесплатного apache atlas есть? А то дюже грфовая база непривычна
смотря что нужно делать.. и атлас не бесплатный (ох не бесплатный), он с открытым кодом
источник

ПБ

Повелитель Бури... in Data Engineers
Anton Zadorozhniy
смотря что нужно делать.. и атлас не бесплатный (ох не бесплатный), он с открытым кодом
Минимум: er  моделька, связи, описание витринки
источник

AZ

Anton Zadorozhniy in Data Engineers
Повелитель Бури
Минимум: er  моделька, связи, описание витринки
у атлас есть ключевое отличие от остальных фреймворков в опенсорсе: он позволяет создавать свои типы для сущностей и связей, если вам это не нужно то можно подобрать и доработать инструмент который подойдет для вашего стека - Lyft Amundsen, Netflix Metacat, Linkedin Datahub
источник

ПБ

Повелитель Бури... in Data Engineers
Anton Zadorozhniy
у атлас есть ключевое отличие от остальных фреймворков в опенсорсе: он позволяет создавать свои типы для сущностей и связей, если вам это не нужно то можно подобрать и доработать инструмент который подойдет для вашего стека - Lyft Amundsen, Netflix Metacat, Linkedin Datahub
Бесплатные? Спасибо
источник

AZ

Anton Zadorozhniy in Data Engineers
Повелитель Бури
Бесплатные? Спасибо
открытые)
источник

T

T in Data Engineers
Повелитель Бури
Минимум: er  моделька, связи, описание витринки
если данных немного можно самому на neo4j на велосипедеть
источник

AZ

Anton Zadorozhniy in Data Engineers
T
если данных немного можно самому на neo4j на велосипедеть
да, это очень популярный вариант, я сам велосипедил несколько отличных датакаталогов, которые даже с коллиброй и алейшеном могут поспорить
источник

AZ

Anton Zadorozhniy in Data Engineers
это совсем не сложно, а если основание хорошее заложить то можно выйти на удобную реализацию Feature Store, бизнес правил для качества данных, вся вот эта мякотка
источник

T

T in Data Engineers
Anton Zadorozhniy
да, это очень популярный вариант, я сам велосипедил несколько отличных датакаталогов, которые даже с коллиброй и алейшеном могут поспорить
Ага, тоже так сделал в прошлом году, отлично работает для кейсов моей команды
источник

AZ

Anton Zadorozhniy in Data Engineers
я бы сказал что если вы делаете большую реализацию датаволта или якорей то вам просто не обойтись без фреймворка с метаданными который замыкается на такой каталог (а накрутить на нем поиск это потом вопрос пары дней)
источник

АА

Алексей Артамонов... in Data Engineers
подскажите плиз, а в амбари можно создать вью которая будет позволять рестартить zeppeline
источник

АА

Алексей Артамонов... in Data Engineers
т.е пользователю надо дать разрешение на рестарт только одного сервиса
источник