Size: a a a

2021 July 14

AZ

Anton Zadorozhniy in Data Engineers
тут вопрос в чем для вас принципиальное отличие, они для разного сделаны изначально, если вы развесистые пайплайны вы раньше делали на нормальном планировщике, а сейчас делаете на дженкинсе - нужно будет все функции нормального планировщика написать или как стандартную оснастку или (что хуже) оставить на совести каждого автора
источник

AZ

Anton Zadorozhniy in Data Engineers
Эйрфлоу тоже далек от совершенства тут, апишечка только-только стабилизировалась, метаданные пока тоже так себе
источник

МК

Максим Какбыпограмми... in Data Engineers
я, если честно, не так чтобы сильно много в эйрфлоу делал задач , чтоб подразумевается под функциями нормального планировщика ?
источник

AE

Alexey Evdokimov in Data Engineers
тоже интересно
источник

AE

Alexey Evdokimov in Data Engineers
что значит "нормальный планировщик"
источник

AZ

Anton Zadorozhniy in Data Engineers
бэкфил, перезапуск тасков вместо джобов целиком, ну и все интеграции (сенсоры, операторы)
источник

МК

Максим Какбыпограмми... in Data Engineers
в дженкинсе есть restart from stage , из того что вот прям сходу помню
источник

AZ

Anton Zadorozhniy in Data Engineers
источник

A

Alexander in Data Engineers
Такого в дженкинсе точно нет, только если самим на груви что-то пилить для поддержки
источник

AZ

Anton Zadorozhniy in Data Engineers
причем наверняка есть плагины для всего этого для дженкинса
источник

AZ

Anton Zadorozhniy in Data Engineers
по своему опыту могу сказать только что те клиенты которые были счастливы с дженкинсом по сути имели дженкинс глубоко внутри своего кастомного планировщика
источник

AE

Alexey Evdokimov in Data Engineers
и зачем тогда вообще дженкинс
источник

VP

Vitaly Pismarev in Data Engineers
Привет

А кто что использует для schema change management  в  хранилищах?
Актуальна ли эта штука
https://www.liquibase.org/

или есть что-то более стильное, модное и молодёжное?
источник

AE

Alexey Evdokimov in Data Engineers
мы вот юзаем тимсити как запускалку для джобов, и для хранения истории (все параметры, артефакты, время выполнения, и т.п. в одном месте иметь удобно).

а всю работу делает самописный pipeline
источник

AE

Alexey Evdokimov in Data Engineers
впрочем, очередь аналитики забивают скриптами на питоне
источник

МК

Максим Какбыпограмми... in Data Engineers
а как в а эйифлоу с работой с разными репо и разделением прав доступа?
источник

АЖ

Андрей Жуков... in Data Engineers
ну дагбагов хоть 100 подключай

до уровня дага можно права разделять
источник

МК

Максим Какбыпограмми... in Data Engineers
эт хорошо
источник

АЖ

Андрей Жуков... in Data Engineers
вот с депенденси хелл ничего не помогает искаропки
источник

ЕГ

Евгений Глотов... in Data Engineers
Депенденси для сборки дага?
источник