Size: a a a

2020 August 29

A

Alex in Data Engineers
Это что мне сильно в эйрфлоу не нравится:
Или ты запекаешь образ под каждый ран и запускаешь в кубике
Или рукожопство при попытке использовать целери, доставка кода на выполнение никак толком не прописана, думай сам
источник

K

KrivdaTheTriewe in Data Engineers
Мы пускаем все в контейнерах
источник

K

KrivdaTheTriewe in Data Engineers
Почти
источник

K

KrivdaTheTriewe in Data Engineers
Ну то есть доставка кода с контейнером идёт
источник

A

Alex in Data Engineers
Так как образов вагон, то у нас есть лимит на N последних образов в репозитории, поэтому начинается веселье с треком их
источник

A

Alex in Data Engineers
Особенно в части тех которые заскедулены  и выполняются периодически =/
источник

K

KrivdaTheTriewe in Data Engineers
Вообще интересно , как дальше развиваться, у нас свой внутренний фреймворк декларативный на ямле с бизнесспецифичными таскраннерами
источник

K

KrivdaTheTriewe in Data Engineers
Но мы пока развиваем в меру своих возможностей, когда нибудь быть может визуализацию прикрутим
источник

K

KrivdaTheTriewe in Data Engineers
Alex
Особенно в части тех которые заскедулены  и выполняются периодически =/
Можно в ci добавить тест конфигурации
источник

K

KrivdaTheTriewe in Data Engineers
Образ где то же у вас Записан
источник

K

KrivdaTheTriewe in Data Engineers
Если есть устаревание , периодический ран ci на прод конфиг
источник

AZ

Anton Zadorozhniy in Data Engineers
Эйрфлоу неплохо в облаке, где нет персистентных кластеров, но в плане дизайна это конечно так себе
источник

A

Alex in Data Engineers
Вот мы с узи для датасатанистов слазим, он остаётся как даспределенный скедулер, а внутри датабанд для управления дагом

Смотрели эйрфлоу, но его скейлить на сотню датасатанистов как-то кривинько выглядит
источник

K

KrivdaTheTriewe in Data Engineers
Anton Zadorozhniy
Эйрфлоу неплохо в облаке, где нет персистентных кластеров, но в плане дизайна это конечно так себе
Cmd не купить :)
источник

K

KrivdaTheTriewe in Data Engineers
Alex
Вот мы с узи для датасатанистов слазим, он остаётся как даспределенный скедулер, а внутри датабанд для управления дагом

Смотрели эйрфлоу, но его скейлить на сотню датасатанистов как-то кривинько выглядит
Так скейлите приложения
источник

K

KrivdaTheTriewe in Data Engineers
А не скедулер
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
А не скедулер
Это в смысле запрещать больше Х дагов делать разработчикам?
источник

A

Alex in Data Engineers
KrivdaTheTriewe
Если есть устаревание , периодический ран ci на прод конфиг
Вот тут и возникает вопрос трека этих конфигов, если много команд и каждый что-то запускает, причём сделано упрощение чтобы можно было набросать свой скрипт и просто сказать blabla schedule.... То иногда интересные артефакты вызалат "вы бля нашу систему еще и так используете????? О_о"
источник

A

Alex in Data Engineers
KrivdaTheTriewe
Так скейлите приложения
Что значит приложения? В узи висит 2.5к запланированных задач :)
источник

K

KrivdaTheTriewe in Data Engineers
Alex
Вот тут и возникает вопрос трека этих конфигов, если много команд и каждый что-то запускает, причём сделано упрощение чтобы можно было набросать свой скрипт и просто сказать blabla schedule.... То иногда интересные артефакты вызалат "вы бля нашу систему еще и так используете????? О_о"
Ну потестировать можно на отдельном эирфлоу, подымать его локально , запускать в кубике
источник