да, действительно переход с луиджи на эирфлоу - это большая работа, в основном, потому что лудживские таски сильно завязаны на сущности этого фреймворка. но тем не менее, мы посчитали, что эирфлоу будет лучше по следующим причинам:
1) в эирфлоу есть полноценный web UI, в котором можно много чего посмотреть и сделать например, для перезапуска таски нет нужды идти по ssh на сервер и вспоминать и писать команду в терминале - достаточно зайти в веб UI и очистить статус у нужных тасок/дагов для соответствующих итераций запуска
2) в эирфлоу есть мониторинг почти из коробки - надо лишь доставить рядом statsd и натравить на него airflow
3) одна из базовых сущностей эирфлоу - это оператор (или таска - если мы говорим про время выполнения), и в базовой поставке есть их достаточно много, включая оператор для работы с Amazon S3, MySQL, PostrgeSQL, Docker, и др.
https://airflow.apache.org/docs/stable/_api/airflow/operators/index.html. и, хотя лично я использую обычно PythonOperator, можно часто повторяемые задачи выносить в самописные операторы (хотя в таком случае мы возвращаемся обратно к сильной привязке к фреймворку)
4) в эирфлоу, в отличии от луиджи, зависимости тасок в коде читаются очень наглядно и легко:
extract_from_mysql >> transform_data >> load_to_clickhouse