Size: a a a

Python для анализа данных

2021 February 10

AD

Artemiy Dubovoy in Python для анализа данных
Tishka17
Вообще не понимаю. Я воспринимал это всё как способы собрать пайплайны. А оно вон как
Хз, всё равно без шедулера как будто теряется смысл. Написать пачку операторов и без дополнительных инструментов можно как будто, и крутить их каким-нибудь своим планировщиком с легковесным гуём на werkzeug
источник

AD

Artemiy Dubovoy in Python для анализа данных
Крутить сами пайплайны. Ну или тем же Celery. Airflow кажется крутым тем, что он — all in one решение
источник

SP

Sergey Postanogov in Python для анализа данных
Смотрите какой апдейт у Dagster подкатил: https://dagster.io/blog/dagster-0-10-0-the-edge-of-glory

- Exactly-once, Fault-Tolerant Scheduling (прям в Airflow 2.0)
- Sensors (event-based schedules)
- Mature Kubernetes Execution Engine

Здоровая конкуренция среди workflow менеджеров прям радует 💪
источник

SP

Sergey Postanogov in Python для анализа данных
Посмотрите dagster.  Есть интеграция с airflow, есть движок celery, работает из windows 10
источник

SP

Sergey Postanogov in Python для анализа данных
Можно делать параметрические Даги. Но документация сыровата.
источник

I

Igor in Python для анализа данных
Sergey Postanogov
Можно делать параметрические Даги. Но документация сыровата.
Что значит параметрические! даги в данном контексте?)
источник

AD

Artemiy Dubovoy in Python для анализа данных
Sergey Postanogov
Посмотрите dagster.  Есть интеграция с airflow, есть движок celery, работает из windows 10
Выглядит прикольно. Вы юзали уже?
источник

SP

Sergey Postanogov in Python для анализа данных
источник

SP

Sergey Postanogov in Python для анализа данных
Parametrizing Solids with Config¶
источник

SP

Sergey Postanogov in Python для анализа данных
Пока руки не дошли. Airflow с винды не работает без докера. Prefect требует докер для web ui. Поэтому остановился на dagster.
источник

I

Igor in Python для анализа данных
Sergey Postanogov
Parametrizing Solids with Config¶
Я такий же конфиг файл создавал для дагов airflow и параметризировал по dag id))
источник

AD

Artemiy Dubovoy in Python для анализа данных
Igor
Я такий же конфиг файл создавал для дагов airflow и параметризировал по dag id))
Так это не параметризация получается. Аналог в Airflow — контекст. Например, оттуда можно было тянуть dt для использования в коде
источник

AD

Artemiy Dubovoy in Python для анализа данных
Igor
Я такий же конфиг файл создавал для дагов airflow и параметризировал по dag id))
Ага, всё, я понял. Не на тот параграф посмотрел
источник

I

Igor in Python для анализа данных
Artemiy Dubovoy
Ага, всё, я понял. Не на тот параграф посмотрел
Блин, писал-писал, а потом удалять))))
источник

AD

Artemiy Dubovoy in Python для анализа данных
Igor
Блин, писал-писал, а потом удалять))))
Я успел увидеть)) Почему-то изначально подумал, что под параметризацией @Tishka17 подразумевал именно уровень отдельных дагранов, а не дагов
источник

VR

Vasily Rozhkov in Python для анализа данных
Егор Овчинников
Всем привет! Решите плиз задачку)
Бросаем монетку 4 раза, какова вероятность того, что хотя бы один раз нам выпадет решка?
1 - (1/2) ^4 = 15/16
источник

С

Светлячок in Python для анализа данных
Всем привет. Я пытаюсь нарисовать Gaussian kernel в 3D. Но что-то пошло не так: "ValueError: Argument Z must be 2-dimensional." Я понимаю, в чем ошибка, но не понимаю, как я могу исправить эту ошибку? Помогите, плиз
источник

С

Светлячок in Python для анализа данных
Вот формула для Gaussian kernel
источник

I

Igor in Python для анализа данных
Светлячок
Всем привет. Я пытаюсь нарисовать Gaussian kernel в 3D. Но что-то пошло не так: "ValueError: Argument Z must be 2-dimensional." Я понимаю, в чем ошибка, но не понимаю, как я могу исправить эту ошибку? Помогите, плиз
Не совсем понимаю, зачем ты вычисляешь норму матрицы? Она же возвращает просто число и Z у тебя тоже выйдет одним числом
источник

С

Светлячок in Python для анализа данных
Светлячок
Вот формула для Gaussian kernel
@ibeliuha ну по формуле же норма. Или?
источник