Size: a a a

2021 July 14

VS

Vladislav 👻 Shishkov... in Data Engineers
По сути, в dbt тоже самое, что можно сделать структурой в liquibase
источник

AZ

Anton Zadorozhniy in Data Engineers
в FlywayDB можно валидации прикрутить, но такое, лучше DBT (там и сами пайплайны пишутся)
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Я про это вроде в докладе упоминал, что там все грустно
источник

AZ

Anton Zadorozhniy in Data Engineers
оно чисто для прикладух
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Но потенциально да, если нужны именно пайплайны, то dbt выглядит очень круто. Если нужен просто менеджмент базы, то liquibase - лично мой выбор
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Чуть позже буду тестить dbt масштабно, возможно с докладом рол него выйду
источник

VP

Vitaly Pismarev in Data Engineers
Т.е. dbt тоже умеет хранить и документировать create table + alter?
Я думал что это материализатор запросов с документированием того что она материализует.
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Вы правильно думаете
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Суть абстрагирования от ддл в сторону elt
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Поэтому, если нужен именно менеджмент схем, ддл, конфигурирования, то пока liquibase, в dbt сходу такого не нашел и пока не ковырял его глубоко
источник

VP

Vitaly Pismarev in Data Engineers
Спс за инфу, будет о чём теперь подумать )
источник

AZ

Anton Zadorozhniy in Data Engineers
оно версионирует (и документирует) модели, каждая может стать таблицей (или вьюшкой), может даже мелкие таблицы (лукапы, справочники) хранить в гите
источник

AZ

Anton Zadorozhniy in Data Engineers
с альтерами там правда такое, надо написать свою кастом материализацию
источник

VP

Vitaly Pismarev in Data Engineers
Да, я понял, спс
источник

AZ

Anton Zadorozhniy in Data Engineers
Гитлабовское хранилище пишется DBT (на Snowflake), они свой код ведут открыто https://gitlab.com/gitlab-data/analytics/-/tree/master/transform/snowflake-dbt
источник

dz

dimka ztheshek in Data Engineers
Всем привет.
Какие курсы по DE можете рекомендовать?
источник

AE

Alexey Evdokimov in Data Engineers
пора уже ответ на этот вопрос в пины внести
источник

AE

Alexey Evdokimov in Data Engineers
каждый день кто-нить спрашивает
источник

dz

dimka ztheshek in Data Engineers
окей, гляну в поиске
источник

S

Sultan in Data Engineers
Если совсем с нуля, то вот это подойдёт, уже скидывал выше, но думаю что очень далеко уже

https://youtube.com/playlist?list=PLrCZzMib1e9rPxMIgPri9YnOpvyDAL9HD
источник