Size: a a a

2021 March 29

AK

Aleksey Kislitsa in Data Engineers
Иван Калининский
в этой книге нет ничего про: Monix, ZIO, Cats.Effect, зато есть JavaRX и реакторы. И параллельные коллекции, за которые ещё и шеймят
Вот скоко не пытался понять, почему шеймят, так и не узнал.
источник

ИК

Иван Калининский... in Data Engineers
Aleksey Kislitsa
Вот скоко не пытался понять, почему шеймят, так и не узнал.
Низя их, депрекейтед оказывается в какой-то версии 😕
источник

AS

Andrey Smirnov in Data Engineers
Иван Калининский
А вот первые главы про основы считаю очень хорошо
ну так и в том коде что ты выложил этого нет :)
для понимания кода который был приведне выше как раз подойдет, конкретные библиотеки лучше конечно изучать отдельно
источник

EK

Evgenii Kuznetcov in Data Engineers
Aleksey Kislitsa
Вот скоко не пытался понять, почему шеймят, так и не узнал.
Как минимум - в них жестко зашит параллелизм по числу процессоров. Вроде это можно было поменять, но это неочевидно.
В общем, недостаточно интуитивная вещь, чтобы быть в стандартной библиотеке
источник

ИК

Иван Калининский... in Data Engineers
Andrey Smirnov
ну так и в том коде что ты выложил этого нет :)
для понимания кода который был приведне выше как раз подойдет, конкретные библиотеки лучше конечно изучать отдельно
Так и есть, не рискнул воспользоваться модными фреймворками. Акка-стримы позволяют написать всё в одну строку, но у меня джарники от них пухнут.
Хотя, это сейчас не причина, биг дате - толстый джар!!!
источник

MY

Maxim Yastremsky in Data Engineers
Anton Zadorozhniy
мое мнение - лучше на ODI переехать, все остальное будет сильно больнее, ODI архитектурно очень приятный тул
Спасибо, учту. Там и мастер миграции обещают. Может хоть простые маппинги переедут без сюрпризов.
источник

AZ

Anton Zadorozhniy in Data Engineers
Maxim Yastremsky
Спасибо, учту. Там и мастер миграции обещают. Может хоть простые маппинги переедут без сюрпризов.
Как вариант чтобы стать очень модными - можно рассмотреть связку dbt + airflow; будет очень интересно, но долго и больно
источник

P

Pavel in Data Engineers
Anton Zadorozhniy
Как вариант чтобы стать очень модными - можно рассмотреть связку dbt + airflow; будет очень интересно, но долго и больно
Что такое dbt?
источник

AZ

Anton Zadorozhniy in Data Engineers
Pavel
Что такое dbt?
источник

AZ

Anton Zadorozhniy in Data Engineers
я уже слышал формулировку "dag stack" - dbt, airflow, great expectations
источник

NN

No Name in Data Engineers
Anton Zadorozhniy
я уже слышал формулировку "dag stack" - dbt, airflow, great expectations
А если в двух словах - что в нем хорошего?
источник

ЕР

Елена Рожкова... in Data Engineers
Порекомендуйте, пожалуйста, блоги и полезные информационные ресурсы по big data.
источник

AZ

Anton Zadorozhniy in Data Engineers
No Name
А если в двух словах - что в нем хорошего?
Он есть и у него открытая лицензия :) дальше уже смотря с чем сравнивать
источник

NN

No Name in Data Engineers
Anton Zadorozhniy
Он есть и у него открытая лицензия :) дальше уже смотря с чем сравнивать
Ясно)
источник

R

Renarde in Data Engineers
No Name
А если в двух словах - что в нем хорошего?
плюсану за dbt - оч нравится, great expectations неплохие, но для scala проектов deequ поприятнее имхо
источник

NN

No Name in Data Engineers
Renarde
плюсану за dbt - оч нравится, great expectations неплохие, но для scala проектов deequ поприятнее имхо
А почему с deequ идёт сравнение, это ж вроде как библиотека для тестирования спарк джобов?
источник

R

Renarde in Data Engineers
я имел в виду deequ и great expectations. Оба - DQ фреймворки (хотя почему-то deequ называет себя "unit test for data").
источник

NN

No Name in Data Engineers
Renarde
я имел в виду deequ и great expectations. Оба - DQ фреймворки (хотя почему-то deequ называет себя "unit test for data").
А, понял
источник

NN

No Name in Data Engineers
Renarde
плюсану за dbt - оч нравится, great expectations неплохие, но для scala проектов deequ поприятнее имхо
А dbt чем нравится? Для чего он нужен, что заменяет?)
источник

AZ

Anton Zadorozhniy in Data Engineers
No Name
А dbt чем нравится? Для чего он нужен, что заменяет?)
ELT инструмент, для описания трансформаций на SQL, с параметрами и прочим
источник