Size: a a a

2021 March 25

AD

Apache DOG™ in Data Engineers
Alexey Evdokimov
чтобы было понимание о high risk high reward стратегиях, а не только общепринятый и безопасный путь
ещё раз, нужно сначала в совершенстве освоить безопасный путь
источник

NN

No Name in Data Engineers
Apache DOG™
ещё раз, нужно сначала в совершенстве освоить безопасный путь
Ну мб не в совершенстве, а на крепкое хорошо. Иначе тогда совет этот давать почти некому.
источник

AZ

Anton Zadorozhniy in Data Engineers
куда-то вообще ушли, все получилось как обычно, Алексей хотел остро набросить - ему все пояснили
источник

AZ

Anton Zadorozhniy in Data Engineers
как терли вчера в твиттере https://twitter.com/PavelASamsonov/status/1291819399003996160
источник

РБ

Руслан Бикмаев... in Data Engineers
Спасибо
источник
2021 March 26

P

Pavel in Data Engineers
Повелитель Бури
Добрый вечер! выбираем инструмент потоковой обработки данных: флинк или спарк ? по отзывам спарк больше используют, но тут может сила привычки )
Под флинк на ура делается деплой в куб, все понятно и просто👍
источник

P

Pavel in Data Engineers
K S
Кто-нибудь может рассказать как в pyspark происходит магия исполнения питон кода? Мой коллега думает, что на каждом ноде выполняется питон интерпретатор и настаивает на

def main():
   blah

if __name__ == "__main__":
   main()
Не давайте коллеге писать джобы
источник

ПБ

Повелитель Бури... in Data Engineers
Pavel
Под флинк на ура делается деплой в куб, все понятно и просто👍
Начали пробовать спарк стриминг, столкнулись с тем что джобы иногда "фризятся"-останавливаются, приходится в ручную перезапускать. Думаем или копать или флинк пробовать
источник

P

Pavel in Data Engineers
Повелитель Бури
Начали пробовать спарк стриминг, столкнулись с тем что джобы иногда "фризятся"-останавливаются, приходится в ручную перезапускать. Думаем или копать или флинк пробовать
Ы
источник

A

Alex in Data Engineers
Pavel
Под флинк на ура делается деплой в куб, все понятно и просто👍
А вы какой оператор используете?
источник

P

Pavel in Data Engineers
Alex
А вы какой оператор используете?
Безо всяких операторов. Job cluster
источник

KS

K S in Data Engineers
Pavel
Не давайте коллеге писать джобы
Почему?
источник

P

Pavel in Data Engineers
K S
Почему?
Понапишет вот этого всего main, init ипр
источник

VG

Vladimir Gavrilenko in Data Engineers
Pavel
Понапишет вот этого всего main, init ипр
В чем проблема main в pyspark-e?
Вы знаете, зачем нужна конструкция
if __name__ == '__main__'

?
источник

VG

Vladimir Gavrilenko in Data Engineers
В тестах у вас с импортом проблем не возникает?)
источник

P

Pavel in Data Engineers
Vladimir Gavrilenko
В чем проблема main в pyspark-e?
Вы знаете, зачем нужна конструкция
if __name__ == '__main__'

?
Да не, с ней проблем нет, это нужно конечно
источник

AB

Andrey Bel in Data Engineers
Всем привет, никто не знает  норм варик писать с флинка в редис юзая скалу 2.12?
у меня коннектор работал jedis но он под скалу 11 с 12 не пашет
источник

P

Pavel in Data Engineers
Andrey Bel
Всем привет, никто не знает  норм варик писать с флинка в редис юзая скалу 2.12?
у меня коннектор работал jedis но он под скалу 11 с 12 не пашет
Да норм че)
источник

AB

Andrey Bel in Data Engineers
Pavel
Да норм че)
че норм? с скала 12 работает запись с флинка в редис??
источник

P

Pavel in Data Engineers
Andrey Bel
че норм? с скала 12 работает запись с флинка в редис??
Норм писать из флинка в редис. А то, что возникают траблы с версиями, это хз, не эксперт по скале))
источник