Size: a a a

2021 April 22

EK

Evgenii Kuznetcov in Data Engineers
Я говорю про нашу имплементацию и наши задачи. На каждый seek - запрос к s3
источник

AE

Alexey Evdokimov in Data Engineers
это жесть и безобразие
источник

AE

Alexey Evdokimov in Data Engineers
а как сделать без оверхеда вообще не понятно. либо дохрена IO либо жрать память как  не в себя
источник

EK

Evgenii Kuznetcov in Data Engineers
aka дата инжиниринг
источник

AE

Alexey Evdokimov in Data Engineers
нет, это отсутствие инжиниринга. это лютый ad hoc-ing и говнокод
источник

P

Pavel in Data Engineers
K8S кто умеет?
источник

OI

Oleg Ilinsky in Data Engineers
смотря что
kubectl apply -f умею
источник

OI

Oleg Ilinsky in Data Engineers
в случае особо прилива сил и мотивации могу даже helm upgrade
источник

P

Pavel in Data Engineers
у кого-то бывает, что куб нахер срёт на activeDeadlineSeconds, выставленный для джобов?
источник

P

Pavel in Data Engineers
или сложна?
источник

OI

Oleg Ilinsky in Data Engineers
сложна) и так спарк в кубах на костылях работает, а тут ещё какие-то дедлайны
источник

P

Pavel in Data Engineers
спарк в кубе, кстати, на удивление неплохо завелся)
источник

OI

Oleg Ilinsky in Data Engineers
ну стримы у меня чота не сразу заработали, пришлось попотеть
источник

P

Pavel in Data Engineers
а ёп... стримы. стримы отлично заводятся на флинке
источник

P

Pavel in Data Engineers
в кубе
источник

AE

Alexey Evdokimov in Data Engineers
ладно, чёт реально бомбануло у меня с паркетов в левом s3. сорри. не та задача, на которую хотелось тратить время...

из интересных и хороших новостей: MS сделали нативные X/Wayland под виндой
источник

AE

Alexey Evdokimov in Data Engineers
источник

AE

Alexey Evdokimov in Data Engineers
теперь джетбрейнсу можно не пилить поддержку WSL под винды, а просто юзать линуховую сборку
источник

AE

Alexey Evdokimov in Data Engineers
что выглядит гораздо проще и удобнее
источник

AZ

Anton Zadorozhniy in Data Engineers
Не бывает, мб баг или вы неправильно его понимаете
источник