Size: a a a

2019 November 19

A

Alex in Data Engineers
Grigory Pomadchin
а как флинк с драмматичной бекпрешшей работает?
Оооочень интересно :)
источник

DM

Daniel Matveev in Data Engineers
Grigory Pomadchin
а как флинк с драмматичной бекпрешшей работает?
драммит и бэкпрешит
источник

DM

Daniel Matveev in Data Engineers
у нас кафка была на входе, поэтому там не так чтобы оценить сильно можно было
источник

DM

Daniel Matveev in Data Engineers
в уи своем показывает тормозные места процесса
источник

A

Alex in Data Engineers
Раньше делал на воркер стектрейс и смотрел где нужно притормозить
источник

A

Alex in Data Engineers
источник

A

Alex in Data Engineers
Сейчас интересней
источник

GP

Grigory Pomadchin in Data Engineers
ооо точно
источник

GP

Grigory Pomadchin in Data Engineers
у флинка же теперь и батч есть я и забыл
источник

GP

Grigory Pomadchin in Data Engineers
то что они не рекламируют
источник

OP

O. Petr in Data Engineers
во флинке в какую либо фс не очень то и удобно писать из за чисто стриминговой природы , запись сначала в парт файлы , потом их статусы, потом у врайтера close над, кароч у нас были проблемы когда раз в сутки просто парты в статусе pending оставались
источник

DM

Daniel Matveev in Data Engineers
батч есть тысячу лет
источник

GP

Grigory Pomadchin in Data Engineers
Daniel Matveev
батч есть тысячу лет
вообще забыл
источник

GP

Grigory Pomadchin in Data Engineers
источник

DM

Daniel Matveev in Data Engineers
ну баундед дата скучная, вот и не пиарят
источник

GP

Grigory Pomadchin in Data Engineers
O. Petr
во флинке в какую либо фс не очень то и удобно писать из за чисто стриминговой природы , запись сначала в парт файлы , потом их статусы, потом у врайтера close над, кароч у нас были проблемы когда раз в сутки просто парты в статусе pending оставались
ну это везде так будет
источник

A

Alex in Data Engineers
Нет :) спарк рдд партицию записал, вот тебе и файл
источник

OP

O. Petr in Data Engineers
ну и у флинка меньше комьюнити, а значит сложнее инфу искать + баги не все известны
источник

GP

Grigory Pomadchin in Data Engineers
Alex
Нет :) спарк рдд партицию записал, вот тебе и файл
ну сам пишешь когда в партициях - закрывать то надо
источник

DM

Daniel Matveev in Data Engineers
в Китае у флинка похоже вполне нормальное коммьюнити
источник