Size: a a a

2020 November 09

K

KrivdaTheTriewe in Data Engineers
использовали это https://github.com/internetitem/logback-elasticsearch-appender . рабоатет, но код там так себе, поток отправки иногда умирает если есть сетевые задержки, потом создается новый. т.е. перфоманс так себе.
источник

K

KrivdaTheTriewe in Data Engineers
KrivdaTheTriewe
использовали это https://github.com/internetitem/logback-elasticsearch-appender . рабоатет, но код там так себе, поток отправки иногда умирает если есть сетевые задержки, потом создается новый. т.е. перфоманс так себе.
источник

MC

Mikhail Chernyakov in Data Engineers
Гуд. Это к @youkioshimizu
источник

A

Andrey in Data Engineers
KrivdaTheTriewe
использовали это https://github.com/internetitem/logback-elasticsearch-appender . рабоатет, но код там так себе, поток отправки иногда умирает если есть сетевые задержки, потом создается новый. т.е. перфоманс так себе.
да, спасибо :) буду делать через logback в  logstash
источник

ПФ

Паша Финкельштейн... in Data Engineers
Gev
Разный. Зависит от даты. Но в целом не большой. До гига я думаю в день. Тут важно что доставка должна быть гарантирована
Берём jdbc драйвер в исходному хранилищу, jdbc драйвер к целевому, и копируем. В итоге получится что-то типа https://github.com/llofberg/db-copy
источник

ПФ

Паша Финкельштейн... in Data Engineers
источник

ПФ

Паша Финкельштейн... in Data Engineers
Ну или вот так
источник
2020 November 10

Ж

Жмака in Data Engineers
Может кто то все таки работал с этим и может поделиться опытом? ☺️
источник

Ж

Жмака in Data Engineers
Переслано от Жмака
Всем привет. Кто-нибудь пользовался distributed kmodes (kmean clustering) на скале или джаве? Пользовался ли спарковскими библиотеками или какой то другой?
источник

G

Gev in Data Engineers
Паша Финкельштейн
Ну или вот так
Спасибо огромное как всегда 🙂
Буду почитать.
источник

S

Svetlana in Data Engineers
Всем, привет!) Подскажите, пожалуйста, знающие люди, или ткните носом, где можно почитать про карьерный трек в data engineering ?
источник

DZ

Dmitry Zuev in Data Engineers
Сдохни или умри
источник

AT

Al T in Data Engineers
Красавчег!
источник

N

Nikita Blagodarnyy in Data Engineers
Svetlana
Всем, привет!) Подскажите, пожалуйста, знающие люди, или ткните носом, где можно почитать про карьерный трек в data engineering ?
А что вы под этим понимаете?
источник

PA

Panchenko Andrey in Data Engineers
источник

ME

Max Efremov in Data Engineers
Junior Data Engineer -> Data Engineer -> Senior Data Engineer -> Lead Data Engineer -> ...
источник

PA

Panchenko Andrey in Data Engineers
Svetlana
Всем, привет!) Подскажите, пожалуйста, знающие люди, или ткните носом, где можно почитать про карьерный трек в data engineering ?
Подойдёт?
источник

N

Nikita Blagodarnyy in Data Engineers
Max Efremov
Junior Data Engineer -> Data Engineer -> Senior Data Engineer -> Lead Data Engineer -> ...
… -> junior finnish cleaner
источник

DZ

Dmitry Zuev in Data Engineers
Nikita Blagodarnyy
… -> junior finnish cleaner
janitor
источник

S

Svetlana in Data Engineers
Nikita Blagodarnyy
А что вы под этим понимаете?
интересует, что и на каком уровне нужно знать в соответствие с градацией junior - middle - senior - ...
источник