Size: a a a

2020 September 17

AG

Alexander Gorokhov in Data Engineers
Без пересоздавания всей таблицы с нуля каждый раз
источник

DZ

Dmitry Zuev in Data Engineers
ну распределенный источник энтропии
источник

DZ

Dmitry Zuev in Data Engineers
ну или можно начать с uuid
источник

DZ

Dmitry Zuev in Data Engineers
Dmitry Zuev
ну распределенный источник энтропии
ну или хоть какой то общий
источник

AG

Alexander Gorokhov in Data Engineers
Нет, не то. Это если бы мне ключ нужен был уникальный, как PK, но это не то. Видимо, я просто обьясняю криво. Попробую по другому:
Например, есть факт таблица, по которой я строю такую мапу
foobar, 1
foo, 2
bar, 3

Я эту мапу сохраняю и делаю по ней таблицу в хайве для дальнейшей работы с ней.
Мне нужно мапу обновлять с новыми данными из фактов.
Как мне это делать без полного чтения фактов и полного чтения мапы чтобы anti join делать?
источник

DZ

Dmitry Zuev in Data Engineers
все равно не понятно
источник

DZ

Dmitry Zuev in Data Engineers
upsert нужен?
источник

AG

Alexander Gorokhov in Data Engineers
Дыа, точняк
источник

AG

Alexander Gorokhov in Data Engineers
ООо, ведь у нас дельталейк который умеет в апсерты.... пошел пробовать. Спасибо! 👍
источник

DZ

Dmitry Zuev in Data Engineers
вот только хотел сказать
источник

DZ

Dmitry Zuev in Data Engineers
в общем случае я бы делал merge в какой то промежуток времени
источник

DN

Dmitriy Novikov in Data Engineers
Коллеги, ньюпролаб стоит своих денег?
источник

DZ

Dmitry Zuev in Data Engineers
имхо никакие такие курсы не стоят
источник

DZ

Dmitry Zuev in Data Engineers
на курсере все и так есть
источник

DZ

Dmitry Zuev in Data Engineers
на халяву
источник

DN

Dmitriy Novikov in Data Engineers
Dmitry Zuev
имхо никакие такие курсы не стоят
Ок понял принял. Яндексовый курс норм?
источник

DZ

Dmitry Zuev in Data Engineers
норм, но его порезали там или типа того
источник

DZ

Dmitry Zuev in Data Engineers
плюс там был спик фром май харт
источник

DN

Dmitriy Novikov in Data Engineers
Dmitry Zuev
плюс там был спик фром май харт
Ноу проблем виз диз
источник

AB

Andrey Bel in Data Engineers
Dmitriy Novikov
Коллеги, ньюпролаб стоит своих денег?
некоторым работодатель оплачивает, некоторым нужен волшебный пинок и тд,  а кому то норм и по книгам заниматься, за ньюпролаб знаю что там оч толковые преподы
источник