Size: a a a

2020 August 28

AZ

Anton Zadorozhniy in Data Engineers
Andrey Smirnov
книги 2014-2016, а значит писались еще раньше, я честно не знаю когда Чебутко опубликовал свою работу и когда они стали широко известны, хотя в 2016 когда я начинал работать с кассандрой, я уже встречал ссылки на такие диаграммы, а годом позже они стали стандартом дефакто для дизайна
о том и речь, книжки без них устарели, чтобы понимать других нужно читать свежие
источник

R

Roman in Data Engineers
Приветствую!
Коллеги, а кто - нибудь знает какие - нибудь плагины для idea для парсинга oozie workflows? Чтобы даг рисовался?
Я сделал парсинг файлов на корректность транзишенов и вообще корректность описания ворклфоу через java. Но хотелось бы какой - то механизм отображения дагов.
источник

H

Hleb in Data Engineers
у эклипса есть плагин
источник

R

Roman in Data Engineers
Hleb
у эклипса есть плагин
Да, нашёл его, вроде очень прикольно. Но вот тоько на эклипс ради этого переходить всей командой, как - то стремно.
источник

H

Hleb in Data Engineers
Можете hue поднять локально там тоже вроде есть визуалайзер oozie workflow
источник

H

Hleb in Data Engineers
для идеи я не находил такого плагина
источник

R

Roman in Data Engineers
Hleb
Можете hue поднять локально там тоже вроде есть визуалайзер oozie workflow
Норм идея. Спасибо.
источник

Ж

Жмака in Data Engineers
Почему когда я указываю left join между двумя датасетами в спарке optimized  logical plan пишет, что будет inner join?И в DAG по количеству строк вижу inner
источник

VS

Vasily Shabanov in Data Engineers
В where есть условие на правую таблицу?
источник

Ж

Жмака in Data Engineers
Условие leftDS.join(rightDS, leftDS(id) === rightDS(id), left_outer).filter(rightDS(id).isnotnull)
источник

Ж

Жмака in Data Engineers
Почему условие filter меняет его на inner?
источник

AE

Alexey Evdokimov in Data Engineers
потому что LEFT OUTER + RIGHT IS NOT NULL == INNER
источник

AE

Alexey Evdokimov in Data Engineers
ибо NULL != NULL
источник

Ж

Жмака in Data Engineers
Alexey Evdokimov
потому что LEFT OUTER + RIGHT IS NOT NULL == INNER
Точно!🤦🏻‍♂️
источник

C

Combot in Data Engineers
Добро пожаловать в самое дружелюбное комьюнити.
источник
2020 August 29

K

KrivdaTheTriewe in Data Engineers
Roman
Приветствую!
Коллеги, а кто - нибудь знает какие - нибудь плагины для idea для парсинга oozie workflows? Чтобы даг рисовался?
Я сделал парсинг файлов на корректность транзишенов и вообще корректность описания ворклфоу через java. Но хотелось бы какой - то механизм отображения дагов.
На эирфлоу переходить
источник

R

Roman in Data Engineers
KrivdaTheTriewe
На эирфлоу переходить
А чем объективно он лучше?
Там даг и там даг,
Там можно кастомные экшены писать и там.
Я немного тыкал эирфлоу, не увидел каких - то киллер фич по сравнению с узи, но может я что - то упустил.
источник

K

KrivdaTheTriewe in Data Engineers
Roman
А чем объективно он лучше?
Там даг и там даг,
Там можно кастомные экшены писать и там.
Я немного тыкал эирфлоу, не увидел каких - то киллер фич по сравнению с узи, но может я что - то упустил.
Ну тем что, проще писать под него , сразу визуализация есть из коробки, автодополнения в пайчарме и прочие плюшки
источник

K

KrivdaTheTriewe in Data Engineers
Ну и к хадупу не прибит
источник

R

Roman in Data Engineers
Потыкаю ещё раз тогда. Спасибо.
источник