Size: a a a

2019 November 12

E

Egor in Data Engineers
Есть кластер HDP-3.1, при работе с Livy через Zeppelin недоступен zeppelinContext, с ним все динамические формы ввода и выводы данных. Есть ли способы организовать формы ввода данных и импорты библиотек per-note (без ливи делалось через
%dep
z.load(“/…jar”)

) ?

Есть открытый тикет 2017 года https://issues.apache.org/jira/browse/ZEPPELIN-2307
источник

AM

Andrey Morozovsky in Data Engineers
Системный вызов. Зашивается дейттайм + sequenceId + nodeId (MAC). Иначе ось не может гарантировать уникальность
источник

AM

Andrey Morozovsky in Data Engineers
Она же не знает, генерил ли кто-нибудь уже uuid когда то раньше, в заданную дату
источник

AM

Andrey Morozovsky in Data Engineers
А так, считается, что время только вперёд идёт, так что все ок
источник

AM

Andrey Morozovsky in Data Engineers
Но если системные часы назад подвинуть руками, можно коллизий наполучать
источник

Y

Yevhen in Data Engineers
У вас не было serialize ексепшинов если вы запихали в traitы операции над rdd ?
источник

M

Mi in Data Engineers
Yevhen
У вас не было serialize ексепшинов если вы запихали в traitы операции над rdd ?
А инстансы у вас serializable?
источник

Y

Yevhen in Data Engineers
нет в кейс класы не добавлял Serializable
источник

Y

Yevhen in Data Engineers
нет проблема не в етом если операции производяться не в мейн класе над rdd, кидает Serialize exception, даже если оборачивать в условный Function1 и колать с мейн класа
источник

M

Mi in Data Engineers
Ну так RDD распределяются по кластеру, с помощью сериализации и десереализации происходит трансфер данных между нодами
источник

GP

Grigory Pomadchin in Data Engineers
Mi
Ну так RDD распределяются по кластеру, с помощью сериализации и десереализации происходит трансфер данных между нодами
кейс классы уже сериалайзбл, не в этом проблема; но вот трейты должны быть явно помечены сериалазаблами, если апкастится все до них
источник

GP

Grigory Pomadchin in Data Engineers
ну или другую сериализацию использовать
источник

M

Mi in Data Engineers
Ну или так, со скалой я пока на "вы"
источник
2019 November 13

PK

Pavel Klemenkov in Data Engineers
Всем привет! Отличные новости! Уже буквально через неделю Moscow Spark #9. Налетай https://moscowspark.timepad.ru/event/1117131/
источник

DM

Daniel Matveev in Data Engineers
добавил в пин
источник

P

Pavel in Data Engineers
разрабы, привет.
у кого был или есть опыт эксплуатации кафки, хдфс и прочего говна под кубом?
источник

AZ

Anton Zadorozhniy in Data Engineers
> разрабы ... эксплуатации
источник

P

Pavel in Data Engineers
Anton Zadorozhniy
> разрабы ... эксплуатации
я думаю, все поняли. не стоит этих инсинуаций)
источник

S

Stanislav in Data Engineers
жаркий конец ноября
и это еще на сдачу проектов отлично ложится 😂
источник

P

Pavel in Data Engineers
Stanislav
жаркий конец ноября
и это еще на сдачу проектов отлично ложится 😂
попахивает студентотой))
источник