Size: a a a

2019 December 04

I

Igor in Data Engineers
Dmitry Zuev
Хуже не будет
да как бы и лучше не будет. Что толку от сиай, если нет рабочего продукта
источник

DZ

Dmitry Zuev in Data Engineers
Гроб гроб кладбище continuous delivery
источник

DZ

Dmitry Zuev in Data Engineers
Igor
ну я поставил на воркеры и на цепеллин. не заработало
На чем запускаете?
источник

I

Igor in Data Engineers
Dmitry Zuev
На чем запускаете?
на кубере
источник

DZ

Dmitry Zuev in Data Engineers
Spark on k8s?
источник

DZ

Dmitry Zuev in Data Engineers
Оператор или сабмит?
источник

I

Igor in Data Engineers
источник

DZ

Dmitry Zuev in Data Engineers
Хорошее начало, я бы сделал кастомные образы с зависимостями и накатил этот чарт
источник

DZ

Dmitry Zuev in Data Engineers
Master.Image, Worker.Image
источник

DZ

Dmitry Zuev in Data Engineers
Пропишите свой
источник

I

Igor in Data Engineers
так. теперь я везде руками пока поставил pyspark. Zeppelin тем не менее его не видит.
источник

DZ

Dmitry Zuev in Data Engineers
Что пишет?
источник

I

Igor in Data Engineers
что его нет
источник

I

Igor in Data Engineers

Traceback (most recent call last):
 File "/tmp/zeppelin_python-7220983357319929654.py", line 283, in <module>
   raise Exception(traceback.format_exc())
Exception: Traceback (most recent call last):
 File "/tmp/zeppelin_python-7220983357319929654.py", line 276, in <module>
   exec(code, _zcUserQueryNameSpace)
 File "<stdin>", line 1, in <module>
ImportError: No module named pyspark
источник

DZ

Dmitry Zuev in Data Engineers
Ну на нет и суда нет
источник

I

Igor in Data Engineers
я до сих пор не получил ответа, как ставить пакеты в цеппелин.
источник

DZ

Dmitry Zuev in Data Engineers
С такими предъявами неудивительно
источник

I

Igor in Data Engineers
Dmitry Zuev
С такими предъявами неудивительно
а к кому были предъявы?
источник

N

Nikita Blagodarnyy in Data Engineers
Граждане, подскажите, у кого есть опыт визуализации кастомных дагов? Интересуют программные средства и опыт эксплуатации.
Юзкейс. У меня есть некоторая метаинформация о шагах джоба, из каких степов он состоит, как они называются, где они ветвятся, сливаются, принимают решения по какой ветке пойти. Я хочу, чтобы нечто считало ее и на веб странице нарисовался даг, визуализирующий мой джоб. Типа как в TezUI или AirFlow webui.
Информатику/визио не предлагать.
источник

N

Nikita Blagodarnyy in Data Engineers
Пока только графвиз выгуглился.
источник