Size: a a a

2019 November 19

A

Alex in Data Engineers
VladMl
а в чем собственно заключается интеграция? это обчыное java приложение, которое можно запустить хоть в кубике хоть в ярне
ну берём пример ярна:

нужно сделать AppMaster
он должен следить за воркерами (запускать, стопать и тд)
туда же вытянуть ui по топологии которая запущена
туда же вытянуть метрики кто что сейчас процессит и тд
источник

A

Alex in Data Engineers
то есть в теории всё можно сделать, на практике это как сравнивать jquery и angular/react для вебразработки
источник

DM

Daniel Matveev in Data Engineers
Alex
то есть в теории всё можно сделать, на практике это как сравнивать jquery и angular/react для вебразработки
Жкуери возможно все еще популярнее))
источник

A

Alex in Data Engineers
так не про популярность то речь, а про решение поставленной задачи
поэтому и kstreams имеют право на жизнь
источник

DM

Daniel Matveev in Data Engineers
Эт прост шутка
источник

AZ

Anton Zadorozhniy in Data Engineers
VladMl
а в чем собственно заключается интеграция? это обчыное java приложение, которое можно запустить хоть в кубике хоть в ярне
ну условно spark можно сделать spark-submit —master и там подставить свой, ярн или кубер, само приложение при этом абсолютно одинаковое, у kstreams есть что-то такое?
источник

AZ

Anton Zadorozhniy in Data Engineers
Daniel Matveev
Есть. Но он оч примитивный.
ksql, хе-хе ))
источник

A

Alex in Data Engineers
источник

DM

Daniel Matveev in Data Engineers
Anton Zadorozhniy
ksql, хе-хе ))
я не про функциональную часть, а оркестрацию джобиками
источник

AZ

Anton Zadorozhniy in Data Engineers
Daniel Matveev
я не про функциональную часть, а оркестрацию джобиками
а можно ссылку?
источник

RI

Rustam Iksanov in Data Engineers
Ilya Pribytkov
разные типы подставляю, все варианты перебрал
Вообще не понятно, что ты хочешь. col возращает колонку, а ты ее сравниваешь со всем другими типами. И самой колонки с именем COUNT в твоем df нет
источник

IP

Ilya Pribytkov in Data Engineers
Rustam Iksanov
Вообще не понятно, что ты хочешь. col возращает колонку, а ты ее сравниваешь со всем другими типами. И самой колонки с именем COUNT в твоем df нет
мне надо первое значение из этой колонки
источник

RI

Rustam Iksanov in Data Engineers
Ilya Pribytkov
мне надо первое значение из этой колонки
df.select($"column").head типа такого?
источник

IP

Ilya Pribytkov in Data Engineers
Rustam Iksanov
df.select($"column").head типа такого?
наверное, щас попробую
источник

IP

Ilya Pribytkov in Data Engineers
Rustam Iksanov
df.select($"column").head типа такого?
источник

IP

Ilya Pribytkov in Data Engineers
не могу обратиться к колонке в результирующем дф
источник

RI

Rustam Iksanov in Data Engineers
Очевидно, что у тебя нет колонки с именем count
источник

IP

Ilya Pribytkov in Data Engineers
Rustam Iksanov
Очевидно, что у тебя нет колонки с именем count
источник

IP

Ilya Pribytkov in Data Engineers
там есть вот это,
источник

IP

Ilya Pribytkov in Data Engineers
как мне обратится к sum(COUNT)
источник