Size: a a a

2019 December 06

DZ

Dmitry Zuev in Data Engineers
KrivdaTheTriewe
Можно выбрать Impala ?
А ты умеешь?
источник

ЕГ

Евгений Глотов in Data Engineers
Плюс сюда же вписывается желание упростить встраивание применения стандартных (и не очень) мл моделей в пайплайн обработки данных на спарке
источник

ЕГ

Евгений Глотов in Data Engineers
Поэтому питон)
источник

DZ

Dmitry Zuev in Data Engineers
Евгений Глотов
Конкретно для нас важно обеспечить возможность одновременной интерактивной работы с хранилищем на кластере более ста человек, а также как минимум частичное переиспользование результатов этой самой интерактивной работы)
При чем здесь код?
Пусть пользователи на чем умееют пишут, складывают результаты, переиспользуют
источник

DZ

Dmitry Zuev in Data Engineers
Евгений Глотов
Плюс сюда же вписывается желание упростить встраивание применения стандартных (и не очень) мл моделей в пайплайн обработки данных на спарке
Никто не мешает все остальное делать не на змее.
А модели вовсе сервисами держать
источник

ЕГ

Евгений Глотов in Data Engineers
Dmitry Zuev
При чем здесь код?
Пусть пользователи на чем умееют пишут, складывают результаты, переиспользуют
А как это выкатывать на регламент? Переписывать всё на скалу?
источник

ЕГ

Евгений Глотов in Data Engineers
А если сайнтист сам хочет на регламент поставить, потому что у него сроки сжатые, и он знает эйрфлоу)
источник

ЕГ

Евгений Глотов in Data Engineers
А, и в эйрфлоу-то надо на питоне писать, вот ужас)
источник

DZ

Dmitry Zuev in Data Engineers
Я не говорю про такие вещи как airflow
источник

ЕГ

Евгений Глотов in Data Engineers
Короче, скала ради скалы или какого-то мифического преимущества в отказоустойчивости или поддержке - это вообще некруто, имхо
источник

DZ

Dmitry Zuev in Data Engineers
Тут как бы без особой разницы.
Когда мы рассуждали пол питон, то говорили в контексте спарка. И что есть альтернативы
источник

DZ

Dmitry Zuev in Data Engineers
Евгений Глотов
Короче, скала ради скалы или какого-то мифического преимущества в отказоустойчивости или поддержке - это вообще некруто, имхо
Лол, мощное заявление
источник

ЕГ

Евгений Глотов in Data Engineers
Новых инженеров не найдёшь, сайнтистам готовый кусок кода не передашь
источник

ЕГ

Евгений Глотов in Data Engineers
Проблем больше, чем решений
источник

В

Вадим in Data Engineers
Евгений Глотов
Новых инженеров не найдёшь, сайнтистам готовый кусок кода не передашь
Ну погоди. Всему свое место. Отказываться от скалы тупо потому что инженеров не найдешь-бред
источник

В

Вадим in Data Engineers
Спрос рождает предложение
источник

DZ

Dmitry Zuev in Data Engineers
Евгений Глотов
Короче, скала ради скалы или какого-то мифического преимущества в отказоустойчивости или поддержке - это вообще некруто, имхо
А это какие-то мысли человека который про скалу даже не читал
источник

ЕГ

Евгений Глотов in Data Engineers
Dmitry Zuev
А это какие-то мысли человека который про скалу даже не читал
Я сначала прогал на спарке на джаве, потом на скале, а только потом на питоне
источник

DZ

Dmitry Zuev in Data Engineers
И причем тут отказоустойчивость?
источник

В

Вадим in Data Engineers
Эх
источник